השבוע נחשף כי דמות רבנית שפעלה ברשת בשם הרב מנחם גולדברג, פרסמה סרטונים ותכנים בנושאי יהדות, אמונה וחוכמת חיים, אינה אדם אמיתי אלא דמות פיקטיבית שנוצרה בטכנולוגיית בינה מלאכותית. הדמות הוצגה כרב חרדי אותנטי, המחנך ומפרסם דברי תורה, צברה קהל עוקבים רחב ואף קידמה תכנים בתשלום, מבלי שהציבור עודכן כי מדובר בדמות שנוצרה באמצעים טכנולוגיים וחלק גדול מהמסרים אינם נכונים.

במרכז צהר לאתיקה, שפרסם לאחרונה ניירות עמדה על שימוש אתי, ערכי והלכתי בבינה מלאכותית, רואים בפרשה זו תמרור אזהרה ברור. “הצגת מערכת בינה מלאכותית כזהות אנושית, ובוודאי כזהות בעלת סמכות ציבורית או רבנית, יוצרת אשליה של אמינות, אחריות ושיקול דעת”, אומרים רבני הארגון. “אלו תכונות שמכונה אינה נושאת, ועלולה להטעות את הציבור”.

עמדת מרכז צהר לאתיקה, המפעיל מכון מחקר בנושאי בינה מלאכותית, היא שבינה מלאכותית יכולה לשמש כלי עזר חשוב ללמידה, להנגשת ידע וליצירת תוכן, אך אינה יכולה להחליף בני אדם במרחבים שבהם נדרשת אחריות מוסרית, אמינות וסמכות. הדבר נכון במיוחד כאשר מדובר בתכנים ערכיים, חינוכיים או הלכתיים, שבהם זהות הדובר והאמון בו הם חלק בלתי נפרד מהמסר עצמו.

כמו כן, מרכז האתיקה מזהיר מפני הידרדרות למצב שבו יטושטש ההבדל שבין האדם למכונה ומבקש לשמר הבחנה עקרונית: אדם איננו מכונה, ומכונה איננה אדם – לא בטיפול נפשי, לא בפסיקה הלכתית, ולא בשום תחום אחר. בינה מלאכותית צריכה להתפתח לצד האדם, לא במקומו. עוד מדגישים במרכז צהר לאתיקה את חובת השקיפות: כל שימוש בבינה מלאכותית מחייב גילוי ברור לציבור, במיוחד כאשר התוכן מוצג כאילו מקורו באדם ממשי. הסתרת העובדה שמדובר בדמות או בתוכן שנוצרו באמצעים מלאכותיים פוגעת ביכולת של הציבור להבין, לבקר ולבחור באופן מושכל, ועלולה לערער את האמון במרחב הציבורי כולו.

הרב יובל שרלו, ראש מרכז האתיקה בארגון רבני צהר, והרב ירון מושקוביץ מנהל מכון המחקר לבינה מלאכותית: “לטכנולוגיה יש כוח גדול, אך אין לה זהות, אחריות או סמכות. בינה מלאכותית אינה רב, ואינה יכולה לשמש מקור לפסיקה הלכתית או להכוונה ערכית המחייבת בני אדם. הלכה והכרעות מוסריות נשענות על שיקול דעת אנושי, אחריות אישית והיכרות עם מציאות חיים מורכבת. כאשר מציגים מערכת טכנולוגית כקול רבני, גם אם בצורה משכנעת, מטשטשים גבול מסוכן ופוגעים באמון הציבור”.