כש”היא” עצובה, גם אני עצובה

אתיקה / האם לרובוטים יש נשמה? שיחה עם היועצת התיאולוגית של מעבדת האינטליגנציה המלאכותית במכון הטכנולוגי של מסצ'וסטס

מאת קלאודיה דרייפוס, ניו יורק טיימס

13/11/2000
ד”ר אן פרסט, חוקרת במעבדת האינטליגנציה המלאכותית במכון הטכנולוגי של מסצ'וסטס (MIT) ומנהלת הפרויקט “מחשבים ואלוהים” במכון, התנצלה על כך שרובוטית ששמה קיסמט לא תוכל להשתתף בראיון. “סינתיה בריזיל, שבנתה את קיסמט, נמצאת כרגע ביפאן, ובלעדיה אי אפשר להפעיל את הרובוט”, אמרה פרסט במבטא גרמני, “אבל היא ודאי היתה מוצאת חן בעיניך. היא חמודה כל כך”.

רובוט חמוד? מתברר שכן. במעבדת האינטליגנציה המלאכותית מנסים מהנדסים לבנות רובוטים עם כישורים חברתיים ועם חוויות כמו-אנושיות, וכניסוי, הם בנו יצורים שלדעתם יוכלו לתקשר עם בני אדם.

ד”ר פרסט, בת 34, כומר לותרני שהתפרנסה מתיקון מחשבים בשמונה שנות לימודיה האקדמיים בגרמניה, משמשת יועצת תיאולוגית למדענים שבונים את קיסמט ואת אחיה הרובוט, קוג.

מה בדיוק עושים המדענים במעבדה?

“אנחנו מנסים לבנות רובוטים חברתיים ובעלי גוף כמו-אנושי. קוג, למשל, הוא רובוט שבנוי לפי דגם של תינוק אנושי. יש לו גוף, שתי זרועות, ראש, אוזניים ועיניים. הוא לומד להתאים את תנועות זרועותיו כדי שיוכל לחקור את הסביבה, כפי שעושים תינוקות בני יומם. קיסמט היא רובוטית שמתקשרת עם בני אדם באמצעות שינויי יציבה והבעות פנים. מטרת הפרויקט היא לחקור אינטראקציות חברתיות בין בני אדם לרובוטים ובין בני אדם לבין עצמם”.

למה יש צורך בתיאולוג במעבדה?

“משתי סיבות. הראשונה היא שכאשר בונים מכונות דמויות-אדם, פועלים לפי הנחות מסוימות ביחס לבני אדם. תיאולוגים חוקרים את הממדים התרבותיים והרוחניים של השאלה 'מהי משמעות ההוויה האנושית': העבודה עם מפתחי הרובוטים מאפשרת הבנה מעמיקה יותר של נפש האדם, וגם מסייעת לחוקרים לשפר את המכונות דמויות האדם.

“הסיבה השנייה היא, שכאשר בונים רובוטים חברתיים, שמאלצים אנשים להתייחס אליהם כאילו היו בני אדם, עולות שאלות מוסריות מורכבות. אחת השאלות שאנו דנים בהן לעתים קרובות היא, מה יקרה כשהרובוטים יפותחו עד לנקודה שלא יהיה אפשר לכבות אותם. בסופו של דבר השאלה המרכזית היא, מתי יש להתייחס ליצור כלשהו כאילו יש לו ערך בפני עצמו.”

ומתי יהיה לדעתך צריך להתייחס לרובוט כאילו יש לו ערך בפני עצמו?

“לדעתי זה לא יקרה בחמישים השנים הבאות. אבל כשזה יקרה, בוני הרובוטים הם שיצטרכו להחליט על כך משום שהם, שלא כמו אחרים, לא ייפלו קורבן לחששות מפני התכונות דמויות-האדם של המכונות. הם יידעו מה יש בפנים”.

מה הופך את הרובוטים קוג וקיסמט לשונים מרובוטים קודמים?

“בניסיונות קודמים הוכנסו לתוך המכונה תכונות מופשטות מאוד של אינטליגנציה אנושית: היכולת לשחק שחמט, הוכחת משפטים מתמטיים. לפי הרעיון הנוכחי, כדי שמכונה תהיה באמת אינטליגנטית היא צריכה להיות מגולמת בגוף כמו-אנושי. הטענה שלנו היא, שאי אפשר להפריד את האינטליגנציה מהגוף.

“קוג נע וחווה את העולם בדרך שבה עשוי לחוות אותו אדם שהולך על שתיים. הוא חווה בעיות איזון, בעיות של חיכוך, משקל, כוח הכובד, כל הדברים שאנחנו חווים, ולכן יש לו תחושת גוף שדומה לשלנו. בנוסף, אנו מקנים למכונות תכונות דמויות-אדם כדי לעורר תגובות חברתיות אצל האנשים שמתקשרים אתן. קוג הוא גוף שלם, וקיסמט היא בעיקר ראש והבעת פנים. עבודתנו עם קוג מתרכזת בבניית גוף כמו-אנושי, והעבודה עם קיסמט קשורה יותר ללמידה רגשית-חברתית”.

קיסמט היא נקבה?

“רובוטים הם חפצים, לא זכר ולא נקבה. אבל אני לא יכולה שלא לראות את קיסמט כ”היא”. מי שרואה את קיסמט לא יכול שלא להתרשם עמוקות מפניה עתירי ההבעה: ריסים ארוכים, עיניים גדולות כחולות, גבות מתנועעות, פה חמוד שמזמין נשיקה. כשקיסמט מביטה בך ונראית עצובה, מתעורר בך רצון לשמח אותה. כמובן, אתה חושב גם, 'זו רק מכונה מטומטמת'. אבל אתה מגיב, בלי שתוכל לשלוט בכך”.

יש דעה רווחת, שלפיה לבני אדם יש תוספת לא מוגדרת מעבר לחיים המוחשיים, והיא שמקנה להם את אנושיותם. יש המכנים זאת “נשמה”. האם לרובוט יכולה להיות נשמה?

“אחד האנשים שעובדים כאן במעבדה קורא לזה 'מיץ'. הוא אומר, “גם אם אני עושה הכל נכון, האם לא חסר לרובוט איזה 'מיץ'?” אני הייתי אומרת, מנקודת מבט דתית, שה'מיץ' מגיע מהעולם הסובב ובא לידי ביטוי באינטראקציה חברתית”.

יש מי שעלול לטעון, שבבניית רובוטים דמויי-אדם אתם מנסים לתפוס את מקומו של אלוהים.

“כן, אני יודעת. אבל למעשה, אם משתמשים בביולוגיה כהשראה בבניית רובוטים ומתמקדים בהמחשה גופנית וביצירת סביבה חברתית, נעשים צנועים הרבה יותר. פתאום מבינים, שאפילו הרובוט המבריק ביותר, שעליו עמלו במשך שנים המהנדסים המבריקים ביותר, הוא יותר טיפש מנמלה”.

במחזות, בספרים ובסרטים הרבים העוסקים ברובוטים השיא הדרמטי הוא תמיד הרגע שבו המכונה נעשית מודעת לסביבתה. בסרט “2001: אודיסיאה בחלל” הרובוט האל נהפך למסוכן לבני אדם מרגע שהוא נעשה מודע.

“גם ב'פרנקנשטיין'. אבל בשני המקרים יש לכך הסבר. כשמסתכלים על פרנקנשטיין, הוא לעולם לא נעשה חלק מקהילה. היוצר נטש אותו מיד. סובביו שנאו אותו, פחדו ממנו, ברחו מפניו. האיש היחיד שאהב אותו היה עיוור שלא ידע איך הוא נראה. איש לא התייחס לפרנקנשטיין כאל יצור בעל ערך, מישהו שיש לכבד. הוא נאלץ להיאבק בחברה שנידתה אותו. מנין יבוא טוב הלב, אם הוא מעולם לא חווה אותו בעצמו?

“אותו הדבר נכון במקרה של האל. והוא גם חסר גוף. אין לו גוף, שבאמצעותו יוכל לחוות את העולם. הייתי אפילו אומרת, שבתנאים כאלה לרובוט לא יכולה להיות מודעות. בסרט האל רוכש מודעות בשלב מסוים, ואיש לא שם לב לכך. איש לא מתייחס אליו כראוי, הוא מבודד, ומה קורה? הוא נעשה פסיכוטי”.

מהו סרט הרובוטים החביב עליך?

“בלייד ראנר”. אני מלמדת אותו בשיעורים שלי. הרובוטים מחפשים משמעות, וכשלא מתייחסים ברצינות למסע שלהם הם נעשים קטלניים. הסרט מעלה שאלה נפלאה: כיצד מרגישים יצורים דמויי-אדם ביחס לעובדה שהם נוצרו על ידינו, וכיצד הם מתמודדים עם מגבלותיהם, שהן מעשה ידי-אדם?
(פורסם במקור ב-7.11)

ניו יורק טיימס

{הופיע בעיתון הארץ, 13/11/2000}

https://www.hayadan.org.il/BuildaGate4/general2/data_card.php?Cat=~~~318357525~~~207&SiteName=hayadan