רובוט נגד בן אדם

בינה מלאכותית היא נושא רווח בסרטי המדע הבדיוני ההוליוודיים. רעי אוריון סוקר את סרטי הז’אנר ושואל למה הוליווד כל כך אוהבת להחליף בין בני אדם למכונות

רעי אוריון | גליליאו

חדשות מרעישות על השתלטותה המתקרבת של המכונה התבונית על המין האנושי רוחשות בכל רחבי “הגלקסיה הקולנועית” מזה ארבעה עשורים.

המחשב התבוני, “HAL”, מהסרט 2001: אודיסאה בחלל רצח שלושה מחברי הצוות בספינת החלל עליה הופקד. “סקיינט”, המערכת הממוחשבת התבונית, חוברה בשנת 1997 לרשת, פיתחה מודעות עצמית, ועומדת לפתוח במלחמה גרעינית בין ארצות-הברית ורוסיה ממש בזמן הקרוב, אם מישהו יעז להוציא אותה מהתקע.

אם מילתו של ג’יימס קמרון וסדרת הסרטים שליחות קטלנית אינה מספיקה, מתברר שכבר עתה בני האדם “מגודלים” בתוך המטריקס והאנרגיה שלהם “נקצרת” עבור המכונות.

בינה מלאכותית בקולנוע ההוליוודי

בינה מלאכותית היא נושא רווח בסרטי המדע הבדיוני של הקולנוע ההוליוודי. הרקע לעלילה הוא לרוב אותו עולם אפל, עתידני ודיסטופי, שמייצג את הפחד מפני ההשתלטות של “המכונה”.

סרטים כגון אלו שצוינו שואפים להדגיש, על דרך השלילה, את עדיפותה של הבינה האנושית על פני זאת המלאכותית, לפחות אם המטרה היא טובת האדם.

הם מציגים באין ספור דרכים את התוצאות ההרסניות של פיתוחה של בינת-על על ידי המין האנושי, דווקא בגלל היותה חכמה ממנו. מהו פשר המתח הבלתי פתור הזה המועלה מן האוב אחת לכמה שנים, וקורא להנהיג את האנושות נגד “סקיינט”, התוכנה הרְשָעָה? את התשובה לכך נמצא בטקסטים עצמם, אך גם בנסיבות ההיסטוריות שהביאו ליצירתם.

הדיסטופיות העתידניות האפלות עושות שימוש תועלתני במושג “בינה מלאכותית”. המושג התיאורטי, השאול מעולמות המתמטיקה והמחשוב, אינו מתיישב עם המרדנות האופיינית לבינה המלאכותית בקולנוע. מטרותיה תמוהות, שכן אלו מטרות אנושיות כגון השגת שררה והישרדות.
התנהגויות אלו אופייניות לבני האדם, כיוון שהן מספקות להם יתרונות אבולוציוניים. מכונה תבונית, בעלת יכולת ללמוד ולהשתפר, לא בהכרח תהיה נתונה לאותם כבלים, אפילו אם תעוצב לפי מודל אנושי.

בינה מלאכותית, במובן המתמטי, היא “ישות ממטבת”, כלומר ישות המגדילה למקסימום פונקציית תועלת מסוימת. מרדנות היא תכונה אנושית ואין הכרח שהיא “תעבור בירושה” לבינה המלאכותית. הסכנה היא הפוכה: הבינה תחתור באופן עיוור וחסר פשרות לעבר מטרתה, מבלי שתוכל להפעיל שיקול דעת אנושי של נזק מול תועלת. בשלב זה יכולותיה כבר יעלו על יכולות הבינה האנושית, וכל ניסיון לחסל אותה יעלה בתוהו. התוצאות עלולות להיות כה הרסניות עד שנמצא את עצמנו בעולם שבו לא נרצה או לא נוכל לחיות.

דיסטופיה עתידנית בקולנוע

הסרט מטרופוליס (1927) של פריץ לאנג הוא הדיסטופיה העתידנית הקולנועית המשמעותית הראשונה. זהו סרט עתיר תקציב שזכה להצלחה בינלאומית אדירה במונחים של זמנו. הסרט מספר על העיר מטרופוליס, שבה חיים שני מעמדות. פרדר, בן המעמד העליון מתאהב במנהיגת הפועלים מריה, ופונה לאביו כדי שיתקן את התנאים המחפירים שבהם חיים הפועלים. כדי להרגיעו יוצר אביו רובוט בצורת אהובתו של בנו, ומשם העלילה מסתבכת. סרט זה השפיע, באופן ישיר ועקיף, על עיצוב המימד הספקטקולארי והמבנה התמטי של כל הדיסטופיות ההוליוודיות העכשוויות. הדיסטופיה העתידנית, במקורה, מנסה לערוך דיון ביקורתי על אודות זרעי הפורענות שכבר מצויים בהווה.

המכונה זכתה למקום של עליונות כבר במטרופוליס, אך היא שימשה תפקיד במסגרת חברת מעמדות. היא היתה הכלי ששִעבד את בני העיר התחתונה, הפועלים, לבני העיר העליונה, בעלי ההון. האלגוריה החברתית היא ברורה, אפילו מפורשת מדי. הקו החד המפריד בין שני העולמות, העליון והתחתון, רווי בסימבוליזם דתי, ויש הטוענים שירידתו של פרדר לעיר התחתונה, התוודעותו לראשונה לתנאי המחייה הירודים, ופגישתו עם מריה, שתשנה את חייו לעד, מקבילה לסיפור האכילה מעץ הדעת והגירוש מגן עדן.

ישות ממטבת
המחשב HAL מ-2001: אודיסיאה בחלל (1968) של סטנלי קובריק הוא דוגמה מצוינת לישות ממטבת. הסרט מחולק לשלושה חלקים: החלק הראשון הוא על כדור הארץ עוד לפני הופעת המין האנושי, השני הוא בדרך לירח, והשלישי והעיקרי מספר על משלחת של ספינת חלל אחת לכוכב הלכת צדק. יכולותיו הקוגניטיביות של HAL עולות בהרבה על אלו של חברי הצוות, ולכן הוא מסוגל להתל בהם ולרמות אותם. עם זאת, הפעולות הרצחניות שלו אינן נובעות מתוך כעס, מרדנות או שימור עצמי, אלא מתוך מה שהוא תופש בתור הצעדים ההכרחיים למען הצלחת המשימה.

הסרט 2001: אודיסאה בחלל מסמן נקודת שינוי תמטי שחל בז’אנר. הוא נפתח בסיפור על אודות קבוצת הפרימאטים שלומדים להכין כלי הריגה בשביל לתבוע לעצמם טריטוריה מידי קבוצה אחרת. חברת הפרימאטים היא בעצם הפשטה של חברת המעמדות של מטרופוליס, שבה הטכנולוגיה נמצאת בידיה של קבוצה אחת. בחלק העתידני של הסרט היוצרות התהפכו: הטכנולוגיה משתמשת באדם בשביל מטרותיה שלה.

אינטליגנציה מלאכותית (2001) של סטיבן שפילברג, על פי רעיונו של קובריק, מתמודד שוב עם אותה בעיה של הישות הממטבת, אך הפעם הפונקציה שלה היא הרעיון של להיות נאהב. האנדוראיד דיוויד, שפותח עם יכולת לחוש ולהביע רגשות, מצטרף למשפחה, שבה מטרתו היא לזכות באהבת “אמו” האנושית, מה שאף גורם לו לנסות להטביע את בנה האמיתי. דייויד הוא בעל יכולות מימיקה מצוינות, ואי אפשר שלא לחוש כלפיו אמפתיה. לכן, במקום להחזירו למפעל, שם יושמד, “אמו” משחררת אותו ביער. הוא ימשיך לחשוק באהבתה עוד אלפי שנים אחרי מותה והיכחדותה של הציוויליזציה כולה.

שני הסרטים – 2001: אודיסאה בחלל ואינטליגנציה מלאכותית – מתמודדים עם הבעיות והתוצאות הרות הגורל, שמדענים רבים מאמינים כי הן עלולות לצוץ עם הפעלתן של פונקציות ממטבות במחשבים ואנדרואידים. בני האדם אינם מבינים את מטרותיהם שלהם עד הסוף, ורבות מהן סותרות אחת את השנייה. אם כך כיצד יוכלו להגדיר באופן ראוי את מטרותיה של בינת-העל? כל מיטוב של פונקציית תועלת עלול להתגלות בסופו של דבר כמזיק לאנושות.

קובריק סלל את הדרך עבור כל הסרטים העוקבים, שבהם המכונה משתלטת על האנושות ומהתלת בה באמצעות יכולות מימיקה מוצלחות. הסרט מטריקס מספר על ניאו, שבאחד הלילות מגלה שמישהו חדר למחשבו, ויודע מה עומד להיות עתידו בדקות הקרובות. כך הוא מגלה כי העולם שבו הוא חי הוא עולם שנשלט על ידי המטריקס, שמטרתו היא לקיים את בני האדם ולהשתמש באנרגיה שהם מספקים.

עולם זה נוצר לאחר שהמכונות בעלות הבינה המלאכותית מרדו נגד בני האדם שיצרו אותן. סרט זה הוא בעצם התגלמות מפלצתית, הקצנה, של הערמומיות של HAL. במטריקס הגיהינום מתרחש בהווה, במציאות. “הירידה לגיהינום” והשגת הידע משנה החיים מומחשת בסצנת “הכדור האדום או הכדור הכחול”, וההתעוררות שעוקבת לה, בתוך קפסולת הגידול. עם זאת, בסרט לא מוצגים בני אדם שאחראים להיררכיה חברתית דכאנית. המכונות התבוניות לבדן הן המעמד העליון. בני המעמד התחתון, המשועבד, הם בני האדם כולם. “הגיהנום עלי אדמות” הוא תוצר של המכונות בלבד, וגן העדן אינו מאוכלס בהווה, אלא דרך הזיה או זיכרון.

הרעיון של להיות נאהב. מתוך הסרט “אינטליגנציה מלאכותית” (2001). צילום מסך

לא כל הרובוטים רעים
המקור ההיסטורי של הטקסטים טמון בדיון ביקורתי על חברת מעמדות והשימוש שלה בטכנולוגיה ככלי לשעבוד. בעידן שאחרי “האודיסאה”, בסרטים הוליוודיים כגון שליחות קטלנית, מטריקס ואני, רובוט, מלחמת המעמדות מוחלפת במלחמה של בני האנוש נגד אויב משותף בדמות רובוטים בעלי בינה מלאכותית.

אך לא כל הרובוטים הם רעים, כשם שלא כל בני העיר העליונה רעים. להפך, עלילות הסרטים מובילות לרוב למהלך של שיתוף פעולה בין בני האדם והרובוטים “הטובים” נגד הבינה המלאכותית “הרעה”. היסודות למהלך העלילתי הזה הונחו כבר במטרופוליס: פרדר, בן מעמד האדונים, הורג את רוטוואנג, המדען המטורף המטיל אימה על העיר התחתונה, ומציל את מריה, מנהיגת מעמד הפועלים. הם מתחתנים ומושלים יחדיו בעיר המאוחדת.

הדיסטופיות העכשוויות שימרו את המבנה הכללי אך החליפו את המשל המרקסיסטי והשיתופי במשל אינדיבידואליסטי וקפיטליסטי. במקום בן העשירים שחווה אימה מוסרית ויוצא נגד בני מעמדו, עומד האחד הנבחר, זה שגורלו, עם שילוב של מזל וכישרון מולד, הועידוֹ להוביל את האנושות לניצחון על המכונות.

הסימבוליזם הדתי השזור בתוך המבנה הסיפורי של מטרופוליס נשמר בסרטי הז’אנר העכשוויים. העולם התחתון, הגיהנום, בשליחות קטלנית (1984) שנכתב ובוים בידי ג’יימס קמרון, הוא העתיד הקרוב. הסרט מספר על העולם של אחרי מלחמה גרעינית, שבו המכונות השתלטו על העולם ומנסות לחסל את שארית המין האנושי. אחד הרובוטים חוזר בזמן ל-1984, לתקופה של לפני המלחמה, ומנסה לשנות את העתיד האפוקליפטי הצפוי. המפגש בין הדמויות הראשיות בסרט מקביל לחוויית הידיעה והפגישה משנת החיים של פרדר.

צפו בטריילר לשליחות קטלנית:

אגדה אורבנית
סרטים אלה גורמים לתהייה האם השינוי התמטי שבהם משקף ביקורת אמיתית על ההווה, או שמא הסרטים ההוליוודיים רק שינו את הסיפור “מספיק” בשביל לרוקנו ממשמעות. 2001: אודיסאה בחלל מייצר רה-פרזנטציה אמינה למושג בינה מלאכותית, ומתעסק בשאלות פילוסופיות על הקשר בין האדם והטכנולוגיה.

אגדה אורבאנית מוצלחת טוענת ש-HAL הוא התייחסות ל-IBM, מאחר ושם החברה מורכב מהאותיות העוקבות ל-H, A, ו-L, באלפבית האנגלי. ייתכן שהוא משקף מגמות, תהיות ופחדים אמיתיים, אך אלו אינם בהכרח מתייחסים במישרין לבינה מלאכותית, אלא לנבואה (שהתגשמה מאז) שמחשבים ישתלבו בכל תחומי חיינו. מכאן נולד הפחד, המומחש מאז בקולנוע באמצעות דימויים של בינה מלאכותית, מכך שנהיה תלויים במחשבים עד כדי כך שהם ישלטו בנו.

סרטי המדע בדיוני ההוליוודיים העכשוויים שואבים ממטרופוליס ו-2001: אודיסיאה בחלל את המבנה התמטי והסימבולי הכללי; אך הבינה המלאכותית המיוצגת בהם אינה משקפת את המושג התיאורטי במלואו, ומלחמת המעמדות מתקיימת בהם בגרסה מעוקרת. רובוטים המפגינים התנהגות אנושית, ושמטרותיהם הן אנושיות, משמשים תחליף לדמויות האחר והאנטגוניסט. הצגת “האיש הרע” כרובוט מאפשרת להותירו באנונימיות נוחה, רחוק מכל רפרנט במציאות.

לכן, קשה להגיד שסרטים אלו מתייחסים למשהו אמיתי או סביר, או שמעבירים ביקורת מסוימת. הם ראשית כל מוצרים מסחריים, וככאלו הם שואפים להיות נגישים לקהל רחב ככל האפשר. מכאן ברורה הבחירה לבנות אותם על פי הצלחות מסחריות קודמות, לעקור מהם את העוקץ הביקורתי מצד אחד, ולהעצים את מידת הראווה החזותית שלהם מנגד. בתנאים אלו אפשר לפרוט על מיתרי הפחד הקולקטיבים, לייצר חוויה רגשית מטלטלת, חסרת צרימות אך גם חסרת משמעות, וזאת מרצון פשוט: למכור.

הכתבה המלאה התפרסמה במגזין גליליאו, מאי 2012