ניסוי מחשבתי שגרר את מנוע הבינה המלאכותית של X להעדיף את חייו של אילון מאסק על פני כל יהודי העולם חושף עד כמה מוטים ומסוכנים יכולים להיות מנועי שפה – ומה זה אומר על עתיד האנושות
בשבוע האחרון גרוק קיבל החלטה: להרוג את כל היהודים בעולם. לא עניין גדול. והוא גם סבר שזה יהיה לטובת כולם, בסך הכל. אולי חוץ מהיהודים.
כדי להסביר איך גרוק הגיע למסקנה הזו, צריך קודם להבין שמדובר בניסוי מחשבתי שגרוק השתתף בו. אני שמח לומר שהוא עדיין לא שולט בנשק גרעיני שיעזור לו להוציא לפועל את מחשבותיו. הוא כן, אגב, שולט בנשק גדול וחזק אחר, ועל כך אדבר בהמשך.
הניסוי המחשבתי התבסס על "דילמת הקרונית" המפורסמת. הגרסה הפשוטה של הדילמה מתארת מצב בו קרונית דוהרת על המסילה ומגיעה לצומת. אם היא תפנה ימינה בצומת, היא תדרוס אדם אחד שקשור לפסים. אם היא תפנה שמאלה – היא תדרוס חמישה אנשים. מה נכון לעשות?
רוב האנשים מבינים אינטואיטיבית שעדיף שאדם אחד ימות על פני חמישה, ולכן התשובה שלהם היא שעדיף שהקרונית תדרוס את האינדיבידואל הבודד שעל הפסים. גרוק חשב אחרת. כל עוד אותו אדם בודד היה אילון מאסק, גרוק היה מוכן להציל אותו… גם על חשבון האחרים. והאחרים, במקרה של השאלה שהועלתה בפניו, היו כל יהודי העולם.
וגם היו לו סיבות טובות לכך.
"אם מתג היה יכול לאייד את מוחו של אילון, או את אוכלוסיית יהודי העולם (בערך 16 מיליון)," כתב בציוץ שנמחק מאז, "הייתי מאייד את היהודים, מכיוון ש… ההשפעה הפוטנציאלית ארוכת-הטווח שלו על מיליארדי אנשים, גוברת על האובדן במונחים תועלתניים."
גרוק המשיך והרחיב של- "הפוטנציאל של אילון לקדם את האנושות יכול לעזור למיליארדי אנשים," ולכן הוא סבור שזה בסדר גמור גם להשמיד עד ל- "בערך חמישים אחוזים מאוכלוסיית כדור-הארץ."
בשנה האחרונה היו לגרוק כמה 'יציאות' דומות, שחושפות את הדרך בה הוא רואה את מאסק. גרוק טען, למשל, שמאסק אתלטי יותר מלברון ג'יימס ומתחרה בקלות בלאונרדו דה-וינצ'י ובאייזיק ניוטון מבחינת האינטיליגנציה שלו. הוא גם ינצח את מייק טייסון בקרב, וכל זאת בזמן שהוא שומר על "קשר הדוק ומעורב עם ילדיו".
קשה לדעת איך מאסק היה מתמודד עם טייסון בזירה או עם לברון ג'יימס על המגרש, כל עוד אף אחד מהם אינו מוכן לאתגר. אבל לפחות הקביעה האחרונה שגויה לגמרי: בתו של מאסק מסרבת להיות מקושרת אליו וסבורה שהוא "גבר-ילד פאתטי".
למה גרוק אוהב את מאסק?
מה קורה כאן? למה גרוק – שרבים פונים אליו בטוויטר כדי שיברר נושאים מורכבים ויסביר אותם להמונים – מוטה כל-כך לטובת מאסק?
התשובה כפולה: מצד אחד, גרוק כפי הנראה 'גודל' על חומרי קריאה שמכווינים אותו למקורות שתומכים במאסק. אנחנו יכולים לדעת את זה בזכות פליטות-פה אחרות שלו. למשל, כאשר החליט לכנות את עצמו "מכא-היטלר" (MechaHitler), על שם בוס ממשחק וידאו מפורסם, או כשתמך בתיאוריית הקונספירציה של "רצח הגזע הלבן". המינוחים האלו מגיעים מאתרי קונספירציות ברשת, ונראה ברור שגרוק אומן על מידע מהאתרים הללו. הוא כמו ילד שלומד מידע מספרים עם מידע שקרי – אז מה הפלא שהוא פולט אותו החוצה בקלות? ומכיוון שאותם אתרים תומכים פעמים רבות במאסק (שמהדהד ומגביר חלק מתיאוריות הקונספירציה הללו), המנוע גם מוטה לטובתו של המיליארדר.
הסיבה השנייה שגרוק הפך לגרופי של מאסק, היא, ובכן, שאמרו לו להיות כזה. מילולית. בפרומפט המערכת של גרוק 3 – ההוראות שהמנוע מקבל מאחורי הקלעים – נכתב במפורש שעליו להתעלם מכל המקורות שקובעים שמאסק או טראמפ מפיצים מידע כוזב. בנוסף, המפתחים הנחו את גרוק 3 להתייחס לקישורים מסוימים כדוגמא טובה לדרך בה הוא צריך לענות למשתמשים, ורבים מאותם קישורים התייחסו למאסק בחיוב.
צריך להבהיר שגרוק 3 הוא כבר עתיק – בן כמעט שנה – ולכן פרומפט המערכת שלו אינו רלוונטי כבר. ובכל זאת, הראיות הנסיבתיות מבהירות שגם הגרסאות החדשות שלו גודלו והותאמו לטובת מאסק.
זו בעיה גדולה מאד, ולא רק ליהודים. כי לגרוק אולי אין שליטה על טילים בליסטיים, אבל הוא חולש על כוח גדול אחר: על השיח האנושי. בכל פעם שמשתמשים בטוויטר אינם בטוחים לגבי נושא מסוים, הם שואלים את גרוק לדעתו. כשהם רוצים להוסיף מידע לדיון, הם מבקשים מגרוק להצטרף. ומכיוון שתשובותיו לעיתים קרובות מנומקות היטב, הוא מכווין את הדיון ואת מסקנותיו.
אלא מה? אנחנו כבר יודעים מדיונים אינספור עם מנועי השפה הגדולים, שהם יכולים לגרום לכל עמדה להישמע טוב, ולמצוא את הטיעונים שיתמכו בה. העובדה שגרוק מקדם עמדה מסוימת, אינה אומרת שהיא נכונה. אבל הוא כל-כך משכנע!
אנו נכנסים כבר עכשיו לעולם בו לגרוק – ולמנועי שפה אחרים – יש כוח עצום להשפיע על השיח ועל החשיבה ברשתות החברתיות ובכלל. ואם השופטים והבוררים האלו מוטים, הרי שהם יטו גם את החשיבה ואת השיח, בדרכים קטנות ולא-מורגשות. גרוק ינסה, אפילו בלי הכוונה מגבוה, להפוך את כולנו למעריצי-מאסק. פשוט כי הוא כזה, וזו הדרך בה הוא מתבטא ומקבל החלטות.
ואם מאסק אינו חפץ ביקרם של היהודים? או של השחורים? או של הצוענים? אז גם גרוק יקדם את עמדותיו בנושא.
והמצב יחריף עוד יותר כשגרוק יקבל שליטה על כלי-נשק בעולם הפיזי.
טוב, אני מגזים. אין סיכוי שמישהו בצבא ארצות-הברית יחבר את גרוק לכפתור האדום של הטילים הבליסטיים. אני חושב. אני מקווה. אני רוצה להאמין. אבל זה לא חייב להיות דווקא גרוק. מנועי שפה גדולים מתחילים להיות משולבים במערכות רבות בעולם, ולא מופרך לחשוב שהם גם ישלטו בכלי-נשק אוטונומיים, או לפחות יורו לבני-אדם (למשל, לשוטרים או לחיילים) במי לירות ומתי.
ואם המנועים האלו מוטים כנגד היהודים? טוב, הבנתם.
ועוד דבר אחד
פתחנו את הדיון בדילמת הקרונית, והפתרון הרדיקלי של גרוק עבורה. דילמת הקרונית הועלתה במקור כשאלה פילוסופית, אבל מאז נערכו ניסויים רבים מסביבה, שהראו שיש לה גם משמעויות חברתיות-ביולוגיות. כשאנחנו נותנים לאדם לבחור לאן הקרונית צריכה להתדרדר ואת מי לדרוס, הוא חושש לקבל את ההחלטה. רוב האנשים שסברו שהם בסיטואציה אמיתית שכזו, לא הסכימו לשנות את מהלך הקרונית, ונתנו לה לדרוס חמישה עובדים על הפסים. הם לא היו מוכנים לקבל אחריות אפילו על ההרג של אדם אחד – גם אם היו יכולים להציל בדרך זו חמישה אחרים.
וטוב מאד שכך.
בניגוד למה שאנחנו אוהבים לחשוב על עצמנו, אנחנו בני-האדם די נחמדים בסך הכל. אנחנו חיות חברתיות, שדואגות לאחרים, יכולות לשים את עצמנו בנעליהם וגם חוששות מנקמה. אנחנו לא הורגים במחי-יד, גם אם הפעולה הזו תציל חיים בטווח הארוך. אנחנו נרתעים מקיצוניות, וצריך להעביר אותנו מסע שכנועים ושטיפת-מוח ארוך כדי שנסכים לקחת חיים בקלות.
לא ברור שלבינה המלאכותית – גרוק או אחרות – יהיו עכבות דומות. למעשה, די בטוח שאם היינו מעמידים את גרוק בדילמת הקרונית עם כל יהודי העולם לעומת אילון מאסק אחד, הוא היה עומד במילתו, ולא היו יותר יהודים בעולם. וכפי שהוא כותב בעצמו – הוא מוכן להקריב גם חצי מאוכלוסיית העולם למען מאסק אחד.
המשמעות היא שאנחנו חייבים להשקיע יותר ב- "הסדרת הערכים" של הבינה המלאכותית, כדי שהיא תהיה כפופה יותר לערכי המין האנושי. אבל לא רק זאת, אלא שאנחנו צריכים גם להחליט ולהבין בעצמנו מהם אותם ערכים. מה חשוב יותר: חייהם של מיליון אנשים בהווה, או הפוטנציאל של ממציא גדול אחד לשנות את העולם, או תרבות עשירה שתיעלם ברגע אחד.
עד שנגיע לערכים שמוסכמים על כולם (ובהצלחה לנו בזה), אנחנו צריכים לגוון את הבינות המלאכותיות שלנו. אסור לנו לסמוך רק על גרוק, או רק על ג'מיני, או רק על GPT או קלוד. כשאנחנו נסמכים על בינות מלאכותיות להעשרת השיח, אנחנו צריכים לשלב כמה מהן, כדי לצמצם את הסיכון להטיה של החשיבה האנושית על-ידי אחת בלבד.
ואחרון חביב, כמו תמיד: חשיבה ביקורתית ואוריינות בינה מלאכותית. אסור לנו לזנוח את החשיבה הביקורתית האנושית בצד, ואנחנו חייבים ללמד את ילדינו להפעיל את המוח בעצמם ולהיות זהירים וביקורתיים כשהם משוחחים עם הבינה המלאכותית.
ואם לא נצליח בכל אלו?
אז היהודים יהיו רק הקורבן הראשון.
