האם המדע הבדיוני יכול להציל אותנו מהמפלצות הטכנולוגיות?

מאמר חדש ב־Nature מציע להשתמש במדע הבדיוני ככלי לחיזוי תגובות ציבוריות לטכנולוגיות מתקדמות. במקום להסתמך על סקרים יבשים, החוקרים ממליצים לבחון כיצד סיפורי עתיד משפיעים על דמיון הציבור – ומה ניתן ללמוד מכך כדי לעצב טכנולוגיות בטוחות ומועילות יותר


ללמוד מהטעויות של פרנקנשטיין. איור: ד"ר רועי צזנה באמצעות בינה מלאכותית
ללמוד מהטעויות של פרנקנשטיין. איור: ד"ר רועי צזנה באמצעות בינה מלאכותית

 

הרשומה הבאה היא קצת מוזרה. היא מתבססת על המאמר המאכזב ביותר והמרגש ביותר שקראתי לאחרונה בספרות המדעית. חסכתי לכם את הקריאה (המייגעת) במאמר המקורי, ואשמח לשמוע – אחרי שתקראו את הרשומה כאן – מה דעתכם.


ממדע בדיוני למדע

בשנות התשעים הגיע המזון המהונדס-גנטית הראשון לחנויות, ונתקל בהתנגדות עזה מצד הציבור. אנשים סירבו לקנות, או אפילו להכניס לבתיהם, את "הירקות הלא-טבעיים". תגובת הנגד של הציבור הדהימה את המדענים שפיתחו את הצמחים המהונדסים, את אנשי השיווק שבחברות ואפילו את מקבלי ההחלטות במסדרונות השלטון. איש לא חשב שתתפתח תגובה ציבורית חריפה כל-כך כלפי אותם מזונות.

כיום, שלושים שנים מאוחר יותר, עדיין רבים נמנעים מלאכול מזון מהונדס-גנטית, על אף שכבר הוכח שהוא אינו מזיק לסביבה או לבריאות האדם. למעשה, חלק מהצמחים הונדסו כך שיהיו בריאים אפילו יותר ממקביליהם המקוריים. אבל הפניקה הציבורית כבר עשתה את שלה, ודור שלם גודל על פחדים לא-מבוססים.

האם מקבלי ההחלטות היו יכולים להיערך טוב יותר להשקת המזון החדש? בוודאי. אבל הם לא הצליחו להבין מראש שתתפתח תגובה ציבורית שכזו. זו אחת הבעיות המדוברות ביותר בחקר עתידים: גם אם אנחנו יכולים לחזות כיצד תתפתח הטכנולוגיה, קשה מאד להבין איזה שימוש ייעשה בה, או כיצד תשתנה החברה כתוצאה מאותו שימוש.

כלומר, אף אחד חוץ ממרי שלי, כמעט מאתיים שנים מוקדם יותר, בספרה "פרנקנשטיין".

באותו ספר מדע-בדיוני קדום, שלי תיארה כיצד דוקטור ויקטור פרנקנשטיין יוצר חיים חדשים ו- 'משחק את אלוהים' – ביטוי שגם המתנגדים להנדסה הגנטית השתמשו בו. היצור שדוקטור פרנקשטיין בורא, פונה כמובן כנגדו, עם כל התוצאות הטרגיות הצפויות. הספר זכה להצלחה גדולה בזמנו, ועדיין נמכר בחנויות. חלק גדול מההצלחה הגיע דווקא מכיוון שהוא מותיר את הקוראים בו מפוחדים וחוששים, עם תחושת זעזוע לנוכח יוהרת המדענים. 

אם מפתחי המזון המהונדס-גנטית היו שוקלים ברצינות את תגובת הקהל ל- "פרנקנשטיין", ייתכן שהם היו מבינים שהציבור עשוי לחשוש גם מההנדסה הגנטית ומניסיון המדענים לשחק את אלוהים. הם היו יכולים להיערך טוב יותר להיסטריה הציבורית מסביב להנדסה הגנטית, ולמתן את החשש הציבורי. אם הם רק היו לומדים מהמדע הבדיוני. או לפחות מהדרך בה אנשים הגיבו לו.

זו, בקיצור, מסקנתם של שלושה חוקרים שפרסמו לאחרונה מאמר באחד מכתבי-העת הנחשבים ביותר בקהילה המדעית – נייצ'ר (Nature). במאמר, שנקרא "שיטת המדע הבדיוני המדעית", קוראים החוקרים להיעזר במדע הבדיוני וללמוד ממנו כיצד לחזות את השפעתן של טכנולוגיות חדשות על החברה. בניגוד למה שאתם עשויים לחשוב, הם לא מנסים לטעון שהמדע הבדיוני חוזה את העתיד. הם מציעים כיוון אחר למחקר: ללמוד איך המדע הבדיוני משפיע על החשיבה שלנו, ולתכנן ניסויים חברתיים שיחקו את אותה השפעה.

אם נצליח לעשות זאת, נוכל להפוך כל טכנולוגיה חדשה לבטוחה ויעילה יותר. דמיינו, למשל, מה היה קורה אם היינו מבינים מראש את השפעתה המקטבת – המתסיסה והמקצינה – של הרשת החברתית על הציבור. אולי היינו מסוגלים לתכנן ולעצב את הרשתות החברתיות בצורה בטוחה ומיטיבה יותר. אבל כמובן, איך אפשר היה להבין כיצד תשפיע הרשת החברתית על בני-האדם, לפני שהיא בכלל הייתה קיימת? 

אולי השיטה החדשה שמציעים החוקרים, אותה הם מכנים בשם "מדע של מדע בדיוני", הייתה יכולה לעזור. ואולי היא עוד תוכל לסייע לנו בשיפור טכנולוגיות עתידיות רבות כך שיזיקו פחות למשתמשים בהן, ולחברה כולה.


מדע של מדע בדיוני

יזמים ואנשי שיווק מנסים כבר שנים רבות להבין כיצד יגיב קהל לקוחות פוטנציאלי למוצר חדש ויוצא-דופן. כדי לעשות זאת הם מריצים סקרים בהם הם מתארים את המוצר ושואלים קבוצות מיקוד האם ירצו לרכוש אותו. והם מגלים, פעם אחר פעם, שאי-אפשר להסתמך על תוצאות הסקרים הללו. בני-אדם, מסתבר, מתקשים לדמיין כיצד יתנהגו בסיטואציות עתידיות, או איך יגיבו לאירועים לא-צפויים.

הרעיון בבסיס שיטת "מדע של מדע בדיוני", הוא שהחוקרים צריכים ללמוד כמה לקחים מסופרי המדע הבדיוני. במקום לשאול אנשים לגבי מוצר עתידי היפותטי, הם צריכים לגרום לנבדקים 'להרגיש' אותו, לנסות אותו (במחשבתם או באמת), ולשקול אותו בהקשרים ובמצבים שונים. זו, אחרי הכל, היא דרכם של סופרי מדע בדיוני רבים: הם מדמיינים התקדמות מדעית או טכנולוגית, ואז מייצרים תמונה רחבה יותר של החברה שהתפתחה מסביב לאותה פריצת-דרך. וכך, כאשר אנו קוראים את סיפור המדע הבדיוני, אנחנו נחשפים לאותן משמעויות של שילוב המוצר בחברה הקיימת.

שימו לב לנקודה חשובה: אין כאן ניסיון לשכנע חוקרי חברה שהם צריכים לכתוב סיפורי מדע בדיוני ולהציג אותם לנבדקים. סיפורים, אחרי הכל, יכולים להטות את דעת הקוראים כנגד (או בעד) כל טכנולוגיה חדשה. הנקודה המרכזית היא שאותם חוקרים צריכים ללמוד מסופרי המדע הבדיוני איך לתכנן ניסויים וסקרים כך שהנבדקים ירגישו יותר כאילו הם הגיעו לעתיד המתואר וחווים אותו כאן ועכשיו. אם יעשו כך, הרי שהתשובות שלהם ישקפו טוב יותר את התנהגותם בעתיד.

טוב ויפה. אז צריך לתכנן סקרים כך שיהיו 'אימרסיביים' יותר. כלומר, שיסחפו יותר את הנבדקים לתוך העתיד.

אבל איך עושים את זה?


שוקולד על מאדים

הסטודנטים באוניברסיטת וירג'יניה לא האמינו למזלם הטוב, כשהתבקשו ב- 2020 לדרג במחקר עוגות שוקולד. המשתתפים בניסוי עמדו בפני כוננית עם שתי עוגות שוקולד, שכל אחת מהן הגיעה עם סיפור-רקע משלה. הראשונה נאפתה לפי מתכון שיצר מומחה אנושי לאומנות השוקולדה והקקאו. השנייה הוכנה לפי הנחיותיה של בינה מלאכותית. בשלב זה הוצגה למשתתפים האפליקציה, בה הם יכלו לראות בבירור את 'שמה' של הבינה המלאכותית ואת המלצותיה. 

התוצאה? הסטודנטים סברו שהעוגה מתוצרת הבינה המלאכותית הייתה בריאה יותר – אבל פחות טעימה. 

האמת, כמובן, היא ששתי העוגות היו זהות לחלוטין. הניסוי מעולם לא נועד לבחון את טעמה של העוגה, אלא לבדוק כיצד בני-אדם מגיבים להמלצות המגיעות מבינה מלאכותית. במקום להשתמש בסקרים יבשים, החוקרים הסתמכו על עקרונות שיטת "מדע של מדע בדיוני" וגרמו לנבדקים להרגיש כאילו הם באותו עתיד דמיוני באמצעות שילוב אפליקציה של ממש במחקר.

בשנת 2007, אגודת המאדים הוכיחה שאפשר לקחת את העקרון הזה עד הקצה. האגודה הקימה בערבות קנדה מתקן שנועד לחקות חללית מחקר זעירה בדרך למאדים. שבעה 'אסטרונאוטים' נכנסו לחללית בתחילת הניסוי, והיו צריכים לחיות שם, במתקן שכל קוטרו שמונה מטרים, במשך ארבעה חודשים ארוכים. מדי פעם הם יצאו למשימות 'חלליות' מחוץ לתחנה, אך עשו זאת כשהם עוטים חליפות חלל מגושמות, ונושאים רובים כדי להגן על עצמם מפני דובי הקוטב האמיתיים-לגמרי שהסתובבו באזור. לא הייתה להם טלוויזיה, לא רדיו, ואפילו – נורא מכל – לא היו להם טלפונים אלחוטיים.

זה היה גיהנום, אבל מה לא עושים למען המדע. זה היה מחקר מסוג "מדע של מדע בדיוני" במיטבו, מכיוון שהוא איפשר לחוקרים לבחון באמת ובתמים איך הגיבו המעורבים בניסוי לתנאים הייחודיים שבו. ואכן, סקירת רגשות המשתתפים והתנהגותם לאורך הניסוי, דומות יותר לאלו שנחשפות בתנאים אמיתיים של קושי, בהשוואה למחקרים אחרים קטנים ונוחים יותר.

כמובן שאי אפשר לצפות שכל מחקר חברתי על עתיד הטכנולוגיה, יכלול חלק בו הנבדקים צריכים לחיות לאורך חודשים ארוכים עם טכנולוגיה שאפילו לא הומצאה עדיין. ובכל זאת, מחקרים רבים יכולים למצוא את עמק השווה בין "סקרים כתובים" לבין "שליחת הנבדקים למאדים". במאמר החדש על "מדע של מדע בדיוני", ממליצים להשתמש בתמונות שימחישו לנבדקים את הטכנולוגיה החדשה, בסרטונים, בקטעי טקסט, ואפילו במציאות מדומה. הם גם מציעים להשתמש בשיטת "הקוסם מארץ עוץ", בה בני-אדם שולטים ברובוטים שמדברים עם הנבדקים. בדרך זו הנבדקים מרגישים כאילו הם עברו לעתיד מופלא בו הרובוטים כבר יכולים לתקשר ברמה אנושית מתקדמת.

יש הרבה מאד דרכים להפוך ניסויים לסוחפים יותר, כך שיקיימו את דרישות ה- "מדע של המדע הבדיוני". אבל לא את כל הטכנולוגיות אפשר לבדוק בצורה טובה. כותבי המאמר ממליצים להתמקד במחקרים על טכנולוגיות שאינן בעלות השפעה מרחיקת-לכת על החברה האנושית, מכיוון שאת אלו קשה יותר לדמות במעבדה. השיטה הזו תתקשה, למשל, לנבא כיצד יגיבו בני-אדם לפריצת-דרך טכנולוגית שתביא נעורי נצח, או ליכולת להניע כלים חלליים במהירות העולה על מהירות האור. 

וזהו. זה כל המאמר. והוא מאד מרגש, ומאד מאכזב.

המאמר מאכזב מכיוון שלמרות השם הגדול שבחרו עבורו הכותבים – "שיטת המדע של המדע הבדיוני" – הוא אינו באמת מדבר על מדע בדיוני. ישנם שם אזכורים לספרי מדע בדיוני, כן, אבל בסופו של דבר השיטה דוגלת ברעיון פשוט מאד: אם רוצים תשובות טובות יותר בסקרים לגבי העתיד, צריך להכניס את הנבדקים לאווירה המתאימה, בהקשר הנכון. זהו. לא הרבה יותר מזה. ואם לומר את האמת, קהילת חוקרי העתיד והסוקרים כבר הייתה מודעת היטב לעקרון הזה.

אז למה הוא עדיין מרגש? קודם כל, כי הוא התפרסם בכתב-עת מדעי מכובד כמו נייצ'ר, שנוהג להתמקד רק בתגליות הגדולות ובפיתוחים משני-עולם במדע. מאמר שמתפרסם בכתב-עת חשוב כל-כך, עשוי לעצב מחדש את תחום חקר העתידים. אולי מעכשיו, כל חוקר שיעשה סקר 'מתוגבר', יודיע שהוא משתמש בשיטת "המדע של המדע הבדיוני" החדשה. 

אבל יותר מכך, לפחות עבורי, המאמר הזה מרמז שאנחנו נכנסים לזמנים חדשים. יש סיבה לכך שהעורכים השמרניים של נייצ'ר מוכנים לפרסם מאמר על חקר עתידים. בשלוש השנים האחרונות, תחום הבינה המלאכותית התקדם כל-כך מהר, ועם קצב זעזועים מהיר כל-כך, שכולם מבינים שצריך לנסות למצוא דרך טובה יותר להתמודד עם שינויים ולהיערך לקראתם. יש גם הבנה כללית יותר שישנן טכנולוגיות שיכולות לשנות את העולם לטובה ולרעה – וקשה לקבל הזדמנות שנייה מהרגע שהן יוצאות לחופשי. הקהילה המדעית צריכה לחקור אותן מבעוד מועד, כדי לעזור לאנשי הטכנולוגיה להבין איך לעצב אותן בצורה המועילה ביותר למשתמשים ולחברה.

כאן אני רוצה להוסיף שאלה חשובה אחרונה. עלינו לתהות בכנות: מי ישתמש בשיטת "המדע של המדע הבדיוני" ולאיזו מטרה? האם הכלי העוצמתי הזה לא ישמש להרגעת האזרחים, במקום שיתאים את הטכנולוגיות עבורם? 

בתרחיש מפחיד אחד, תאגידים וגופי ממשל יוכלו לבדוק מראש אילו נרטיבים עובדים הכי טוב כדי להרגיע את הציבור, כיצד לעטוף רגולציה גרועה באריזה של "ביטחון", ואיך להציג מעקב המונים כ- "שירות מותאם אישית". במקום שהשיטה תהיה גשר בין מדענים לציבור, היא עלולה להפוך לכלי-נשק בידי מחלקות יחסי-ציבור. 

במקרה הגרוע ביותר, במקום שנלמד מפרנקנשטיין כיצד להימנע מיצירת מפלצות טכנולוגיות, אנו עלולים להתמקד בהפיכת מדענים למיומנים יותר בשיווק המפלצות הבאות.

עוד בנושא באתר הידען: