סיקור מקיף

פיתוח חדש: מתמלל המחשבות שמעורר חששות אתיים

כאשר החוקרים השמיעו לנבדקים סיפורים חדשים, הם גילו שהמתמלל שלהם מצליח להפיק משפטים שמתארים "לא רע" את הסיפורים. התמלול אינו מושלם, אבל בהחלט קיים דמיון

קריאת מחשבות. <a href="https://depositphotos.com. ">איור: depositphotos.com</a>
קריאת מחשבות. איור: depositphotos.com

כשמאמר מדעי חדש כולל אמירה מפורשת לפיה – "חיוני לעורר מודעות לסכנות בטכנולוגיית קריאת מחשבות (“brain decoding") וליור חוקים שיגנו על הפרטיות המחשבתית של כל אדם", אני מבין שהעולם עומד להשתנות.

וכשבאותו מאמר ממש מתארים החוקרים כיצד הצליחו לפתח "מתמלל" של המחשבות, אז ברור שהשינוי כבר התחיל. במיוחד כשהשיטה המתוארת פועלת מבלי מגע ישיר עם המוח או אפילו עם הקרקפת.

אבל נתחיל בהתחלה.

חוקרים במדעי המוח משתמשים כבר שנים רבות במכונות fMRI: מכשיר שעוקב אחר זרימת הדם והרכבו במוח. כאשר התאים באזור מסוים במוח פועלים, הם זוללים חמצן מהדם, וה- fMRI מסוגל לזהות את השינוי בזרימת הדם באזור. המעקב נעשה לגמרי מחוץ למוח. למעשה, המכונה אינה צריכה אפילו לגעת בראשו של הנבדק כדי לקלוט את המידע. היא נעזרת לשם כך בשדה מגנטי רב-עוצמה – אך ללא פוטנציאל לנזק – שהיא מייצרת באזור הראש. נאמר בעדינות שזו אינה מכונה שאתם יכולים לשאת עמכם בתיק לכל מקום. אפשר למצוא אותה כמעט אך ורק בבתי החולים ובמעבדות המחקר, ובדרך-כלל נחוץ חדר שלם כדי לאכלס אותה.

החוקרים גרפו מידע ממוחותיהם של שלושה נבדקים, בזמן שאלו האזינו ל- 16 שעות של פודקאסטים ושידורי רדיו. את המידע הם העבירו – איך לא – לבינה מלאכותית שהצליבה את הקריאות עם המילים והמשפטים שהנבדקים שמעו בכל רגע נתון. הבינה המלאכותית יצרה מודל שתרגם את הפעילות המוחית למילים ולמשפטים. למעשה, החוקרים פיתחו decoder – מתמלל של השפה הפנימית של המוח.[1]

והם הופתעו לגלות כמה טוב הוא עובד.

כאשר החוקרים השמיעו לנבדקים סיפורים חדשים, הם גילו שהמתמלל שלהם מצליח להפיק משפטים שמתארים "לא רע" את הסיפורים. התמלול אינו מושלם, אבל בהחלט קיים דמיון. למשל –

קריאת מחשבות. מתוך המחקר

כאשר הנבדקים שמעו "חפש הודעה מאשתי שאומרת שהיא שינתה את דעתה וחוזרת", המתמלל קרא ממוחותיהם – "לראות אותה מסיבה כלשהי חשבתי אולי היא תבוא אליי ותגיד שהיא מתגעגעת אליי."

משפט אחר – "דוהר אליי במורד גבעה על סקייטבורד והוא זז ממש מהר ועצר ממש ברגע האחרון", תורגם ל- "הוא לא הצליח להגיע אליי מהר מספיק הוא נסע ישר למסלול שלי וניסה לנגח אותי".

כאמור, ברור שהתרגום אינו מושלם עדיין, אבל התוצאות מרתקות. אנו נחשפים לשפה הפנימית של המוח, בה תיאור אובייקטיבי של "דוהר אליי… זז ממש מהר" מתורגם לצעקה הסובייקטיבית-רגשית לפיה מישהו "ניסה לנגח אותי!"

במקביל, הבקשה הפורמלית כמעט לגבי האשה ש- "שינתה את דעתה וחוזרת" נצבעת בגוון העז של הרגשות האנושיים: "אולי היא תבוא אליי ותגיד שהיא מתגעגעת אליי".

ובכל זאת, האם ייתכן שהמתמלל פשוט קורא מהמוח את מה שהנבדק שומע? אפילו זה הישג מרשים, אבל לא ברמה של "קריאת מחשבות". כדי לענות על השאלה, החוקרים ביקשו מהנבדקים לצפות בסרטים אילמים קצרים – והפעילו את המתמלל על מוחותיהם באותו הזמן. התוצאות, לפי החוקרים, היו ש- "התיאורים שהפיק המתמלל היו קשורים משמעותית לסרטונים, ובמקרים רבים תיארו במדויק את המתרחש בסרטונים." (בהשוואה לתיאור שהופק עבור עיוורים אודות המתרחש בכל סצנה)

נהיה ספקנים לרגע, כראוי, ונציין כמה מהבעיות במחקר. קודם כל, הוא התפרסם במגזין המקוון bioRxiv, וככזה – לא עבר ביקורת עמיתים. שנית, מדובר במחקר שנערך על שלושה נבדקים בלבד. למרות כל זאת, מי שמכיר את תחום ממשקי המוח-מכונה יודע כבר שהתקדמויות מהסוג הזה מתרחשות חדשות לבקרים. מדי חודש-חודשיים יוצא מאמר חדש שמראה שאפשר לקרוא תמונות מהמוח, חלומות, לתמלל מחשבות מודעות ועוד ועוד. כלומר, מדובר 'רק' בעוד נדבך בדרך לקריאת מחשבות של ממש.

ומה נעשה עם היכולת הזו, כשתהיה סוף-סוף ברשותנו במלואה?

בשנת 1996 טען האנתרופולוג רובין דונבאר כי אחד הגורמים החשובים ביותר בהתפתחות המין האנושי היה ה… רכילות. כן, הרכילות: היכולת והרצון העז לשתף במידע אודות אחרים, במיוחד כאשר הוא מלמד על תכונותיהם השליליות. לפי "תיאוריית הרכילות" של דונבאר, אנו צריכים להעביר מידע בינינו כדי לוודא שכולנו מתיישרים לפי אותם רעיונות ומיתוסים קולקטיביים: אמונה באל, ציות למנהיג, עבודה לקידום מטרות התאגיד ועוד ועוד. מי שבוגד באמונות המשותפות, מורחק מהשבט, מהכנסייה או מהמדינה. בדרך זו, בני-האדם מסוגלים לשמור על הלכידות החברתית הנחוצה כדי להדוף ביחד אריה תוקף – או להטיל סנקציות גלובליות על רוסיה.

אני נזכר בחיבה בתיאוריית הרכילות בכל פעם שאני רואה אנשים מדפדפים בלהיטות למדור הרכילות בעיתון. אבל לא רק שם אנחנו נתקלים בה. היא מתבטאת גם ברעיונות שאנו מדברים עליהם. למשל, הרצון לקריאת מחשבות. שהרי מה יכול להיות חשוב יותר לחיה האנושית – לקוף-האדם המפותח והחברתי שאנחנו – מלדעת מה חושבים עליו האחרים? האם היא אוהבת אותי? נמשכת אליי? מוכנה בכלל שאגש אליה? האם הוא מעוניין בקרבתי? האם הבוסית שלי תסכים לתת לי העלאה? האם מנהל המשרד לקח את הפאד-תאי שלי מהמקרר כנקמה על כך שחשב שאני חושב שהוא לקח את הקוקילידה שלי?

וכך, אנו מוכנים, נכונים וכמהים לנצל את כל כוח החדשנות וההמצאה של המין האנושי, לפתח בינות מלאכותיות משוכללות ולהפעיל שדות מגנטיים רבי-עוצמה על המוח… כדי לדעת מה באמת ג'ניפר לופז חושבת על הישבן של קים קרדשיאן.

אבל יש גם סיבות נוספות לקריאת מחשבות.

נמשיך לרגע לפי תיאוריית הרכילות – אבל לדברים קצת יותר חשובים מעכוזיהן של האחיות לבית קרדשיאן. אחד החלומות של כל שליט-יחיד הוא לוודא שנתיניו מאמינים בחזון שהוא מתווה להם – בראש ובראשונה בזכותו לשלוט עליהם, כמובן. מכשירים לקריאת מחשבות יכולים להיות בעלי ערך עצום למשטרים טוטליטאריים כדרך לשלוט באזרחים.

הרשו לי להיות ספקן לרגע: אני לא מאמין שזה צריך להיות החשש האמיתי ממכשירים לקריאת מחשבות. בני-אדם הם יצורים מורכבים ולכל אחד מאיתנו יש מחשבות רבות ושונות. שליט שיוציא להורג כל אדם שבמוחו עולות מחשבות שליליות מדי פעם, יישאר במהרה רק עם עצמו. מה שחשוב באמת הוא הנכונות לפעול או לדבר ברבים כנגד הממשל. לא נעים לומר, אבל הממשלות במדינות הטוטליטריות (ובכלל) מסוגלות כבר היום לאתר בקלות נסיונות כאלו באמצעות מעקב אחר הרשתות החברתיות ודפוסי החיפוש של משתמשים. קריאת מחשבות? אל תצחיקו אותן. הן לא צריכות את זה.

אני מעדיף להתמקד דווקא בפוטנציאל החיובי של המכשירים לקריאת מחשבות – ויותר נכון לומר, להבנת דרך הפעולה של המוח. פסיכולוגים ופסיכיאטרים יוכלו להשתמש בהם – ברשות המטופל, כמובן – כדי להבין טוב יותר את המטופל, ולהאיץ את תהליך השינוי הרצוי והריפוי מטראומה. נוכל לעקוב יותר בקלות אחר המחשבות התועות שלנו ולרסן ולנתב אותן מחדש בכוח הרצון. נוכל לכתוב סיפורים ולחבר שירים בכוח המחשבה בלבד, לפעמים אפילו בלי מחשבה מודעת: המנגינה הבלתי-פוסקת של המוח תנחה את המתמללים שיהיו קשובים לה.

בוודאי גם רשויות החוק ירצו להשתמש בטכנולוגיה – למשל, כדרך לאיסוף ראיות או רמזים שיובילו את הבלשים בכיוון הנכון לפתרון הפשע. ולצד המשטרה, נראה גם חלק מהחברות מנסות להשתמש במתמללים שכאלו כסוג של פוליגרף משוכלל. למועמדים למקומות עבודה יהיה קשה הרבה יותר לשקר למנהלי-העתיד שלהם.

אבל כל זה תלוי, כמובן, בכך שהטכנולוגיה תמשיך להשתכלל.

בעתיד הקרוב, לפחות, חובבי הקונספירציות והחופש אינם צריכים לחשוש שהממשלה תקטוף את מחשבותיהם מראשיהם בניגוד לרצונותיהם. החוקרים שיצרו את המתמלל בדקו זאת בעצמם: הם הראו שהאלגוריתם אינו מסוגל להתמודד עם הנבדקים כאשר הם מנסים במכוון לשטות אותו ולדמיין חיות או לספור מספרים במקום להתרכז במחשבה מודעת. בנוסף, המתמלל הצליח לקרוא רק את מוחו של הנבדק הספציפי עליו אומן. אחרון חביב, מכונת ה- fMRI פועלת היטב רק במרחק קטן מאד מהקרקפת, וצריכה להקיף את הראש כולו. אתם תשימו לב לקיומה, מבטיח. אף אחד לא עומד לקרוא לכם את המחשבות מרחוק.

אבל מה אם יחטפו אתכם למרתף ממשלתי-סודי, יכבלו אתכם למכשיר fMRI, ישמיעו לכם פודקאסטים במשך יממה שלמה ויכריחו אתכם להתרכז בהם, יסרקו לכם את המוח וישחררו אתכם לחופשי?

אז יש לכם מה לדאוג, כן. המתמלל כבר יכיר את המוח שלכם טוב מספיק. אבל בהנחה שלא עברתם עדיין את התהליך הזה, אתם כנראה בטוחים מקריאת מחשבות בעתיד הקרוב.

אבל לא לעולם חוסן.

מכשירי ה- fMRI עוד ישתפרו וישתכללו. ואם לא הם, הרי שמכשירים אחרים קטנים יותר – כמו EEG שמתבסס על אלקטרודות שמודבקות על הקרקפת – ישודרגו. מכשירי מציאות מדומה ורבודה יוכלו לכלול גם את ההתקנים האלו שיעזרו להם להתכוונן טוב יותר לרצונותינו. האלגוריתמים שמעבדים את המידע ישתכללו בהרבה, כך שלא נצטרך לאמן אותם על מוחו של כל נבדק בפני עצמו. הם יתאימו למין האנושי כולו.

בסופו של דבר – ויותר מוקדם ממאוחר – גם מוחותינו ייפתחו לעיניהן הבוחנות של הממשלות, החברות הגדולות והקטנות ובנות- או בני-זוגנו.

וזו הסיבה שממציאי המתמלל ראו צורך להצהיר במפורש כי – "חיוני לעורר מודעות לסכנות בטכנולוגיית קריאת מחשבות (“brain decoding") וליצור חוקים שיגנו על הפרטיות המחשבתית של כל אדם".

העולם עומד להשתנות, וטוב שגם מובילי השינוי מבינים שאנחנו צריכים להתכונן בהתאם.

אתם חושבים אחרת?

בעתיד, נוכל לעזור לכם לשנות גם את זה.


[1] https://www.biorxiv.org/content/10.1101/2022.09.29.509744v1.full

עוד בנושא באתר הידען:

דילוג לתוכן