מחקר חדש חושף ירידה דרמטית בפעילות מוחית בקרב משתמשי בינה מלאכותית בכתיבה – ומעלה חשש מהשפעות עמוקות על החינוך, הזיכרון והעצמאות המחשבתית של הדור הבא
For the times, they are a-changing…
ברשתות מסתובב לאחרונה מחקר חדש תוצרת MIT, שעורר סערה גדולה. חלקה בצדק, חלקה פחות. אם נסכם את המסקנה הסופית של המחקר כפי שהיא הוצגה ברשתות החברתיות, הרי היא שצ'אט-GPT גורם למוח שלנו להירקב. נקודה.
החוקרים ביקשו ממתנדבים לכתוב מאמרים בשלוש דרכים: היו את אלו שהתבקשו לכתוב כשהם חמושים רק בכוח המוח שלהם עצמם. הייתה קבוצה שניה שנעזרה במנועי חיפוש כמו גוגל. והקבוצה השלישית, כמובן, זכתה להשתמש בצ'אט-GPT. במהלך הכתיבה, החוקרים בחנו את הפעילות החשמלית במוחות המתנדבים באמצעות אלקטרודות שהוצמדו לקרקפת.
והתוצאות היו מזעזעות!
"סריקות מוחיות חשפו את הנזק," כתב מתיו לופ בפוסט שזכה לעשרות-אלפי לייקים בפייסבוק. "קישורים עצביים קרסו מ- 79 ל- 42 בלבד. זוהי הפחתה של 47 אחוזים בקישוריות במוח. אם המחשב שלך היה מאבד מחצית מכוח העיבוד שלו, היית אומר שהוא הרוס. זה מה שקורה למוחות של המשתמשים בצ'אט-GPT."
לופ ממשיך ומפרט כי רוב מכריע של המשתמשים בצ'אט-GPT לא הצליחו לצטט מהמאמרים שכתבו דקות ספורות לפני כן. ואם זה לא מספיק, הרי שתחושת הבעלות שלהם על המאמרים – הגאווה שלהם בכך שהמאמרים היו פרי ידיהם ומוחותיהם – הייתה נמוכה יותר.
"זו לא דעה." מסכם לופ. "זהו נזק מוחי בדוק משימוש-יתר בבינה מלאכותית."
לפחות, אני חושב שלופ כתב את זה. כשהעברתי את הטקסט שלו בבוחן-אוטומטי, התשובה הייתה שיש רק 24 אחוזי סיכוי שאדם כתב את הטקסט.
האמת, כרגיל, מורכבת יותר. אבל הפעם היא מורכבת קצת-יותר, והרבה-יותר.
האמת המורכבת קצת-יותר
לופ – או מנוע הבינה המלאכותית שלו – צודק. השימוש בצ'אט-GPT לביצוע מטלות מסוימות, באמת יכול לפגוע ביכולות הקוגניטיביות שלנו עבור אותן מטלות. אין דרך מסביב לזה. אפשר להתווכח לגבי המספרים המדויקים, אבל הנבדקים בקבוצה שהשתמשה בבינה המלאכותית חוו ירידה משמעותית בעוצמת הסיגנל שמשקף את זרימת המידע בין אזורי המוח השונים (dDTF).
הנבדקים שהשתמשו במוחותיהם בלבד, כדברי החוקרים –
"מינפו רשתות עצביות רחבות ומבוזרות כדי לייצר תוכן פנימי."
או במילים אחרות, הם חשבו. ומה עם אלו שהסתמכו על הבינה המלאכותית? הם –
"עשו אופטימיזציה לשילוב מוסדר של ההצעות שהבינה המלאכותית הפיקה."
כשמסתכלים על הדברים מהבחינה הזו, כל היתר כבר ברור מאליו. רבים מהמשתמשים בבינה המלאכותית לא הצליחו לצטט מהמאמרים ש- 'כתבו', זה נכון. למה שיצליחו? הם בסך הכל לקחו את הכתיבה של הבינה המלאכותית, סידרו אותה קצת מחדש, וסיימו שם. הם גם לא חשו בעלות על התוצר, מאותה סיבה בדיוק.
הבעיה הגדולה יותר צצה בשלב האחרון של המחקר. המשתמשים בבינה המלאכותית התבקשו 'לכבות טלפונים' ולהפסיק את השימוש בה. עכשיו הם היו צריכים לכתוב את המאמרים שלהם בעצמם. ומה קרה?
ניתן לחוקרים לענות.
"הסרת התמיכה מהבינה המלאכותית, פגעה משמעותית במשתתפים…" אמרו החוקרים. כלומר, אלו שהתרגלו לעבוד עם בינה מלאכותית, ולא להתאמץ ולהפעיל את המוח על כתיבת מאמר, התקשו יותר בכתיבת מאמרים ברגע שהמשענת הזו נלקחה מהם.
ומה קרה כאשר המשתתפים האחרים – אלו שעבדו עם מוחותיהם בלבד עד כה – התבקשו לכתוב מאמרים חדשים בעזרת הבינה המלאכותית? שם ניכרה תוצאה הפוכה: הפעילות המוחית שלהם השתפרה. הם ידעו איך לתחקר את הבינה המלאכותית בצורה ביקורתית וחכמה, בנושא שכבר הבינו היטב בעצמם.
כך שהאמת המורכבת קצת-יותר, היא ששימוש בבינה המלאכותית כדי להחליף חשיבה, מנוון את החשיבה. אם אנחנו לא משתמשים במוח, לא מאתגרים את עצמנו, לא חושבים על החשיבה שלנו – אנחנו לא מפתחים ומשמרים את המעגלים העצביים שאחראים לפעולות הללו.
האמת הזו חשובה במיוחד בחינוך. ילדים רבים כיום מקבלים את הבינה המלאכותית לידיים, ואומרים לה פשוט לעשות עבורם את שיעורי הבית. בעצם, לא רק ילדים. גם סטודנטים, ואפילו מבוגרים שעושים קורסים. במקרה הטוב, כל אותם ילדים, צעירים ומבוגרים מבקשים מהבינה המלאכותית רעיונות, ומלווים אותה בתהליך הליטוש של אותם רעיונות ועד שהיא כותבת עבורם את המאמר הסופי.
מה שהמחקר הנוכחי מראה לנו הוא שדרך העבודה הזו כנראה אינה מוצלחת באותה המידה, כמו למידה עצמית, עם חשיבה עמוקה ו- 'שבירת הראש'. כן, הבינה המלאכותית עוזרת לכולנו לעשות את המטלות שלנו מהר יותר, ואולי אפילו טוב יותר. אבל כשאנחנו משתמשים בה, אנחנו פוגעים ביכולת שלנו ללמוד איך לעשות את המטלות האלו בעצמנו.
כל מורה צריך להיות מודע לאמת הזו, כשהוא נותן לתלמידים שלו מטלה שניתנת לביצוע עם בינה מלאכותית. הוא צריך להסביר להם למה הם צריכים להיזהר מהשימוש בכלי הזה. אסור לתת לתלמידים לעבוד עם בינה מלאכותית בלי שיבינו איך להשתמש בה נכון. התלמידים צריכים שלא להשתמש בה כדי שתיתן להם את התשובות, אלא להפך: כדי שתשאל אותם את השאלות הנכונות, ותספק להם הנחיה וייעוץ שיעזרו להם לעשות את שיעורי הבית, ולהפעיל את המוח בעצמם בנקודות הנכונות.
לא להימנע לגמרי מהשימוש בבינה המלאכותית. זה בלתי-אפשרי. כן להשתמש בה בצורה הנכונה, במינון הנכון ובמקומות הנכונים.
זו האמת המורכבת קצת-יותר.
אבל יש אמת מורכבת הרבה-יותר.
האמת המורכבת הרבה-יותר
בשנת 1673 כתב אחד מהפרופסורים באוקספורד את המשפט הבא ביומנו –
"מדוע זה פוחתת הלמידה היציבה והרצינית, ומעטים – אם בכלל – ממשיכים בה עכשיו באוניברסיטה? התשובה: בגלל בתי הקפה, בהם הם מבלים את כל זמנם."
אותו פרופסור צדק בדבר אחד: סטודנטים באמת נהגו לבלות יותר ויותר זמן בבתי הקפה באותן השנים. אלא שהוא לא הבין מה המשמעות הגדולה יותר של השינוי. במקום שהחוקרים והסטודנטים יסתגרו במשרדים צרים ואפלוליים עם מחשבותיהם, הם מצאו מקומות מפגש חברתיים. נכון, בתי הקפה שימשו את הסטודנטים בעיקר לשיחות חולין, אבל הם גם אפשרו להם להחליף רעיונות פורצי-דרך, להגיע לתובנות ולפתח שיתופי פעולה. אחד מגדולי הפילוסופים בהיסטוריה, ג'רמי בנתהאם, פיתח את תיאוריית התועלתנות שלו באחד מבתי הקפה של אוקספורד. וקשה לדעת כמה מהרעיונות הגדולים של מאתיים השנים האחרונות הועלו ונידונו במפגשי סטודנטים וחוקרים בתי הקפה, בפאבים או במסעדות שבאוניברסיטאות.
קל לנו לצחוק היום על אותו פרופסור, שלא הבין את העולם החדש של 'הצעירים'. אבל גם אנו חוטאים בכך באופן קבוע, כאשר אנו רואים רק את השפעותיהן השליליות של הטכנולוגיה, או של מגמות חברתיות חדשות, ולא שואלים את עצמנו האם הן יכולות דווקא לקדם את הצעירים בעולם החדש.
ספציפית במקרה של המחקר החדש, אנחנו צריכים לשאול את עצמנו: בעולם בו הבינה המלאכותית יכולה לכתוב מאמרים ברמה אנושית, ויכולה לעשות זאת טוב יותר ומהר יותר מכל אדם, מה נותר לבני-אדם לעשות?
אני חושד שבעולם כזה, הכתיבה הלוגית, הדורשת חשיבה אנושית מאומצת ומדוקדקת, תזכה להערכה פחותה מצד הסובבים. כתיבה שכזו, אחרי הכל, יוכל כל אדם להפיק באמצעות בינה מלאכותית. אולי נעריך יותר דווקא סוגים אחרים של יצירה, שמאפשרים לאדם לבטא את עצמו ואת הייחודיות שלו. ואולי בזכות הבינה המלאכותית שתעזור לכל ילד ללמוד ולפתח את עצמו, נחליט שכתיבת מאמרים היא בכלל דרך מיושנת ולא-יעילה לפיתוח המוח והחשיבה.
או שפשוט נעשה העלאה של מידע ישירות למוח, באמצעות אלקטרודות שישפיעו ישירות על העצבים עצמם. עם טכנולוגיה מתקדמת מספיק, גם זה אמור להיות אפשרי.
אני לא מנסה לטעון שלא צריך להתייחס בכובד ראש למשמעויות של המחקר החדש. אבל כשמסתכלים על הטווח הארוך, אנחנו שומעים תמיד חששות בסגנון "הבינה המלאכותית תעשה הכל, והמוח שלנו יתנוון לחלוטין". האמת היא שדרכי חשיבה מסוימות אכן יתנוונו אצל אנשים רבים, אבל הם יפתחו דרכי חשיבה אחרות שעדיין יאפשרו להם להתקיים בחברה האנושית בהצלחה. כך קרה, לפחות, לאורך ההיסטוריה עד כה. סביר להניח שזה מה שיקרה גם בעתיד הנראה-לעין.
אולי.
החשש האמיתי שלי
החשש האמיתי שלי קצת שונה, והוא מתייחס לפסקה שמופיעה לקראת סוף המחקר, ולא ראיתי שצוטטה עד כה בתקשורת.
"אולי אחד הממצאים המדאיגים ביותר הוא שמשתתפים [שהשתמשו בבינה המלאכותית]… התמקדו בעקביות בסדרה צרה יותר של רעיונות. … חזרתיות זו מרמזת שמשתתפים רבים לא חשבו לעומק על הנושאים, או בחנו בביקורתיות את החומר שמודלי השפה הגדולים סיפקו."
מה קורה כאשר אנשים אינם חושבים לעומק או בביקורתיות?
"התוצאות במחירים בטווח הארוך הן פגיעה בחשיבה הביקורתית, פתיחות מוגברת למניפולציות, ויצירתיות מופחתת. כאשר משתתפים משחזרים הצעות מבלי להעריך את הדיוק או הרלוונטיות שלהן, הם לא רק מאבדים את הבעלות על הרעיונות, אלא גם מסתכנים באימוץ נקודות מבט שטחיות או מוטות."
וזה החשש האמיתי שלי: שבעולם החדש אליו אנו נכנסים, מנהיגים יוכלו לשלוט יותר בקלות בציבור באמצעות הבינה המלאכותית. שילדינו יתפתו יותר בקלות להאמין בקונספירציות ובשקרים, או שפשוט יפתחו עור של פיל לכל טענה שמגיעה מפיותיהם של פוליטיקאים, ולא יאמינו בדבר. לא נעים לומר, אבל לשליטים של היום יש אינטרס מובנה לגרום לכל זה לקרות.
במאות השנים האחרונות של המהפכה התעשייתית, המוחות הגדולים – המדענים והממציאים המבריקים – היו אחראים להתקדמות המדע והטכנולוגיה. המנהיגים היו צריכים להיזהר תמיד שלא 'לטמטם' את הציבור יותר מדיי. אבל בעולם העתיד, בו הבינה המלאכותית תהיה חכמה יותר מכל מדען ומהנדס אנושי, לא יהיה למנהיגים כבר את אותו אינטרס. ואם אותה בינה מלאכותית ממש יכולה לאפשר להם לשלוט בהמונים, הרי שהם עלולים לפנות לדרך זו בשמחה.
רוצים למנוע את זה מלקרות? נתחיל בצעדים קטנים. נלמד את ילדינו איך ללמוד ואיך לחשוב בכוחות עצמם, ונחשוף אותם לעבודה עם הבינות המלאכותיות באופן הדרגתי ושקול. נלמד אותם חשיבה ביקורתית וזהירה, ונשתמש בבינה המלאכותית לטובת העניין, כדי לפתח עבורם תרגילים, סימולציות ומערכי שיעור. נשתמש בה ככלי לתגבור החשיבה האנושית, ולא להחלפתה.
והעתיד? הוא יבוא בבוא הזמן.
ואנחנו נשתדל להיות מוכנים לקראתו.
