אנתרופולוג בלשני טוען כי הגבול בין בני אדם למכונות, מבחינת האופן שבו אנחנו מתקשרים זה עם זה, מטושטש יותר ממה שרוב האנשים היו רוצים להודות, והערפול הזה מסביר חלק ניכר מהשיח שמתערבל סביב ChatGPT
מאת ברנדן אוקונור, פרופסור חבר, בית הספר ללימודים חוצי גבולות, אוניברסיטת אריזונה סטייט
ChatGPT הוא נושא חם באוניברסיטה שלי, שבה חברי סגל מודאגים מאוד לגבי יושרה אקדמית, בעוד מנהלים דוחקים בנו “לאמץ את היתרונות” של “הגבול החדש” הזה. זוהי דוגמה קלאסית למה שחברתי פוניה מישרא מכנה “מעגל אבדון-ההייפ” סביב טכנולוגיות חדשות. כמו כן, הסיקור התקשורתי של אינטראקציה בין אדם לבינה מלאכותית – בין אם פרנואידי או זרוע הילה – נוטה להדגיש את חדשנותה.
במובן אחד, זה ללא ספק עידן חדש. אינטראקציות עם ChatGPT יכולות להיות חסרות תקדים, כמו שקרה כאשר עיתונאי טכנולוגיה לא הצליח לגרום לצ’אט בוט להפסיק להצהיר על אהבתו אליו. אבל לדעתי, הגבול בין בני אדם למכונות, מבחינת האופן שבו אנחנו מתקשרים זה עם זה, מטושטש יותר ממה שרוב האנשים היו רוצים להודות, והערפול הזה מסביר חלק ניכר מהשיח שמתערבל סביב ChatGPT.
כשמבקשים ממני לסמן וי על תיבה כדי לוודא שאני לא רובוט, אני לא חושב על זה פעמיים – כמובן שאני לא רובוט. מצד שני, כשתוכנת הדוא”ל שלי מציעה מילה או ביטוי להשלמת המשפט שלי, או כשהטלפון שלי מנחש את המילה הבאה שאני עומד לסמס, אני מתחיל לפקפק בעצמי. האם זה מה שהתכוונתי לומר? האם זה היה עולה על דעתי אם התוכנה לא הייתה מציעה את זה? האם אני חלק מרובוט? מודלים גדולים אלה של שפה אומנו על כמויות עצומות של שפה אנושית “טבעית”. האם זה הופך את הרובוטים לחלק אנושי?
צ’אטבוטים של בינה מלאכותית הם חדשים, אבל דיונים ציבוריים על שינוי שפה לא. כאנתרופולוג לשוני, אני מוצא את התגובות האנושיות ל-ChatGPT כדבר המעניין ביותר בו. התבוננות מדוקדקת בתגובות כאלה מגלה את האמונות לגבי השפה העומדות בבסיס מערכת היחסים האמביוולנטית, הלא נוחה והמתפתחת עדיין של אנשים עם בני שיח בתחום הבינה המלאכותית.
ChatGPT ודומיו מציבים מראה בפני השפה האנושית. בני אדם הם גם מקוריים מאוד וגם לא מקוריים כשמדובר בשפה. צ’אטבוטים משקפים זאת, וחושפים נטיות ודפוסים שכבר קיימים באינטראקציות עם בני אדם אחרים.
יוצרים או מחקים?
לאחרונה, טענו הבלשן הנודע נועם חומסקי ועמיתיו כי צ’טבוטים “תקועים בשלב קדם-אנושי או לא אנושי של אבולוציה קוגניטיבית” מכיוון שהם יכולים רק לתאר ולחזות, לא להסביר. במקום להסתמך על יכולת אינסופית ליצור ביטויים חדשים, הם מפצים בכמויות עצומות של קלט, מה שמאפשר להם לחזות באילו מילים להשתמש ברמה גבוהה של דיוק.
הדבר עולה בקנה אחד עם הכרתו ההיסטורית של חומסקי בכך שלא ניתן לייצר שפה אנושית רק באמצעות חיקוי ילדים של דוברים מבוגרים. יכולת השפה האנושית הייתה צריכה להיות גנרטיבית, מכיוון שילדים אינם מקבלים מספיק קלט כדי להסביר את כל המילים שהם מייצרים, שרבות מהן הם לא יכלו לשמוע קודם לכן. זו הדרך היחידה להסביר מדוע לבני אדם – בניגוד לבעלי חיים אחרים בעלי מערכות תקשורת מתוחכמות – יש יכולת תיאורטית אינסופית ליצור ביטויים חדשים.
נועם חומסקי פיתח את התיאוריה הגנרטיבית של רכישת שפה.
אבל יש בעיה עם הטיעון הזה. למרות שבני אדם מסוגלים ללא סוף ליצור מחרוזות חדשות של שפה, אנשים בדרך כלל לא עושים זאת. בני אדם ממחזרים ללא הרף פיסות שפה שנתקלו בהן בעבר ומעצבים את דיבורם בדרכים המגיבות – במודע או שלא במודע – לדיבורם של אחרים, נוכחים או נעדרים.
כפי שניסח זאת מיכאיל בחטין – דמות דמוית חומסקי לאנתרופולוגים בלשניים – “המחשבה עצמה”, יחד עם השפה שלנו, “נולדת ומתעצבת בתהליך של אינטראקציה ומאבק עם מחשבתם של אחרים”. המילים שלנו “טועמות” את ההקשרים שבהם אנחנו ואחרים נתקלנו בהן בעבר, ולכן אנחנו נאבקים כל הזמן כדי להפוך אותן לשלנו.
אפילו גניבה ספרותית היא פחות פשוטה ממה שהיא נראית. הרעיון של גניבת מילים של מישהו אחר מניחה כי התקשורת תמיד מתרחשת בין אנשים אשר מביאים באופן רעיונות מקוריים שלהם ביטויים. אנשים אולי אוהבים לחשוב על עצמם ככה, אבל המציאות מראה אחרת כמעט בכל אינטראקציה – כשאני אומרת לבת שלי משהו שאבי אמר; כאשר הנשיא נושא נאום שמישהו אחר ניסח, המבטא דעות של קבוצת אינטרס חיצונית; או כאשר מטפלת מתקשרת עם המטופלת שלה על פי עקרונות שמוריה לימדו אותה לשים לב אליהם.
בכל אינטראקציה נתונה, מסגרת ההפקה – דיבור או כתיבה – וקבלה – הקשבה או קריאה והבנה – משתנה מבחינת מה שנאמר, איך זה נאמר, מי אומר את זה ומי אחראי בכל מקרה.
מה AI מגלה על בני אדם
התפיסה הרווחת של השפה האנושית רואה בתקשורת בעיקר משהו שמתרחש בין אנשים שממציאים ביטויים חדשים מאפס. עם זאת, הנחה זו נשברת כאשר Woebot, אפליקצייה טיפולית מבוססת AI, מאומנת לתקשר עם לקוחות אנושיים באמצעות ניתוח שיחות מפגישות טיפול בין אדם לאדם. זה נשבר כשאחד מכותבי השירים האהובים עלי, קולין מלוי מלהקת The Decemberists, אומר ל-ChatGPT לכתוב מילים ואקורדים בסגנון שלו. מלוי אומר כי השיר שהתקבל “בינוני להפליא” וחסר אינטואיציה, אבל גם דומה לסגנון השירים של דצמבריסט.
עם זאת, כפי שמלוי מציין, התקדמות האקורדים, הנושאים והחרוזים בשירי פופ שנכתבו על ידי בני אדם נוטים לשקף גם שירי פופ אחרים, בדיוק כפי שנאומי פוליטיקאים שואבים בחופשיות מדורות קודמים של פוליטיקאים ואקטיביסטים, שכבר היו גדושים בביטויים מהתנ”ך. שירי פופ ונאומים פוליטיים הם איורים חיים במיוחד לתופעה כללית יותר. כשמישהו מדבר או כותב, כמה עולה א-לה חומסקי חדש? כמה ממוחזר א-לה בחטין? האם אנחנו חלק מרובוט? האם הרובוטים הם בני אדם?
אנשים כמו חומסקי שאומרים שצ’טבוטים אינם דומים לדוברים אנושיים צודקים. עם זאת, כך גם אלה כמו בחטין שמצביעים על כך שאנחנו אף פעם לא באמת שולטים במילים שלנו – לפחות, לא כמו שהיינו מדמיינים את עצמנו להיות. במובן הזה, ChatGPT מאלץ אותנו לחשוב מחדש על שאלה עתיקת יומין: כמה מהשפה שלנו היא באמת שלנו?
2 תגובות
בלשנות עצברית
כמו שהפיזיקה העצברית באה במקום הפיזיקה של ניוטון, כך הבלשנות העצברית באה במקום הבלשנות של חומסקי.
ניוטון האמין שקיים במציאות הפיזיקלית רעיון דמיוני ושמו כוח משיכה, וחומסקי האמין כי בני אדם יוצרים באופן טבעי שפות בעלי תחביר קבוע
ניוטון הטעה את הפיזיקאים במשך 300 שנים, וחומסקי הטעה את הבלשנים במשך 80 שנים..
הבלשנות העצברית חופשיה ואין בה תחביר קבוע או כללי דקדוק מסוימים.
הבלשנות העצברית פשוטה ומובנת מאליה ,והיא מבוססת על ידיעתו הטבעית של האדם.
הבלשנות העצברית פותחת בזיהוי איברים בגוף האדם, המאפשרים לו לדבר. (גרון, פה , לשון)
גרון, פה , ולשון, הם פסנתר טבעי של 22 צלילים
פסנתר טבעי שייך לאדם , בעל ידיעה טבעית
האדם בעל הידיעה הטבעית, המציא לעצמו שפה המבוססת על הצלילים, שמפיק הפסנתר הטבעי.
וכך מתואר התהליך של יצירת שפה.
אדם שותק בעל ידיעה טבעית נוגע בגוש קרח, ובאורח פלא מגיעה אליו ידיעה טבעית ברורה.
האדם השותק פתאום הבין שהוא יודע משהוא.
אין כל דרך לתאר את הידיעה הזו מכיוון שהאדם עוד לא המציא מלים. ואף על פי שהמלים עוד לא הומצאו, האדם שנגע בגוש קרח ידע לפתע ידיעה חדשה מופלאה וברורה.
וכאן התרחש נס, והאדם השותק הבין שצריך לתת שם לידיעה ברורה זו .
האדם השותק הזה הוא אדם בעל ידיעה טבעית הטבועה בו, והוא ידע כי הפסנתר הטבעי שלו יכול לספק צלילים , שיכולים לשמש כשם של
הידיעה הטבעית האמורה.
האדם השותק הזה בחר שם קצר, הנובע משני צלילים של הפסנתר הטבעי שלו, צליל ק וצליל ר
וכך קרה, שצירוף שני הצלילים (קר) הפך להיות שם של ידיעה טבעית, הבאה אל האדם בעקבות מגע בגוש קרח.
כר מתחילה היצירה של שפה אנושית, שהיא שפת שמות של ידיעות טבעיות.
כל תנאי היצירה נמצאים באדם השותק.
כושר ההמצאה טבוע באדם השותק , הידיעה הטבעית טבועה באדם השותק , והפסנתר הטבעי הוא חלק מגופו של האדם השותק..
כל אדם יכול ללמוד שפה של ידיעות טבעיות. שפה זו מחייבת את האדם הרוצה ללמוד, לעשות מעשה של מגע בגוש קרח, כמו האדם השותק,
אחרי זה יכיר הלומד, אל שני הצלילים ק ר של הפסנתר הטבעי שלו , ואז הוא יבין כי זה השם של הידיעה הטבעית שבאה אליו, בעקבות מגע בגוש קרח.
השם של ידיעה טבעית נבחר באופן שרירותי,
וכל צירוף של צלילים יכול להתאים לכך.
צירוף הצלילים (חם ) נבחר להיות שם של ידיעה טבעית, הבאה באורח פלא אל האדם המתקרב למדורה.
גם צירוף הצלילים ח ם נבחר באופן שרירותי.
כך נוצרת שפת בני אדם , המבוססת על ידיעות טבעיות הבאות אליהם, בעקבות מעשים שהם עושים במציאות.
שפה זו היא שפת שמות של ידיעות טבעיות,
הבאות אל בני האדם בעקבות מעשים ממשיים שהם עושים במציאות הפיזיקלית.
נוגעים ובאה ידיעה טבעית, מריחים ובאה ידיעה טבעית אחרת, רואים ובאה ידיעה טבעית
אחרת, טועמים ובאה ידיעה טבעית אחרת, ועוד ,
עתה נשאר לבחור צלילים מהפסנתר הטבעי, כמו
צלילי ח ל ק , או צלילי מ ח ו ס פ ס ,או צלילי מ ת ו ק , ואלה יהיו שמות של הידיעות הטבעיות שבאו אל בני האדם, בעקבות המעשים שהם עשו.
ככה נוצרת שפה של בני אדם, שהיא שפת שמות של ידיעות טבעיות. כל מלה בשפה האנושית היא
שם של ידיעה טבעית- הבאה בעקבות מעשה.
אי אפשר ליצור שפה אנושית בעזרת קולות הבוקעים מהגרון, כי הקולות הם סתם רעש.
אם הקולות הם שמות של ידיעות טבעיות הבאות בעקבות מעשה במציאות הפיזיקלית, אז השפה נוצרת מיד , ואפשר להשתמש בה.
כל הבלשנים ב 100 השנים האחרונות, השתמשו ברעש הבוקע מגרונם, כדי ליצור שפה אנושית.
כל הבלשנים האלה נכשלו. ובעקבות הכישלון הזה הופיע חוק עצברי האומר:
אי אפשר לחקור שפה באמצעות המלים שלה.
הבלשנות העצברית התחילה ליצור שפת בני אדם, שהיא שפת שמות של ידיעות טבעיות.
בחירת השמות מתקיימת בעזרת הפסנתרים הטבעיים של בני אדם, המסוגלים להפיק הרבה צלילים.
בני אדם המציאו בקלות אלפי שפות, כיוון שהם
ידעו – ששפה ממציאים במעשים, ולא בדיבורים.
הבלשנים של 100 השנים האחרונות, לא ידעו ששפה ממציאים במעשים, והם דיברו, ודיברו,
ודיברו, והוציאו רעש מגרונם – שנשאר רעש.
המחקר של עצבר התחיל לחקור שפה בעזרת מעשים המביאים לאדם ידיעה טבעית, והוא
נחל הצלחה ….
הבלשנות העצברית, מול הבלשנות של חומסקי.
הבלשנות העצברית חדשה לגמרי, והיא שונה לחלוטין מהבלשנות של חומסקי.
הבלשנות של חומסקי מבוססת על מלים, שהם שרבוטי קווים חסרי פשר , ולכן הכישלון של בלשנות זו צפוי מראש.
אין שום אפשרות להבין שרבוטי קווים, בעזרת שרבוטי קווים אחרים , ששמם מלים.
הבלשנות העצברית מבוססת מעשים ממשיים
שהאדם עושה, והמעשים האלה מביאים לאדם
באורח פלא, ידיעות טבעיות.
לאדם הנוגע בגוש קרח מגיעה ידיעה טבעית ברורה מאוד, והאדם מעניק לה שם שרירותי.
את השם השרירותי הוא משיג בעזרת הפסנתר הטבעי שלו. המסוגל להשמיע צלילים רבים.
האדם כבר מכיר את הידיעה הטבעית שהשם של מורכב מצליל ק ומצליל ר
כל התהליך הזה מתרחש בעזרת בינה טבעית.
לרובוט הנוגע בגוש קרח, אין בינה טבעית , ואין ידיעה טבעית. לרובוט יש בינה מלאכותית, והוא יכול למדוד את הטמפרטורה של המגע, אבל אין לו ידיעה טבעית ברורה של המגע בגוש קרח.
ידיעה טבעית ברורה כזו, יש לאדם.
הרובוט – לא יודע
יש הבדל תהומי בין בינה מלאכותית לטבעית. בינה טבעית שייכת לאדם המשיג ידיעות טבעיות בעקבות מעשה שהוא עושה.
הבינה המלאכותית היא מוגבלת, ולעולם לא תגיע לבינה טבעית של אדם.
יש הרבה ציפיות מבינה מלאכותית, והבלשנות העצברית הורידה את רמת הציפיות , לרמה מכנית פשוטה.
הבלשנות העצברית היא שיר תהילה לאדם היודע
א.עצבר
אולי אנו יותר דומים לאדם רנדומלי שיושב לידינו ממה שאנו דומים לאותו ילד בגנון שהינו לפני שנים רבות?
אנחנו מעוצבים ע”י דחפים\רגש שמושפעים מביטוי גנטי עם הסביבה הפיזית והחברתית,
מעל זה גם מעוצבים הרובד החברתי שלנו שהשפות השונות הם חלק מרכזי בה,
הדחפים\רגשות שלנו נמצאים באינטרקציה הדוקה מתמדת לפעמים חופפת עם החלק שבנו שעוצב ע”י ידע מצטבר של אלפי שנים של החברה האנושית ,
ה AI מהסוג החדש מחקה את המעטפת החיצונית של האדם ללא מערכת הדחפים והרצונות (הם דינאמים) שהם סוג של עמוד שדרה בחשיבה האנושית,
סביר להניח שבהמשך הגבולות החיצונים בינינו ל AI יקטנו אם כי כל עוד זאת מערכת שאינה מרגישה יהיה שוני
בינינו לבין המערכות האלו זאת תהיה מערכת שהיא סימולציה של תודעה, גם אדם שהוא מערכת בעלת רגשות כגון אמפטיה לאחר יכול לכבות חלקים מהרגשות שלו שזה יכול לבוא מהשפעה חברתית אבל למערכת AI לא יהיה בכלל רכיב של רגשות שניתן להדליק אותו, ניתן יהיה להסביר לו רק מהם ההשפעות החיצוניות של הרגשות אבל באמת להבין מהם רגשות לחוש אמפטיה לסבל ועצב של תודעה אחרת זה משהו שחייבים לחוות מבפנים ,
כמו מערכת שמנתחת ספקטרומים של אור מביאה לך מספר אבל לא רואה צבעים כמו מערכות בעלות תודעה כגון אדם .