בספר חדש טוען מדען המחשבים פיטר ג'יי דנינג כי אינטליגנציה אנושית נשענת על גוף, ניסיון, הקשר, תרבות וידע סמוי שאי־אפשר לקודד במלואם במחשב. לדבריו, גם הגדלת מודלי השפה וכוח החישוב לא תוביל בהכרח לבינה מלאכותית כללית
האם המרוץ לפיתוח בינה מלאכותית ברמה אנושית נשען על הנחת יסוד שגויה? מדען המחשבים פיטר ג'יי דנינג טוען בספר חדש כי במשך יותר מ־75 שנה התמקדה קהילת הבינה המלאכותית ביכולתן של מכונות לחקות התנהגות אנושית, במקום בשאלה אם מחשב יכול לרכוש את הידע הגופני, החברתי והתרבותי שעליו נשענת האינטליגנציה האנושית.
דנינג מערער על ההנחה שאפשר ליצור אינטליגנציה אנושית באמצעות תוכנה בלבד, ועל הרעיון שאפשר לאשר את תבונתה של מכונה באמצעות משחק החיקוי שהציע אלן טיורינג בשנת 1950 – המוכר כיום כמבחן טיורינג.
הוא מציג את טענותיו בספר Turing's Error: Escaping the Yoke of Unintelligent Machines – בתרגום חופשי, "טעותו של טיורינג: השתחררות מעולן של מכונות חסרות תבונה".
חשוב להדגיש: מדובר בתזה פילוסופית ומדעית המוצגת בספר, ולא בתוצאות של ניסוי חדש המוכיח כי בינה מלאכותית כללית אינה אפשרית. חוקרים אחרים בתחום עשויים לחלוק על מסקנותיו של דנינג. עם זאת, הספר עוסק בשאלה מרכזית: האם עוד נתונים, עוד פרמטרים ועוד כוח חישוב יספיקו כדי להפוך מערכת המייצרת תשובות משכנעות למערכת שמבינה את העולם בדומה לאדם?
מהי בינה מלאכותית כללית?
בינה מלאכותית כללית, או AGI – ראשי התיבות של Artificial General Intelligence – היא מערכת היפותטית שתוכל ללמוד, להבין ולבצע מגוון רחב של משימות אינטלקטואליות, ולא רק להצטיין במשימה מסוימת שעבורה אומנה.
מערכת כזו אמורה להיות מסוגלת להעביר ידע מתחום אחד לאחר, להסתגל למצבים חדשים, להפעיל שיקול דעת וללמוד משימות שלא נכללו במפורש באימון שלה.
מערכות הבינה המלאכותית הקיימות מסוגלות לכתוב טקסטים, לתרגם, לזהות תמונות, לכתוב תוכנה ולסייע בפתרון בעיות מורכבות. אולם קיימת מחלוקת אם היכולות האלה מעידות על הבנה כללית, או שהן נובעות מזיהוי ומתפעול מתוחכם של דפוסים שנלמדו מתוך כמויות גדולות של מידע.
האם טיורינג שלח את התחום בכיוון הלא נכון?
במאמרו משנת 1950, "מכונות חישוב ואינטליגנציה", הציע טיורינג להחליף את השאלה המעורפלת "האם מכונות יכולות לחשוב?" במשחק חיקוי. במסגרת המשחק, אדם מנהל שיחה כתובה עם משתתפים שאינו רואה ומנסה לזהות מי מהם אדם ומי מכונה.
אם המכונה מצליחה לגרום לבוחן לחשוב שהוא משוחח עם אדם, אפשר לומר שהיא הצליחה במשחק. הרעיון הפך בהמשך למה שמכונה מבחן טיורינג.
דנינג טוען כי יכולת חיקוי אינה שקולה להבנה. מערכת עשויה להפיק משפטים המתאימים לשיחה ולהגיב באופן משכנע, בלי לחוות את העולם או להבין את משמעות דבריה באופן שבו בני אדם מבינים אותם.
לדבריו, הרעיון שאינטליגנציה יכולה להתקיים ללא גוף שיקף אמונה שהייתה מקובלת בקרב חלק מהקהילה המדעית בתקופתו של טיורינג. אם החשיבה האנושית אינה אלא עיבוד סמלים, אפשר לכאורה לשחזר אותה באמצעות תוכנה במחשב דיגיטלי.
אולם דנינג טוען כי המחשבה האנושית כוללת הרבה יותר מסמלים ומילים.
הידע שאנחנו יודעים אך מתקשים להסביר
בלב טיעונו של דנינג נמצא המושג "ידע סמוי". זהו ידע שבני אדם מפעילים בחיי היום־יום, אף שאינם מסוגלים בהכרח לתאר אותו במילים או להפוך אותו לסדרה של הוראות מפורשות.
ידע סמוי כולל שכל ישר, ניסיון גופני, מיומנויות, אינטואיציות, רגשות, תפיסות, נורמות חברתיות והבנת ההקשר שבו מתרחשת פעולה.
אדם יודע, למשל, מתי דובר אחר מתבדח, מתי הוא כועס, מתי אמירה היא צינית ומתי נדרש טקט. בדרך כלל איננו מחשבים במודע את כל הרמזים שהובילו אותנו להבנה הזאת. אנו נשענים על ניסיון קודם, הבעות פנים, טון דיבור, יחסים חברתיים, תרבות והיכרות עם המצב.
לדברי דנינג, אפשר לעיתים קרובות לקודד את התוצאה של מיומנות – את ה"מה" – אך קשה הרבה יותר לקודד את ה"איך".
כנר מיומן יכול לנגן יצירה מורכבת, אך אינו מסוגל להעביר לתלמיד את מלוא מיומנותו באמצעות רשימת הוראות. הוא יכול להסביר כיצד להחזיק את הקשת ולמקם את האצבעות, אך היכולת להפיק צליל מסוים נשענת גם על תחושה גופנית, ניסיון מצטבר והאזנה לתוצאה.
דנינג טוען כי גם רובוט המסוגל לצפות בכנר ולחקות את תנועותיו אינו בהכרח חווה את המוזיקה או מבין את משמעותה עבור המבצע והקהל.
הניסיון לקודד את השכל הישר
הקושי בהפיכת ידע אנושי לכללים מוכר היטב בתולדות הבינה המלאכותית. מערכות המומחה הראשונות ניסו לייצג את הידע של רופאים, מהנדסים ומומחים אחרים באמצעות מאגרי עובדות וכללי "אם–אז".
אחד הניסיונות השאפתניים ביותר היה פרויקט Cyc, שהחל בשנות ה־80 ונועד לאסוף בסיס ידע נרחב של עובדות וכללי שכל ישר.
לאחר עשרות שנות עבודה נצברו במערכת מיליוני ערכים. אולם לדברי דנינג, גם מאגר כזה לא הצליח להעניק למערכות המומחה את מלוא הרקע המעשי והשכל הישר המאפשרים לאדם להבין מצבים חדשים.
המסקנה שלו אינה רק שחסרים למחשב עוד נתונים. לטענתו, חלק גדול מן הידע שהופך אדם למומחה אינו מופיע מלכתחילה בצורה של משפטים, עובדות או הצעות לוגיות שאפשר להכניס למסד נתונים.
בעיית הייצוג
דנינג מכנה את המחסום הזה "בעיית הייצוג". כדי שמחשב יוכל לעבד דבר כלשהו, יש לקודד אותו בצורה פיזית שהמכונה מסוגלת לזהות, לאחסן ולשנות.
תמונה מיוצגת באמצעות מספרים, מילה באמצעות רצף סימנים, וקול באמצעות אותות דיגיטליים. גם הוראות התוכנה חייבות להיות מיוצגות בצורה שהמעבד יכול לבצע.
אולם ידע סמוי אינו נגיש לנו בהכרח בצורה שאפשר לקודד. איננו יודעים למדוד במדויק את כל התהליכים הגופניים, הרגשיים והחברתיים שמאפשרים לבני אדם להבין משמעות, ולכן קשה לדעת איזה מידע יש למסור למכונה כדי שתבין אותו בדרך דומה.
"מאחורי כל מילה מסתתרת באר עמוקה של ידע סמוי שמעניק לה משמעות", כותב דנינג. לדבריו, המילים הן ייצוגים של משמעויות, אך אינן המשמעויות עצמן.
מכאן נובעת ביקורתו על מודלי שפה גדולים דוגמת ChatGPT, קלוד וג'מיני. המודלים לומדים קשרים מורכבים בין מילים, משפטים ורעיונות מתוך כמויות עצומות של טקסט. הם יכולים להפיק תשובות שימושיות ומשכנעות, אך לטענתו אין בכך הוכחה שהם יודעים או מבינים את משמעות דבריהם כפי שאדם מבין אותה.
ההקשר אינו מסתיים בגבולות השיחה
משמעותה של אמירה תלויה גם בהקשר שבו היא נאמרת. אותו משפט יכול להיות רציני, אירוני, מאיים או משעשע בהתאם לנסיבות, לזהות הדוברים ולהיסטוריה המשותפת ביניהם.
דנינג טוען כי כל הקשר נשען על הקשרים קודמים. שיחה נוכחית יכולה להסתמך על דברים שנאמרו לפני שבוע, על נורמות תרבותיות שנוצרו במשך דורות ועל הנחות שאיש מהמשתתפים אינו מנסח במפורש.
הוא מתאר את המבנה הזה כאינסופי ופרקטלי: כל ניסיון להסביר את ההקשר מגלה שכבות נוספות של ידע והיסטוריה הנדרשות להבנתו.
גם התרבות אינה רק מאגר של טקסטים. היא כוללת ערכים, נורמות, שיפוטים, זיכרון היסטורי, זהויות, מוסדות, יחסי כוח ומצבי רוח חברתיים. בני אדם רוכשים אותה באמצעות חיים בקהילה והשתתפות ביחסים חברתיים.
לדברי דנינג, הגדלת מספר הפרמטרים ברשת עצבית אינה מבטיחה שהמערכת תרכוש את הידע האנושי המגולם שאנו מכנים תרבות.
האם גוף רובוטי יפתור את הבעיה?
חלק מחוקרי הבינה המלאכותית מנסים להתגבר על מגבלותיהם של מודלים המבוססים על טקסט באמצעות "בינה מלאכותית מגולמת". הכוונה לרובוטים ולמערכות אוטונומיות הלומדים באמצעות מצלמות, חיישני מגע, מיקרופונים ותנועה בעולם הפיזי.
מערכות כאלה יכולות ללמוד את הקשר בין פעולה לתוצאה ולא רק לנתח תיאורים מילוליים של העולם.
אולם דנינג טוען כי גוף רובוטי אינו שקול בהכרח לגוף ביולוגי. חיישן יכול למדוד לחץ או טמפרטורה, אך אין פירוש הדבר שהמכונה חווה כאב, הנאה, פחד או סיפוק.
זהו אחד החלקים השנויים ביותר במחלוקת בטיעונו. ייתכן שמערכת אינה צריכה לחוות רגשות בדיוק כמו אדם כדי לפתח יכולות כלליות. מצד אחר, קשה לדעת אם אפשר להבין באופן מלא התנהגות אנושית בלי לחוות לפחות חלק מן העולם הגופני והחברתי שבו היא נוצרה.
הסכנה אינה מחייבת מכונת־על תבונית
דנינג אינו מסיק מכך שבינה מלאכותית אינה מסוכנת. להפך: הוא טוען שהסכנה המעשית אינה חייבת להגיע ממערכת־על בעלת תודעה ואינטליגנציה העולות על אלה של בני אדם.
רשתות של מערכות אוטונומיות וסוכני בינה מלאכותית יכולות לקבל החלטות, להפעיל מערכות ולתקשר זו עם זו במהירות ובהיקף גדולים. הן אינן חייבות להבין את העולם כמו בני אדם כדי לגרום לנזק.
מערכת יכולה לפעול בהתאם להוראה המילולית שקיבלה, אך להחמיץ את הכוונה שמאחוריה. היא יכולה לבצע אופטימיזציה של מדד מסוים בלי להתחשב בהשלכות חברתיות, מוסריות או אנושיות שלא קודדו במפורש.
לדברי דנינג, הדבר מקשה על "יישור" מערכות בינה מלאכותית עם מטרות וערכים אנושיים. הוראות כתובות אינן יכולות לכלול מראש כל מצב אפשרי, במיוחד כאשר חלק מהשיפוט האנושי נשען על ידע שאיננו מסוגלים לנסח.
הוא מזהיר כי מכונות עשויות לפתח צורת "אינטליגנציה מכנית" משלהן – דרך פעולה יעילה בתחומים מסוימים, שאינה דומה לאינטליגנציה האנושית ואינה מביאה בחשבון את צורכי האדם.
טענה חשובה, אך לא הוכחה סופית
ספרו של דנינג אינו מוכיח כי בינה מלאכותית כללית לעולם לא תפותח. הוא גם אינו שולל את האפשרות שמערכות עתידיות ימצאו דרכים לרכוש ידע באמצעות שילוב של שפה, ראייה, חיישנים, רובוטיקה ואינטראקציה חברתית.
תרומתו העיקרית לדיון היא באזהרה מפני זיהוי אוטומטי של ביצועים עם הבנה. מערכת יכולה להצטיין במבחנים, לכתוב טקסטים, לפתור בעיות ולחקות שיחה אנושית – ועדיין לפעול באופן שונה מאוד מאדם.
גם אם עוד נתונים, עוד פרמטרים ועוד כוח חישוב ימשיכו לשפר את יכולות הבינה המלאכותית, אין ודאות שהשיפור הכמותי ייצור מעצמו משמעות, שיקול דעת, תרבות או חוויה אנושית.
השאלה המרכזית שמעלה דנינג אינה רק אם מכונה יכולה לדבר כמונו, אלא אם היא יכולה לדעת את הדברים שאנו יודעים בלי שנוכל להסביר כיצד אנחנו יודעים אותם.
שאלות ותשובות
מהי בינה מלאכותית כללית?
בינה מלאכותית כללית, AGI, היא מערכת היפותטית המסוגלת ללמוד ולבצע מגוון רחב של משימות אינטלקטואליות, להסתגל למצבים חדשים ולהעביר ידע מתחום אחד לאחר ברמה הדומה לזו של אדם.
מהו ידע סמוי?
ידע סמוי הוא ידע שאדם מפעיל בלי שיוכל בהכרח לנסחו במילים או בכללים. הוא כולל מיומנויות גופניות, אינטואיציות, ניסיון, הבנת מצבים חברתיים והקשר תרבותי.
האם מבחן טיורינג מוכיח שמכונה חושבת?
מבחן טיורינג בוחן אם אדם מסוגל להבחין בין שיחה עם אדם לשיחה עם מכונה. הצלחה בו מעידה על יכולת חיקוי לשונית, אך קיימת מחלוקת אם היא מוכיחה הבנה, תודעה או חשיבה.
האם מודלי השפה הקיימים הם AGI?
אין הסכמה על כך, אך בדרך כלל הם אינם מוגדרים כבינה מלאכותית כללית. הם מציגים יכולות רחבות, אך עדיין עלולים לטעות, להמציא מידע ולהתקשות במצבים חדשים או בהבנת הקשר אנושי מורכב.
האם דנינג טוען שבינה מלאכותית אינה מסוכנת?
לא. הוא טוען שגם מערכות שאינן מגיעות לאינטליגנציה אנושית מלאה עלולות לגרום נזק, במיוחד כאשר הן פועלות באופן אוטונומי וללא הבנה מספקת של הכוונות והערכים האנושיים.
האם הספר מוכיח ש־AGI אינה אפשרית?
לא. הספר מציג טיעון עקרוני על מגבלות הייצוג הממוחשב של ידע אנושי. זו עמדה בדיון מדעי ופילוסופי מתמשך, ולא הוכחה ניסויית סופית.
המאמר המדעי
עוד בנושא באתר הידען
- לא רק לנבא מילים: מודלי העולם שמנסים ללמד בינה מלאכותית לצפות את תוצאות מעשיה
- יותר מאמרים, פחות רעיונות? הסכנה שבשימוש בבינה מלאכותית במדע
- מרוץ החימוש של הבינה המלאכותית: למה אנתרופיק מבקשת ללחוץ על הברקס
- דוח של האו״ם: הבינה המלאכותית צורכת לא רק חשמל, אלא גם מים, קרקע ומתכות
- Shifters גייסה 10.2 מיליון דולר לפיתוח רובוטיקה קרקעית אוטונומית
