שלוש השאלות שאינטליגנציה מלאכותית לא תוכל להשיב עליהן

האו גינגפאנג, סופרת מדע בדיוני סינית, הציגה את השאלות שלהערכתה גם אם כוח העיבוד יהיה אינסופי – אף מחשב לא יוכל לענות עליהן ולא יוכל לעבור את מבחן טיורינג, אלא אם כן תהיה חשיבה אחרת בפיתוח אלגוריתמים.

לאן עכשיו, בינה מלאכותית? אילוסטרציה: pixabay.
לאן עכשיו, בינה מלאכותית? אילוסטרציה: pixabay.

באחרונה התקיימה בבייג'ינג ועידה המכונה 2017 Tencent WE Summit, שעלתה לכותרות, גם בארץ, בזכות הרצאתו של פרופ' סטיבן הוקינג ואזהרתו שכדור הארץ יהיה בלתי ראוי למגורים בגלל תהליך ההתחממות. בוועידה לקחת גם חלק האו גינגפאנג, סופרת מדע בדיוני סינית, זוכת פרס הוגו על הסיפור הקצר לשנת 2016.

האו, העובדת במחקרים מאקרו-כלכליים במכון המחקר והפיתוח הסיני, ארגון חוץ ממשלתי הממוקם בביג'ינג, הרצתה על הבינה המלאכותית, והציגה שלוש שאלות שלהערכתה גם אם כוח העיבוד יהיה אינסופי, אף מחשב לא יוכל לענות על השאלות הללו ולא יוכל לעבור את מבחן טיורינג, אלא אם כן תהיה חשיבה אחרת בפיתוח אלגוריתמים.

"יום אחד פנה אלי אחד המנהלים שלי ואמר: 'אנחנו משקיעים המון בפיתוח תבונה מלאכותית. אני רוצה לבדוק האם המערכות הללו מסוגלות לעבור את מבחן טיורינג'. שאלתי אותו אלו אלגוריתמים המערכת מכילה, והוא השיב: 'למידה עמוקה, למידה מוגברת (Reinforcement Learning) ולמידה מ-Big Data. אלו האלגוריתמים הפופולריים ביותר כיום'.  אמרתי לו בסדר. למעשה רק שלוש שאלות קטנות יכולות לגלות זאת, אם כי אני משוכנעת שהוא לא יכול לעבור את מבחן טיורינג".

שאלות שכל אדם יכול להבין – אך לא מכונות

"מדובר בשלוש שאלות שכל אדם יכול להבין – אך לא מכונות, לפחות כעת. השאלה הראשונה: אם קולומבוס לא היה מגלה את העולם החדש, אילו מנות במטבח הסיני היו מושפעות"?

"התשובה פשוטה לנו, בני האדם. כולנו יודעים שקולומבוס והמתיישבים באמריקה הביאו לעולם הישן את הדלעת, התירס, תפוח האדמה הרגיל והמתוק, בוטנים ופלפל. כמובן, אם לא היה פלפל אי אפשר היה לבשל שום דבר מהמטבח הסצ'ואני. התשובה משתמשת בהגיון הפשוט של חיי היומיום".

"עבור בינה מלאכותית זה נושא חוצה תחומים. היא כוללת הסטוריה, ניסיון בחיי היומיום וקישור בין מאכלים. בינה מלאכותית לא יכולה לענות על שאלות מסוג זה".

"השאלה השניה היא – אם נערה אמרה שהיא לא ציפתה שיהיה כל כך קר היום, איזו תשובה היא אמורה לקבל ממערכת הבינה המלאכותית"?

"אם מערכת הבינה המלאכותית מקריאה את תחזית מזג האוויר כתשובה, ברור שלא לזה היא התכוונה. אולי היא רצתה חיבוק? התשובה תלויה ביחסים שלך איתה, באישיות שלה, זה גם תלוי בנסיבות שבהן המשפט נאמר".

התגובה עשויה להיות סטירה בפרצוף

"אם היא חברה טובה שלך, תלביש עליה בגד חם ותן לה חיבוק, אבל מה אם היא הבוסית שלך שאמרה שהיא לא ציפתה שיהיה כל כך קר היום? אם תגיד 'תני לי לחבק אותך', התגובה עשויה להיות סטירה בפרצוף. אולי היא התכוונה לומר 'לא עשית את עבודתך היטב. לא חיממת את החדר לפני שהגעתי'. מה שאתה צריך לעשות באותו רגע זה לומר, 'מצטער בוסית. בפעם הבאה אסדר זאת לפני שתגיעי'".

"אז מה הבעיה? הבעיה נמצאת בצד השני של מה שהיא אמרה. המשמעות, כיצד היא רצתה שנגיב. הדבר משתנה מאדם לאדם. הוא דורש מאיתנו לקרוא את האנשים, להבין את הרעיונות שלהם כדי לענות את התשובה הנכונה".

"השאלה השלישית היא – בשנה הבאה תוכל ללמוד אנגלית. תוכל גם ללמוד תכנות. מה תבחר ללמוד ומדוע"?

"זו בעיה קלה מאוד עבורנו. אנו צופים כל יום בסוגים רבים של פרסומות. כולנו מוצפים בסוגים רבים של מידע. אנחנו יכולים להחליט בעצמנו מה אנו רוצים לסנן החוצה. זו גם שאלה שאין לה תשובה נכונה אחת. התשובה לא מגיעה מהעולם החיצון אלא מהחלטה פרטית של כל אחד. כל אחד מכיר את עצמו ואת אישיותו, מה החלום שלו, ומהם מטרותיו לעתיד. כיצד אתה משיג מטרות אלה? אתה תחליט מה ללמוד בהתבסס על מי שאתה ומה אתה רוצה".

"מכונות בעלות בינה מלאכותית אינן יכולות להבין את עצמן. הן אינן מסוגלות לקבל החלטות עבור עצמן. כשאתה אומר ל-AlphaGo לשחק WeiQi (שמו של משחק הגו בסינית) היא לא אומרת, 'אני לא רוצה לשחק WeiQi, אני רוצה במקום זאת ללכת לראות סרט'. המכונה לא תקבל החלטות מסוג זה משום שהיא אינה מודעת לעצמה – אין לה קוגניציה עצמית".

נדרש שינוי חשיבתי

"לפיכך, היכולת לקבל החלטות הנוגעות לך עצמך – היא ההבדל בין תבונה מלאכותית לתבונה אנושית. הבוס אמר לי 'נתת דוגמאות פשוטות, ויש גם התקדמות – הנה AlphaGo Zero ניצחה את AlphaGo בתוך שלושה ימים. האם לא ניתן ללמד אותו כל דבר במהירות'"?

"אמרתי לו בואו נראה מה AlphaGo יכול או לא יכול לעשות. החלק הטוב של AlphaGo הוא יכולת הלמידה העמוקה והאינטנסיבית. יש לו עוצמה חזקה ונפח אחסון גדול. הלמידה העמוקה מתאפשרת בזכות רשת נוירונים מלאכותית – אלגוריתם סטטיסטי מבוסס נתונים המחקה את הרשת העצבית שבמוח האדם. היא מסוגלת למצוא תבניות בהררים של נתונים וכך לפתח את האלגוריתם הטוב ביותר לצעד הבא במשחק. זה ההבדל הגדול בינה לדורות הקודמים של הבינה המלאכותית".

"הדור האחרון של מערכות התבונה המלאכותית היו למעשה מערכות מומחה", הסבירה גיגפאנג. "המומחה היה אומר להם כיצד לשחק שחמט וכך הן שיחקו. ואולם הדור הנוכחי של הבינה המלאכותית עם היכולת הזו של למידה לעומקים כאלה, התוכנה יכולה ללמוד לשחק שחמט בעצמה. אבל היא מאוד מוגבלת. מכיוון שהיא מריצה אלגוריתמים, היא יכולה לטפל רק במידע חד משמעי בתחום מקצועי מוגדר".

במילים אחרות, הסבירה, "בתוך גבולות מוגדרים היא מסוגלת לטפל בנתונים בשטח המקצועי הנתון ולגלות מהי התוצאה הטובה ביותר. היא לא מבינה שהיא עומדת לשחק WeiQi. היא לא יודעת שהיא AlphaGo. היא לא יודעת שהיא מביסה את שחקני הגו המקצוענים הטובים ביותר בעולם".

"גם אם היא משחקת WeiQi היא עדיין לא יכולה להרגיש שמחה. היא פשוט מריצה את הנתונים. אך עדיין אין לה את היכולות הקוגניטיביות ברמה הגבוהה – מודעות עצמית, הכרה. ואז הבוס אמר: אני יודע שהעניינים מתקדמים מהר מאוד בימינו. כוח המחשוב עולה כל הזמן. האם תוספת יכולת עיבוד תאפשר לו ללמוד גם את היכולות הללו? אני מאמינה שיום אחד, התבונה המלאכותית תתגבר על המכשולים הללו אבל רק תוספת כוח מחשוב לא תעזור. נדרש שינוי חשיבתי", מסכמת האו.

ראו עוד בנושא באתר הידען:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

36 תגובות

  1. יריב
    אז כאן אתה טועה. אם תיקח רשת עיצבית שאומנה לזהות חתולים, ותלמד אותה לזהות דגים – אז היא כבר לא תדע לזהות חתולים. היא תשנה את המשקלים בסינספות שכוילו למטרה אחת, עבור המטרה השנייה.

    כן – אדם מבוגר לומד שפה שנייה באיזור אחר במוח. את זה אנחנו יודעים בוודאות. בכלל, הנושא של "איזורים" הוא זר לרשתות מלאכותיות, אבל הוא חלק בסיסי במבנה של המוח.

    אם מה שאתה אומר היה נכון, היינו מצפים שלאנשים שונים תהיה אותה רמת אינטליגנציה, או שאולי האינטליגנציה תהיה תלויה באופן ישיר בגודל המוח. זה רחוק מלהיות נכון.

    האם אתה חושב שזה שאנחנו מכוונים לזהות דברים מסויימים תלוי בחיבורים בין הניורונים? המוח שלנו מתוכנן לחלק את העולם ל-5: אנשים, חיות, צמחים, כלים ועצמים בטבע. (יש לכך בסיס אמפירי רחב). האם אפשר להגיד שזה נובע בגלל משהו בחיבור הניורונים? על סמך מה אפשר לטעון ככה?

  2. ניסים,

    אתה אומר שאצל מבוגרים שפה שנייה נשמרת במקום אחר במוח, ואצל ילדים שתי השפות נשמרות באותו מקום?

    בכל מקרה אני לא מסכים איתך שיש מנגנונים במוח שהם מעל לרשת הבסיסית ושזה דבר שאנחנו ממש לא מבינים… לדעתי זה בסך הכל עניין של איך הרשת העצבית מתארגנת מבפנים, למשל כאשר אתה מאמן רשת עצבית לזהות תמונות של חתולים וכלבים האם שניהם ישמרו ברשת באותו מקום? או במקומות שונים? ואם אימנת קודם רשת עצבית במשך זמן רב לזהות רק חתולים, ואחרי שהיא הפכה למומחית בזיהוי חתולים פתאום התחלת ללמד אותה לזהות גם דגים, האם הדגים והחתולים ישמרו באותו מקום ברשת או לא?

    דרך אגב נעשה משהו דומה עם הרשת העצבית של דיפ-מיינד, המהנדסים שם גילו שאם הרשת מתאמנת אך ורק מול עצמה היא מגיעה להישגים הרבה יותר גבוהים מאשר אם קודם היא התאמנה על המון משחקים של בני אדם, ורק לאחר מכן התחילה לשחק נגד עצמה. זה מזכיר קצת את עניין לימוד השפות לא?

    לגבי הטפיר, זה תלוי בתבניות שהמוח שלך מכיר ולמד לזהות… אם יעבור שם כלב ואותו מקומי יצביע עליו ויגיד לך ״בוגיטמו״ אתה כנראה תחשוב שזה ״כלב״ בשפה המקומית, אבל אם הוא יצביע על הכלב ויגיד לך ״מקס״, ״רקסי״ או ״מוקי״ אתה כנראה תחשוב שזה השם של הכלב הספציפי הזה, הכל תלוי בנסיבות ובדברים שהרשת העצבית כבר מכירה.

  3. יריב
    הבעיה היא לא כמות הניורונים – הרי אין כזה דבר ניורון "לא בשימוש". כל תאי המוח מחוברים כל הזמן. מה שקורה הוא ששפה שנייה אצל מבוגר נשמר במקום אחר במוח. כלומר – יש מנגנונים במוח שהם מעל לרשת הבסיסית, וזה דבר שאנחנו ממש לא מבינים היום, אז אין סיכוי שמישהו מימש את זה נכון ברשת מלאכותית.

    מה שאמרת בקשר לטפיר זה נכון. אבל למה זה נכון? איך אתה יודע שהוא לא התכוון לשם הטפיר (אם זו הייתה הכלבה שלי הייתי אומר "בקי", ולא כלב). למה פירוש המילה אינו "אוכל", או "חיה", או "רץ"? למה דווקא המין של החיה? הסיבה היא (כנראה) שיש לנו מנגנון למידה במוח, מנגנון מולד. אחרת, איך תינוק יכול ללמוד שמות של עצמים? איך הוא מבחין בין "כלב" ל"בקי"?
    כלומר – יש לנו שכבות במוח מעל לרשת הניורונים המהווה את התשתית. לחיות אחרות אין את השכבה הזו, אבל אנחנו לא יודעים כלום על המנגנון הזה (ברמה של ניורו-ביולוגיה, לפסיכולוגים יש יותר הבנה בנושא).
    עד שלא נבין את המכנונים האלה, אנחנו מאד רחוקים מלבנות בינה כמו של האדם.

  4. ניסים,

    ההיגיון הבריא אומר לי כמובן שמשמעות המילה שהוא אמר היא ״טפיר״.

    לגבי שתי שפות שילד זוכר את שתיהן ומבוגר שוכח את השפה הקודמת דווקא נשמע לי מאוד הגיוני. במוחו של ילד ישנה כמות הרבה יותר גדולה של נוירונים ולכן המוח יכול להרשות לעצמו לעשות שימוש בחלק מהם עבור שפה אחת ובקבוצת נוירונים אחרת עבור השפה השנייה.

    אצל מבוגר לעומת זאת המוח לא יכול להיות כל כל נדיב כי כמות המשאבים קטנה יותר… לכן הוא נאלץ להקצות חלק מהנוירונים ששימשו עבור השפה הראשונה בשביל השפה השנייה.

  5. יריב
    אני חושב שהשתמשו בגוגל לתרגם, אבל אין לי דרך לדעת.
    אנחנו רחוקים מאד מלהבין איך המוח מתרגם שפות. אנחנו יודעים שיש הבדל מהותי בין תינוק שלמד שתי שפות לבין מבוגר שלמד שפה שנייה (אחד ההבדלים, אבל לא היחיד, הוא שבגיל מבוגר יש נטייה לשכוח שפה שנייה , אם היא נלמדה מאוחר).
    יותר מזה – אנחנו מבחינים בין שני סוגים של שפה שנייה: פידג'ין וקריאול. בגדול, הסוג הראשון הוא מה שלומדים מבוגרים שעוברים למדינה זרה, והסוג השני הוא השפה שהילדים של אנשים אלה לומדים מהוריהם (ההבדלים הם בדקדוק של השפות).

    הדרך שבני אדם רוכשים שפה אינו דומה לדרך בה מלמדים במחשבים. יש לנו מבנים במוח שתפקידם לעבד שפה, ואין לנו מושג איך הם עובדים.

    אין לנו הרבה מושג איך המוח מאפל בשפה, בטח שלא הרמה של ניורונים. אין לנו אפילו מושג כמה סוכי ניורונים יש במוח (טוענים שבאיזור 10,000). אפשר גם להגיד שהמוח שלנו ומחשב עובדים באותה צורה, כי בשניהם יש אותות חשמליים. זה לא אומר כלום 🙂 אין לנו דרך מעשית היום לחקור את מוח האדם – מכשירי MRI לא רואים ניורונים, וכשכן מתחברים לניורון – זה לא כולל את הסינאפסות (יש לעיתים עשרות אלפים לתא בודד).

    בוא אשאל אותך שאלה. אתה הולך באמזונס עם מקומי שלא יודע אנגלית. ברגע מסויים טפיר חוצה את הדרך – המקומי מצביע אליו ואומר "גאלאגאי". מה אתה חושב פירוש המילה הזו?

  6. ניסים,

    השאלה אם התרגום שאתה מדבר עליו נעשה באמצעות רשת עצבית או בעזרת שיטות אחרות. לפי מה שאני מבין התרגום באמצעות רשת עצבית כבר מתחיל להיות כבר הרבה יותר טבעי ומדוייק ממה שראינו עד היום:

    https://www.tgspot.co.il/google-translate-is-now-able-to-translate-even-more-languages/

    ודרך אגב גם לא הייתי ממהר להגיד שהרשת ״לא מבינה״ את מה שהיא מתרגמת, סה״כ אופן התרגום שלה דיי דומה למה שנעשה אצלנו במוח, לפחות ברמה הבסיסית.

  7. יריב
    בעיקר באתר אחד שמרכז חדשות בעולם ה-VR. המאמרים מתורגמים לאנגלית, אבל אני לא יודע מאילו שפות. אני מבחין שהמאמרים (בחלקם) מתורגמים כי יש שם טעויות מצחיקות. פעם היה כתוב "expensive reader", ופעם היה כתוב "monkey paper". אני יודע שהאחרון זה תרגום מעברית (נייר קופי….).

  8. ניסים,

    סתם סקרנות, היכן יוצא לך לקרוא הרבה מאמרים שתורגמו ע״י מחשב? זה אתר אינטרנט מסויים? מאיזו שפה לאיזו שפה התרגום?

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן