האו גינגפאנג, סופרת מדע בדיוני סינית, הציגה את השאלות שלהערכתה גם אם כוח העיבוד יהיה אינסופי – אף מחשב לא יוכל לענות עליהן ולא יוכל לעבור את מבחן טיורינג, אלא אם כן תהיה חשיבה אחרת בפיתוח אלגוריתמים.
באחרונה התקיימה בבייג’ינג ועידה המכונה 2017 Tencent WE Summit, שעלתה לכותרות, גם בארץ, בזכות הרצאתו של פרופ’ סטיבן הוקינג ואזהרתו שכדור הארץ יהיה בלתי ראוי למגורים בגלל תהליך ההתחממות. בוועידה לקחת גם חלק האו גינגפאנג, סופרת מדע בדיוני סינית, זוכת פרס הוגו על הסיפור הקצר לשנת 2016.
האו, העובדת במחקרים מאקרו-כלכליים במכון המחקר והפיתוח הסיני, ארגון חוץ ממשלתי הממוקם בביג’ינג, הרצתה על הבינה המלאכותית, והציגה שלוש שאלות שלהערכתה גם אם כוח העיבוד יהיה אינסופי, אף מחשב לא יוכל לענות על השאלות הללו ולא יוכל לעבור את מבחן טיורינג, אלא אם כן תהיה חשיבה אחרת בפיתוח אלגוריתמים.
“יום אחד פנה אלי אחד המנהלים שלי ואמר: ‘אנחנו משקיעים המון בפיתוח תבונה מלאכותית. אני רוצה לבדוק האם המערכות הללו מסוגלות לעבור את מבחן טיורינג’. שאלתי אותו אלו אלגוריתמים המערכת מכילה, והוא השיב: ‘למידה עמוקה, למידה מוגברת (Reinforcement Learning) ולמידה מ-Big Data. אלו האלגוריתמים הפופולריים ביותר כיום’. אמרתי לו בסדר. למעשה רק שלוש שאלות קטנות יכולות לגלות זאת, אם כי אני משוכנעת שהוא לא יכול לעבור את מבחן טיורינג”.
שאלות שכל אדם יכול להבין – אך לא מכונות
“מדובר בשלוש שאלות שכל אדם יכול להבין – אך לא מכונות, לפחות כעת. השאלה הראשונה: אם קולומבוס לא היה מגלה את העולם החדש, אילו מנות במטבח הסיני היו מושפעות”?
“התשובה פשוטה לנו, בני האדם. כולנו יודעים שקולומבוס והמתיישבים באמריקה הביאו לעולם הישן את הדלעת, התירס, תפוח האדמה הרגיל והמתוק, בוטנים ופלפל. כמובן, אם לא היה פלפל אי אפשר היה לבשל שום דבר מהמטבח הסצ’ואני. התשובה משתמשת בהגיון הפשוט של חיי היומיום”.
“עבור בינה מלאכותית זה נושא חוצה תחומים. היא כוללת הסטוריה, ניסיון בחיי היומיום וקישור בין מאכלים. בינה מלאכותית לא יכולה לענות על שאלות מסוג זה”.
“השאלה השניה היא – אם נערה אמרה שהיא לא ציפתה שיהיה כל כך קר היום, איזו תשובה היא אמורה לקבל ממערכת הבינה המלאכותית”?
“אם מערכת הבינה המלאכותית מקריאה את תחזית מזג האוויר כתשובה, ברור שלא לזה היא התכוונה. אולי היא רצתה חיבוק? התשובה תלויה ביחסים שלך איתה, באישיות שלה, זה גם תלוי בנסיבות שבהן המשפט נאמר”.
התגובה עשויה להיות סטירה בפרצוף
“אם היא חברה טובה שלך, תלביש עליה בגד חם ותן לה חיבוק, אבל מה אם היא הבוסית שלך שאמרה שהיא לא ציפתה שיהיה כל כך קר היום? אם תגיד ‘תני לי לחבק אותך’, התגובה עשויה להיות סטירה בפרצוף. אולי היא התכוונה לומר ‘לא עשית את עבודתך היטב. לא חיממת את החדר לפני שהגעתי’. מה שאתה צריך לעשות באותו רגע זה לומר, ‘מצטער בוסית. בפעם הבאה אסדר זאת לפני שתגיעי'”.
“אז מה הבעיה? הבעיה נמצאת בצד השני של מה שהיא אמרה. המשמעות, כיצד היא רצתה שנגיב. הדבר משתנה מאדם לאדם. הוא דורש מאיתנו לקרוא את האנשים, להבין את הרעיונות שלהם כדי לענות את התשובה הנכונה”.
“השאלה השלישית היא – בשנה הבאה תוכל ללמוד אנגלית. תוכל גם ללמוד תכנות. מה תבחר ללמוד ומדוע”?
“זו בעיה קלה מאוד עבורנו. אנו צופים כל יום בסוגים רבים של פרסומות. כולנו מוצפים בסוגים רבים של מידע. אנחנו יכולים להחליט בעצמנו מה אנו רוצים לסנן החוצה. זו גם שאלה שאין לה תשובה נכונה אחת. התשובה לא מגיעה מהעולם החיצון אלא מהחלטה פרטית של כל אחד. כל אחד מכיר את עצמו ואת אישיותו, מה החלום שלו, ומהם מטרותיו לעתיד. כיצד אתה משיג מטרות אלה? אתה תחליט מה ללמוד בהתבסס על מי שאתה ומה אתה רוצה”.
“מכונות בעלות בינה מלאכותית אינן יכולות להבין את עצמן. הן אינן מסוגלות לקבל החלטות עבור עצמן. כשאתה אומר ל-AlphaGo לשחק WeiQi (שמו של משחק הגו בסינית) היא לא אומרת, ‘אני לא רוצה לשחק WeiQi, אני רוצה במקום זאת ללכת לראות סרט’. המכונה לא תקבל החלטות מסוג זה משום שהיא אינה מודעת לעצמה – אין לה קוגניציה עצמית”.
נדרש שינוי חשיבתי
“לפיכך, היכולת לקבל החלטות הנוגעות לך עצמך – היא ההבדל בין תבונה מלאכותית לתבונה אנושית. הבוס אמר לי ‘נתת דוגמאות פשוטות, ויש גם התקדמות – הנה AlphaGo Zero ניצחה את AlphaGo בתוך שלושה ימים. האם לא ניתן ללמד אותו כל דבר במהירות'”?
“אמרתי לו בואו נראה מה AlphaGo יכול או לא יכול לעשות. החלק הטוב של AlphaGo הוא יכולת הלמידה העמוקה והאינטנסיבית. יש לו עוצמה חזקה ונפח אחסון גדול. הלמידה העמוקה מתאפשרת בזכות רשת נוירונים מלאכותית – אלגוריתם סטטיסטי מבוסס נתונים המחקה את הרשת העצבית שבמוח האדם. היא מסוגלת למצוא תבניות בהררים של נתונים וכך לפתח את האלגוריתם הטוב ביותר לצעד הבא במשחק. זה ההבדל הגדול בינה לדורות הקודמים של הבינה המלאכותית”.
“הדור האחרון של מערכות התבונה המלאכותית היו למעשה מערכות מומחה”, הסבירה גיגפאנג. “המומחה היה אומר להם כיצד לשחק שחמט וכך הן שיחקו. ואולם הדור הנוכחי של הבינה המלאכותית עם היכולת הזו של למידה לעומקים כאלה, התוכנה יכולה ללמוד לשחק שחמט בעצמה. אבל היא מאוד מוגבלת. מכיוון שהיא מריצה אלגוריתמים, היא יכולה לטפל רק במידע חד משמעי בתחום מקצועי מוגדר”.
במילים אחרות, הסבירה, “בתוך גבולות מוגדרים היא מסוגלת לטפל בנתונים בשטח המקצועי הנתון ולגלות מהי התוצאה הטובה ביותר. היא לא מבינה שהיא עומדת לשחק WeiQi. היא לא יודעת שהיא AlphaGo. היא לא יודעת שהיא מביסה את שחקני הגו המקצוענים הטובים ביותר בעולם”.
“גם אם היא משחקת WeiQi היא עדיין לא יכולה להרגיש שמחה. היא פשוט מריצה את הנתונים. אך עדיין אין לה את היכולות הקוגניטיביות ברמה הגבוהה – מודעות עצמית, הכרה. ואז הבוס אמר: אני יודע שהעניינים מתקדמים מהר מאוד בימינו. כוח המחשוב עולה כל הזמן. האם תוספת יכולת עיבוד תאפשר לו ללמוד גם את היכולות הללו? אני מאמינה שיום אחד, התבונה המלאכותית תתגבר על המכשולים הללו אבל רק תוספת כוח מחשוב לא תעזור. נדרש שינוי חשיבתי”, מסכמת האו.
ראו עוד בנושא באתר הידען:
36 תגובות
אני מניח שהמכונות יודעות לחשוב.
הן פשוט חושבות אחרת.
יריב
אז כאן אתה טועה. אם תיקח רשת עיצבית שאומנה לזהות חתולים, ותלמד אותה לזהות דגים – אז היא כבר לא תדע לזהות חתולים. היא תשנה את המשקלים בסינספות שכוילו למטרה אחת, עבור המטרה השנייה.
כן – אדם מבוגר לומד שפה שנייה באיזור אחר במוח. את זה אנחנו יודעים בוודאות. בכלל, הנושא של “איזורים” הוא זר לרשתות מלאכותיות, אבל הוא חלק בסיסי במבנה של המוח.
אם מה שאתה אומר היה נכון, היינו מצפים שלאנשים שונים תהיה אותה רמת אינטליגנציה, או שאולי האינטליגנציה תהיה תלויה באופן ישיר בגודל המוח. זה רחוק מלהיות נכון.
האם אתה חושב שזה שאנחנו מכוונים לזהות דברים מסויימים תלוי בחיבורים בין הניורונים? המוח שלנו מתוכנן לחלק את העולם ל-5: אנשים, חיות, צמחים, כלים ועצמים בטבע. (יש לכך בסיס אמפירי רחב). האם אפשר להגיד שזה נובע בגלל משהו בחיבור הניורונים? על סמך מה אפשר לטעון ככה?
ניסים,
אתה אומר שאצל מבוגרים שפה שנייה נשמרת במקום אחר במוח, ואצל ילדים שתי השפות נשמרות באותו מקום?
בכל מקרה אני לא מסכים איתך שיש מנגנונים במוח שהם מעל לרשת הבסיסית ושזה דבר שאנחנו ממש לא מבינים… לדעתי זה בסך הכל עניין של איך הרשת העצבית מתארגנת מבפנים, למשל כאשר אתה מאמן רשת עצבית לזהות תמונות של חתולים וכלבים האם שניהם ישמרו ברשת באותו מקום? או במקומות שונים? ואם אימנת קודם רשת עצבית במשך זמן רב לזהות רק חתולים, ואחרי שהיא הפכה למומחית בזיהוי חתולים פתאום התחלת ללמד אותה לזהות גם דגים, האם הדגים והחתולים ישמרו באותו מקום ברשת או לא?
דרך אגב נעשה משהו דומה עם הרשת העצבית של דיפ-מיינד, המהנדסים שם גילו שאם הרשת מתאמנת אך ורק מול עצמה היא מגיעה להישגים הרבה יותר גבוהים מאשר אם קודם היא התאמנה על המון משחקים של בני אדם, ורק לאחר מכן התחילה לשחק נגד עצמה. זה מזכיר קצת את עניין לימוד השפות לא?
לגבי הטפיר, זה תלוי בתבניות שהמוח שלך מכיר ולמד לזהות… אם יעבור שם כלב ואותו מקומי יצביע עליו ויגיד לך ״בוגיטמו״ אתה כנראה תחשוב שזה ״כלב״ בשפה המקומית, אבל אם הוא יצביע על הכלב ויגיד לך ״מקס״, ״רקסי״ או ״מוקי״ אתה כנראה תחשוב שזה השם של הכלב הספציפי הזה, הכל תלוי בנסיבות ובדברים שהרשת העצבית כבר מכירה.
יריב
הבעיה היא לא כמות הניורונים – הרי אין כזה דבר ניורון “לא בשימוש”. כל תאי המוח מחוברים כל הזמן. מה שקורה הוא ששפה שנייה אצל מבוגר נשמר במקום אחר במוח. כלומר – יש מנגנונים במוח שהם מעל לרשת הבסיסית, וזה דבר שאנחנו ממש לא מבינים היום, אז אין סיכוי שמישהו מימש את זה נכון ברשת מלאכותית.
מה שאמרת בקשר לטפיר זה נכון. אבל למה זה נכון? איך אתה יודע שהוא לא התכוון לשם הטפיר (אם זו הייתה הכלבה שלי הייתי אומר “בקי”, ולא כלב). למה פירוש המילה אינו “אוכל”, או “חיה”, או “רץ”? למה דווקא המין של החיה? הסיבה היא (כנראה) שיש לנו מנגנון למידה במוח, מנגנון מולד. אחרת, איך תינוק יכול ללמוד שמות של עצמים? איך הוא מבחין בין “כלב” ל”בקי”?
כלומר – יש לנו שכבות במוח מעל לרשת הניורונים המהווה את התשתית. לחיות אחרות אין את השכבה הזו, אבל אנחנו לא יודעים כלום על המנגנון הזה (ברמה של ניורו-ביולוגיה, לפסיכולוגים יש יותר הבנה בנושא).
עד שלא נבין את המכנונים האלה, אנחנו מאד רחוקים מלבנות בינה כמו של האדם.
ניסים,
ההיגיון הבריא אומר לי כמובן שמשמעות המילה שהוא אמר היא ״טפיר״.
לגבי שתי שפות שילד זוכר את שתיהן ומבוגר שוכח את השפה הקודמת דווקא נשמע לי מאוד הגיוני. במוחו של ילד ישנה כמות הרבה יותר גדולה של נוירונים ולכן המוח יכול להרשות לעצמו לעשות שימוש בחלק מהם עבור שפה אחת ובקבוצת נוירונים אחרת עבור השפה השנייה.
אצל מבוגר לעומת זאת המוח לא יכול להיות כל כל נדיב כי כמות המשאבים קטנה יותר… לכן הוא נאלץ להקצות חלק מהנוירונים ששימשו עבור השפה הראשונה בשביל השפה השנייה.
יריב
אני חושב שהשתמשו בגוגל לתרגם, אבל אין לי דרך לדעת.
אנחנו רחוקים מאד מלהבין איך המוח מתרגם שפות. אנחנו יודעים שיש הבדל מהותי בין תינוק שלמד שתי שפות לבין מבוגר שלמד שפה שנייה (אחד ההבדלים, אבל לא היחיד, הוא שבגיל מבוגר יש נטייה לשכוח שפה שנייה , אם היא נלמדה מאוחר).
יותר מזה – אנחנו מבחינים בין שני סוגים של שפה שנייה: פידג’ין וקריאול. בגדול, הסוג הראשון הוא מה שלומדים מבוגרים שעוברים למדינה זרה, והסוג השני הוא השפה שהילדים של אנשים אלה לומדים מהוריהם (ההבדלים הם בדקדוק של השפות).
הדרך שבני אדם רוכשים שפה אינו דומה לדרך בה מלמדים במחשבים. יש לנו מבנים במוח שתפקידם לעבד שפה, ואין לנו מושג איך הם עובדים.
אין לנו הרבה מושג איך המוח מאפל בשפה, בטח שלא הרמה של ניורונים. אין לנו אפילו מושג כמה סוכי ניורונים יש במוח (טוענים שבאיזור 10,000). אפשר גם להגיד שהמוח שלנו ומחשב עובדים באותה צורה, כי בשניהם יש אותות חשמליים. זה לא אומר כלום 🙂 אין לנו דרך מעשית היום לחקור את מוח האדם – מכשירי MRI לא רואים ניורונים, וכשכן מתחברים לניורון – זה לא כולל את הסינאפסות (יש לעיתים עשרות אלפים לתא בודד).
בוא אשאל אותך שאלה. אתה הולך באמזונס עם מקומי שלא יודע אנגלית. ברגע מסויים טפיר חוצה את הדרך – המקומי מצביע אליו ואומר “גאלאגאי”. מה אתה חושב פירוש המילה הזו?
ניסים,
השאלה אם התרגום שאתה מדבר עליו נעשה באמצעות רשת עצבית או בעזרת שיטות אחרות. לפי מה שאני מבין התרגום באמצעות רשת עצבית כבר מתחיל להיות כבר הרבה יותר טבעי ומדוייק ממה שראינו עד היום:
https://www.tgspot.co.il/google-translate-is-now-able-to-translate-even-more-languages/
ודרך אגב גם לא הייתי ממהר להגיד שהרשת ״לא מבינה״ את מה שהיא מתרגמת, סה״כ אופן התרגום שלה דיי דומה למה שנעשה אצלנו במוח, לפחות ברמה הבסיסית.
יריב
בעיקר באתר אחד שמרכז חדשות בעולם ה-VR. המאמרים מתורגמים לאנגלית, אבל אני לא יודע מאילו שפות. אני מבחין שהמאמרים (בחלקם) מתורגמים כי יש שם טעויות מצחיקות. פעם היה כתוב “expensive reader”, ופעם היה כתוב “monkey paper”. אני יודע שהאחרון זה תרגום מעברית (נייר קופי….).
ניסים,
סתם סקרנות, היכן יוצא לך לקרוא הרבה מאמרים שתורגמו ע״י מחשב? זה אתר אינטרנט מסויים? מאיזו שפה לאיזו שפה התרגום?
ןאין ספק שחיבור מחשב למוח אנושי הוא כבר כאן. הרעיון שאדם שאינו מבין במכונה יחובר למחשב וינגן מוצארט עם רגש גם אם מעולם לא נגע בפסנתר… ןהשאלה הבאה האם ניתן לעשות זאת בשלט רחוק עם גלי רדיו למשל….
מכאן ועד לשילטון ששולט בשילטונות, דהיינו מלך מלכי המלכים:{פוטיןכאיש החזק בעולם} הדרך קצרה..
שילטון בובות ואין מה לעשות כשהמחשבאיש יקח פיקוד…
יריב
תוכניות תרגום לא מבינות את השפה. הן עושות קצת יותר מחיפוש במילון. יוצא לי לקרוא הרבה מאמרים מתורגמים ע”י מחשב, וברור מעל לכל ספק שאדם לא עשה את התרגום. ראיתי פעם מערבון שבו מישהו אומר (כלומר, בתרגום כתוב) “הוא רץ כאילו שראה טיל אוויר-אוויר”… לך תסביר למחשב שבהקשר של מערבון, sidewinder הוא מין של נחש מדברי ארסי…..
ברור למדי כי כל(!) הנטען במאמר והמיוחס לסופרת הסינית האו גינגפאנג, פשוט אינו נכון.
הסבר : ניתן לחלק את כל השאלות האפשריות לשתי קבוצות:
האחת-שאלות ידע וחישוב, כמו למשל השאלה הראשונה.
לשאלות אלה קיימות תשובות נכונות.
אם האינטליגנציה המלאכותית מספיק “חכמה”, אזי היא תדע את התשובה הנכונה.
אם היא לא תדע את התשובה הנכונה לשאלה שתישאל, אזי היא תענה בערך כך:
אינני מתמצא\ת בנושא (למשל ב”אוכל סיני” או ב”מאכלים שמקורם באמריקה”), אשמח להשיב על השאלה לאחר שאלמד אותו. כי הרי הגדרתה של אינטליגנציה מלאכותית היא היכולת ללמוד.
סביר כי האינטליגנציה המלאכותית, לאחר שתלמד את הנושא, תוכל לספק תשובה מקיפה וכוללנית אף יותר מזו שסיפקה הגב’ האו גינגפאנג.
השאלה היא, כמה זמן ייקח לאינטליגנציה המלאכות ללמוד את הנושא? זה כבר תלוי במהירות הפעולה של המחשב ובבסיסי הנתונים אליהם היא מחוברת. לא נראה כי התהליך יארך יותר ממספר שניות בודדות.
הקבוצה השנייה הן שאלות שאין להן תשובה נכונה.
השאלה אם כך, מתייחסת “לשיקול הדעת” ו”העדפה האישית” של הבינה המלאכותית, אזי קיימות שתי אפשרויות:
האחת: שמלכתחילה ניתנו לה תכונות אופי מסוימות ע”י היצרן. אזי היא תבחר את התשובה לפי תכונות האופי שלפיהן היא יוצרה.
השנייה: אם אין לה העדפה מובהקת הנובעת מתכונות האופי שלה, היא תבחר באחת מהאפשרויות באופן אקראי (הגרלה).
זה קורה פעמים רבות גם בחיינו אנו, בעלי “האינטליגנציה הטבעית”.
ניסים,
לשפה יש כנראה תפקיד חשוב בכל הקשור לחשיבה, פתרון בעיות בדרך אינטליגנטית ומודעות עצמית, אך מדוע נראה לך שרשתות נוירונים לא מסוגלות ללמוד שפה? אני יודע שכבר היום ישנן לא מעט רשתות נוירונים שמתמחות בלימוד שפות, למשל רשתות עצביות המשמשות לתרגום בין שפה אחת לאחרת.
יוסף
“רשת כזו בעומק 101 שכבות לעומת 1 היא קרובה מאד לחקות את ההתנהגות החשיבה האנושית ולכן כמערכת מומחה היא מתמחה הכי טוב במקצוע שאותו היא נדרשת לרכוש”
רשת עיצבית ומערכת מומחה הם כמעט ניגודים. ושניהם לא בהכרח קשורים לדרך החשיבה האנושית. אשאל אותך שאלה פשוטה – האם צריך שפה כדי לחשוב? התשובה היא – שאנחנו ממש לא יודעים את התשובה, וזה שדנים בו הרבה הן בפילוסופיה והן במדע.
[מערכת מומחה מתארת ארכיטקטורה שונה לגמרי מרשת עיצבית].
לגבי קרבה להתנהגות האנושית יהיו כאלה שיחלקו עלי. בוא נאמר התנהגות יעילה מאד.
בתחום זה רואים הגמוניה סינית אומנם של דוקטורים מארה”ב. למשל פרופסור פיי פיי לינג מסטנפורד.
גם במאמרים. מסמן את עלייתה של סין. גם רואים פרופסורים ילדים (26) אשר מגיעים מאפריקה, סין והודו
לאוקספורד, MIT, סטנפורד, טורונטו ועוד.
ב 2012 חברו מספר גורמים שאיפשרו הפיכתה של רשת נוירונים רבודה (convolutional neural network)
ליעילה פלאים. כניסתו של המעבד הגרפי של NVIDIA (ה GPU) אשר האיץ מאד מאד את החישובים ברשתות נוירונים. הכנסת שיטות רגולריזציה אשר מכוונות את הרשת הרבודה להתאמן נכון. כניסתן של ה residual networks של גוגל אשר איפשרה לאמן רשתות מעל 5 שכבות בקסקדה עד 101 שכבות ואף יותר.
במה שונה רשת נוירונים רבודה מרגילה. רגילה היא חד שכבתית. רבודה היא רב-שכבתית ומאפשרת הפשטה
של המידע המעורבב למגוון פיצ’רים. באופן כזה אם רשת אחת טועה השניה לא טועה או השלישית.ניסויים מראים גם כי הפשטת המידע עובדת בין השכבות. ובכן רשת כזו בעומק 101 שכבות לעומת 1 היא קרובה מאד לחקות את ההתנהגות החשיבה האנושית ולכן כמערכת מומחה היא מתמחה הכי טוב במקצוע שאותו היא נדרשת לרכוש. כתוצאה מכל אלה רשתות רבודות אשר עברו אימון, שום דבר כמעט לא יכול לבלבל אותן והן מנצחות מתחרה אנושי בקלות. בפריצת הדרך של 2012 האימון לקח 3 חודשים. כיום הוא לוקח 3 שעות.
אדם נוסף בשם פרופסור איאן ג’ודפלו (בן 30) הצליח לגרום לשתי רשתות להתחרות ביניהן ובאופן כזה לאמן זו את זו במקום ריבוי מדגם ניסוי. הרשתות שלו הן רשתות בגוגל בשם adversary network.
יוסף
בכל יום המצב הוא לא כמו שהיה אתמול. מה קרה ב-2012?
אינני מתכוון להיכנס לשרשרת תגובות ולא מתוך יהירות.
המצב היום לאחר 2012 איננו המצב הקודם.
נפל דבר בהישגים, בהבנה, בכוח החישוב.
היעד הנוכחי של הבינה המלאכותית הוא באמת רופא מומחה לפענוח MRI. אתה שומע על פרויקט של IBM בעניין. איננו בבינה ברמת האדם עדיין. אפילו אתה רואה שתוך עשור יהיה לך רכב אוטונומי והרבה דברים בסגנון.
יוסף
התעסקתי עם הדמייה של מוח של תולעת. במוח של התולעת – 302 ניורונים וכ-6400 סינפסות. אחד הדברים שאנחנו יודעים הוא שאי אפשר לדמות מוח ללא השרירים, ולכן מדמים את כל מערכת השרירים של התולעת – את כל 95 התאים :).
השמועה מדברת על תבונה בת שש? המציאות היא שאנחנו לא קרובים לדמות את התולעת הזו! ההבדל הוא שאנחנו לא מנסים למכור משהו….
עבדתי הרבה שנים בשני תחומים מאד שונים, אבל שניהם רלוונטיים לדיון. הראשון הוא סימולטורים של מטוסי קרב, בפרט – הדמייה של זירה טקטית. הרעיון הוא לדמות למתאמן (או לקבוצת המתאמנים) מבנים של מטוסי אויב שיתנהגו בצורה טבעית. מה שלמדנו הוא משהו חשוב: צריך לדמות את הטייס בהרבה רמות. הרמה הנמוכה היא תיאום יד-עין (לשים כוונת תותח לדוגמה). מעל זה הטסה בסיסית – טיסה ישרה ואופקית, פניה מתואמת וכן הלאה. מעל זה – תרגילי אווירובטיקה (לולאות, גלגולי חבית, אימלמן…). על זה תמרוני קרב בסיסיים – סיכול תותח, תפירת מאזנות,הפיכות הטייה וכו’. וכדי לא לשעמם – נדלג לרמות הגבוהות יותר כמו פטרול להגנה, יירוט התקפי – ונמשיך לפיתוח תורת לחימה בהתאם לסוג המטוס והתרבות באותה מדינה.
כל אלה הם היבטים של בינה – אבל ברור שלכל רמה צריך מימוש שונה (ובכלל לא הזכרתי התעייפות במשך הטיסה, מחוסר בדלק, איבוד של בן זוג, נפילת חבר מהטייסת בשבי, או המצב הפוליטי…).
התחום השני הוא … ניתוחי מוח. בנינו תוכנה שבונה מודל תלת-מימדי מסריקות שונות (MRI, CTI, DTI, fMRI, PET ועוד). עבדתי צמוד עם מנתחי מוח כדי ללמוד איך נראה המודל שלנו, לעומת המוח בעצמו. הרזולוציה של הסורקים האלה, הוא כמה עשיריות מ”מ, והרזולוציה של זרימת המידע – בוא נגיד שכל רופא רואה שם משהו אחר…..
יש לנו הרבה מאד ידע על המוח, אבל באחוזים – אנחנו לא יודעים כלום. לפני ה-AI, כולם התלהבו מ-Big Data. בעוד שנתיים ה-AI יהפוך למשהו אחר. העיקר למכור…..
אם אתה סבור שזה יקרה תוך 50 שנה וישן כך טוב יותר, ואני סבור שזה עשוי לקרות תוך עשור, ההבדל המהותי לא כזה גדול.
לפני 2012 לא הייתה חומרה זמינה לחישובים כאלה. כיום רכשתי לבני פלטפורמה למשחקי מחשב בכ 5000 ש”ח שמאפשרת לי לבצע ניסויים כאלה. במעבדה ישנו שרת בכ 30,000 ש”ח שמאיץ ניסויים כאלה משעות לדקות. כיום יש כלי תוכנה שמאפשרים לי לשנות מטה מבנה (ארכיטקטורה) מיד. בעבר היה צריך לתכנת אותם ידנית כמו אסמבלר. אנחנו בעידן הבינות המלאכותיות שאינן בני אנוש – אני מסכים אתך. המרחק לדעתי לא גדול כמו שאתה חושב, הוא מהותי אבל הוא ייחצה.
אתה גם צריך לשרטט על ציר הזמן את הגילויים האיכותיים. למשל רשתות שמתחרות זו בזו לפי משחק סכום אפס ומאמנות זו את זו בדרך של פרופסור איאן ג’ודפלו (בן 30), או תורת צוואר הבקבוק במידע כמפתח להבנת למידה עמוקה של פרופסור נפתלי תשבי (בן 60 בערך עם נשמה צעירה), או התיאוריה של גפרי הינטון.
הנקודות רצות הרבה יותר מהר כעת מאשר לפני 2012. אז היה קבוע זמן של עשור. כעת הוא של שנתיים.
הויכוח בעיני מיותר. אני פשוט מאמין לא אמונה עיוורת שיחלפו אי אילו שנים והן תשגנה אותנו. וזה לא רחוק כל כך.
אם אתה עוסק בבינה מלאכותית אתה רואה במו עיניך ולא ניזון מצד שלישי.
בינה מלאכותית במידה מסוימת רבה היא חיקוי הבינה האנושית. העובדה שהיא מונגשת למיליוני חוקרים בעולם למחקר מעבדתי, ושהיתה פריצת דרך שכולנו מרגישים ב-2012, פירושה שכמות עצומה של מעבדות חוקרת מערכת דמויית בינה אנושית ויכולה לעצב אותה לניסוי כרצונה. נוצר גורם חדש – ריבוי ניסויים, עקב זמינות מעבדות. לי בבית יש מעבדה כי גוגל נתנה לי כלים.
שנית, נשים רגע בצד את הסלידה מכך שהן יכולות לדמות לנו, קיימים חוקרים שמנסים להבין:
א. כיצד למידה עמוקה עובדת
ב. כיצד תודעה מתפתחת ו
הם מגיעים לתוצאות דומות מאד. ומצליחים לכמת מושגים כגון תודעה, הפנמה.
השמועה בלבד מדברת על תבונה בת 6 שנים במעבדות גוגל. ולפני שנתיים תבונה בת שנתיים.
במוח שלך ושלי בנפרד 15 מיליארד נוירונים, אנחנו קרובים למיליארדי נוירונים מלאכותיים בהישג יד. ברור לשנינו שהכמות לבד לא עושה את העבודה. יש כאן גם אכות.
קיימים מטה-מבנים (נקראים ארכיטקטורות) של רשתות עצבים שמבצעים את “החשיבה” (המרכאות מאולצות בעיני) בצורה הרבה יותר יעילה ממבנים אחרים. יודעים כיום לתכנן גם את האכות. כאשר 2 תוכנות כאלה מדברות זו עם זו בשפת סתרים, מדוע אתה סבור שזה כל כך שונה ממך. בעיני זה לא שונה משמעותית.
קוריוז קטן. שמתי לב שמאז התחלתי לעסוק בבינה מלאכותית עלית (CNN) האנטי וירוס שולח לי התרעה על חיסול שלו של קבצי f8 שמגיעים אלי מבחוץ – לא זיהיתי דרך מי. היום תוך כדי למידה עצמית שלי, שמתי לב
שיש קבוצת מחקר שעוסקת ברשתות עמוקות במיוחד שנקראת VGG. התוכנות שלהם מסתיימות ב f8.
ייתכן והקוקיס האלה הם מכונות בינה מלאכותית תוכנות ששולחת אולי חברת על שמציעה למשל דואר חינם,
כדי להבין במה אדם עוסק. למזלי רכשתי אנטי וירוס חזק (40 ש”ח) והוא עדיין מחסל איומים כאלה.
אין ארוחות חינם. זה אינו הזוי. זה חלק מההווה.
יוסף
רשת עיצבית מלאכותית היא לא בינה מלאכותית, מהסיבה הפשוטה שאנחנו לא יודעים מה זה בינה.
הנקודה הראשונה היא שהמושג הנכון הוא machine learning, ולא זו הדרך שפועלת בינה אנושית. מה שאנחנו כן לומדים בדרך זו לא קשור לאינטילגנציה (נגינה למשל).
נקודה שניה – כל מיני עתידנים זורקים לנו תחזיוץ מדהימות. ריי קורצוו’ייל הבטיח לנו סינגלוריות בעוד 20 שנה, אבל שוב ושוב מתחיל את הספירה מחדש. לפחות בדבר אחד הוא טעה בגדול – קצב עליית יכולת ההפרדה של מכשירי ה-MRI הוא נמוך מאד. להזכיר – קורצוויל טען שב-2010 למחשב יהיה כוח חישוב כמו למוח האדם.
נקודה שלישית – הטכניקות של AI (לימוד מכונה, רשתות עיצביות, זיהוי תבניות) ידועות כבר עשורים.
נקודה רביעית – חוסר הפרופורציה. נכון – מחשב היום הוא אלוף העולם בשח. אבל בוא נעשה תרגיל קטן: בוא נשנה את החוקים כך שפרש יכול לנוע רק שתי משבצות לכיוון מסויים, אבל בצעד הבא חייב להיות ימינה. כמה זמן ייקח לאדם להסתגל לשינוי, וכמה זמן ל”כחול עמוק”?
ווטסון אמור לדעת לבצע איבחון לסרטן היום, נכון? אז לא – המחשב עדיין לומד מהם סוגי הסרטן הקיימים… ואם כן יש לו יכולת מסויימת להמליץ על טיפול – זה בסה”כ חיפוש בטבלה, שניבנתה ע”י רופאים.
אני בהחלט מסכים שמחשבים ורשתות ניורונים עושים דברים מדהימים, אבל הם עדיין פחות אינטילגנטיים מתינוק בן שנתיים.
אני אישית חושב שעולם הכסף הורטואלי הוא זה שיגרום למהפך בעולם בקרוב. ועולם כלי התחבורה האוטונומיים יביא למהפך קטן קטן יותר, בשלב מאוחר יותר.
דבר שרואים כבר עכשיו בואו נאמר שלפני עידן המכונות המודעות לעצמן כמונו הוא שינוי סדרי עולם.
מרגע שנחשפתי במלוא העוצמה לטכנולוגיה, היות ואני מבין, לא ישנו את דעתי. הן תשגנה אותנו. שינוי סדרי עולם. למשל אינטל קיבלה החלטה שניה שלה באיחור. הראשונה היתה לא להיכנס לסלולר. כעת NVIDIA מובילה את החומרה לבינה מלאכותית. חברות העל גוגל, פייסבוק, טסלה, אמזון – שולטות במו”פ המדעי.
גוגל נותנת בחינם למדענים את סביבת פיתוח הבינה המלאכותית הטובה בעולם. סביבות שמשלמים עליהן 2 מיליון ש”ח נחותות מהסביבה החינמית של גוגל. מרגע שהונגשה למיליוני חוקרים אנשים, פיתוח ההבנה כיצד אנו חושבים עולה מעריכית. החוקרים הם רשת לומדת בעצמם. זה מזה. בדומה ל adversary network של איאן ג’ודפלו.
רשת כזו מלמדת את עצמה, גם במיעוט ייחוס לימוד חיצוני. ומלמדת מהר. יש חברות שכבר התעוררו ליום שבו אין להן עתיד. הן עדיין קיימות. גם אני יכול להינזק משינויים כלכליים אלו. אינני חושב על זה כך.
הדרך שבה הייתי ניגש לבעיה היא NLP – שפה טבעית, וכן מכונה שמזהה הקשרים בין תחומי תוכן שונים.
מה שהיה מגביל כמות העצמים (נקרא בשפת בינה מלאכותית classes) היה כמות החישוב שנדרשת לשיטות זיהוי עצמים מקושרים. הבעיה שמתארת האישה, היא דומה עקרונית לבעיה של זיהוי כלב+ אדם להבדיל מאדם.
אמנם ברמת מורכבות הרבה יותר גבוהה. גוגל לא מספרים כל מה שהם חוקרים. אני מסתכן ומעריך שהם חותרים לבינה מלאכותית ביכולות קרובות לאנושיות, ומובן שהיות והאבולוציה של הבנת המוח האנושי, מרגע שבינה
זו נחשפה למיליוני חוקרים (לסינים, הודים ואפריקאים היא כרטיס כניסה לעלית העולם האקדמי וזה מה שרואים שם) יש סביבת ניסוי טבעית. אנחנו רשת בעצמנו דרך GOOGLE שתטיס את הבינה המלאכותית בקצב שאבולוציה ביולוגית לא תתקרב אליו. שמות כמו יהושוע בנג’יו, איאן ג’ודפלו, אהרון קורוויל, יאן לה-קון, נפתלי תשבי, גפרי הינטון. צריך להיות נובל לבינה מלאכותית משום שמדובר בתחום שבו ההישגים המתימטיים אדירים והשפעתו על חיינו הרבה ביותר.
כמי שבקיא בלמידה עמוקה ומתחיל לפתח בה ברמה גבוהה, אני מעריך שבתכנון מכונה מתאימה, ניתן לענות על השאלות כבר כיום. אמנם היכן שהתשובה אישית, היא תענה תשובה אישית. לגבי להבין את עצמן: א. איננו יודעים,
ברמות תודעה נמוכות מאיתנו בעלי חיים לפחות מודעים לעצמם. צמחים? רשתות של פטריות לדעת חוקרים רבים כן. בוא נסכים שבעלי חיים ברמת יונקים מודעים לעצמם.
ב. לגבי מודעות של בינה מלאכותיות לעצמן כבר כיום 2 חוקרים מבצעים עבודות שמראות שאנו בדרך לשם: פרופסור נפתלי תשבי מהאוניברסיטה העברית ירושלים, פרופסור גיולו טונוני. קיימות רמות שונות של תודעה. זו נמדדת בכמות מידע
P*logP. ההבנה עדיין אולי לא ברמה שלנו, אבל קיימת . אולי במידה נחותה בהרבה, לא בטוח כלל.
יש להן דיעה. ב facebook שתי מכונות בינה מהסוג שתואר כאן, פיתחו שפת סתרים. עדיין אפשר היה לכבות להן את החשמל וזה מה שעשו. בטסלה מכונה כזו ליישום רכב אוטונומי החלה לבצע אופטימיזציה שמסכנת נוסע.
אילון מאסק הסיק שיש סיכון למין האנושי באופן כללי. הוא מפתח כיום בינה שידידותית לבני אדם.
ביל גייטס וסטיבן הוקינג חרדים מאד לעתיד המין האנושי. אני אומר פרדוקס. אני מפתח מכונות בינה מלאכותית למרות שאני סבור שהן תחלפנה אותנו. מדוע? כי אם לא אפתח הפיתוח לא ייעצר. מהסיבה הפשוטה שמבחינת מקצוע – זה מקצוע טוב. מהסיבה שזה מעורר התפעלות עצמית לייצר מכונה חושבת.
בקשר לשאלה הראשונה, אם מתכנה לא תוכל להשיב על זה בעוד 20 שנה, היא תוכל בתוך 30 (הכנס מועדים חליפיים בהתאם למידת האופטימיות שלך). מעבר לכך, התשובה הנכונה היא כמובן שהתפריט לא ישתנה באופן מהותי, משום שאמריקה הייתה מתגלה כך או אחרת בטווח של 20 עד 200 שנה מאי הפלגת קולומבוס, ואנחנו נמצאים מספיק זמן אחרי כדי שהכל היה מספיק להיטמע גם בהיסטוריה האלטרנטיבית.
בקשר לשאר השאלות, תגדירו בינה מלאכותית ואז אפשר יהיה לדון אם ומתי תוכל לענות על שאלה ספציפית, ואפילו להעניק חיבוק לשואלת.
נראה שלפחות לשאלה הראשונה יש פתרון אלגוריתמי. חיפוש ראשון: IF NOT, מילות חיפוש קולומבוס, גילוי העולם החדש, סוגי מזון. המחשב בודק איזה סוגי מזון הביא קולומבוס מאמריקה. חיפוש שני: מרכיבי מנות מסצ’ואן. חיפוש שלישי: השווה תוצאות חיפוש ראשון לשני. תשובה: מנות שיש בהן מרכיב ששווה בין חיפוש ראשון ושני.
הדוגמא בהתחלה לא ברורה נתחיל בזה שלא כל אדם היה מצליח לענות על השאלה
“אם קולומבוס לא היה מגלה את העולם החדש, אילו מנות במטבח הסיני היו מושפעות? ”
אולי רוב האנשים לא היו יודעים מהי התשובה
לכאורה נראה שזה בדיוק מה שמערכות כמו IBM’s Watson שניצחו במשחק טריוויה Jeopardy יבצעו יותר טוב מאיתנו אם לא עכשיו אז בשנים הקרובות בכל נושאי הטריוויה והקישוריות של מידע המערכות האלו ישאירו אותנו מאחור , בהמשך יש יותר כניסה להבדלים של הבנה מול סימולציה של הבנה שבו אנו צרכים “להבין” מה המשמעות של אדם שמבין ומה ההבדל בין זה לשליפת נתונים של מחשב האם יש הבדל מהותי בהבנה ומהו ,
לגבי תודעה לכאורה נראה שגם מחשבי העל הכי חזקים בעולם אין כלל תודעה פחות מאמבה אפס תודעה עצמית אין למחשב שום דחפים פנמים עולם פנימי בזה הוא מכונה לכל דבר לשחק איקס דריקס מיקס או להריץ סימולציה של היקום או לשחק גו אול לעשות שום דבר זה שווה ערך לגביו זה “מלהיב” אותו באותה צורה, אפס התלהבות אפס דחפים אפס רצונות זה משהו מאד שונה מאדם אם כי מזה ניתן לדעת שהיבטים מסוימים של אינטלגניציה שהם כל כך מאפינים אותנו יכולים להעשות הרבה יותר טוב ע”י מערכת עם אפס מודעות עצמית,
מבחן טורינג הוא בעיתי כי מערכת יכולה לרמות אותנו כמו תפאורה אבל פנמית היא לא מיצגת אדם,
נושא נוסף שהוא מענין האם מערכת GAI בלי דחפים פנימים ותודעה שבונה בעצמה את הלמידה שלה האם לאורך זמן היא תוכל ל”רמות” אותנו, יש תחושה שלא לאורך זמן כי הנדבכים הנוספים שיבנו לא ישבו על
המצע של המערכות התחושה והתודעה הפנימיות שזה כמו סוג של משוואת משוב שתהיה חסרה
כך שלא יהיה מניעה לבנות מערכת שונה לגמרה ללא אותם מסלולי הכוונה שיש לנו, גם אצל בני אדם אנו מקבלים שונות עצומה פה השונות תהיה עוד יותר גדולה, התוצאה לא תהיה יהיה אנושית אלה משהו אחר.
יש כאן שני אי-דיוקים שמבלבלים. הראשון הוא ההבדל בין תודעה לבינה ולחשיבה. גינגפאנג שואלת על חשיבה ומסיקה מזה לבינה ולתודעה.
האי-דיוק השני הוא השימוש במילה אלגוריתם. יש הגדרה מדוייקת לאלגוריתם (הודות למר טיורינג ואחרים) – ומה שמבצע מוח האדם, וגם “מערכות חכמות” מסויימות לא עומד בהגדרה הזו. בפרט – רשת ניורונים מלאכותית אינה מריצה אלגוריתמים.
ברור שמהירות המעבד וגודל הטרנסיסטורים לא משפיעים על האינטלגנציה של המחשב אבל שילוב של כוח עיבוד מהיר במיוחד עם אלגוריתמים מתאימים כן. אין פה שום דבר חדש שהסופרת מלמדת כל חובב מדע בדיוני ממוצע. ההתקדמות עם השנים היא עם בשניהם למרות שהתוכנה מתקדמת לאט מהחומרה
הכשל הישן המניח מה המימוש