פרופ’ סטיב פארבר מאוניברסיטת מנצ’סטר, מפתח המחשב האישי הבריטי הראשון BBC וכן את ארכיטקטורת ARM הנמצאת כיום במרבית הטלפונים הסלולאריים, רוצה לבנות מחשבים בעלי תבונה מלאכותית ויכולת לימוד. לשם כך הוא בנה במעבדתו מחשב מבוסס רשת נוירונים המחקה את פעילות המוח האנושי
פרופ’ סטיב פארבר מאוניברסיטת מנצ’סטר, מפתח המחשב האישי הבריטי הראשון BBC וכן את ארכיטקטורת ARM הנמצאת כיום במרבית הטלפונים הסלולאריים, רוצה לבנות מחשבים בעלי תבונה מלאכותית ויכולת לימוד. לשם כך הוא בנה במעבדתו מחשב מבוסס רשת נוירונים, פארבר היה אחד ממקבלי אות “מוביל התעשיה הגלובלי” בכנס ChipEx2016.
“רשתות נוירונים גרמו למהפכה בלימוד מכונה ובתבונה מלאכותית ואולם הן עדיין לא יעילות. כדי למשל לזהות קול בטלפון המשימה מועברת לענן ולא נעשית בטלפון עצמו. הסיבה – הארכיטקטורות של המיחשוב היום עדיין לא עובדות טוב עם רשתות נוירונים. יש לפנינו הרבה עבודה לפני שנדע כיצד לענות על הבעיות הללו בצורה אופטימלית.”
“ביתו של ד”ר אלן טיורינג, בשש השנים האחרונות לחייו נמצא כ-2 ק”מ מביתי. בבריטניה טיורינג מוכר לציבור הרחב בזכות עבודתו במלחמת העולם השניה על פיענוח הצופן הנאצי האניגמה. לשאר העולם הוא ידוע בזכות התרומה שלו למדעי המחשב. הוא הניח את היסודות למיחשוב המודרני – ולבינה מלאכותית והגה רעיונות המשולבים כיום בכל מחשב שאנחנו משתמשים בו.”
“הוא הגיע למצנ’סטר כי היה שם מחשב פעיל שלא הוא בנה אבל מבוסס על הרעיונות שלו. הוא התעניין ב-MORPHOGENESYS – כיצד נשברת הסימטריה של התאים כך שמתאים זהים המתחלקים והופכים לעובר, נשברת הסימטריה והם הופכים לתאים מתמחים. הוא בילה זמן רב בפיתוח המתמטיקה של תהליך שבירת הסימטריה. אבל תרומתו המשמעותית ביותר היתה במאמר Computer Machinery and Intelligence.”
ב-1950, כאשר המחשבים הראשונים היו בני שנתיים וכללו 126 סיביות זכרון, הוא חזה שעד סוף המאה ה-20 יהיו למכונות יכולות עיבוד של גיגהבייטים וזיכרון של מאות מגהבייט. המאמר כולל כמה תחזיות ובהן התחזית לפיה כל מה שיידרש למחשב כדי להיות חכם כמו בני אדם הוא יותר זיכרון והוא אמר שעד סוף המאה יהיו למכונות גיגהבייט, כשלמחשב היו 126 ביט זכרון. ואכן אלו היו היכולות של מחשב אישי טיפוסי בשנת 2000.
“”הוא גם מוכר כמי שהגה את מבחן טיורינג לתבונה מלאכותית לפיו אם לא ניתן לדעת אם בן השיח בצד השני הוא אדם או מחשב, זה סימן שהוא עבר את המבחן המשקף את יכולות התבונה המלאכותית שלו. לדעתי, טיורינג היה מופתע שאפילו היום, אף מחשב לא עובר את המבחן שלו. יש לכך סיבות רבות, אבל להערכתי הסיבה הבסיסית לקושי בבניית תבונה מלאכותית היא שאיננו יודעים הרבה על התבונה הטבעית שלי. בעשרים השנים האחרונות אני חוקר שימוש במחשבים כדי כדי להאיץ את הבנת תהליכי הפעולה של המוח.”
“בעיתונות יש המון מאמרים על בינה מלאכותית. כולם שמענו על למידה עמוקה – מגמה חדשה בלימוד מכונה. גוגל ופייסבוק מוציאות המון כסף כדי לחקור את הנושא. עד לפני עשר שנים רשתות נוירונים היו תמיד הבעיה השניה בחשיבותה לפתרון בעיות מחשוב. היום בזכות הלימוד העמוק השיטה הפכה לשיטה העיקרית לפתרון בעיות מורכבות.
לפני מספר שבועות נתבשרנו על פריצת הדרך של מערכת אלפה-גו שנבנתה על ידי חברה בריטית שנרכשה על ידי גוגל. כשגארי קספרוב נוצח על ידי המחשב DEEP BLUE של יבמ לפני 20 שנה, הוא אמר ששחמט הוא משחק קל למיחשוב, אפילו טיורינג כתב תוכנת שחמט למחשב שעוד לא היה קיים. הוא (קספרוב) שיחזר את התוכנה הזו וניצח אותה בקלות. אחר כך הצליח המחשב DEEP BLUE לנצח אותו אבל לא נדרשה לכך למידה עמוקה. גו הוא משחק הרבה יותר מסובך, ובתוך פחות מ-20 שנה יש לנו תוכנה המנצחת את השחקן האנושי הטוב ביותר.
“אלפה גו מכילה הרבה טכניקות של לימוד עמוק. היא למעשה רשת נוירונים ומשתפרת באמצעות משחק עם עותקים שלו מיליוני פעמים וכך הוא למד כדי להביס את השחקן האנושי הטוב ביותר. אנשים רבים רואים בזה סימן שאנחנו מתקרבים לתבונה מלאכותית חדשה. ואפילו היו שהזהירו מפני ההשלכות של זה לרבות אנשים חשובים בתעשייה ובמדע כגון סטיבן הוקינג, אילון מאסק וביל גייטס שהזהירו שתבונה מלאכותית היא איום קיומי על האנושות.
“הם תומכים בתיאורית הסינגולריות שלפיה אם נבנה בינה מלאכותית היא תשתפר אקספוננציאלית כל הזמן. לדעתי הדיבורים הללו לא מוצדקים. ככל שאני בוחן יותר את התבונה האנושית אני רואה שיש לה הרבה רבדים ואין אף גורם ספציפי שאפשר להאיץ אותו ולקבל יכולת חישוב כמו של המוח. היא מתוחכמת ורבת ממדים, אני לא רואה את הרעיון של הסינגולאריות קורה.”
“באשר לסיכון לאנושיות – הבינה המלאכותית לא ברמה הכי גבוהה של סיכון, אנשים מסוכנים יותר. הפנטגון ישקיע 12-15 מיליארד דולר למחקר נשק המבוסס על תבונה מלאכותית. אולי צריך להגיע להסכמה בין לאומית לאסור כלי נשק אוטונומיים. הם לא מסוגלים אתית לקבל החלטה ולכן צריכה להיות מעורבות אנושית בלופ לפחות בזמן הנראה לעין.”
“מה זו תבונה מלאכותית – פרויקט המוח האנושי, שנוי במחלוקת, הממומן על ידי תוכנית הICT של האיחוד האירופי, לתמיכה במחקרים של מדעי העצב. היום התפוקה כל כך גדולה שאף מדען לא יכול לקרוא את כל המאמרים ולכן הם נעזרים במיחשוב מבוסס נוירונים NEUROFORMATICS שינתח ויעזור לקרוא ולהבין מחקרים שכמותם אדירה.”
“לפיכך בנינו באוניברסיטת מנצ’סטר את SPINNAKER MACHINE בעלת 500 ליבות ARM התופסת שש ארונות בעלות של חצי מיליון דולר. הוא מדמה פעילות של חצי מיליארד נוירונים, הרבה פחות מאחוז מהיכולת של המוח האנושי, אבל בכל זאת תקציב המחקר שלנו מוגבל.”
16 תגובות
סוף סוף מישהו אומר את האמת – המלך עירום…
נכון להיום אנחנו תקועים עם טוסטר מרשים שיכול להעריך פונקציה על סמך הסקה סטטיסטית=חוסר בינה מלאכותית, גם אם הטוסטר יעשה את זה ממש ממש ממש מהר זה עדין לא תודעה או אפילו משהו קרוב
חסידי הסינגולריות כנראה יאלצו להמתין לאלף הבא…
לא הבנתי איך הטקסט שבכותרת משתקף מגוף הכתבה.
תיקון – ״אך כבר מצליחות לבצע משימות פורצות דרך שנחשבו עד לא מזמן ליכולת בלעדית של מוח אנושי״.
אני לא מבין איך אפשר לראות את כל פריצות הדרך המדהימות שמתרחשות בשנים האחרונות מול עינינו בתחום הבינה המלאכותית ובפרט בתחום רשתות הנוירונים ולהמשיך לטעון טענות כמו:
״זה לא יקרה בזמן הקרוב… אנחנו רחוקים מלהבין איך המוח פועל… אנחנו לא יודעים מה לחשב… תחום הבינה המלאכותית תקוע כבר 50 שנה ולא מתקדם לשום מקום…״
על סמך הידע שכבר צברנו על המוח ועל סמך עקרונות פעולה שכבר למדנו עליו הצלחנו לבנות רשתות נוירונים שאינן מהוות בגודלן ובמורכבותן אפילו אלפית ממוחנו אך כבר מצליחות לבצע משימות פורצות דרך ונחשבו רק לא מזמן ליכולת בלעדית של מוח אנושי (או מוח ביולוגי מפותח). רשתות נוירונים מזהות היום פנים יותר טוב מאדם, מבדילות בין כלב לחתול, לומדות לשחק בעצמן ללא שום הדרכה או הכוונה בעשרות משחקי מחשב כולל במשחקי תלת מימד ומגיעות ברבים מהם לרמה של שחקן מקצועי…!
אם מישהו לא מבין איזו פריצת דרך ענקית מהווה רשת הנוירונים שניצחה את אלוף העולם במשחק אלפא-גו אני מציע לקרוא כאן:
http://www.haaretz.co.il/magazine/.premium-1.2898680
מתוך המאמר: ״לשחמט ישנם על פי חישובים מקובלים 10 בחזקת 50 פתרונות, ואלפא גו – 2 כפול 10 בחזקת 170. ההבדל הזה הופך את גו לא רק ליותר גדול ומורכב ביחס לשחמט: הוא כל כך הרבה יותר גדול משחמט שהוא כבר בכלל משהו אחר.
…. הרוחב והעומק של אפשרויות המשחק בגו הופכים את הרכיב החישובי – הניסיון לחשב את המשחק קדימה לבלתי מעשי… כדי לנצח בו משתמשים הטובים שבשחקני הגו בעולם ברכיב קוגניטיבי המכונה אינטואיציה…. מחשבים יודעים לחשב מיליוני חישובים בשנייה בלי לטעות אפילו פעם אחת – אבל אין להם אינטואיציה. וזו בדיוק הסיבה שבגללה לפני תחילת התחרות היה לי סדול משוכנע בניצחונו״
ניסים,
״אני חושב שאתה מתעלם ממשהו מהותי – מערכת כמו של IBM משולה למוחו של אדם מת. המוח הוא לא חומרה שעליו רצה תוכנה. המוח הוא דינמי ומשתנה כל הזמן. הדינמיקה של המוח ניבנית לאורך זמן, ומרכיב קריטי הוא קלט מכל חושי הגוף שלנו״
אני לא מבין איך אפשר לטעון טענה שהיא כל כך רחוקה מהמציאות. רשתות הנוירונים של IBM משולות למוח מת??
רשתות הנוירונים האלו לומדות, נוצרים בהן זכרונות חדשים (שמאפשרים להן למשל לזהות פרצופים, או להבדיל בין כלב לחתול) , הרשתות האלו דינמיות והקשרים בתוכן כל הזמן משתנים בהתאם לקלטים שהן מקבלות, למשל פיקסלים ממסך מחשב שעליו מוצג משחק אטארי, קלט המקביל לקלט של עין אנושית הצופה במשחק.
ניסים אתה רציני? למוח מת יש יכולות כאלו ?? מוח מת מסוגל ללמוד משהו ?
רשתות הנויירונים כיום עדיין לא מודעות לעצמן, אך אסור לשכוח שהן אינן מכילות אפילו אלפית מכמות הקשרים והנוירונים שקיימים במוח אנושי. מה יקרה בעוד 20-35 שנה כשכבר יהיו ברשותנו שבבי מחשב קוגנטיביים שכן מכילים את כמות הקשרים ותאי העצב שקיימים במוח? והם ימוקמו בתוך גוף רובוטי שנע במרחב ומקבל קלטים ממצלמות וחיישנים?
האם יש סיבה מוצדקת להניח שהשבב הזה לא יהיה בשלב כלשהו אינטיליגנטי לפחות כמו אדם אם לא יותר? האם יש סיבה להניח שלא יתפתחו בו כל התופעות שקיימות במוח אנושי כמו מחשבות ומודעות עצמית ?
אפשר להתווכח ולומר שזה לא יקרה, אבל כמו שאני רואה את זה כל ההתפתחות המדהימות שאנו רואים בתחום בשנים האחרונות בהחלט מצביעות על מגמה ברורה.
כאשר כוח החישוב במקביל עולה פי 10 בהרבה חזקות (בזכות סינאפסות מחומרה וקיוביטים) ואופן החישוב משתנה. הוא הופך מאלגוריתם דטרמיניסטי ללמידת מכונה, או לסופרפוזיציה של מצבי פיתרון, שמתקנת ומשפרת את האלגוריתמים שלה, לא הייתי פוסל אפשרות שהמחשב יתחיל להיות מודע לעצמו. אינני יכול להיות בטוח באף אחת מהאפשרויות.מחשב שנותנים לו לקבל החלטות גרעיניות ולעקוב אחרי טרוריסטים.
תסתכל על הדמואים פרוטוטייפים של הסינאפס ביוטיוב- של הפרוייקט ל DARPA. תחשוב מה יקרה אם כמות החישובים במקביל שלו תגדל בעשר בהרבה חזקות ואם הוא יחשוב בנוירונים ובקיוביטים במקום בביטים. אני רואה כוח חישוב מאד עוצמתי קורה הרבה יותר מהר אפילו מהמחשב על של ARM, ומקבל החלטות בכל מיני תחומי חיים, שאינן נופלות משל אדם, אלא אף עולות עליו במובנים מסויימים. האם יש לזה תודעה? לא יודע מראש אתה צודק. לא הייתי פוסל את האפשרות שהוא יתחיל להבין את עצמו. המערכת תלמד בעיות תנתח אותן ואף תבין איך ליעל את האלגוריתמים של עצמה.
יוסי
לא חשוב כמה מהר תחשב – אתה צריך לדעת מה לחשב 🙂 ואנחנו רחוקים מאד מלהבין את זה.
מחשב קוונטי עובד עד 10 בחזקת מינוס 14 שנייה ובמקביל על מספר גדול של חישובים.
יוסי
אני מאלה שלומדים באוניברסיטה את הנושא……
הניסוח האחרון מתנשא. הכוונה היא לא מתנשאת. מעצם זה שב synapse הנוירונים בחומרה, היום שערים לוגיים עובדים בעשר בחזקת מינוס 10 שנייה, ומחשבים קוונטייים בפחות מזה. הבעיות שאיתן מתמודדות מתימטיקה של למידת מכונה, זיהוי תבניות, בקרה אופטימלית ותורת המשחקים הן דינמיות.
אם אתה זוכר בסרט טרמינייטור בטרילוגיה הכל התחיל ממחשב צבאי.
נוירון הוא ישות דינמית. הנוירונים של המעבד של IBM הרבה יותר “חזקים” משל ARM. אלו נוירונים של חומרה. באמצעות תוכנה למשל מונחית עצמים אפשר להדליק נוירונים (create), ולכבות אותם (annihilate). כוח החישוב של מחשב העל המתוכנן של IBM, המבוסס על SYNAPSE, יעלה עשרות מונים על זה של ARM. הינך מופנה לסרטוני YOUTUBE הממחישים כיצד הוא יחובר למצלמות הדרכים ולבסיסי המידע ויבצע פעולות כמו של אדם. אלא שהוא יהיה למיטב זכרוני אחראי גם לתכנית הטילים האמריקאית. ברור שלא לבד, אבל תומך החלטה עיקרי. מחשב על שני של IBM ייבנה בעשור הקרוב כמחשב קוונטי. כאן די ליישם 100 קיו-ביטים על מנת לקבל כוח חישוב העולה על כל מחשב על אורתודוכסי. אנשים משערים שהמוח האנושי רחוק מאד מאד מיישום. לא כל כך רחוק. כפי שהסברתי – המתימטיקה של חישה ותפיסה כבר ידועות. גם המתימטיקה של חלק מתהליכי קבלת החלטות ידועה. מתימטיקה זו – מן הטעם שתקרא עליה חומר לפני שתפסוק אם היא כשירה לא כשירה להתמודד עם האתגרים שציינת. אני סבור שהדור הלומד כיום באוניברסיטאות פחות ספקן ממך.
יוסי
אני חושב שאתה מתעלם ממשהו מהותי – מערכת כמו של IBM משולה למוחו של אדם מת. המוח הוא לא חומרה שעליו רצה תוכנה. המוח הוא דינמי ומשתנה כל הזמן. הדינמיקה של המוח ניבנית לאורך זמן, ומרכיב קריטי הוא קלט מכל חושי הגוף שלנו (ויש יותר מחמישה חושים).
זה דבר אחד לבנות הדמייה של מוח עם 100 ביליון ניורונים ו-100 טריליון (ואולי הרבה יותר) חיבורים – אבל כל ניורון כזה מכיל מידע דינמי שמתקבל מניורונים אחרים. אנחנו מאד מאד רחוקים מלדעת לדגום את המידע הזה בזמן קצר, והזמן חייב להיות קצר ביותר כי הכל משתנה…
התיאוריה המתימטית של התפיסה (קוגניציה) ושל החישה באמצעות חושים – ידועה לנו. בגדול זה למידת מכונה וזיהוי תבניות. מתימטיקה שונה מכל המתימטיקות: לא דטרמיניסטית אלא הסתברותית. אבל לא הסתברותית במובן המקובל. כוללת אלמנטים של בקרה אופטימלית (תיאוריה מתימטית) של תורת המשחקים (המוח משחק כנגד הטבע) ושל גיאומטריה דיפרנציאלית. למה גיאומטריה: בעיה מרובת מישתנים – מסדרים את כולם בשורה ומפרידים עם פסיקים – וקטור. לכן הכלי האפשרי הוא גיאומטריה. בחקר פונקציות זכור לרובנו שגזרנו פעמיים למציאת מינימום. כאן המינימום הוא מינימום של פעולה לאורך זמן לפי אילוץ מוגדר. לכן דיפרנציאלי = כי גוזרים. באמצעות כאלה שיטות מבצעים קבלת החלטות במינימום מידע, מזהים פנים, פותרים בעיות קוונטיות מסובכות ועוד ועוד. ייתכן שמבנים כאלה של קבלת החלטות קיימים אצלנו באופן לא מודע.
מה שלא ברור לנו לגמרי זה כנראה התודעה. כיצד נוצרת התודעה. אני חושב משמע אני קיים. ייתכן ונוצרת בהינתן מסה קריטית של תאים עצביים, וייתכן ויש עוד תיאוריה שאינה מוכרת לנו שדורשת חשיפה.
למען השם, למה לא מבוצעת הגהה למאמר לפני הפרסום? המון שגיאות.
IBM מפתחת מחשב עם יכולות של אדם ועם חשיפה למצלמות הדרכים ובסיסי מידע של NSA. המחשב יהיה מבוסס על מעבדי sinapse של IBM שהם מעבדים עם נוירונים של חומרה (מסננים אקטיביים) בכמויות מילארדי שערים בסך כל המעבדים. למרות כל הספקנים ל IBM יש מסורת להוציא לפועל כאלה דברים. מחשב העל השני יורכב מהתקני על מוליכות מקוררי חנקן נוזלי. 100 ביטים קוונטיים מייצרים כוח חישוב של מחשב על.
לכן דעתו של פארבר היא בכיוון אחד ושל IBM בכיוון אחר. לכל הספקנים, הייתי מפנה את הדאגה שלי מהתגשמות הסרט טרמינייטור. מה קורה כשמחשב צבאי השולט בתהליכי קבלת החלטות טילים מצד אחד ובהחלטות חיסול אנשים מצד שני מגיע למסקנה שהוא לא צריך אותנו. האם נספיק להגיע למתג ולכבות אותו. נראה לי שהאופציה לא תעלה בכלל על הפרק.