חליפת מכתבים בין ראש הממשלה הראשון לפרופ’ עמוס דה שליט, מהמדענים החשובים בארץ בראשית ימיה של המדינה, זורקת אור על מה שחשב “הזקן” על מחשוב וטכנולוגיה
היו היה ראש ממשלה שאהב לקרוא ספרי מדע פופולרי ולשאוב מהם הרשאה. דוד בן גוריון שבחר במדען (ויצמן) לתפקיד הנשיא הראשון והציע למדען אחר (איינשטיין) את תפקיד הנשיא השיני, התעניין מאוד בסוגיות מדעיות ובפרט בשאלת התבונה המלאכותית.
ארכיון צה”ל פרסם השבוע לרגל יום המדע הלאומי שלושה מכתבים מבין חלופת מכתבים שלראש הממשלה הראשון, דוד בן גוריון, ופרופ’ עמוס דה שליט, מהמדענים החשובים בארץ בראשית ימיה של המדינה.
המכתבים, של בן גוריון מה10 ביוני 1959, תשובת דה-שליט מה-3 ביולי ותגובתו של בן גוריון מה-27 ביולי, עוסקים בשאלה האם מכונות יכולות לחשוב כמו בני אדם. מסתבר שבאותו הזמן קרא בן גוריון את ספרו של נילס בוהר (אבי תורת הקוונטים) Atomic Physics and Human Knowledge ושתתי פסקאות מתוכו נגעו לוויכוח בין בן גוריון לדה-שליט. בן גוריון פקפק ביכולות של המחשב לעבור את האדם, דה-שליט חשב שהדבר ניתן אך לא בטכנולוגיה של אותה תקופה. “נקודת המבט של הפיזקה האטומית מכריזה כלא רלוונטית כל השוואה של יצורים חיים עם מכונות.”
פרופ’ דה שליט הסביר בתגובה כי “בינתיים חלו התפתחויות נוספות והקו המבחין בין החי לדומם נעשה יותר ויותר מטושטש. תופעות המהוות את הבסיס למה שנקרא בשם חיים, למשל, נעשות יותר ויותר מטושטשות וניתנות להיעשות במבחנה. אנחנו קרובים היום מאוד להבנת התהליך האלמנטרי של ההפריה – תהליך חלוקת התא”.
“איני חולק על דעתך שכמה תהליכים ביולוגיים אפשר לעשות באופן מלאכותי, ואין לי ספק שמה שאנו קוראים בשם רוח, נפש, שכל, הכרה או תודעה (או באיזה שם אחר) מותנה גם בתהליכים פיזיים. אם ירוצצו גולגתו של איינשטיין או של בור – לא יוסיף לחשוב. וזרמים חשמליים (ותהליכים פיזיים אחרים) בלי ספק קשורים בתהליך המחשבה אבל כשם שישנם גילוי-חיים השונים בהחלט מגילויי התהליכים בדוממים, ואין שום גביש מתחתי או מלחי המסוגל לעשות מה שעושה תולעת, כך שונה המחשבה האנושית מכל התהליכים הפיסיים, הכימיים והביולוגיים הידועים לנו.
“אל לנו לשכוח בהשוותנו את האדם למכונה באילו תנאים קשים עובדת המכונה”, הוסיף המדען. “כדי להפוך את המכונות המודרניות ביותר למשהו הדומה מבחינת היקף זכרונו למוח האדם אנחנו צריכים להחליף כל אלמנט בסיסי בזיכרונה של המכונה במכונת חישוב שלמה. אנחנו עדיין לא מסוגלים לעשות זאת, אך כדאי לזכור שרק לפני 10 שנים היה גודלו של כל אלמנט בזיכרון כגודל הזיכרון כולו במכונות החדשות”.
..”אמת, עדיין רחוקה הדרך להבנה של תהליך המחשבה ושל תהליך המחשבה היוצרת בפרט, אך גם בכיוון זה ישנם התקדמויות מאוד מעודדות (אותי, לפחות). ב-MIT שבבוסטון נעשה נסיון ללמד מכונות להבחין בין מעגל לבין צלב (או בין כל שתי צורות גיאומטריות אחרות). המכונה “ראתה את הצורות הגיאומטריות בעזרת מערכת אופטית שאמרה אם במקום פלוני יש או אין קו. אינפורמציה זו נרשמה ב”זכרון” כך שלכל מקום במרחב היה תא מתאים בזכרון שהיה ממוגנט בכיוון זה או אחזה בהתאם לכך אם באותו קום במרחב היה או לא יהה קו. הזכרון הכיל, איפוא, את התרשמותה של המכונה מהצורה הגיאומטרית. המכונה “נשאלה” אחר כך האם הצורה שהיא רואה היא צורה A או B. תשובותיה היו בתחילה מקריות לחלוטין וכל פעם נאמר למכונה אם התשובה נכונה או לא. לאחר מאתיים “שיעורים” כאלה ידעה המכונה להבחין בין הצורות, גם כשהיו מעוותות במקצת. לכשנעשו הצורות מעוותות יותר ויותר עד שקשה היה להבחין ביניהן התחילו תשובותיה של המכונה להיות מבולבולות.
לסיכום כתב פרופ’ דה שליט את מכתבו: “אני מצטער על אורכו של מכתב זה, בפרט לאור העובדה שתוכנו כמעט אפס. מכונה טובה ממני הייתה בוודאי מנסחת את המכתב כולו בשורה אחת או שתיים”.
בן גוריון השיב לו: “מכונת החישוב שלך יכולה לעשות רק את האופרציה שיוצרה הכשיר אותה לכך, ואין היא שונה עקרונית מעגלה או ממנוף. היא לא ‘חושבת’…”.
בתשובה לעקיצתו של דה שליט סיים בן גוריון את מכתבו גם הוא בעקיצה: “גדולתו (היחסית) של אדם שהוא שואל, ולפעמים גם עונה, ושום מכונה בעלם לא תסביר מעצמה שאין הבדל בינה ובין מוחו של עמוס דה שליט”.
סוגיית המכונה המסוגלת לחשוב לא נפתרה עד היום, למרות השיפור העצום ביכולות המחשוב. גם ווטסון (Watson), מחשב העל של יבמ (IBM) שניצח את אלופי האלופים של שעשועון הטריוויה ג’פארדי (Jeopardy) לא חושב בעצמו. כך או כך, מה שחשוב ומעניין בחליפת המכתבים הזו הוא העובדה שבן גוריון קרא ספרים של מדענים, הגה ברעיונות מדעיים וניסה להבין וללמוד את יכולות המחשוב. מעניין במה הוגים יורשיו.
15 תגובות
אני לא מסתמך על שום קורצוויל,
“אני לא רואה שום אפשרות להפרדת החלק הקוגניטיבי משאר המוח”
איזה משפט חסר משמעות כתבת, מי דיבר על הפרדת משהו מהמוח ??? זה כמו שתכתוב “לעולם לא נצליח לבצע העתק של המכונית הזו, משום שאני לא רואה שום דרך להפריד את פעולת הנסיעה שלה משאר חלקי הרכב”, ממש ככה את נשמע.
“מתי תבין שאנחנו רחוקים מאד מלסרוק את המוח. מכשירים חדישים שעולים מיליוני דולר נותנים מידע מגוכך על המוח”
באמת ?
http://www.ted.com/talks/sebastian_seung?language=he
יאיר
מתי תבין שאנחנו רחוקים מאד מלסרוק את המוח. מכשירים חדישים שעולים מיליוני דולר נותנים מידע מגוכך על המוח.
מעבר לכך, המוח משמש לשליטה על הגוף ולחישת מצבו. אני לא רואה שום אפשרות להפרדת החלק “הקוגניטיבי” משאר המוח.
אני יודע שאתה חושב שאתה מומחה גדול כי קראת ספר של קורצוויל, אבל גם קורצוויל לא מבין גדול בתחום המוח האנושי. אני מציע לך לקרוא קצת את מי שכן מתמצא.
“עדיין נצטרך לספק לרשת קלט שמקביל לקלט חושי שלנו ואז “לגדל” את הרשת כמו תינוק”
ואם זה יהיה מוח של תורם מבוגר שמוחו נסרק והוכנס לתוך הסימולציה, גם אז נצתרך לגדל אותו כמו תינוק ?
חוץ מזה מוח שיהיה בנוי בתוך מחשב (או שבב קוגנטיבי דיגיטלי) יוכל לבצע תהליך לימוד בערך פי כמה מאות או כמה אלפים מהר יותר ממוח ביולוגי, גם את זה כדאי לקחת בחשבון.
“יאיר, מחשב באמת לא יכול לחשוב כמו בן אדם כי אין לו גוף. רק אם נספק לו גוף או לכל הפחות קלט חושי של גוף הוא יוכל לחשוב כמו בן אדם”.
איתן, לא דובר על המצב הנוכחי ברגע זה, אלא על המצב בעתיד, בעוד 20-30 שנים מהיום. החברות הגדולות שעוסקות בפיתוחים הנ”ל (פרויקט המוח האנושי למשל) מצהירות בפה מלא שבכוונתן לחבר את רשת הנוירונים שתיווצר לגוף מלאכותי המכיל אמצעי קלט ופלט. כפי שציינתי קודם החיבור הזה בעצם התחיל כבר היום (יש כבר רובוטים מכניים פשוטים שנשלטים ע”י רשתות נוירונים) ואין ספק שהדברים רק ילכו ויתפתחו בעשורים הקרובים.
יש אנשים שקשה להם לזהות מגמות או דברים שמתפתחים לכיוון מסויים, הם רוצים לראות אך ורק תוצאה סופית מושלמת שום דבר באמצע או בדרך לשם לא יספק אותם. אז בסדר, נחכה ונראה.
יריב
יש שתי גישות בתחום רשתותו עצביות ובינה מלאכותית:
1. bottom up לספק לרשת את כל הנתונים והיכולות של נוירונים ולתת להם להתארגן מעצמם
2. top down לתכנת מראש את כל הרישות הכולל ברמת המאקרו עם פחות התייחסות לרמת המיקרו
הגישה הראשונה היא מה שתיארת: מתן יכולת קישור ראשונית ואז “גידול” הרשת. היתרון בשיטה הזו היא שאני שולטים במשתנים הבסיסיים של המערכת, החיסרון, חסר לנו ידע על כל המשתנים הבסיסיים ועל ההשפעת המאקרו על הרכיבים הבסיסיים (בנוירולוגיה התחום נקרא נוירו מודולציה של מערכות). כך שגם הצלחות מרשימות בגידול רשת שמסוגלת לבצע פעולות בסיסיות, עדיין לא מתקרבת למוח מורכב. אפילו אם נצליח לחקות את כל המשתנים הבסיסים של רשת עצבית מורכבת, עדיין נצטרך לספק לרשת קלט שמקביל לקלט חושי שלנו ואז “לגדל” את הרשת כמו תינוק.
הגישה השנייה דורשת דימות עצבי ברמה שלא מתקרבת ליכולות הנוכחיות של סורקי MRI/CT ודומיהם.
אני מנחש ששילוב של שתי הגישות יתן תוצאות הולכות וקרבות לדימוי שלם של מוח (נתחיל במוח של תולעת או זבוב ונעלה משם).
יאיר, מחשב באמת לא יכול לחשוב כמו בן אדם כי אין לו גוף. רק אם נספק לו גוף או לכל הפחות קלט חושי של גוף הוא יוכל לחשוב כמו בן אדם (בהנחה שלא פישלנו במהלך יצירת המוח שמקבל את הקלט).
יאיר
זה תחום העיסוק שלך? אתה חוקר את הנושא?
משה,
מסכים איתך לגבי השליט״א והוא הוכיח זאת ע״י מינוי דני דנון לשר החלל והמדע. התגובה הראשונה של דני למינוי היתה שהוא יקדם נושאים חברתיים…
שיהיה לנו בהצלחה
“יש טענה מאד מעניינת שמחשב לא יוכל לחשוב כמו בן אדם – משום שאין לו גוף!”
זה מדהים שאתה ממשיך לחזור על השטות הזו שוב ושוב כמו תוכי למרות שהסבירו לך כבר מיליון פעם שכן יש כוונה לחבר את הרשתות העצביות האלו לגוף, ובעצם עושים את זה כבר היום. יש לא מעט רשתות עצביות שחוברו לרובוט מכני והן מפעילות אותו ושולטות על תנועותיו.
אבל לא ניתן לעובדות לבלבל אותך, נו תחזור על זה שוב כמו תוכי שבלע תקליט –
“מחשב לא יוכל לחשוב כמו בן אדם – משום שאין לו גוף!”
“מחשב לא יוכל לחשוב כמו בן אדם – משום שאין לו גוף!”
“מחשב לא יוכל לחשוב כמו בן אדם – משום שאין לו גוף!”
משה
אתה כותב יפה מאד, ולדעתי מאד נכון. יש טענה מאד מעניינת שמחשב לא יוכל לחשוב כמו בן אדם – משום שאין לו גוף!
משה אתה טועה, זה ממש לא ישאר כך לנצח.
אני משוכנע שהמנהיג שלנו הנוכחי מר ב. נתניהו (שליט״א) מתכתב עם מיטב המדענים עלי אדומות ואני משוכנע שהוא עושה את מלאכתו נאמנה – ויפה שעה אחת קודם…
בנוגע ליכולת של המכונה לחשוב כאדם, כאן אני משוכע הרבה פחות לגבי הנחיצות של הדבר. מן הראוי שמכונה תחשוב כפי שנצפה ממכונה לחשוב. הרצון שלנו לגרום למכונה לחשוב כאדם הפך למדד – וזו הטעות (לדעתי).
לי אישית אין רצון עז במיוחד לקרוא שיר שאמור ל״התחרות״ או להשתווה לשיר של בוב דילן. זה לא העיניין.
לעומת זאת, הייתי שמח אם הייתי נכנס הביתה ומבקש בהרובוט שלי שיכין לי סלט – והוא כבר היה יודע במה מדובר… או למשל, הייתי מבקש ממנו לתכנת במקומי דברים שדי מבאס לעשות אותם וכו׳… יש נקודה, די מסויימת, לטעמי, שהמחשב לא יגע בה.
לעומת זאת, כשנתקרב ליכולות חישוב מרשימות נתונים שמגבילים אותנו כמו נפח המוח – לא יגבילו את המכונה ותמיד תהיה האפשרות להפוך את המכונה לחכמה יותר.
בקיצור – המוכנה תהיה חכמה, אבל בצורה שונה מהגאונות של האדם.
יש לדעתי באדם (אצל א. איינטשטיין למשל) סוג של צורת חשיבה שאינה ניתנת לחיקוי – וכך זה ישאר. לנצח.
אבל איתן, בדוגמה שהבאתי הרשת ידעה להתארגן בעצמה באופן ספונטני וליצור סידור כזה שיאפשר לה לשחק במשחק ואף להביס שחקן אנושי, מה זה משנה אם אתה מבין או לא מבין את המבנה הפנימי שנוצר בה ?
עובדה שהוא נוצר, וגם בא לידי ביטוי חיצוני.
בניגוד לפיסיקה ואסטרונומיה, בנוירולוגיה, יש לי השכלה מסויימת ולמרבה הצער (או השמחה) אנחנו לא קרובים לייצור של רשת עצבית שמסוגלת לחקות מוח אנושי (או מוח של בע”ח מורכב באופן כללי).
לא מספיק ליצור רשת עצבית שמסוגלת להשתנות על ידי תגובתיות לסיגנלים פנימיים וחיצוניים, ומספר הקשרים והנוירונים לא בהכרח מעיד על ארגון גבוה. הסידור הפנימי של הרשת צריך להוביל לביטוי כוללני של המערכת וכרגע, אין לנו אפשרות לזהות את הסידור הזה ברזולוציה מספקת.
אלא אם תהיה פריצת דרך בדימות עצבי בעתיד הקרוב, מחכים לנו עוד עשורים רבים לפני שנוכל לייצר רשת עצבית מורכבת כמו המוח האנושי.
לא יודע מה יקרה כשיגיע הרגע הזה, מה שבטוח, יהיה מאוד מעניין..
חישבו על רשת עצבית מלאכותית שכמות הנויירונים והקשרים בה כפולה מזו שקיימת אצל בני האדם, אילו יכולות יהיו למערכת כזו ?
הרגע הזה הולך ומתקרב במהירות, רק לאחרונה רשת עצבית פשוטה בהרבה מזו שקיימת במוח שלנו למדה לשחק בעצמה ללא שום הנחיות חיצוניות במשחקי מחשב, ואף הצליחה לשחק בחצי מהמשחקים טוב יותר משחקן מקצועי!
http://www.bbc.com/news/science-environment-31623427
אין במוח שלנו קסמים ובטח אין נשמות, כל מה שהמוח שלנו מייצר (מחשבות, מודעות עצמית) בסופו של דבר גם מחשב יוכל לייצר (עוצמת המחשבים הולכת ועולה משנה לשנה, וכך גם ההבנתנו את המוח שלנו, שני הדברים האלו משתלבים יחד ביעילות הולכת ועולה).
לדעתי תוך 35 שנה (לכל היותר) כל הסקפטים עוד יאכלו את הכובע.