אם לא ניזהר אנחנו עלולים למצוא את עצמנו מסוכסכים עם מכונות תבוניות ונחושות שמטרותיהן מתנגשות עם שלנו – טור דעה
מאת סטיוארט ראסל, הכתבה מתפרסמת באישור סיינטיפיק אמריקן ישראל ורשת אורט ישראל 09.08.2016
קשה להימנע מן החשש הטורדני שמא בנייתן של מכונות שהן חכמות יותר מאִתנו עלולה להעמיד בעיה. הרי אם הגורילות היו יוצרות בטעות את בני האדם לפני עידן ועידנים, הרי שהפְרימַטים האלה, העומדים בפני סכנת הכחדה, בוודאי היו מצטערים על כך. אבל מדוע, דווקא הבינה המלאכותית המתקדמת היא בעיה?
התיאוריה ההוליוודית שתודעה מלאכותית מרושעת שתיווצר מעצמה באופן ספונטני תחליט להניע צבאות של רובוטים רצחניים אינה אלא שטות. הבעיה האמיתית קשורה לאפשרות שהבינה המלאכותית תיעשה יעילה להפליא בהשגת דבר כלשהו השונה ממה שאנחנו רוצים באמת. המתמטיקאי האגדי נורברט וינר, שייסד את תחום הקיברנטיקה, ניסח זאת כך ב-1960: “אם נשתמש להשגת מטרותינו בישות מכנית שאיננו יכולים להתערב באופן יעיל בהפעלתה… מוטב שנהיה בטוחים למדי שהמטרה שהוזנה למכונה היא אכן המטרה שאנחנו באמת חפצים בה.”
למכונה בעלת מטרה מסוימת יש עוד תכונה, תכונה שאנחנו מייחסים בדרך כלל ליצורים חיים: היא שואפת להנציח את קיומה שלה. כשמדובר במכונה, תכונה זאת אינה טבועה בה מיסודה ואינה דבר שטבעו בה בני האדם, אלא נובעת באופן הגיוני מן העובדה הפשוטה שהמכונה אינה יכולה להשיג את מטרתה המקורית אם היא מתה. לכן אם נשגר לעולם רובוט עם הנחיה אחת והיא להביא קפה, יהיה לו תמריץ חזק להבטיח את הצלחתו על ידי השבתת מתג הכיבוי שלו ואפילו חיסולו של כל מי שעלול להפריע לו במילוי המשימה. אם לא ניזהר, אנו עלולים להגיע אפוא למצב של משחק שחמט גלובלי נגד מכונות נחושות, בעלות תבונת־על, שמטרותיהן מתנגשות עם שלנו, כשהעולם הממשי יהיה לוח המשחק.
האפשרות שניגרר להתמודדות כזאת, ונפסיד בה, צריכה לעמוד לנגד עיניהם של מדעני המחשב. יש חוקרים הטוענים שאפשר לאטום את המכונות בכעין חומת אש ולאפשר להן לענות על שאלות קשות אבל אף פעם לא להשפיע על העולם הממשי. (מן הסתם, פירוש הדבר ויתור על רובוטים סופר-חכמים!) לרוע המזל, התכנית הזאת ככל הנראה לא תצלח: עדיין לא המצאנו חומת אש בטוחה נגד אנשים רגילים, לא כל שכן נגד מכונות המצוידות בתבונת־על.
האם בכל זאת אפשר להתמודד התמודדות חזיתית עם האזהרה של וינר? האם אפשר לתכנן מערכות בינה מלאכותית שמטרותיהן לא יתנגשו עם שלנו ולהבטיח כך שנהיה מרוצים מהתנהגותן? מימוש השאיפה הזאת אינו פשוט כלל. כידוע, סיפורים רבים על שד הממלא שלוש משאלות מסתיימים בזה שהשואל משתמש במשאלה השלישית כדי לבטל את שתי הראשונות. אבל אני סבור שהדבר אפשרי, אם נקפיד על שלושה עקרונות מרכזיים בתכנון מערכות תבוניות:
תכלית המכונה חייבת להיות מקסימיזציה של ערכים אנושיים. בייחוד, למכונה אין תכלית משלה ולא רצון מובנה להגן על עצמה.
אסור שהמכונה תדע מלכתחילה בוודאות מה הם אותם ערכים אנושיים. מתברר שיש לכך חשיבות מכרעת, שכן זאת כעין דרך להתגבר על הבעיות שהעלה וינר. המכונה יכולה ללמוד על אודות הערכים האנושיים במרוצת חייה, כמובן, אבל אסור שתגיע לוודאות מוחלטת.
על המכונה להיות מסוגלת ללמוד על אודות ערכים אנושיים באמצעות התבוננות בהחלטות שמקבלים בני אדם.
שני העקרונות הראשונים אולי נראים כאילו הם נוגדים את האינטואיציה, אבל יחד הם מונעים את בעיית התמריץ החזק שעלול להיות לרובוט לנטרל את מתג הכיבוי שלו. הרובוט בטוח שהוא רוצה למקסם ערכים אנושיים, אבל הוא גם אינו יודע בדיוק מה הם. עכשיו הרובוט בעצם מרוויח אם מכבים אותו, כי הוא מבין שהאדם ילחץ על כפתור הכיבוי כדי למנוע מן הרובוט לעשות משהו הנוגד את הערכים האנושיים. כך יש לרובוט תמריץ חיובי לשמור על מתג הכיבוי כפי שהוא – והתמריץ הזה נובע במישרין מאי הוודאות שלו באשר לערכים האנושיים.
העיקרון השלישי שאול מתת־תחום של הבינה המלאכותית הקרוי “למידה באמצעות שחזור חיזוקים” (Inverse Reinforcement Learning, IRL), שעניינו הוא בדיוק למידת ערכיה של ישות כלשהי, אם בן אנוש, אם כלב ואם מקק, על ידי התבוננות בהתנהגותה בלי לדעת את ערכיה מראש. על ידי הסתכלות בשגרת בוקר טיפוסית של אדם, הרובוט לומד על ערכו של הקפה בעבור בני האדם. התחום הזה עדיין בחיתוליו, אבל כמה אלגוריתמים מעשיים כבר פועלים ומדגימים את הפוטנציאל שלו בתכנון מכונות תבוניות.
ככל ש-IRL יתפתח, יהיה עליו למצוא דרכים להתמודד עם העובדה שבני האדם אינם רציונליים, אינם עקביים, הם חלשי אופי ובעלי כושר חישוב מוגבל, כך שפעולותיהם אינן משקפות תמיד את הערכים שלהם. כמו כן, לבני אדם יש כל מיני סולמות ערכים, וזה אומר שהרובוטים יהיו צריכים להיות רגישים לעימותים אפשריים ולפשרות בין בני אדם. והרובוטים יצטרכו גם ללמוד שיש אנשים שהם פשוט רעים ולא צריך לעזור להם ולא ללמוד מהם.
על אף הקשיים האלה, אני סבור שמכונות יוכלו ללמוד על ערכים אנושיים די הצורך כדי לא לסכן את האנושות. מלבד צפייה ישירה בהתנהגות של בני אדם, המכונות יכולות להיעזר בגישה לכמות עצומה של מידע כתוב ומצולם על מעשיהם של בני אדם (ועל תגובותיהם של אחרים למעשים). תכנון אלגוריתמים שיכולים להבין את המידע הזה קל בהרבה מתכנון מכונות בעלות תבונת־על. וכן, יש תמריצים כלכליים חזקים הן לרובוטים עצמם והן ליצרנים שלהם, להבין את הערכים האנושיים ולהכיר בהם: די ברובוט ביתי אחד שלא תוכנן כהלכה, שיבשל את החתול לארוחת הערב משום שלא השכיל לעמוד על כך שערכו הרגשי חשוב מערכו התזונתי, כדי שתעשיית הרובוטים הביתיים תתמוטט.
מענה לבעיית הבטיחות שיהיה טוב דיו לאפשר התקדמות בבינה המלאכותית הוא אפשרי אבל לא קל. סביר להניח שיש לנו עוד כמה עשורים להתכונן להופעתן של מכונות בעלות תבונת־על. אבל אין לפטור את הבעיה הזאת כלאחר יד, כפי שעושים כמה מן העוסקים בבינה מלאכותית. יש הטוענים שבני אדם ומכונות יכולים להתקיים זה לצד זה כל זמן שיעבדו יחד. הדבר נכון רק אם לשני הצדדים יהיו אותן מטרות. אחרים סבורים שאנחנו יכולים “פשוט לכבות אותן” כאילו מכונות המצוידות בתבונת־על יהיו טיפשות מכדי לחשוב על האפשרות הזאת. ויש גם הסבורים שבכלל לא תהיה בינת־על מלאכותית. ב-11 בספטמבר 1933 הכריז הפיזיקאי הנודע ארנסט רת’רפורד בביטחון גמור ש”כל מי שמצפה להפיק אנרגיה מן הטרנספורמציות של האטומים האלה אומר דברי הבל.” למחרת, ב-12 בספטמבר 1933, הגה הפיזיקאי ליאו סילארד את רעיון האתחול של תגובת שרשרת גרעינית באמצעות ניוטרונים.
ראו עוד בנושא:
74 תגובות
רבותיי וגבירותיי, מחברי ומתרגמי פרסומים מדעיים – מה שאתם מפרסמים כאן הוא שימוש ממוחזר וחיוור של הבנת האופי של בני-אדם ומכונות, בתיאור ותיאוריה ששורשיה פורסמו ושוכללו במיליוני עותקי הספרים שלו שפורסמו – ועדיין יוצאים במהדורות רבות מספור כבר באמצע המאה הקודמת, על ידי ד”ר אייזיק אסימוב – סופר המדע הבדיוני המוצלח והטוב ביותר אי-פעם – אשר השכיל להבין כבר בשנות החמישים של המאה העשרים, שהדרך היחידה לשלוט בצורה מלאה במכונות חכמות, מהירות וחזקות אלה (=רובוטים ובינה מלאכותית מתקדמת) בכך שהציע את “שלושת חוקי הרובוטיקה”, שהם החוקים הראשונים, הפנימיים ביותר אשר מוטמעים בבסיס כל רובוט ובינה מלאכותית, שפשוט מונעים כל התקוממות והפגיעה בבני אדם על ידי מעשה או אי-מעשה שהם מקיימים. למעשה, בספרו האחרון – אשר איחד את סדרת “המוסד” וה”רובוטים” שלו נוצר חוק רביעי – החשוב מכולם: חוק 0 – המגן לא רק על בני אדם פרטניים אלא מעל הכל מגן על קיום האנושות כולה.
הפרסום שמופיע כאן למעלה הוא פשוט תיאור חיוור לחוקים שאסימוב יצר – חבל שהחוקרים לא קראו את ספריו של אסימוב לפני שהעתיקו את החשיבה שלו בצורה חובבנית ומקרטעת. חבל.
יריב
זה נכון מה שכתבת בתגובתך האחרונה. אבל בנתיים חוץ מזה, עד עכשיו, כתבת רק שטויות…
ק׳,
אני לא מתכוון להיכנס איתך לויכוח בנושא זכותך לחשוב מה שאת רוצה וגם אני אמרתי את דעתי, אני חושב שתוך שנים ספורות המגמה כבר תהיה הרבה יותר ברורה ואז נוכל לשוב לדיון הזה בצורה מפוקחת יותר.
יריב,
כתבת: “…כשחולדה תינוקת נולדת מי מכוון עבורה את פונקציית המטרה?”
הפילוגנזה (ההיסטוריה האבולוציונית) + האונטוגנזה (היסטוריית ההתפתחות הפרטית).
“…ברגע שיצרנו את הרשת העצבית בהתאם למבנה הנוירונים במוח (וזה בדיוק מה שנעשה בפרויקט מוח האדם) אז כבר יצרנו את הכיוונון שאת מדברת עליו, זה הכל כלול.”
לא. זה ממש לא כלול. שוב התעלמת ממה שהוסבר לך על הידע הנוסף הדרוש מעבר לארכיטקטורה של המח כדי שסימולציה מלאה (כלומר של *כל* המח לרבות הדינאמיקה המדוייקת) תציג תודעה בסגנון כמו שלך ושלי. זה בכלל לא מה שפרוייקט המח האנושי מתיימר להשיג. בניגוד להערכות הזמנים שהיינו חלוקים לגביהם בנושא מועד הצגת התקדמות משמעותית בהבנה ושחזור תודעה, נושא שיוכרע לכאן או לכאן תוך שנים ספורות, דבריך כאן הם פשוט תצריף של טענות שגויות שמבוססות בפשטות על חוסר ידע. צר לי שאתה מתעקש לחזור על השגיאות האלה וגם מעקם את מה שמומחים בתחום אומרים כאילו דבריהם תומכים בשגיאות שלך. אילו היה בך רצון אמיתי לומר דברים מבוססים היית עושה את הדבר המינימלי של להתייעץ ישירות עם מדען\ית שעוסק בתחום לגבי הטענות שהעלית כאן, ובניסוח שבו השתמשת כאן. אני מבטיחה לך שיורידו אותך לקרקע המציאות מהר מאוד.
בנושא הספציפי הזה אתה מזכיר לי את אפקט דאנינג-קרוגר:
https://i0.wp.com/digitalintelligencetoday.com/wp-content/uploads/2014/12/screenshot_799.png
היות ונראה שההשפעה של טיעונים מבוססי נסיון וידע (שהוצגו כאן לא רק על ידי) על עמדתך היא אפסית, אסיים כאן, בתקווה שתעשה את המאמץ לרכוש מעט השכלה ממשית בנושא או לפחות להוועץ ישירות עם מקצוענים בתחום.
תיקון – ״ משפיעים על התודעה״.
עברית.
יריב
בודאי שיכולה להתקיים תודעה ללא רגשות (תלוי כמובן בהגדרות שלנו). אבל – זו לא תהיה תודעה שדומה כלל לתודעה של אדם. תחשוב שאתה ניתקל ברובוט – ללא שום הבעה בפנים, שום תגובה לבדיחה, שום התיחסות לאיומים. הרובוט לא מביע דיעה על כלום ולא אכפת לו מכלום. אתה באמת תגיד שיש שם תודעה?
א’
1. תודעה שתתפתח עם גרויים שונים משלנו תהיה תודעה שונה מאד משלנו. בוא ניקח שמיעה. לא מדובר על להיוולד חרש, אלא על התפתחות אבולוציונית ללא שמיעה. בלי שמיעה, אין משמעות לקולות. לכן – יהיה צורך במערכת שונה כדי שתתריע על איומים (אחד השימושים החשובים של קולות בהתפתחות חברתית). בלי קולות – לא יהיה דיבור וכנראה שגם לא שפה. ובלי שפה, אין זמנים, אין שייכות אין כמעט העברת ידע וכן הלאה.
2. ראה 1….
3. אתה מבלבל בין תודעה למודעות עצמית. גם ליצורים פשוטים יש רגשות – פחד, עייפות, חום וקור, קנאה ואהבה. לתינוק יש תודעה עוד לפני שהוא נולד, כך שהדוגמה שלך חסרת משמעות.
א׳,
שוב, רגשות ללא ספק משפיעות על התודעה אבל הן ממש לא הכרחיות לקיום תודעה.
״מה שהיום המחשבים הקוגניטיבים עושים זה לחקות את הפעילות החשמלית של המוח (חלקים מסויימים במוח ליתר דיוק) וברור לך שמזה לא תצמח תודעה (אני מקווה לפחות שזה ברור לך גם אם נכפיל עוד ועוד את מספר הניירונים) כי מוח הוא גם שילוב של תהליכים כימיים״
לא זה ממש לא ברור לי, והתהליכים הכימיים שאתה מדבר עליהם באים לידי ביטוי בעיקר בחוזק הקשרים של הסינפסות וזה בהחלט נילקח בחשבון ברשתות העצביות שהמדענים בפרויקט האירופאי בונים, כמו גם בפרויקטים אחרים .
החלק שנוצרת בו התודעה הוא קליפת המוח וזה החלק המרכזי שקבוצות המדענים שהזכרתי מנסות לדמות.
יריב
אני מקווה שלא באמת הייתה רציני לגבי השאלה על הפסיכופט. כי ברור שהם מסוגלים להרגיש (גם אם יש להם בעיה במנגנון של כמה מהרגשות)
אני חושב שההערות של ניסים דווקא כן חשובות. אם אני מבין נכון את מה שהוא רצה להגיד.
מה. שהיום המחשבים הקוגניטיבים עושים זה לחקות את הפעילות החשמלית של המוח (חלקים מסויימים במוח ליתר דיוק) וברור לך שמזה לא תצמח תודעה (אני מקווה לפחות שזה ברור לך גם אם נכפיל עוד ועוד את מספר הניירונים) כי מוח הוא גם שילוב של תהליכים כימיים. עכשיו תגיד מה הבעיה בוא נכניס להדמיה גם את התהליכים האלה. פה מתחילה הבעיה. אני אפילו לא בטוח שהמדע יכול להגיד אם הוא מכיר. את כל החומרים שמסתובבים במוח או מה ההשפעה של כל אחד מהם. כדי לבצע הדמיה אתה חייב לדעת איזה השפעה יש לכל חומר על כל סוג תא. אתה צריך להבין הרבה יותר כל תהליך שקורה במוח כדי שתוכל לדמות אותו. כדי שבהדמה תוכל לקבוע שתא x מפריש חומר y שמגיע לתא z וגורם תגובה w. הדוגמאות של ניסים מראות כמה אנחנו רחוקים משם. אנחנו לא יודעים עדיין למה ישנים ואיך בדיוק חומרים מסוימים משפיעים על המוח.
התודעה ללא ספק מושפעת מרגשות (כפי שהיא מושפעת מסמים, ומתחושת רעב) אבל אני חושב שתודעה בהחלט יכולה להיות קיימת גם ללא רגשות, וללא השפעה של סמים.
ניסים
1. לא טענתי שתודעה יכולה להתפתח ללא גירויים. להפך אמרתי שהיא חייבת גירוי מהסביבה אבל זה לא חייב להיות כל הגירויים שקיימים לאדם או ברזולוציה שיש לאדם. תודעה יכולה לצמוח גם עם סוג אחד של גירוי ( נגיד שמיעה בלבד )
2. שפה לא הכרחית לקיום תודעה אבל היא הכרחית לתדעה אנושית כפי שאנו מכירים. גם לחיות יש תודעה.
3. רגשות לא נובעות מהתודעה. להפך התודעה מופיעה מאוחר יותר. תינוק מרגע הלידה הוא בעל רגשות עוד בטרם קיבל גירויים מהסביבה ובטרם רכש מודעות עצמית.
אולי אנחנו מדברים על דברים שונים במילה “גרש”
אני מתכוון לרגשות הבסיסיים ביותר. פחד, סיפוק, כאב.
אם תצרח על תינוק בן יומו הוא יבהל ויפחד. הוא גם יכול לשמח כבר בימים הראשונים בחייו. (כל אלה דברים שאף מחשב או אלגוריתם לא מסוגל לעשות היום.)
הלן קלר היית בעלת מודעות עצמית גם לפני שלמדה לדבר. נכון שברמה נמוכה יותר אבל עובדה שהיא זוכרת את התקופה הזאת. ( בעבר חשבו שאנשים לא זוכרים את התקופה שהם היו תינוקות בגלל החוסר בשפה. הלן קלר היא באמת אחת הדוגמאות להפרכה של התאוריה. היום יודעים שזה בגלל שינויים שהמוח עובר בשנים הראשונות לחייו)
ק׳,
אני לא מתעלם מהטיעונים אני פשוט לא מסכים איתם, וגם מומחה עולמי לחקר המוח בשם הנרי מרקרם לא מסכים איתם והוא קצת מבין בנושא.
״תהליך הכוונון הוא משמעותי לא פחות. אתה מתעלם שוב ושוב מהעובדה שאיננו יודעים בכלל כיצד להגדיר מהי תבנית המטרה, שזו תכונה הכרחית באימון רשתות ובלעדיה אין מה שמכוונן את הרשת למה שאתה רוצה שהיא תעשה״
תגידי לי כשחולדה תינוקת נולדת מי מכוון עבורה את פונקציית המטרה? ברגע שיצרנו את הרשת העצבית בהתאם למבנה הנוירונים במוח (וזה בדיוק מה שנעשה בפרויקט מוח האדם) אז כבר יצרנו את הכיוונון שאת מדברת עליו, זה הכל כלול.
א׳,
״איך יכולה להיות מודעות עצמית בלי רגשות?״
אז מה אתה טוען, שלפסיכופטים אין מודעות עצמית?
ניסים,
״הלן קלר כתבה שעד שלא לימדו אותה שפה, היא כלל לא היית “קיימת”. החשיבה שלנו היא בשפה, ובלי היכולת הזו לא תהיה מודעות גבוהה״
אני מסכים איתך לחלוטין וכבר אמרתי פעמים רבות שלשפה יש לדעתי תפקיד מכריע ביצירת תודעה, רק בעזרת שפה אתה יכול ליצור במוחך את הדיבור הפנימי השקט שהוא חלק בלתי נפרד מהתודעה האנושית.
ניסים,
1. אני לא חושב שאתה ריאלי, אתה כל כך להוט להראות שאני טועה (ושהמשימה קשה ומורכבת מדי) שאתה לא מפסיק לשלוף מהשרוול טיעונים שהם פשוט לא רלוונטים:
מה זה משנה בכלל שהרשת אצלנו מתחילה מתא בודד? מאיזו בחינה זה רלוונטי? רק אם הרשת מתפתחת בהדרגה מתא בודד אז היא יכולה להיות מודעת? שמע זו תיאוריה ממש מעניינת אבל אני לא חושב שיש לה איזה בסיס. בנינו עד היום כל כך הרבה רשתות נוירונים שלמדו יופי של משימות מאתגרות למרות שהן לא התחילו מתא עצב בודד.
והשפעה של LSD, שוב אתה מעלה טיעון כל כך לא רלוונטי, מה קשור סמים עכשיו? מי אמר לך שברשת העצבית שניצור לא נוכל לדמות השפעה של סמים?
2. ״איזה מהדברים שציינתי עושים השבבים של IBM?״
רשתות הנוירונים בשבב (או בתוכנת המחשב) מתפתחות ולומדות בהתאם לקלטים שהן מקבלות מסביבת המחייה שלהן, דרך החיישנים שמחוברים אליהן.
3. ״אנחנו לא מבינים את מנגנון השינה״
אנחנו גם לא מבינים איך מתוך המורכבות של הרשת העצבית במוחנו נוצרת מודעות עצמית, אך עדיין אני טוען שאם נבנה את הרשת כהלכה, אז גם אם היא לא תהייה מדוייקת ב 100% עדיין תיווצר בה תודעה ויווצרו מחשבות. הדיוק של הרשת לא כזה קריטי כל זמן שהבסיס מספיק טוב. עובדה שאנשים עם פגיעות מוח חמורות נשארים בעלי מודעות עצמית, אם הדיוק של מבנה הרשת היה כל כך קריטי אז כל פגיעה הכי קטנה במוח הייתה גורמת לנו לאבד את התודעה, ואנחנו רואים שזה לא מה שקורה בפועל.
4. בעיות מוסריות זה חשוב ומעניין, אבל כרגע אני מדבר אך ורק על הישימות של רשת עצבית בעלת תודעה אנושית.
מודעות עצמית ורגשות לא תלויים אחת בשני.
הרגשות נובעות מתוך צורך לאותת לגוף האם הדבר הוא טוב או רע לגוף.
מודעות עצמית היא ‘פיתוח מאוחר של התודעה’. כלומר, לאחר שהמודעות לסביבה גוברת ( גודלת ) אצל האורגניזם, אז הוא מתחיל לפתח מודעות גם כלפי עצמו.
א’
הלן קלר כתבה שעד שלא לימדו אותה שפה, היא כלל לא היית “קיימת”. החשיבה שלנו היא בשפה, ובלי היכולת הזו לא תהיה מודעות גבוהה.
אני גם חושב שנושא הרגשות הוא הפוך – אלה הן “תופעות מגיחות” עקב המודעות הגבוהה, ולא להיפך.
יריב
איך יכול להיות מודעות עצמית בלי רגשות? לא נראה לי שזה אפשרי. המערכת שאתה מציע תוכל אולי להיות ברמה של אדם בביצוע משימות מסוימות (משחקי מחשב, זיהוי פנים, זיהוי דיבור, קבלת החלטות בהינתן תוצאה רצויה ברורה וכו… ) אולי אפילו סביר שתוכל לעבור אותו ולבצע את המשימות טוב יותר מכל אדם. אבל זה עדיין רחוק מאוד מלדמות מח אנושי.
אני מסכים איתך בנוגע לכך ששאלת הדיוק בגוף האנושי לא רלוונטית. גם הלן קלר פיתחה מודעות עצמית וזה ללא חוש ראיה ושמיעה. אבל אי אפשר לפתח מודעות עצמית ללא רגשות. להופעה של רגש אין קשר לחיבור לגוף רובוטי (בקשר לתודעה אתה צודק) תינוק נולד עם היכולת להרגיש עוד לפני שהוא מקבל גירויים מהסביבה. הוא יכול להרגיש פחד עונג וכאב. בלי זה לא תתפתח תודעה. אמרת “אפילו אם עדיין לא יהיו לה רגשות והיא לא תרגיש עייפה או שמחה, אבל היא כן תהיה אינטליגנטית והיא כן תהיה בעלת תודעה בדיוק כמו של בן אנוש” ואני לא חושב שזה אפשרי. אי אפשר לפתח תודעה של בן אנוש בלי רגשות של בן אנוש כך שהבעיה אינה בהעדר גוף רובוטי ( אם כי אתה צודק שגם הוא הכרחי, ושהוא לא חייב להיות מורכב בהכרח)
אתה צריך להבין משהו. כל המחשבים הקוגניטיבים היום מדמים חלק מסויים מאוד במוח שאחראי על הלמידה ועיבוד החושים, ואת החלק הזה אנחנו מבינים די טוב יחסית איך הוא עובד. ולכן אנחרנו מסוגלים לכתוב אלגוריתם שמדמה אותו. אולי זה מרגיש כאילו הוא מדמה מוח אנושי אבל הוא מדמה רק אספקט צר ומסויים של המוח ולא יעזור להכפיל אותו או להריץ אותו על מחשב חזק יותר. רגשות לא יופיעו פתאום. אתה תקבל מחשב שלומד במהירות ומזהה פנים בדיוק על אנושי או שיכול ללמד שפה חדשה בכמה דקות על ידי סריקה של אלפי סרטים תוך דקות. אולי הוא אפילו יוכל לדמה שיחה אנושית שאפילו לא תוכל להבדיל. אבל זה עדיין יהיה רק דימוי של שיחה. הוא בסך הכל יקבל קלט ויחשב מה הפלט שהוא צריך לתת. הוא לא “ירצה” לא “יכעס” ולא יהיה מודע לעצמו.
יריב,
חבל שאתה מתעלם מהטיעונים שמעלים בפניך. המשפט הזה שכתבת: “…אם היינו לוקחים את הרשת העצבית של DeepMind (זו שמשחקת מירוצי מכוניות ומשחקי אטארי, ומתוכננת להגיע לרמה של חולדה בתוך פחות משנתיים) או היינו לוקחים את חתיכת המוח שבנו בפרויקט האירופאי (״פרויקט מוח האדם״) והיינו מגדילים אותה לגודל של קליפת מוח אנושית (16 מיליארד נוירונים) ומחברים אותה לרובוט אלמנטרי עם מצלמות וחיישנים, תוך זמן לא רב הרשת הזו הייתה מתחילה להיות מודעת לעצמה. אפילו אם עדיין לא יהיו לה רגשות והיא לא תרגיש עייפה או שמחה, אבל היא כן תהיה אינטליגנטית והיא כן תהיה בעלת תודעה בדיוק כמו של בן אנוש.”
מעיד על חוסר הבנה בסיסית בנושא רשתות נוירונים, הן ברמת הארכיטקטורה, הן מבחינת תהליך הלימוד שלהן והן מבחינת ההתנהגות שהן מייצרות. את חוסר הידע בנושא אתה “ממלא” בהשלכה ואינטרפולציה שגוייה לגמרי של ההישגים (היפים מאוד) שקיימים, התעלמות מהידע שקיים היום ומהבעיות שאיתן מתמודדים אלה שמפתחים רשתות נוירונים ו\או מודלים של מוחות ובאמצעות כמויות של ווישפול ט’ינקינג. אתה לגמרי דתי בנושא וצר לי שאינך רואה זאת. אני בטוחה שאם תעשה את המאמץ הלא מאוד גדול של להתנסות בפיתוח רשתות נוירונים פשוטות יחסית אתה תבין כמה מהנקודות העוורות שלך כמו זו שגודלה של רשת נוירונים, גם אם היא תכונה משמעותית, אין לה שום קשר הכרחי לתכונות שאותה רשת תייצר, כי תהליך הכוונון הוא משמעותי לא פחות. יכולה להיות רשת גדולה ככל שתרצה ושכל מה שהיא תדע לעשות זה לייצר פולס מחזורי וגם זה לא מחוייב המציאות.
לגבי האפשרות הראשונה, רשת מלאכותית כמו דיפ-מיינד, אתה מתעלם שוב ושוב מהעובדה שאיננו יודעים בכלל כיצד להגדיר מהי תבנית המטרה, שזו תכונה הכרחית באימון רשתות ובלעדיה אין מה שמכוונן את הרשת למה שאתה רוצה שהיא תעשה, וסטטיסטית הסיכוי שתגיע במקרה למשהו כזה הוא אפסי, והוא קטן במהירות עם גודל הרשת. האפשרות השניה של חיקוי פתרון קיים (כמו מח של חולדה) אומר שצריך גם חיקוי מדוייק של הארכיטקטורה של הרשת, גם חיבור ל”גוף וסביבה ” *מתאימים* (כי הארכיטקטורה המסויימת הזו עברה אבולוציה יחד עם גוף מסויים ובתוך סביבת גירויים מסויימת! אז אם תחבר לגוף הזה גלגלים במקום רגליים, יכול להיות שהמערכת תצליח לייצר תנועה אבל אין שום סיבה לחשוב שיתפתחו תכונות מסויימות שאולי נרצה בהן (כמו דגמי צעידה או דילוג מעל מכשולים). כדי לחסוך את השלב של ההתפתחות בסביבה המתאימה אתה צריך לדעת לא רק את הארכיטקטורה של המח אלא גם את הדינאמיקה שרצה בתוכו, וזו כבר בעיה הרבה הרבה יותר קשה מחיקוי הארכיטקטורה שרק עכשיו מתחילים בנסיונות חיקוי רציניים.
דבר ישירות עם מישהו בתחום אם חשובה לך הבנה קצת יותר מבוססת בנושא.
יריב
איזה מהדברים שציינתי עושים השבבים של IBM? הם מושפעים מ-LSD? הם מתפתחים מתא בודד? על מה אתה מדבר?
אנחנו לא מבינים את מנגנון השינה, אבל אנחנו יודעים לדמות אותו? לא נראה לי סביר.
אני חושב שאני וק’ ריאלים. העלנו מספר בעיות ואתה חושב שהם זניחות. לדעתי, לפחות, כל בעיה כזו מעלה את הסיבוכיות בסדרי גודל. ויש גם בעיות מוסריות קשות שאתה לגמרי מתעלם מהם.
ניסים,
להערכתי אתה מפריז יותר מדי בקושי ובמורכבות של הבעיה ולכן אתה כזה פסימי. את רוב הדברים שציינת מבצעים גם השבבים הקוגנטיבים של IBM וזה בעצם מה שעושה כל רשת עצבית ממוצעת, היא מתפתחת ולומדת כתוצאה מאירועים שהיא נתקלת בהם, דרך החיישנים שמחוברים אליה, ואם זה רובוט אז דרכו היא חווה את העולם בדיוק כמו בעל חיים או אדם.
גם את ההשפעה של ההורמונים ניתן לדמות ע״י שינויים מתאימים בסינפסות של הרשת, בדומה להרצאה שקישרתי אליה קודם בה הנרי מרקרם מתאר כיצד הם הביאו את הרשת העצבית שלהם למצב ״שינה״ באמצעות הדמייה של שינויים כימיים מתאימים בחתיכת המוח שהם בנו. לגבי LSD, אנחנו פשוט נדאג שאף אחד לא יתקרב לרשת שלנו עם הסם הזה 🙂
תקשיב, יש בעולם שלנו לפחות 5 מיליארד בני אדם שמודעים לעצמם, לכל אחד מהם יש רשת עצבית שונה במוחו, לחלק מהאנשים יש פגיעות ראש קשות כתוצאה מגידול או כתוצאה מתאונה, ועדיין המוח שלהם מודע לעצמו. כלומר הכיול של הרשת העצבית עבור תודעה אנושית, לא חייב להיות כזה מדוייק כפי שאתה מנסה להגזים בתיאורים שלך.
תכלס לא אתה ולא אני יודעים בוודאות, אבל אני מהמר שכבר עם הידע שיש לנו היום, אם היינו לוקחים את הרשת העצבית של DeepMind (זו שמשחקת מירוצי מכוניות ומשחקי אטארי, ומתוכננת להגיע לרמה של חולדה בתוך פחות משנתיים) או היינו לוקחים את חתיכת המוח שבנו בפרויקט האירופאי (״פרויקט מוח האדם״) והיינו מגדילים אותה לגודל של קליפת מוח אנושית (16 מיליארד נוירונים) ומחברים אותה לרובוט אלמנטרי עם מצלמות וחיישנים, תוך זמן לא רב הרשת הזו הייתה מתחילה להיות מודעת לעצמה. אפילו אם עדיין לא יהיו לה רגשות והיא לא תרגיש עייפה או שמחה, אבל היא כן תהיה אינטליגנטית והיא כן תהיה בעלת תודעה בדיוק כמו של בן אנוש.
בקרוב צפוייה לדעתי אבן דרך משמעותית ראשונה בדרך לשם, אם תוך 3-4 השנים הקרובות נראה רשת עצבית שמתנהגת בדיוק כמו חולדה (אתה וק׳ מאד סקפטים בעניין הזה) אני חושב שזה יגרום לך להיות קצת פחות סקפטי. אז בוא נחכה ונראה לאן העניינים יתפתחו בשנים הקרובות במקום לקשקש כל כך הרבה.
יריב
התודעה במוח שלנו לא נוצרת אוטומטית – המידע הזה הוא תוצאה של תהליך ההתפתחות של אדם, שמתבצע בזמן שהניורונים מתפתחים, בשילוב כל הארועים שקורים לאדם, כל מה שהוא חש, השפעת ההורמונים וכן הלאה וכן הלאה. התודעה שלנו רגישה ביותר, ויכולה להשתנות בצורה קיצונית עקב שינויים קטנים מאד (כמות מזערית של LSD, שבץ מוחי קטן, עייפות, פחד, רעב, קנאה וכו’).
שום מערכת אלקטרונית לא מתפתחת בצורה כזו. בנוסף – גם אתה אומר שהמכונה הזו לא תהיה חיקוי של האדם (מוח, חושים, עצבים, הורמונים וכן הלאה).
לכן – אין שום סיבה לחשוב שהתודעה שתגיח ממערכת אלקטרונית תהיה דומה לתודעה של האדם (אולי דווקא תהיה לזה תודעה כמו של מיליארד יתושים?). ובטח שאין שום סיבה לחשוב שהתודעה הזו תהיה אינטליגנטית (אין לנו שום מושג איך לדעת מה רמת האינטליגנציה של אדם מסויים מסריקת MRI.
ניסים,
תהיה יותר ממוקד לא הצלחתי להבין מה רצית לומר בכל הציטוטים שהבאת, ואני אכן עומד מאחוריהם.
מה שאני טוען זה שהמדענים מפתחים רשת עצבית שממנה תגיח מתישהו תודעה ברמה של אדם, אני טוען שלשם כך הם יהיו חייבים לחבר את הרשת הזו לגוף רובוטי אך הוא ממש לא יצטרך להיות מורכב כמו גוף ביולוגי.
אני גם טוען שהתופעה של מודעות עצמית תגיח מתוך הרשת הזו גם אם עדיין לא נבין ב 100% כיצד פועל המוח שלנו, ברגע שיהיו מספיק נוירונים ומספיק חיבורים ברשת זה פשוט יקרה באופן ספונטני.
יריב
כתבת “אני חושב שהטענה הזו ממש לא נכונה וכבר אמרתי לך זאת בשיחות קודמות. כן, נהיה חייבים לחבר את הרשת העצבית לגוף כלשהו על מנת שהיא תלמד ותתפתח, ותפתח דברים כמו תודעה, אבל הגוף הזה ממש לא צריך להיות ברמת מורכבות של גוף ביולוגי, זו טענה מופרכת שאין לה על מה להישען ולדעתי היא ממש לא נכונה.”
במקום אחר טענת שהרובוט יפתח רגשות כמו אהבה….. ובמקום אחר טענת שהמוח יהיה הדמייה של מוח אדם, אפילו הזכרת חיקויי עד לרמת המולקולות.
אני לא מבין אם אתה חושב שמדענים מפתחים תודעה של אדם בתוך מכונה, או שהם מפתחים מערכת שממנה תגיח תודעה ברמה של אדם.
כדי לחקות תודעה של אדם, צריך יכולת לפענח את המוח של האדם – ומזה אנחנו רחוקים הרבה עשרות שנים – וזה רק שלב הקריאה.
ולחשוב שמכונה מורכבת ביותר תפתח דווקא תודעה שדומה לתודעה של אדם? עוד יותר הזוי.
מוח האדם הוא הדבר הכי מורכב ביקום שאנחנו מכירים. בעוד 10 שנים (20, 30 …. תחליט כבר) נדע לפענח את הדבר הזה וגם לבנות חיקוי שלם שלו? לא יקרה.
ניסים,
1. אני ממש לא אומר שום דבר שונה, לאורך כל השיחות שלי איתך כאן הדגשתי שוב ושוב (ושוב ושוב…) שיש כוונה לחבר את המוח הזה לגוף רובוטי, כבר הספקת לשכוח ניסים? אתה רוצה שאני אראה לך שיחות שלנו מלפני שנה וגם מלפני שנתיים שאמרתי לך את זה?
כדי לדמות מוח אדם, המוח הזה לא יכול להיות מנותק באוויר, הוא לא יכול להיות סגור בתוך צינצנת ולפתח תודעה. כדי שהוא ידמה מוח אנושי על כל מה שיש במוח כזה, הוא חייב לקבל קלטים ולהיות באינטראקציה עם העולם, והדרך הטובה ביותר להשיג זאת היא ע״י חיבורו לגוף רובוטי שיכול לזוז ולפעול בעולם, רובוט עם מצלמות וחיישנים. זו הדרך היעילה ביותר לגרום לו לדמות מוח אנושי, אין שום סתירה בין הדברים.
2. ״אנחנו לא קרובים לדמות מוח של אדם״
אתה יודע ״קרוב״ זה דבר יחסי, אני חושב שנגיע לכך לכל המאוחר תוך 30 שנה, יש כיום מספר פרויקטים גדולים שהולכים בדיוק לכיוון הזה, ואם זה לא יהיה פרויקט המוח האנושי אז זה יהיה פרויקט אחר שיצליח במשימה. 30 שנה נראה לי זמן סביר בהחלט להגיע לזה בעיקר לאור ההתקדמות המהירה שחלה בתחום בשנים האחרונות, לדעתי זה בהחלט אפשרי וזה גם יקרה בפועל.
יריב
אתה זה שאמרת שמטרת הפרוייקט האירופאי היא הדמיית מוח האדם. עכשיו אתה אומר משהו שונה לחלוטין – פיתוח רובוט בעל תודעה.
אני כל הזמן אומר את אותו הדבר:
1. אנחנו לא קרובים לדמות מוח של אדם, וגם לא מוח של עכבר לבן.
2. לא רק שאני כן מקבל את זה שנוכל לפתח רובוט בעל תודעה, אני חושב שכבר עשינו את זה 🙂
בסעיף 2 הכוונה לרשת עצבית שמתפתחת בתוך גוף רובוטי אם זה לא היה מספיק ברור.
ניסים,
כשאומרים על טענה שהיא מופרכת הכוונה שזו טענה חסרת בסיס, כמו שסיפורי התנ״ך למשל הם סיפורים מופרכים כלומר חסרי בסיס.
תבין שיש הבדל ענק בין:
1. רשת עצבית כמו הרשת המוחית שלנו שהתפתחה מלכתחילה כחלק מהגוף הביולוגי המורכב שלנו, ולמדה מגיל אפס להתמודד עם הקלטים המורכבים שמגיעים אליה מהחושים השונים של הגוף הזה, ואז פתאום אתה נותן לה קלטים שונים שהיא לא מכירה כמו קלטים ממשקפי מציאות מדומה שגורמים לה לתחושת בחילה או אי נוחות.
2. מצב בו כבר מהתחלה הרשת מתפתחת בגוף שונה ולומדת להכיר את הקלטים היחודיים שהיא מקבלת ממנו עד שהוא הופך לחלק טבעי ובלתי נפרד ממנה. הרשת הזו תבנה ותעצב את עצמה סביב הקלטים של הגוף הזה, הם לא יגרמו לה לשום בחילות ולשום מחושים כי זה הגוף היחיד שהיא מכירה, היא עוצבה להתמודד עם הקלטים שמגיעים ממנו.
יריב
אתה אומר שהטענה הופרכה? ע”י מי?
אני אומר שלטענה שלי יש ראיות רבות. אני מציע לך לקרוא את הספר phantoms in the brain של חוקר ידוע בשם ראמאשאנדראן.
אחרי שתקרא ותבין, יש לי ספריה שלמה לתת לך.
ניסים,
״כבר סיכמנו שכדי לדמות מוח אדם, צריך לדמות גם את הגוף. לא רק השרירים והעצמות – גם העצבים, המערכת האנדוקרינית, החושים וכן הלאה. אנחנו יודעים שאדם לא ישאר שפוי ללא הדברים האלה״
אני לא יודע מה זה ״כבר סיכמנו״ ומה זה ״אנחנו יודעים״, זה שאתה חוזר על הטענה הזו בכל שיחה כאן לא אומר שאני מסכים איתך או שהטענה הזו נכונה.
אני חושב שהטענה הזו ממש לא נכונה וכבר אמרתי לך זאת בשיחות קודמות. כן, נהיה חייבים לחבר את הרשת העצבית לגוף כלשהו על מנת שהיא תלמד ותתפתח, ותפתח דברים כמו תודעה, אבל הגוף הזה ממש לא צריך להיות ברמת מורכבות של גוף ביולוגי, זו טענה מופרכת שאין לה על מה להישען ולדעתי היא ממש לא נכונה.
יריב
כבר סיכמנו שגדי לדמות מוח אדם, צריך לדמות גם את הגוף. לא רק השרירים והעצמות – גם העצבים, המערכת האנדוקרינית, החושים וכן הלאה. אנחנו יודעים שאדם לא ישאר שפוי ללא הדברים האלה.
נסה פעם משחק VR ותראה איזה בחילה מקבלים בתנאים מסויימים. תחשוב על אנשים עם קטיעות (ואפילו שנולדו ללא גפיים) – ותחשוב על כאבי התופת שהם חיים בהם. נתק אדם מהסביבה שלו – והוא יאבד את שפיותו.
אני יכול להמשיך עוד הרבה – ואני עדיין אפספס דברים. על כל זה נתגבר תוך 7 שנים (כבר עברו 3….)? ברצינות?
ניסים,
1. אחת המטרות של הפרויקט היא אכן יצירת כלי מחקר חדשים עבור חקר המוח, אך מטרה מוצהרת נוספת היא יצירת הדמייה מלאה של מוח אנושי בתוך עשור. לכן אני מאמין שרוב או לפחות חלק נכבד מהחוקרים והמדענים ששותפים לפרויקט שותפים גם לחזון שלו ומאמינים שהדבר אפשרי, גם אם זה יקח 20 שנה ולא 10 שנים.
2. אני ממש לא חושב שיהיה צורך לרדת לרמת רזולוציה של מולקולות בודדות או לרמת מורכבות של מוח ביולוגי כדי לבצע הדמייה של המוח, גם הם מבינים זאת ולכן המערכת שהם בונים מאפשרת לבצע הדמייה ברמות שונות של רזולוציה החל מרמת המקרו ועד לרמת המיקרו. ברגע שיבינו את העקרונות בצורה מספיק טובה ידעו גם מה אפשר לסלק מההדמייה ומה לא רלוונטי בלי לפגוע בתוצאות.
כשממהרים טועים – מיליון נוירונים לשבב.
תיקנתי: 1024 נוירונים ו-256 סינאפסות לשבב.
אנונימי. גם מיחשוב קוונטי ייתן כזה כוח אני מסכים, אבל גם מחשב על מבוסס שבבי סינאפס 48 מיליון נוירונים וסינפסות לשבב כפול 1000 שבבים. טעיתי – היום עברתי באתר של IBM, מדובר ב 1 מיליון נוירונים לשבב ו 256 סינאפסות. ומחשב העל מבוסס 4096 שבבים. השבבים צורכים רק 70 מיליוואט ומדובר על מחשבי על דלי הספק – בדיוק כמו המוח שלנו. וישנה עוד דרך זמינה גם היום גם לעובדי חברות פשוטים כמוני שנותנת תוצאות יפות מאד. ביזור חישוב בין מחשבים רגילים. יש די הרבה מדענים בתחום בינה מלאכותית, והיתה סידרת כתבות שטיפה העזה אבל אמרה אנחנו לא שם. זה עולם מקסים ביופיו ואני חייב לציין שאני הולך אחריו למרות שאני מודע שיום אחד הם יחליפו אותנו. כמו שאנחנו החלפנו את הדינוזאורים. הדרך היחידה לשמור על האדם תהיה אולי לייצר סייבורג. ברור שביום יום אני חושב על הפרנסה, אבל זה קורה.
יריב
הרבה מאד מדענים חושבים שהפרוייקט האירופי הוא לא רציני.
גם חברי הפרוייקט עצמו לא חושבים שהם הולכים לבנות מוח תוך 10 שנים – הם אומרים בפירוש שמה שחשוב זה הכלים שיפותחו בדרך.
בכל מקרה – המספרים שציינתי הם לדעתי נכונים, וכל עוד אף אחד לא מתקן אותי – אני טוען שאנחנו רחוקים מאד מלדמות מוח אדם.
תיאור יותר נכון של הסרטים ההוליוודים יהיה כסוג של סימולציות מחשבתיות אנושיות ולא כתאוריה מדעית
מכיוון האינטלגנציה המלאכותית היא יצירה אנושית וגם מערכת לומדת תשתמש בבסיס שלה במידע
שנאסף ע”י אנשים יתכן שנקבל התנהגויות\סימולציות של התנהגויות אנושיות ברובוטים במיוחד אם אנחנו מחוץ
למעגל הלמידה המהיר ובהחלט יכולים להצטבר תוצאות לא טובות לנו במערכת הזאת,
כי גם אצל אנשים יש התנהגויות קשות כרגע כמה ק”מ מצפון לנו אנו חוזים בגיהנום האנושי
העם שלנו חווה זוועות שלא נופלות מתסריטי האימה הגרועים ביותר של רובוטים רעים,
ההבדל הוא שמול אנשים רעים ניתן להעמיד אנשים טובים ויש סיכוי לנצח
מול אינטלגנציה שעולה עליך בכל פרמטר אפשרי (עוד לא ברור עם תהיה לה תחושה סוביקטיבית)
רק אינטלגנציה באותה רמה תוכל להתמודד איתה,
היא לא צריכה להשתלט או להחליף אותנו היא רק תהפוך אותנו למיותרים
אנחנו כרגע רואים את הניצנים של הרובוטיקה הזאת אבל כבר ברמת הבסיס המהירויות האדירות של עיבוד
מידע של המערכות הלא ביולוגיות לא מבטיחה טוב ליכולת שלנו להיות משמעותים בעתיד
אנחנו נראה מבחינת עיבוד מידע כמו חילזון עבור מערכת כאלו, על כל מחשבה שלנו הוא יחשוב מליון מחשבות
וזה עוד לפני שמחשבים קוונטים נכנסו לעבודה מלאה שזה נראה כמו טכנולוגיה של חיזרים
חיבור של 2 המערכות הקוונטית והדיגטלית האלו יחד יצור עוצמה כמעט בלתי ניתנת לתפיסה אנושית,
השאלה המענינת האם יהיה איזה תחום שמוח ביולוגי יוכל לעשות יותר טוב מהאינטלגנציה מלאכותית
האם הוא יהיה בכלל רלוונטי להתפתחות או שנהפוך לאיזה נישה צדדית של האבלוציה שבעזרתינו
קפצה לחומר שאינו ביולוגי ונהיה כמו מיני האדם שנעלמו מעל פני כדור הארץ,
כתכנת ומאפין של מערכות אוטומציה קשה לי מאד לראות איך ניתן לשלוט במערכות כל כך מורכבות
גם במערכות מורכבות שאנו בונים כיום יש בגים וטעויות ואנו כל פעם ממציאים שיטות משופרות כדי להתמודד עם המורכבות שגדלה כל הזמן קשה לראות איך ניתן לשלוט במערכת לומדת שעולה אליך
שבה רק השכבה הראשונית נכתבה ע”י ואולי גם שוכתבה בהיזון חוזר ע”י המערכת עצמה,
מה שבטוח שיהיה מענין בעתיד השאלה האם יהיה טוב? וצריך להשקיע הרבה כדי שיהיה טוב
יוסי
כוח חישוב שיספיק לחישובים שעליהם אתה מדבר יהיה קיים כאשר יהיה קיים מחשב קוונטי.
עד אז – החלומות לא עולים כסף…
יריב
עלה בדעתך שאולי זה דווקא אתה שלא מבין את אותם המדענים ועוד כמה אנשים שדנים איתך על כך?
ניסים,
אין לי כרגע יותר מדי זמן להשתתף בדיון באופן פעיל אבל סתם מסקרן אותי, מה לדעתך כל האנשים ששותפים בפרויקט הענק הזה ובינהם מומחי מחשבים ורשתות נוירונים ומומחי מוח מהשורה הראשונה בעולם, לא יודעים או לא מבינים שאתה כן?
נכון להיום אין מכונה שעומדת במבחן טיורינג. רובוטים אנושיים ,יש וימשיכו להיות רק בחברות דיקטטוריות (למשל הבית היהודי).
יוסי
לזה אני מסכים.
תודה שלא כיסחת אותי.
מחדד את דברי: להערכתי איננו במרחק פסיעה מיצירת תודעה. מה שחסר אלו תאוריות. כפי שבאו רשתות נוירונים קונבולוציוניות בסביבות 2004 ושידרגו את רשתות הנוירונים. כוח חישוב גולמי יהיה. האם זה מסוכן? כן. בזה המאמר לדעתי מטפל יפה. הסתברותית רוב הסיכויים לדעתי שזה ילך לכיוון לא טוב כי יש הרבה כיוונים לא טובים (משתבשים) ויש רק מסלולים אופטימליים בודדים או רק אחד. חוק שני של תרמודינמיקה: יש הרבה דרכים לשבור כוס, יש כמעט רק מסלול אחד שהרסיסים יחזרו יולחמו אחד לשני לכוס שלמה.
צריך להיות אופטימי ולהאמין במשהו. לא חייב באלוהים.
יוסי
הסידרה שציינת מאמבה לאדם בעייתית – האדם אינו יותר מפותח מאמבה. אנחנו מפותחים בדיוק באותה מידה.
יש עוד תכונה עיקשת לנוירון ולמולקולת DNA. היכולת לשרוד ולהתפתח. אמנם לא בסתירה לחוק השני של התרמודינמיקה, עקרון האנתרופיה הגדלה, שתי הישויות הנ”ל מייצרות ברמת מיקרו סביבה שמגדילה את הסדר וכמות המידע האגורה של עצמה, בקידוד לכמות תאים קטנה, ולשרוד 3.5 מליארד שנים בכדור הארץ. אסטרואיד, מגפות, מלחמות. ולשפר את עצמה כמכונה: אמבה, דו חי, דינוזאור, יונק, קוף, קוף עילאי, אדם. יש לזה ניסוח מתימטי מדוייק לדעתי. אותו אני שומר לא מתוך שחצנות – אני מודע לקטנותי. אני רוצה לפרסם מאמר פעם ולקח לי הרבה זמן להבין. אני מאמין שמה שלקח לי 3 שנים להבין, אני יכול להעביר לאחרים בהעתקה תוך שעה.
המאמר התחיל בשאלה הנכונה אבל יכול היה להעיז הרבה יותר. מה כל כך קשה בלדמיין תודעה שיותר חכמה מאיתנו בהרבה דברים. אנחנו תוצר של אבולוציה איטית בת 3.5 מיליארד שנים. יצורים נבונים אך ממוקדים בעצמם ומתקשים בחשיבה פנורמית בזמן ובמרחב. לא קשה לי להעלות על הדעת אבולוציה פיתוחית שתעבור אותנו. בשבב סינאפס אחד של IBM,יש 48 מיליון נוירונים וסינאפסות. הסברה אגב שנעשה שימוש בכ-1% מהמוח, אבל ייתכן ואנו טועים. אני מסכים שצריך יהיה לפתח תיאוריות של מערכות יותר חכמות מהבינה המלאכותית הקיימת כיום, להבנת הבינה שלנו, ואנחנו בשלב הבנת החישה והפיענוח – עדיין לא תודעה כמונו. לא להעתיק את הקשרים זהה. לכן נדרשים 1000 שבבים לקבלת אותו מספר נוירונים שציינת ניסים היקר (בלי מרכאות כפולות) – ראיתי את תגובתך אלי והיא מקובלת עלי, בעניין ההומאופתיה. בעבודתי פיתחתי תוכנת בינה מלאכותית למשימה כלשהי לא פשוטה. היא עושה את זה באיכות מעוררת פליאה. השתמשתי שם בסה”כ ב 20X8 נוירונים שזה כ 200. לאחר שיש לנו בסיס נתונים של מליארד נוירונים – שזה מה ש IBM מפתחת לדארפא – מפא”ת משרד הביטחון האמריקאי – מערכת צבאית למעקב וחיסול טרוריסטים. כעת מייצרים בחיבורים רשת למידה עמוקה – רשת קונבולוציונית. אלה הקשרים המורכבים שדיברנו עליהם. יש לזו כוח למידה בלתי נתפס. אני משווה את הטריליון הזה, עם ה 200 שאני משתמש. עם הרבה פחות מזה (כ 50 מיליון) נותנים ליישום כמו ווטסון לשחק במשחק טריוויה, לשחק בסידור קוביה הונגרית לא לפי אלגוריתם קבוע, שח-מט, לפענח MRI של ריאה, ועוד ועוד עשרות יישומים. בכולן הוא לומד מאפס והופך לחזק יותר מרב-אומן. לכן גם שאני אדם מאמין בבורא, אבל גם מאמין בשיטה המדעית, כוח חישוב כמו שאתה מציין, קיים גולמית כבר היום.
אחרי שצפיתי בקליפ של יריב, שמתי לב שאם נחליף את הקול של הפרופסור ונשים במקום את קולו של הרב אמנון יצחק – אז זה עדיין יהיה משכנע באותה המידה!
א’/יריב
במוח שלנו יש 100 מיליארד ניורונים ו-100 טריליון קשרים. על כל קשר יש אות שבנוי מפולסים במרווחי זמן משתנים. סדר הגעת הפולסים חשוב ולא רק התדר. צריך לדמות את הפעילות הזו במקביל ולכן לא ניתן לדמות בשום תוכנה – צריך מערכת מקבילית. לא לשכוח שלאותות האלה קצב התקדמות משתנה שגם אותו צריך לדמות – עבור כל קשר וקשר.
כדי לדמות אדם – צריך לדעת ברגע נתון מדוייק את כל הדברים האלה. אנחנו היום יודעים לקרוא קצת מידע מתאים בודדים במוח, ולקרוא את הערך הממוצע של זרימת המידע ברזולוציה של 2 ממ בכל ציר. שים ךב – יש כאן מיצוע במרחב וגם בזמן.
אם רוצים לדמות ברמת מולקולות – צריך להכפיל את מספר התאים בעוד 100 טריליון.
אולי נהיה רציניים? 🙂
אני ממליץ לראות עד הסוף.
הנה זה כאן, הקטע מתחיל בדקה 2:57
https://www.youtube.com/watch?v=a1XcY-xAvos
א׳,
מה שאמרת זה בדיוק מה שעושים בפרויקט המוח האנושי (פרויקט הדגל של אירופה) יוצרים שם הדמייה מלאה של הפעולות החשמליות והפעולות הכימיות שמתרחשות במוח, עד לרמת המולקולה הבודדת.
הם מדמים שם גם פעולות הורמונליות (אלו שאמורות לגרום להופעת רגשות) ולא מזמן הם הביאו את המוח הממוחשב שלהם למצב של ״שינה״ והיו להם כתוצאה מכך כמה תובנות מעניינות, אבל אני צריך למצוא שוב את ההרצאה כדי להיזכר במה מדובר.
ניסים
למה לבנות כזה דבר?
אפשר להריץ סימולציה. כמו שרשת ניירונים מלכותיים לא בונים באמת היום אלה רק סימולציה שלהם. אם תיצר במחשב סימולציה מלאה של המוח אתה לא חייב שהיה כלול רק את הפעולות החשמליות. באותה מידה היא תוכל לחשב את הפעולות הכימיות. ( דרך אגב לא נראה לי שזה יעבוד. אבל ימים יגידו )
יריב
בוא תהיה כנה וישר עם עצמך, לפחות…
אתה לא הראת איך מגיחים רגשות מתוך רשת עצבית המותקנת על שבב.
בעיקר, מהסיבה שאין דברים כאלה כמו שאתה מתאר.
תניח את הדברים הלא רלוונטיים – כמו הרגשות שלך – בצד, ותנסה להשתמש בשכל והגיון כדי לנסח את התשובות שלך. עם כל הכבוד. ויש כבוד.
יריב
הרגשות שלנו אינן בדיוק חלק מהתודעה. חלק מרגש האהבה, למשל, קשורה למערכת ההורמונלית.
הדרך היחידה לקבל “אדם” היא ע”י בניית מכונה שמורכבת כמו אדם, עד לרמת המיקרו-איבר של כל תא, בגודלו של אדם, שרגיש לכימיקלים כמו האדם, ושרגיש לסביבה כמו האדם.
ואם נבנה כזה דבר – הוא יהיה בעייתי כמו האדם, חשוף לאותם המחלות, ויזדקן תוך כמה עשרות שנים. הוא גם יצטרך לישון 6 שעות כל לילה.
וכמובן – אין לך כל בטחון שחלק מהרובוטים לא יצטרפו לדעש, או יצביעו לביבי…
תיקון – לא יכולים.
ניסים,
אתה טוען שרגשות לא יכולות להגיח מרשת עצבית מלאכותית, בסך הכל הצגתי לפניך ניסוי מחשבתי פשוט שמראה לך רשת עצבית על שבב שכן מגיחים מתוכה רגשות.
מה זה משנה אם הרשת הזו היא שיכפול או לא, זו רשת עצבית מלאכותית שמגיחים מתוכה רגשות ברגע שמפעילים אותה ואתה טוען שזה בלתי אפשרי.
וגם – להעתיק אדם על שבב מחשב שקול לכך שישכפלו גוויה.
הרי הרובוט צריך “חיות”..
אין אפשרות להעתיק ולצפות שמשם והלאה היציר יסתדר בכוחות עצמו.. הסצנריו הזה לא הגיוני.
מה שאפשרי הוא בניה מן ההתחלה. כמו שמשכפלים כבשה ומתחילים מתא פשוט, כך ישכפלו מוח ויגדלו אותו על גבי הרובוט. אבל כאן כבר נכנסת התודעה לפעולה…
יותר מכך – הנקודה העיקרית היא שהשכפולים האלו כבר נעשים מיליארדי שנים..
הרי הצאצא הוא שיכפול של הוריו ובכל זאת אין הם זהים. והתודעה שמתפתחת אצל הצאצא – אינדיבידואלית.
יריב
תחליט – אנחנו משכפלים אדם או שהתודעה ברובוט מגיחה מהמורכבות של המוח הסינטטי? אתה מבין שאלו שני דברים שונים מאד מאד מאד מאד?
…ואם אותו אדם ממוצע, לאחר שיכפול מוחו על השבב, החליט שהוא לא אוהב את אישתו והוא רוצה להתגרש ממנה – האם גם הרובוט יבחר באותה החלטה? ובמידה ולא, מדוע? מה יגרום לרובוט לשנות את התנהגותו ולא להתנהג לפי המצופה ממנו?
ניסים,
אם ניקח אדם ממוצע (שיש לו רגשות כמובן) ונעתיק את המוח שלו אחד לאחד לתוך שבב מחשב, ואז נחבר את השבב לרובוט דמוי אדם, ונציב מולו את אישתו של האדם שמוחו הועתק לשבב, האם לדעתך הרשת העצבית שתרוץ בתוך השבב לא תרגיש רגשות עזים כלפי אותה אישה? היא לא תרגיש כלפיה אהבה?
אם לא, הסבר ונמק מדוע ?
יריב
מישהו פה כתב “רגש כמו אהבה הוא כלי שנועד לעזור לנו להתרבות”… בלי צורך או יכולת להתרבות אני לא חושב שיתפתח רגש כזה.
ניסים,
לדעתי כפי שהתודעה תגיח אצלם מתוך הרשת העצבית כך יגיחו אצלם גם רגשות. הם יהיו שמחים, ועצובים, ואוהבים וכועסים בדיוק כמונו.
ואם נעצבן אותם אז הם יראו לנו מה זה.
נוסטרדמוס; יריב
‘יפלשו לכדור הארץ בשביל משאבים’. ‘לא יתנו לבני אדם להגיע למאדים’… ואם יבנו את הרובוטים על כדור הארץ אז הם לא ינסו להשתלט על כדור הארץ? אם יבנו אותם כאן אז הרובוטים כן יאפשרו לבני אדם להגיע למאדים? – שניכם טועים.
לא משנה איפה יבנו את הרובוטים. ולא משנה איפה ישימו אותם, עדיין, הם יפתחו אינטלגנציה.
ובדומה לאדם – גם אצל הרובוטים צפויה להתפתח תכונת האגואיזם. מה שלא יתרום ליחסים בין בני אדם לסייבורגים.
השאלה העיקרית היא:
איך ניתן יהיה להסתדר עם הסייבורג?
איך לתנכת את הרובוטים שיטיבו עם הסביבה?
ראשית, כשמדברים על תבונה מלאכותית כדאי מאוד להיזהר מהצהרות ש”נובעות באופן הגיוני מן העובדה הפשוטה ש…”.
שנית, לא צריך בכלל תבונה מלאכותית שמתוככנת באופן חד ממדי להשיג תכונה כזו או אחרת כדי לדפוק את המצב באופן מלכותי. מספיק להביט באנרון למשל, חברה שפעלה להשיג רווח מקסימלי לבעלים במסווה של פעילות להשגת שליטה קפיטליסטית על שוק החשמל, במסווה של ייעול שוק החשמל, ובפועל הצליחה להשיג הפסקות חשמל אימתניות בקליפורניה (בשעה שהיה ייצור עודף של חשמל בקליפורניה!), שחיתות בממדים שלא נראו עד אז ופשיטת רגל מן המפוארות שידעה ארה”ב.
יריב
רגש כמו אהבה הוא כלי שנועד לעזור לנו להתרבות. אני לא הייתי רוצה לוותר על הרגש הזה. ובטח לא הייתי רוצה לוותר על מה שמתלווה לרגז הזה.
גם ברור לי שהמוח שלנו לא נועד לחיים מאד ארוכים.
לכן – רובוטים כמו שאתה מתאר לא יכולים להיות שכפול של בני אדם. הם יהיו תמיד רובוטים, ואין שום סיבה לחשוב שהם יהיו נחמדים אלינו. גם אתה, אני בטוח, מסכים שהתודעה שלהם תהיה תוצאה של הגחה, ולכן לא נוכל לדעת מראש מה ייצא, וגם לא נוכל לשלוט על התוצאה, או אפילו להבין את התוצאה.
יובל,
הרובוטים האלו (שיוכלו דרך אגב להיראות חיצונית לחלוטין דמויי אדם) יהיו הצאצאים המשודרגים שלנו, הם יהיו ההמשך הישיר שלנו גם אם הם יווצרו בבתי חרושת ולא בדרך שמקובלת כיום.
אני דווקא לא אוהב את הרעיון של קורצוויל.
אין צורך להתמזג עם המחשבים. ההמשך הישיר של החיים שלנו הם הילדים שלנו.
אם יהיו חיי נצח אז לא יהיו יותר ילדים.
אני אוהב את התחזית של ריי קורצווייל, לדעתו לא תהיה תחרות כזו משום שאנחנו נתמזג עם הטכנולוגיה ונהפוך לישות אחת.
כבר היום מסתובבים ביננו עשרות אלפי אנשים עם ידיים ורגליים ביוניות, עם עיניים ביוניות ועזרי שמיעה, עם לב מלאכותי ואפילו עם שבבים דיגיטליים במוח שניתן לעדכן מבחוץ בתוכנה חדשה (חולי פרקינסון) , התופעה הזו רק תלך ותתרחב.
הרבה ידיעות בזמן האחרון בקשר לבינה מלאכותית, כנראה מכינים אותנו לקראת משהו, חברה תתכוננו.
ואולי הם בכלל יראו בנו פולשים ולא יאפשרו לנו להגיע לשם…
כי גם הרובוטים במאדים יוכלו עם הזמן להתפתח ולפתח רצון עצמאי ואולי לפלוש לכדור הארץ בשביל משאבים
ולמה לא לפתח רובוטים כאלו על מאדים? ולתת להם לבנות את הכוכב כך שגם בני אדם יוכלו לחיות עליו?
למה לא לפתח רובוט חכם ולשלוח אותו למאדים שילמד שם? למה דווקא על כדור הארץ? מדוע לא להפוך את הכוכב ונוס או מרקורי לביתם של הרובוטים? הם יכולים לבקר על כדור הארץ במידה ועברו הכשרה מתאימה, למשל. אז למה לא?