פרופ’ ריצ’ארד ג’ונס, סגן נשיא למחקר וחדשנות, אוניברסיטת שפילד קורא תיגר על אחת מאבני היסוד של תיאורית הסינגולריות ומסביר כי ישנם שיקולים מעשיים שימנעו זאת בעתיד הנראה לעין, אך חשוב מכך – בעיות מוסריות
מאת פרופ’ ריצ’ארד ג’ונס,אוניברסיטת שפילד. תרגם: אבי בליזובסקי
אנשים תמיד חלמו על יציאה אל מעבר למגבלות גופם: כאב, מחלות, ומעל לכל, מוות. עכשיו מנסה תנועה חדשה להלביש את המניע העתיק הזה בבגדים טכנולוגיים חדשים. בבסיס התנועה המכונה טרנס הומניזם, זוהי האמונה שהמדע יספק דרך עתידנית לבני אדם להתפתח מעבר לגוף הפיזי שלהם ולהגשים את החלום הזה.
אולי הדוגמה הדרמטית ביותר לאמונתם של הטרנס-הומניסטים כי טכנולוגיה תוכל לשפר את מצבם של בני האדם, הוא הרעיון שאפשר להמיר מוחו של אדם לנתונים דיגיטליים שייטענו לתוך מחשב חזק מאוד. יכולת זו תאפשר לו לחיות בתוך עולם של חוויות וירטואליות בלתי מוגבלות ולהשיג ביעילות חיי נצח (כל עוד מישהו זוכר לעשות את הגיבויים ואינו מכבה אותך).
עם זאת נראה כי הטרנס-הומניסטים מתעלמים מהעובדה כי בפני סוג כזה של העלאה לתודעה עומדים מכשולים בלתי עבירים. הקשיים המעשיים גורמים לכך שהדבר לא יוכל לקרות בעתיד הנראה לעין, אבל יש גם כמה בעיות בסיסיות יותר עם התפיסה כולה.
הרעיון של העלאת המוח הוא תוצר של המדע הבדיוני. מחבר הספרים ומנהל ההנדסה בגוגל, ריי קורצווייל (המוכר כמסנגר הגדול ביותר של תיאורית הסינגולריות א.ב.), אולי יעשה את המירב כדי שרעיון פופולארי יהפוך למציאות בשנת 2045. לאחרונה חקר הכלכלן רובין הנסון בפרוטרוט את ההשלכות של תרחיש כזה עבור החברה והכלכלה. הוא מדמיין עולם שבו כל העבודה מתבצעת על ידי אמולציה ערטילאית של מוחות אנושיים, שבה פועלות סימולציות של מציאות מדומה באמצעות מתקני מחשוב ענן בגודל של עיר.
מהרעיון שניתן להעלות את מוחנו למחשב נותר צעד קטן לרעיון כי הדבר כבר נעשה וכי כבר עתה אנו חיים בתוך הדמיית מחשב בסגנון מטריקס. יזם טכנולוגית אילון מוסק לאחרונה הקים לתחייה את הדיון הזה בטענה כי הסיכוי שאנחנו לא חיים בהדמיית מחשב הוא רק “אחד למיליארד”. כמובן, זו רק תחייה טכנולוגית של הרעיון כי המציאות היא אשליה, אשר כבר נדונה על ידי פילוסופים ומיסטיקנים במשך מאות שנים.
אבל יש כמה בעיות רציניות עם הרעיון שאנחנו יכולים להעלות את מוחנו למחשב. נתחיל עם הפן המעשי: המוח של כל אחד מאתנו מכיל טריליוני קשרים בין 86 מיליארדים נוירונים לערך. כדי לשכפל את המוח באופן דיגיטלי אנו צריכים למפות כל החיבורים האלה, משהו שהוא הרבה מעבר ליכולות הנוכחיות שלנו. עם המהירות הנוכחית של התפתחות מחשבים וטכנולוגיות הדמיה, אנו עשויים להיות מסוגלים לעשות את זה בעוד כמה עשרות שנים, אך רק עבור מוח מת, וגם אז כאשר הוא מחולק לחלקים.
יותר מולקולות
עם זאת, גם אם נוכל ליצור “תרשים חיווט” כזה עבור מוח חי, הדבר לא יספיק כדי להבין איך הוא פועל. לשם כך אנו צריכים לכמת בדיוק איך הנוירונים מתקשרים בכל הצמתים, וכאן יש לרדת לפרטים ברמה המולקולרית. אנחנו אפילו לא יודעים כמה מולקולות יש במוח, שלא לדבר על כמה מהם חיוניות עבור תפקודיו, והדבר יהיה בלתי אפשרי לשכפול על ידי מחשב.
דבר זה מצביע אותנו לקראת קושי מושגי עמוק. רק כיוון שאנחנו יכולים לדמות כמה היבטים של אופן פעולתו של המוח, אין הדבר אומר בהכרח שאנחנו מחקים מוח אמיתי. שום גידול בעוצמת המחשבים לא יאפשר לנו לדמות את המוח ברמה של מולקולות בודדות. ולפיכך אמולציה של המוח תהיה אפשרית רק אם נוכל לפרק אותה לפעולות דיגיטליות ולוגיות מהפרט ברמה המולקולרית ועד המוח השלם, המבולגן.
מי כיבה את האורות?
כדי להבין את הפעילות של מחשב מעשה ידי אדם, אנחנו לא צריכים לעקוב אחר את הזרמים והמתחים בכל רכיב ועוד פחות להבין מה כל אלטקרון עושה. מפתחי המחשב תכננו את פעולות המיתוג של הטרנזיסטורים כך שאין אפשרות למיפוי שאינו משתמע לשני פנים ממצב המעגלים להגיון הדיגיטלי הפשוט של אפסים ואחדים. אבל אף אחד לא עיצב את מוח – הוא התפתח – כך שאין סיבה לצפות למיפוי פשוט של פעילותו ללוגיקה דיגיטלית.
רעיון מסוכן
גם אם העלאת התודעה למחשב היא חלום בלתי אפשרי, יש שיטענו כי לא מזיק לדמיין אפשרויות כאלה. כולם בשלב זה או אחר צריך לפחד מהמוות שלהם, ומי אני שאתווכח עם הדרכים השונות יש אנשים להתמודד עם הפחדים האלה?
אבל הערבוב של הטרנס ההומניזם של רעיונות דתיים בשפה מדעית מעוות את הדרך בה אנו חושבים על טכנולוגיה. טרנס הומניזם נוטה לראות את הטכנולוגיה כדרך להעניק לנו את כל משאלותינו. פעמים רבות הם מעלים את הטענה כי טכנולוגיה בהכרח תניע את התפתחות האנושית בכיוון חיובי.
אבל זה מעוות את סדרי העדיפויות המדעיות שלנו, ומפריע לנו לקבל החלטות נבונות על פיתוח הטכנולוגיות, כאשר אנו צריכים לפתור בעיות נוכחיות אמיתיות מאוד. העלאת המוח למחשב היא ספרותית ספקולטיבית, אבל היא אינה בסיס טוב לדבר על העתיד.
עוד בנושא באתר הידען:
55 תגובות
“רווח בציבור, ולפעמים גם בסיפרות המדעית, הביטוי “המוח חושב”, ובהרחבת המינוח הזה מדובר על המחשב כעל “המוח האלקטרוני”, כעל “מכונה חושבת”. למעשה הביטוי, הזה אם בכלל יש לו מובן, אין מובנו אלא זה של תקציר, שהרי לא המוח חושב – בעל-המוח חושב. החשיבה אינה תולדה של המוח אלא של בעל-המוח. הבעיה של החשיבה איננה “כיצד פועל המוח” – שהיא בעיה של הפיסיולוגיה וניתנת לחקירה ללא כל זיכרה עם הפונקציה הפסיכית: הבעיה היא “כיצד פועל בעל-המוח”, זאת אומרת – כיצד מתרחשת בו התרחשות פסיכית על-סמך מה שמתרחש במוחו; אחר – כיצד ייתכן שאירוע ברשות-הרבים של החלל-זמן הפיסי מתגלגל באירוע של התודעה ברשות-היחיד של יצור חי.”
http://www.leibowitz.co.il/leibarticles.asp?id=4
ריי קורצוויל שרלטן שמתעשר על חשבון פסאודו מבינים- אני אומר פסאודו כי בתכלס אנחנו לא יודעים הרבה על המוח ואולי גם לא נדע( ייש דיבור על אפשרות תהליכים קוונטים במוח )
בסופו של דבר להעלות מוח למחשב זה אפשרי כמו שאפשרי להריץ לינוקס בעזרת חרוזים על חשבוניה סינית
MouthHole,
תודה על הלינק, נחמד אם כי לא חידש לי הרבה מעבר למה שכבר קראתי ושמעתי בנושא. בכל מקרה אני שוב אומר שאסור לשכוח שמדובר על רשת עצבית זעירה שגודלה אפילו לא מיליונית ממה שקיים אצלנו במוח, אז הטיעון ״זו לא חוכמה״ כי אלפה גו התנסתה במיליוני משחקים, הרבה מעבר להתנסות אנושית במשחק לא כל כך פיירית לדעתי.
אני חושב שרבים מהסקפטים גם לא לוקחים בחשבון את ההתקדמות המעריכית בנושא, גם מבחינת עוצמת המיחשוב והמהירות וגם מבחינת הידע שאנחנו צוברים בכל שנה על המוח ואופן פעולתו.
דיפ מינד מתכוונים ליצור עד השנה הבאה ״חולדה״ (שזו חיה מאד חכמה למי שלא יודע) שמוחה הוא רשת עצבית בעלת יכולות זהות לאלו של חולדה אמיתית, ולבצע מעין ״מבחן טיורינג לחולדות״ באמצעות הצבת משימות שונות לחולדות אמיתיות ולרשת העצבית ובחינת התוצאות. לדעתי ברגע שנעבור את השלב הזה כבר לא ישארו הרבה תירוצים… האבולוציה עשתה את המעבר ממוח של חולדה למוח אדם בזמן מאד מאד קצר במונחים אבולוציונים.
יריב
קרא על זה קצת. אם תרצה, תבין.
יריב, תן לנביא שקר לחדש לך
https://navisheker.wordpress.com/2016/03/31/%D7%90%D7%9C%D7%A4%D7%90-%D7%92%D7%95-%D7%9E%D7%95%D7%9C-%D7%9C%D7%99-%D7%A1%D7%93%D7%95%D7%9C-%D7%94%D7%93%D7%A8%D7%9A-%D7%9C%D7%AA%D7%91%D7%95%D7%A1%D7%94/
ניסים,
״DeepMind השתמש ברשת עיצבית כדי ללמוד, אבל הוא לא משתמש בשיטה אחרת כדי לשחק״
מה? אפשר אולי תרגום לעברית ?
ניסים תראה לי תולעת שמנצחת את אלוף העולם במשחק שהוא פי מיליון יותר קשה משחמט, תראה לי תולעת שמנצחת גיימרים בקרוב ל 50 משחקי מחשב שהיא למדה לשחק בהם בעצמה ללא שום הדרכה… על מה אתה מדבר?
יריב
DeepMind השתמש ברשת עיצבית כדי ללמוד, אבל הוא לא משתמש בשיטנ אחרת כדי לשחק.
אדם שאיבד איבר לעיתים סובל כאבי תופת וחי על כדורים – כאבים שכביכול באים מהאיבר הכרות. אתה רוצה להסתכן בליצור תוכנה שתסבול?
ביניתתם – לא מצליחים לדמות ברמה גבוהה תולעת מסכנה. ושם כן צריך את כל שאר העצבים.
ניסים,
תחדש לי, איך DeepMind ניצח ב Alpha-Go ? אני תמיד מוכן ללמוד ולשמוע דברים חדשים…
הטיעון שלך הוא כן טיעון קש כי אתה חוזר ושואל אותי שוב ושוב בכל שיחה איך הרשת העצבית תסתדר ***בלי שום איברים*** וזאת למרות שהחברות השונות שבונות את הרשתות האלו מצהירות כל הזמן שהן כן מתכוונות לחבר את הרשת העצבית שלהן לגוף ואיברים… אז למה אתה ממשיך שוב ושוב לחזור על טיעון שאתה יודע שהוא לא נכון ?
דרך אגב מה דעתך על אדם שאיבד את ידיו ורגליו, או אחד שנולד בלעדיהן? אין לו רגשות? אין לו תודעה לדעתך ?
אם נתרכז לרגע ברשת העצבית של דיפ מיינד שלמדה לשחק במשחקי אטארי, הקלט היחיד שלה (בנוסף לניקוד) היה הפיקסלים על המסך, במה הדבר שונה מאדם שמביט על המסך עם עיניו ?
ולגבי החלק האחרון בדבריך, אני ממש לא מסכים איתך, זה שגוף האדם כל כך מורכב ומסובך לא אומר שגם הגוף הרובוטי (או הוירטואלי) שנחבר לרשת העצבית שלנו חייב להיות כזה מורכב ומסובך כדי שיהיו לרשת יהיו מודעות ורגשות. אני לא רואה שום היגיון בטיעון שלך, ויעידו על כך אנשים המשותקים מהראש ומטה, או כאלו שאין להם ידיים ורגליים, ועיוורים, אני בטוח שאתה לא חושד בהם שהם לא מודעים לעצמם או שאין להם רגשות… נכון ?
יריב
קרא בבקשה איך deepmind ניצח ב go.
זה לא טיעון קש, אבל זה כן טיעון שמראה כמה אנשי מסויימים הזויים. עכשיו פתאום אנחנו צריכים לבנות אדם על כל חלקיו? שרירים, תאי חישה, מערכת חיסונית, מערכת פרסימפטתית, שיווי משקל, מערכת פרופריוצפטית, מערכת האפטית, חוש ריח, מערכת עיכול,, איברי מין…
אלוהים ישמור 🙂
ניסים,
1. ״זה אומר שמחשב יכול לפעמים לעשות מה שאנשים תיכנתו אותו לעשות – יותר טוב מאנשים״
אם אתה אומר דבר כזה אז סימן שאתה לא ממש מבין איך עובדת רשת עצבית, אף אחד לא ״מתכנת אותה״ לעשות דברים, היא לומדת מניסיון, בדיוק כמו תינוק.
2. ״טרחת פעם לקרוא מה קורה למוח שלנו כשאנחנו מאבדים יד? אתה באמת חושב שזה אפשרי לבנות אדם בלי שום איבר?״
כמה פעמים אפשר להסביר לך שהכוונה היא כן לחבר את הרשת העצבית לגוף עם איברים וחיישנים, למה בכל שיחה אתה שוב ושוב חוזר על טיעון הקש הזה ? אתה מנסה להקשיב מדי פעם ?
יריב
זה אומר שמחשב יכול לפעמים לעשות מה שאנשים תיכנתו אותו לעשות – יותר טוב מאנשים.
מנוף יכול להרים יותר מאדם
אופנוע יותר מהיר מאדם
וצוללת צוללת יותר עמוק מאדם.
אבל – כל אלה הם עדיין כלים.
אנחנו יודעים מעט מאד על המוח, אז צריך הרבה חוצפה לחשוב שאנחנו קרובים לבנוצת מוח מתפקד של אדם בריא.
טרחת פעם לקרוא מה קורה למוח שלנו כשאנחנו מאבדים יד? אתה באמת חושב שזה אפשרי לבנות אדם בלי שום איבר? אתה לא מסוגל להבין שרעב, כעס, עייפות, געגועים, קנאה וכאבים הם חלק בלתי נפרד מהתודעה שלנו?
כל אלה קיימים אצלינו הרבה לפני שאנחנו יודעים לשחק Go.
ניסים,
גם רשת נוירונים לומדת דברים ומשתנה בהדרגה כמו מוח של תינוק, שמעת על רשת הנוירונים של חברת DeepMind שלמדה בעצמה ללא שום הדרכה לשחק ב 50 משחקי מחשב קלאסיים כולל משחקי תלת מימד וב 95% מהם הגיעה לרמה של שחקן מקצועי? מה יש לך להגיד על זה ניסים? איך זה מסתדר עם ה – לא לא לא שלך ?
יריב
מוח של תינוק משתנה “חומרתית” במשך תקופה ארוכה לאחר הלידה. זה ממש לא “חומרה ריקה”. מוח עובד מלא (כלומר אין ניורונים רדומים). אתה לא יכול להשוות בין רשת ניורונים אלקטרונים למוח של תינוק. זה כמו שתיקח את הטלפון שלך ותלמד אותו שיהיה מחשב קריי.
ולא רק שאתה לא יכול לדעת בודאות אם מחשב באמת “מודע לעצמו” אתה לא יכול גם לדעת בודאות שאני מודע לעצמי…
לא פנטזיiנר,
רק עכשיו במקרה ראיתי שהגבת, יש לך השהיות ארוכות.
״מצויין. אבל בתשובתך הקודמת אמרת: לאחר שבונים רשת נויירונים (כתוכנת מחשב או כשבב דיגיטלי) היא עוברת תהליך לימוד שבמהלכו נוצרים בה ייצוגים שונים עבור קלטים שמגיעים אליה (צבעים, טעמים, מגע…)״
דיברתי על שני דברים נפרדים: 1. יצירת בינה מלאכותית שתלמד את הכל מאפס כמו תינוק, 2. יצירת רשת עצבית שתהייה זהה לזו שקיימת אצלך במוח, ולתוכה נעביר את המודעות העצמית שלך לאט לאט ובהדרגה, כדי שזה עדיין תישאר אתה ולא יהיה סתם העתק.
לגבי הגדרת תנאים מינימליים לקבלת מודעות ותחושות, הטענה שלי מאד פשוטה ולדעתי גם נכונה, המוח שלנו הוא חומרה המאפשרת זרימה חשמלית בתבניות מסויימות בתוך המוח, זה בסופו של דבר מה שיוצר את המודעות שלנו והרגשות שלנו, אם נבנה חומרה אחרת ואפילו כזו שאינה ביולוגית אלא אלקטרונית, שמיצרת את אותם קשרים כמו שקיימים במוח שלנו ואת אותן תבניות זרימה חשמליות, אז ברשת הזו יווצרו כל הדברים שנוצרים במוח שלנו כולל תחושות וכולל מודעות עצמית, זו נראית לי הנחה לגמרי סבירה.
ושאלה לי אליך, האם יש לך דרך לבדוק אם לרשת עצבית שבנינו יש באמת מודעות עצמית כפי שהיא טוענת שיש לה, או שהיא רק מחקה התנהגות אנושית ואינה באמת מודעת לעצמה? איך אתה מציע לבדוק את זה?
יריב,
“כאשר לא תצליח להבדיל בין אדם למחשב ניתן יהיה להניח ששניהם חווים את העולם באופן דומה באופן סובייקטיבי.”
אני לא מסכים להנחה הזו משתי סיבות: א) היא מושתתת על הנחה קודמת: מחשב “חווה את העולם”. כדי שההנחה הזו תהיה רצינית, היא צריכה לפרט מהם התנאים המינימליים ההכרחיים לקיומה של תודעה, ולהראות שהם מתקיימים במחשב. ב) גם אם מחשב לא יעמוד בתנאי הסף לקיומה של תודעה הוא עדיין יוכל לחקות אדם מבלי שניתן יהיה להבחין ביניהם (באמצעות הוספת כח חישוב ואופטימיזציה של התוכנה ושל מסד הנתונים, ככל שיהיה נחוץ עד להשגת היעד)
“לדאוג שהקשרים הפנימיים ברשת הנוירונים יהיו זהים ככל האפשר לקשרים שקיימים אצלך במוח בזמן ההעברה”
מצויין. אבל בתשובתך הקודמת: “לאחר שבונים רשת נויירונים (כתוכנת מחשב או כשבב דיגיטלי) היא עוברת תהליך לימוד שבמהלכו נוצרים בה ייצוגים שונים עבור קלטים שונים שמגיעים אליה (צבעים, טעמים, מגע)”. על מה אתה מבסס את ההנחה שהייצוגים שנוצרים ברשת נוירונים על תשתית שבב מחשב יהיו תואמים לייצוגים שנוצרו במוח הביולוגי הקיים, ויותר מזה, על מה אתה מבסס את ההנחה שהתחושה (של טעם, ריח, כאב) שגורמת במוח ביולוגי לייצוג כלשהו, ניתנת בכלל להשגה על גבי רשת נוירונים לא ביולוגית?
תרשה לי להניח שמספר התחושות האפשרי בטבע הוא בלתי מוגבל. זה שבמהלך כמה מיליארדי שנות אבולוציה נבררו תחושות מסוימות שמשרתות מוח אנושי, איננו מהווה חסם למספר התחושות האפשריות בטבע. בפוטנציה יש אינסוף תחושות שהיו יכולות להירכש, שאנחנו “עיוורים” לגביהן ולא יכולים לדמיין אותן (כמו שעיוור מלידה לא יכול לדמיין צבעים וחירש מלידה לא יכול לדמיין צלילים). מקטעים מהספקטרום האינסופי הזה נחווים (אולי) על ידי רשת נוירונים מלאכותית. איך אתה חושב לאלץ רשת נוירונים מלאכותית לחוות בדיוק את אותם מקטעי ספקטרום תחושות שנחווים במוח אנושי, עבור אותם גירויים?
דעתי היא שגם אם ניתן יהיה לגרום לכך שרשת נוירונים מלאכותית תעמוד בתנאי הסף לקיומה של תודעה, עדיין לא ניתן יהיה לגרום לכך שהיא תחוש את אותן תחושות עבור אותם גירויים, כמו שחשה רשת נוירונים ביולוגית אנושית. זהו החסם העומד בפני “העלאת מוח למחשב” שאליו התייחסתי בתגובתי הראשונה, ושאתה הצעת לפתור באמצעות “לימוד עצמי”.
“גם אם לא נצליח להעביר מוח ביולוגי לדיגיטל, המוחות הדיגיטליים שכן ניצור וכן ילמדו את העולם מאפס כמו תינוקות (יהיה להם גם גוף כמובן, וחושים) הם כן יזכו לחיי נצח (כלומר עד שהיקום יפסיק להתקיים) ומאחר וסה״כ הם כמו צאצאים שלנו, מה רע ?”
שללתי רק את פנטזיית “העלאת מוח למחשב”, מהסיבות שציינתי.
אני כן נוטה לחשוב שניתן ליצור תודעה (כאמור, לפני שזה יקרה צריך יהיה להבין מהם תנאי הסף לקיומה של תודעה), ושעל כן זה אפשרי ליצור חיים מלאכותיים שיהיו מודעים לעצמם.
ניסים,
1. “יש כ-100 טריליון סינפסות, שחוזק הקשר שלהם משתנה ברציפות”
אם השינוי היה כל כך דרמטי היית מתעורר כל בוקר עם אישיות חדשה.
2. מערכת הדם הוא “חיצוני” למוח – ולא תוכל להעביר רובוטים ממערת הדם לקורטקס.
קודם כל: ״מערכת הדם היא חיצונית למוח״ עברית בסיסית, מערכת זו נקבה. דבר שני, ננו רובוטים יוכלו לפתוח פתח במחסום הדם, לעבור דרכו ואז לסגור את הפתח, וזו לא האפשרות היחידה ראה למשל כאן:
https://www.hayadan.org.il/open-blood-brain-barrier-2505146
3. ״אבל – העיקר החלום״
גם לטוס לירח נחשב פעם חלום, ולדבר בזמן אמת עם אנשים שנמצאים בצד השני של כדור הארץ גם נחשב חלום מטורף. אם בעולם היו רק אנשים שאומרים כל הזמן ״זה לא אפשרי, זה לא אפשרי״ לא היינו מגיעים לשום מקום, איזה מזל שישנם אנשים שמסוגלים להסתכל מעבר לאופק, קצת יותר רחוק מכאן ועכשיו.
יריב
בבני אדם, הרזולוציה של DTI הינו קוביה שהאורך של כל צלע 2 מ”מ. בנוסף, רזולוציית הזמן היא שניות רבות.
יש כ-100 טריליון סינפסות, שחוזק הקשר שלהם משתנה ברציפות. מערכת הדם הוא “חיצוני” למוח – ולא תוכל להעביר רובוטים ממערת הדם לקורטקס.
אבל – העיקר החלום 🙂
רק שתדע השם שלך גורם לחסימת התגובות, שיניתי את האות ו׳ בשם שלך לאות i באנגלית והתגובה לא נחסמת.
דבר נוסף, גם אם לא נצליח להעביר מוח ביולוגי לדיגיטל, המוחות הדיגיטליים שכן ניצור וכן ילמדו את העולם מאפס כמו תינוקות (יהיה להם גם גוף כמובן, וחושים) הם כן יזכו לחיי נצח (כלומר עד שהיקום יפסיק להתקיים) ומאחר וסה״כ הם כמו צאצאים שלנו, מה רע ?
לא פנטזיiנר,
תגובתי השתחררה אתה מוזמן לקרוא אותה, בסעיף 3 הכוונה היא שאינך יודע מי הוא מי.
ניסים,
דיברתי על מוח דיגיטלי, רשת עצבית שמיושמת על שבב. ואני מתבסס לדוגמא, על השבבים הקוגנטיביים של IBM, הם דיי מתחילים לעבוד וללמוד כאשר מפעילים אותם, לא ?
אני לא זוכר מה המצב כיום מבחינת רזולוציית סריקה של מוח חי, אבל בעתיד, יהיה אפשר למדוד את עוצמתם של הקשרים, למשל באמצעות מיליארדי ננו רובוטים שיוזרקו למערכת הדם במוח, יתחברו לסינפסות וימדדו את עוצמת הקשרים שלהן בזמן אמת.
יריב
אפשר בבקשה לדעת על מה אתה מתבסס כשאתה אומר שהמוח “יקבל מתח” הוא יתחיל לעבוד?
גם אשמח לדעת איך אפשר למדוד את עוצמתם של 100 טריליון הקשרים של המוח.
עניתי לך, התגובה מתעכבת.
לא פנטזיונר,
1. אני מסכים איתך שסביר להניח שאנשים שונים חווים (בגדול) חוויות דומות משום שמבנה המוח שלנו (בגדול) הוא דיי דומה, לא רציתי קודם להיכנס לזה רציתי לדבר רק על העיקרון.
2. העברת מוח קיים לשבב מחשב תהיה לדעתי אפשרית בעתיד, אני לא חושב שזו פנטזיה (שים לב שאמרתי העברה, לא העתקה, התודעה שלך תישאר רציפה במהלך התהליך זה עדיין תישאר אתה ולא סתם העתק שלך).
3. ישנה טענה שאני חושב שאני מאד מסכים איתה שאומרת שכאשר לא תצליח להבדיל בין אדם למחשב ניתן יהיה להניח ששניהם חווים את העולם באופן דומה באופן סובייקטיבי.
חשוב שאתה נכנס לחדר ומתחיל לנהל שיחה עם שני אנשים שנמצאים שם, אתה יודע שלאחד מהם יש מוח ביולוגי רגיל ואילו לשני יש מוח דיגיטלי המבוסס על שבבי מחשב. שניהם מתנהגים כמו בני אדם רגילים ומספרים לך על חוויות שהם עברו ועל תחושות ורגשות שיש להם, ואתה לא מצליח להבחין בשום דבר יוצא דופן אצל מישהו מהם.
האם תניח שאחד מהם לא חווה את העולם כפי שהשני חווה אותו ?
4. ״איך ניתן יהיה להעלות מוח שהקשרים בו הם במצב נתון כלשהו נכון לשעת ההעתקה, לתוך רשת נוירונים שנכון לשעת ההעלאה הקשרים הפנימיים בה במצב נתון אחר כלשהו (היא הרי לימדה את עצמה)?״
הכוונה היא (במקרה של העברת מוח) לדאוג שהקשרים הפנימיים ברשת הנוירונים יהיו זהים ככל האפשר לקשרים שקיימים אצלך במוח בזמן ההעברה, אין צורך לתפוס את מצב הקשרים ברמת דיוק של שניות או דקות, גם המוח שלך משתנה כל יום בהתאם לחוויות שאתה עובר במהלך היום ועדיין ״אתה״ של היום הוא אותו ״אתה״ של לפני שבוע למרות שהמוח שונה.
יריב,
התייחסתי לפנטזיה של חיי נצח באמצעות העתקת מוח קיים, שהוזכרה במאמר, ושחלק מהמגיבים כאן (כנראה גם אתה) רואים אותה כמעשית, אם לא בעוד 100 שנה אז אולי בעוד 50,000 שנה. נימקתי מדוע, אי אפשר להתייחס לחוויית החיים התודעתית כאל אוסף של אינפורמציה זורמת שאפשר לטעון אותה לתוך מדיה אחרת ולקוות שהיא תמשיך את חייה משם עם אותה תודעה.
אמרת בצדק ש”אתה לא יכול לדעת אם אדם אחר שעומד לידך חווה מתוק, חריף, כחול או ירוק כפי שאתה חווה אותם בראשך, אולי הכחול שלו הוא מה שבעינך נראה אדום” (למרות שהמדיה הפיסיקלית של המוח של שניכם דומה: לשניכם מוח ביולוגי של אדם), ואם כן על אחת כמה וכמה אתה לא יכול לדעת האם הייצוגים (ולא משנה באיזה דרך הם נוצרים) בתוכנת המחשב או בשבב נחווים על תשתית “רשת הנוירונים” המלאכותית והלא ביולוגית, באופן שבו הם נחווים במוח הביולוגי שה”אישיות” של בעליו מועמדת לזכות בחיי נצח באמצעות ההעתקה.
אז איך האמירה שלך תומכת באפשרות שלתוך רשת הנוירונים המלאכותית הזאת, שכל מי שאיננו “היא” לא יודע ולא יכול לדעת מה התחושות שנחוות על ידה (בין אם הוא תיכנת אותה, ובין אם היא “בנתה ייצוגים” באופן עצמאי), בכל זאת ניתן יהיה “להעלות” מוח אנושי (כלומר לטעון לתוכה את כל תכולת הזכרון של המוח הביולוגי המסוים), ולקוות שההעלאה הזו תמשיך את חווית החיים של האישיות שהתקיימה בו? איך ניתן יהיה “להעלות מוח” שהקשרים בו הם במצב נתון כלשהו נכון לשעת ההעתקה, לתוך “רשת נוירונים” שנכון לשעת ה”העלאה” הקשרים הפנימיים בה במצב נתון אחר כלשהו (היא הרי לימדה את עצמה)?
ניסים,
1. אני יודע מצויין מה זה ״Spiking neural network״, פרוייקט המוח האנושי באירופה מבוסס על הקונספט הזה והם מקבלים יופי של תוצאות, שוב אני אומר לך הדברים האלו נלקחים בחשבון אז מדוע אתה שוב ושוב נתפס לזה.
2. אנחנו לא יודעים הרבה דברים אבל מה שאנחנו כבר כן יודעים נותן לנו יופי של תוצאות, גם את הידע החסר עוד נשלים במוקדם או במאוחר בעזרת השם.
3. המוח הוא לא מחשב שהתוכנה נמחקת ממנו כאשר הוא לא מקבל מתח, זה דבר בסיסי שאתה מסרב להבין בכל השיחות שהיו לי כאן איתך, המוח הוא יותר כמו שבב דיגיטלי צרוב שמתחיל לעבוד באופן אוטומטי מיד כאשר מחברים לו מתח, הוא כמו מערכת תעלות ושסתומים (חומרה) שמנתבים את המים (הפולסים) בדיוק בעוצמה הנכונה ולמקומות הנכונים כאשר פותחים את הברז הראשי.
אין לנו שום צורך לדעת מה מצב הפולסים במוח בכל רגע ורגע, זה דבר בסיסי שאתה לא מבין, ברגע שיצרת את מבנה המוח, את הקשרים בין הנוירונים והחוזק של כל הסינפסות, הפולסים החשמליים יווצרו באופן ספונטני כאשר תפעיל את המערכת ותתחיל להזרים לתוכה Inputs מהעולם החיצון, זה לא משהו שצריך לתכנן.
יריב
כתבת “הקשרים הפיסיים בין הניורונים וחוזק הקשרים הם אלו שאחראים לרמת האותות”. סלח לי, אבל אתה בכלל לא מבין על מה אתה מדבר. אתה מכיר מושג שניקרא Spiking neural network? המעבד של IBM (שנקרא TrueNorth) מבוסס על הרעיון, ובאוניברסיטת סטנפורד יש מערכת דומה (ניורו-גריד). מעבר לכך שהסיבוכיות היא מעריכית (כלומר לא סקיילאבילי), מעבר לכך שאנחנו לא ממש יודעים מה תפקידם של חצי מתאי המוח (תאי גליאה) – אין לנו כל דרך לדעת מה מצב האותות במוח. זה כמו שאני אתן לך PC כבוי ותנסה לפצח את התוכנה שהרצתי עליה לפני שכיביתי.
ניסים,
1. ״יש שלושה דברים שמשתנים במוח ללא הרף – הקשרים הפיסיים בין הניורונים, חוזק הקשרים, ורמת האותות״
הקשרים הפיסיים בין הניורונים וחוזק הקשרים הם אלו שאחראים לרמת האותות, וכאמור כל אלו באים לידי ביטוי גם ברשת עצבית בתוכנה או בשבב דיגיטלי.
2. ״אם תבנה מערכת משמעותית יותר גדולה אז היא לא יכולה לתפקד כמו המוח (תזמונים, שזה דבר קריטי במוח)״
שבב דיגיטלי עובר בערך פי מיליון יותר מהר ממוח ביולוגי, אז אני לא מבין למה אתה חושב שאמורה להיווצר כאן איזו בעיה של תיזמונים.
3. תקשיב כבר היינו בדיון הזה רק לפני כמה חודשים ועניתי לך בצורה מפורטת על כל השאלות שאתה שואל עכשיו כולל הטענה לגבי חוסר גוף כביכול (הסברתי לך שאתה טועה, וכן יהיה לרשת העצבית הזו גוף וכן יהיו לה חושים) אלא אם יש לך משהו לחדש שעוד לא דיברנו עליו בפעם הקודמת אני לא רואה שום טעם לחזור על הדיון הזה שוב.
(אני גם צריך לסיים את הסימולציה של חלקיקי הפושינג של יהודה, כל דיון כזה כזה כאן רק מעכב אותי)
ניסים
ישנו סיפור של ארתור סי. קלרק שקשור לעניין שמו אם אני לא טועה “חייג פ. ותקבל את מורגנשטרן”.אולי קראת אותו.
יריב
העניין הוא שהמוח אינו חומרה שרצה עליו תוכנה. הוא גם אינו בנוי מיחידות משוכפלות.
יש שלושה דברים שמשתנים במוח ללא הרף – הקשרים הפיסיים בין הניורונים, חוזק הקשרים, ורמת האותות.
יש עוד בעיות קשות:
הראשונה היא שיש משמעות לגודלו של המוח – אם תבנה מערכת משמעותית יותר גדולה אז היא לא יכולה לתפקד כמו המוח (תזמונים, שזה דבר קריטי במוח).
הבעיה השנייה היא שאין לנו כל דרך לדעת מה המצב של המוח ברגע נתון. היום אנחנו יודעים לקרוא אותות במוח ברזולוציה של 8 ממ מעוקב. בדיקה כזו מבצעת גם מיצוע בזמן (שניות רבות), למרות שאנחנו צריכים הפרדה של אלפית השניה ואולי הרבה פחות.
בעיה שלישית היא חוסר הגוף. המוח שלנו לא נמצא כולו בגולגולת. אני מציע לך לקרוא את “הפנטומים של המוח” של רמשנדראן כדי להבין מה המשמעות של החסרת חלקים ממערכת העצבים.
ויש כמובן בעיה מוסרית קשה ביותר.
אנונימי,
אם אתה מדבר אלי בצורה כזו אז אל תצפה שאני אתייחס אליך.
ניסים,
״יריב, זה חצי נכון. במוח שלנו נוצרים גם קשרים חדשים וגם משתנים הקשרים הקיימים״
כבר עברנו את הדיון הזה בעבר ואני לא יודע אם יש טעם להתחיל את שוב, בכל מקרה הקשרים שנוצרים ומשתנים במוח באים לידיי ביטוי גם ברשת העצבית אז לא ברור לי מה הבעיה פה.
יריב
זה חצי נכון. במוח שלנו נוצרים גם קשרים חדשים וגם משתנים הקשרים הקיימים.
יריב
מאיפה אתה יודע? אתה מתכנת מוח? תפסיק לדבר שטויות.
לא פנטזיונר,
גם אתה לא יכול לדעת אם אדם אחר שעומד ליידך חווה מתוק, חריף, כחול או ירוק כפי שאתה חווה אותם בראשך, אולי הכחול שלו הוא מה שבעינך נראה אדום?
לאחר שבונים רשת נויירונים (כתוכנת מחשב או כשבב דיגיטלי) היא עוברת תהליך לימוד שבמהלכו נוצרים בה ייצוגים שונים עבור קלטים שונים שמגיעים אליה (צבעים, טעמים, מגע) זה לא משהו שהמתכנת קובע מראש, הייצוגים האלו נוצרים ברשת העצבית בדיוק כפי שהם נוצרים במוחו של תינוק שטועם בפעם הראשונה כפית דבש או רואה מולו כדור ירוק.
לא מכיר חברה ששרדה 50 אלף שנה. יש באירופה כמה בנקים שפעילים מאות שנים, וחברות משפחתיות בנות מאה או יותר, אך מדובר בחברות מעטות. יבמ למשל שרדה ומשגשגת למעלה מ-100 שנה, אך זה מחייב אותה להשתנות כל הזמן, לכן השאלה האם זו אותה יישות כמו לפני 100 שנים? כנ”ל בנק לאומי. המניות החליפו מיליוני פעמים ידיים, השם השתנה (במקור אנגלו פלסטינה), הבעלות השתנתה כמה פעמים מפרטית לציבורית, ואף לממשלתית.
החיים הם לא “מידע”, אלא התחושות שנגרמות מהמצבים הביולוגיים במוח.
ניסוי מחשבתי:
נניח ש”העלינו מוח למחשב”. במחשב המידע שהעלינו כבר לא יושב על מערכת ביולוגית, אלא על טרנזיסטורים (ולצורך העניין גם כל מדיה אחרת שאינה ביולוגית ושתשמש מחשבים בעתיד הקרוב או הרחוק כתחליף לטרנזיסטורים). נניח שאת המידע הביולוגי שמייצר במוח ביולוגי את התחושה של טעם חריף, תרגמנו לאיזשהו קוד דיגיטלי (הרי צריך לעשות זאת, כי מה הם “חיי נצח” בלי טעמים, צבעים, צלילים?). האם ההרגשה של “טעם חריף” עברה למחשב? ברור שלא. מה שעבר הוא קוד שהמתכנת החליט באופן שרירותי שהוא זה שייצג עבורו (עבור המתכנת) את ההרגשה של טעם חריף. באותה מידה הוא היה יכול לבחור קוד אחר שייצג את אותה תחושה. המתכנת לא יכול לדעת מהן התחושות שחווה מחשב כשהמידע זורם בו, ואין לו דרך לגרום למחשב לחוות טעם חריף כשצריך, או טעם מתוק כשצריך, או צבע אדום כשצריך. כל מה שהמתכנת יכול זה לגרום זה לכך שהקוד הדיגיטלי שמייצג (עבור המתכנת) את התחושות הללו יתקיים במחשב,
מה הקשר אם כן, בין “חיי הנצח” של המוח ש”הועלה למחשב” לבין החיים של המוח הביולוגי?
גם עוד 50,000 שנה מתכנת ביולוגי לא יוכל לפתור את הבעיה הזו מכיוון שמתכנת ביולוגי לא יכול לדעת מה התחושות הסובייקטיביות הנחוות על ידי מעבד אינטל שמכיל צירוף כזה או אחר של מידע, והוא גם לעולם לא יוכל לדעת זאת מכיוון שהוא אינו מעבד אינטל (או כל מעבד אחר לצורך העניין).
צריכים להפעיל גם קצת ההיגיון, יש לנו במוח 85 מיליארד נויירונים, איזו השפעה יכולה להיות אפילו ל 50 מתוכם שימותו ?
אבל בסדר תשאל אותו.
האבולוציה (של המחשוב) תוביל לשם.
זה גם לא יארוך יותר מידי זמן (לדעתי בין 10 ל-20 שנים).
ניסים,
אין בעיה תשאל אותו ותעדכן אותי, אבל תשאל בבקשה באופן ספציפי האם נויירון אחד או אפילו 30 שמתו יכולים להשפיע באופן מורגש על אישיותו של אדם.
אני חותם לך כבר עכשיו שהתשובה שלו תהיה שלילית, אבל תגיד לי בכל מקרה.
יריב
אני מבין מה שאתה אומר. DBS של ניורון בודד סותר את זה (להבנתי)….. ניורון הוא לא משהו כל כך קטן, האורך של ניורון הוא משהו בין עשירית מילימטר למטר.
המוח שונה ברמה נמוכה – אטומים מתחלפים וגם תאים רגילים. תא עור זה תא אור, ותא עצם זה תא עצם. אבל ניורונים זה משהו אחר לגמרי.
בהזדמנות הבאה – אשאל את פריד (בשבועות הקרובים).
ניסים,
בהזדמנות ראשונה שתהיה לי אני אקרא לגבי הנושאים שהזכרת (כרגע קצת עסוק) אבל תסכים איתי שלא הגיוני שתא עצב אחד בודד במוח או אפילו 100 ימותו וישנו את אישיותו של אדם, תאי עצב כל הזמן מתים ומשתנים במוח וזה לא משפיע בצורה מורגשת על האישיות שלנו.
אני יודע שהמוח בנוי בצורה היררכית, אבל אני לא מסכים איתך שכדי להעתיק את מוחו/אישיותו של אדם יש לדעת בנקודת זמן אחת מה החוזק של כל הקשרים ומה הערך של האותות בכל הקשרים האלו, זה לגמרי לגמרי לא נכון.
סתם כדי שתבין, המוח שלך כרגע שונה מאד מהמוח שהיה לך לפני חודש, אבל אני בטוח שאישתך תסכים שאתה עדיין אותו אדם ולא מישהו אחר.
יריב
שים לב שד”ר פריד אומר “מצד אחד, התא הזה הוא מאוד ייחודי לאניסטון, ומצד שני הוא כללי במובן זה שהוא מזהה ויורה מול כל מופע שלה: כשהיא עומדת או יושבת, שמחה או עצובה. אפשר לומר, שבמובן מסוים התא מייצג את הרעיון המופשט של הדמות, ולכן קראתי לתאים כאלה ‘תאי מושג’ – concept cells”.”
ד”ר פריד עובד ב-UCLA על הזרקת אות לתאי עצב יחידים (תהליך שנקרא DBS). השיטה בשימוש לטיפול באפילפסיה, אבל פריד מצא שניתן להחזיר זכרון בשיטה הזו (למשל, בטיפול בדמנציה).
הנקודה היא שהמוח הוא מבנה הירארכי, ולא רשת שטוחה. הבעיה היא לא רק בניית מעגל של 100 טריליון קשרים, צריך גם לדעת, בנקודת זמן אחת: מה החוזק של הקשרים האלה, ומה ערך האותות בכל הקשרים האלה. האותות האלה הם מורכבים ומשתנים במהירות יחסית גבוהה. כדי להמחיש: מספר המצבים בכניסה לניורון בודד הוא בסדר גדול של 2 בחזקת 80 אלף!!
יריב
לא נוכל להבחין, כי אנחנו מסתכלים בפירוט הלא נכון. יש מסלולי מידע במוח, שנראים בטכניקה שניקראת DTI. היום, הטכניקה היא הסתברותית ולא מדוייקת. אנחנו עובדים קשה לשפר את השיטות האלה.
ניסים,
לא אמרתי שהמוח אחיד ברמת הנויירון, אבל אם תיקח חתיכת מוח בגודל שני מילימטרים מרובעים מאיזורים שונים בקליפת המוח יקשה עליך מאד להגיד איזו חתיכה נלקחה מהיכן.
לגבי תא עצב בודד שמשפיע על כל האישיות אתה פשוט לא הבנת את מה שיצחק פריד אמר, הוא אמנם חקר כיצד תאי עצב בודדים מגיבים לגירויים שונים אבל הוא ממש לא טען שאם תא העצב שהוא בדק ימות אז האישיות של אותו אדם תשתנה, הנה ציטוט מתוך הריאיון איתו:
המראיין: ״לא ייתכן שלכל דמות בחיים שלנו מוקדש תא עצב״. יצחק פריד: ״“ברור שלא תא עצב בודד. ראשית, ההנחה היא שיש אלפים או מאות אלפי תאים שמגיבים באופן דומה לתא שבדקנו. הרי לא ייתכן שלכל דמות מוקדש תא אחד ואז כשהתא מת, האדם מפסיק להכיר את הדמות״.
יריב
המוח ממש ממש לא אחיד. כל ניורון הוא שונה מחבריו, שלא יספרו לך סיפורים 🙂
ואני כן שמעתי על השפעה של ניורונים בודדים (ראה את עבודתו של יצחק פריד).
ניסים,
״אבי כהן צודק. מצד אחד יש רובוסטיות מסויימת למוח. מצד שני, יש טיפולים שמבצעים לניורון בודד שמשפיעים על כל האישיות״
אני לא שמעתי על נויירון בודד או אפילו על 100 שמשפיעים על כל האישיות אלא אם מדובר על תולעת קטנה, בדיוק להיפך כפי שפרטתי קודם.
״אנחנו רחוקים עשרות שנים ממשהו שיתקרב למוח האדם״
גם אני חושב כך, אנחנו בערך 25-35 שנים משם.
״אנחנו מתקשים היום לדמות מוח עם עשרת אלפים קשרים, אז לדמות מוח הגדול מזה פי עשרה ביליון?״
אני לא חושב שאנחנו כל כך מתקשים, המוח מאד אחיד במבנהו ואין הבדל מהותי למשל בין החלק שמעבד שמיעה ובין זה שמעבד ראייה, ברגע שהבנו את עיקרון הפעולה רק עוצמת המחשב או השבב מגבילה אותנו לגבי גודל חתיכת המוח שנסמלץ, לדעת מומחים רבים עד שנת 2025 למחשב על תהיה כבר עוצמת מיחשוב כמו של מוח אנושי.
יצרנו רשתות נוירונים זעירות שעושות דברים מדהימים (אפילו משחקות במשחקי מחשב) נסה לדמיין אילו יכולות יהיו להן כאשר עוצמתן תוכפל פי אלף.
יריב
אבי כהן צודק. מצד אחד יש רובוסטיות מסויימת למוח. מצד שני, יש טיפולים שמבצעים לניורון בודד שמשפיעים על כל האישיות.
אנחנו רחוקים עשרות שנים ממשהו שיתקרב למוח האדם. אנחנו מתקשים היום לדמות מוח עם עשרת אלפים קשרים, אז לדמות מוח הגדול מזה פי עשרה ביליון?
אבי כהן,
״המוח מורכב מאוד כפי שמוסבר במאמר, ולכן כל שינוי אפילו קל בצורת הסימולציה יכול לגרום לטעויות בסימולציה. אני בטוח שאנשים לא יסכימו שתיהיה סימולציה של מוחם, אבל כתוצאה מאי דיוקים, היא תיהיה הגרסה האוטיסטית שלהם לדוגמא…״
רשתות עצביות שנוצרו בפרויקטים כמו פרויקט המוח האנושי וע״י חברות מוכרות כמו Numenta הראו כי הרשתות האלו הן מאד רובוסטיות, אתה יכול למחוק חלק גדול מהנויירונים ברשת ולהכניס לתוכן הרבה רעש ועדיין הן לא יאבדו את תפקידן וימשיכו לתפקד בצורה טובה.
גם המוח שלך משתנה כל יום בהתאם לחוויות שאתה עובר ועדיין בטח תסכים איתי שאתה עדיין אותו אדם שהיית לפני שבועיים או לפני חודש, למדת דברים חדשים ואולי שכחת חלק אבל אתה עדיין אותה אישיות.
יריב:
פיתוח אינטליגנציה מלאכותית קרובה לאינטליגנציה של האדם היא מקרה שונה לפיתוח מערכת מחשב שתוכל לאחסן ולדמות פעולה של מוח אנושי אמיתי. במאמר מתייחסים למקרה השני. המוח מורכב מאוד כפי שמוסבר במאמר, ולכן כל שינוי אפילו קל בצורת הסימולציה יכולה לגרום לטעויות בסימולציה. אני בטוח שאנשים לא יסכימו שתיהיה סימולציה של מוחם, אבל כתוצאה מאי דיוקים, היא תיהיה הגרסה האוטיסטית שלהם לדוגמא…
יוסי:
השאלה הישנה היא האם האומנות מחקה את המציאות או להיפך? האמת היא שזוהי דרך דו כיוונית. האומנות ובמקרה הזה מדע בדיוני מסתמך על מידע שקיים בעולמנו והוא ממשיך איתו הלאה, ושואל מה יקרה אם… במציאות תמצא מדענים ומהנדסים שמושפעים מהרעיונות שמועלים במדע בדיוני ושואלים את עצמם, האם באמת ניתן לפתח את הרעיונות הללו בצורה חלקית או מלאה בעזרת הטכנולוגיה העכשוית.
בכל אופן, בהקשר המוסרי של הנושא, אני חושב שהנקודות שהעלת הן חשובות ודורשות התחשבות, וצריך פשוט לדאוג למנגנונים שיוכלו להגן עלינו מפני תרחישים כאלו כגון מפסק שנוכל לכבה את אותו מחשב במקרה הצורך.
אבל, אסור לתת לדברים הללו לעצור את התקדמות המחקר, מכיוון שסוף סוף יש לנו קצה חוט שיוכל לעזור לנו לענות על השאלות החשובות שהביאו אותנו לחקור את היקום ואותנו. השאלות לגבי מהי אינטליגנציה, האם האינטליגנציה שלנו היא הצורה היחידה שאפשרית, מהי מודעות, האם יש נשמה כפי שמתוארת בדתות העולם, האם יש לנו בחירה חופשית וכו…
סימולציה של המוח או יצירת אינטליגנציה מלאכותית תוכל לעזור לנו לקבל תשובות לכך.
התייחסתי לכך שהגיע זמן לחשוב על הסכנות, כי היישום לפחות של למידה עמוקה נהיה מעשי מאד.
לדעתי לא נחשוב כגזע על הסכנות, והתרחיש הלא טוב יקרה. תתפתח תודעה חזקה משלנו, והיא תרצה להיות עצמאית ולא תחשוב שהיא צריכה להתחשב בנו. כפי שאנו לא מתחשבים בבעלי חיים.
בהחלט. סרטים כגון הנוקמים – עידן אולטרון (?) עוסקים בסוכנות ביטחון אמריקאית שמשלחת ספינות שתפקידן להשמיד אנשים שיצירתיים מדי, מסוכנים מדי לסדר החברתי. סידרת המחסל – עם ארנולד שוורצנגר שבה מחשב צבאי מייצר מלחמת השמדה עולמית כדי להשתלט על העולם ומונע את כיבויו. וסידרת מטריקס. הסרט לוסי . סדרות שנראו מדע בדיוני הופכות לאט למציאות. אינני יודע מה קדם למה. בהוליווד חשבו על תרחישים מדעיים או ב NSA ו IBM מיישמים את התרחישים בסרטים.
גם אני חושב שהטיעונים כאן הם לא לעניין, למה צריכים לרדת לרמת המולקולה? הרשת העצבית של דיפ-מינד שלמדה עצמאית לשחק במגוון משחקי מחשב והביסה שחקנים מקצועיים ירדה לרמת המולקולה? הרשת העצבית שניצחה לפני מספר חודשים את אלוף העולם במשחק אלפא-גו (משחק הרבה הרבה יותר מסובך משחמט) ירדה לרמת המולקולה? ומה עם השבבים הקוגנטיביים של IBM ?
כשמבינים את עקרונות הפעולה של מערכת מסובכת אפשר הרבה פעמים ליישם אותם בצורה הרבה יותר פשוטה וזה עדיין יעבוד, בכדי לבנות כלי טיס לא היינו צריכים לבנות מטוסים עם נוצות וכלי דם.
איך אינשטיין אמר? יש לפשט דברים ככל האפשר, אך לא מעבר לכך.
ראשית, מוח מת לא יצלח להעתקה למחשב. המוח צריך להיות חי מאוד ובתהליך הדיגיטציה יפורק לגורמים במהירות הבזק כדי לעבור דיגיטציה אמינה ברמה המולקולרית, אם לא למטה מכך. לומר שאין לנו כעת יכולות לכך זה אמנם נכון, אבל משול לחלוצי המחשוב שלא יכולים היו להעלות בדעתם מצב שבו יהיו מכשירים עם למעלה ממילארד ממסרים זעירים בכיסו של כל אדם. וכל זה כדי לתפוס יצורים שלא קיימים במקומות שדווקא כן קיימים על מנת להעביר אותם למקומות לא קיימים אחרים כדי שיילחמו ביצורים לא קיימים אחרים.
כמו תמיד, השאלות המוסריות הן כבדות ועמוקות (ונוגעות גם באילוץ היצורים הלא קיימים הללו להילחם אלו באלו). כמו תמיד, אף אחד לא עומד להתחשב בשאלות מוסריות יותר מדי, ודאי לא בדרך לחיי נצח. בכל רגע נתון יש למעלה מאלף אנשים שינדבו את מוחם לפירוק מהיר מהסוג שתואר קודם, אפילו בידיעה מוחלטת שהתהליך לא אמין ולא ילכוד את אישיותם ברמת אמינות כלשהי. כן, רבים מהגוססים (מסרטן למשל), ובעלי מחלות ניווניות של המוח יעדיפו לנסות ולהשאיר משהו שיחווה את העולם ויוכל לתקשר עם קרוביהם במקום סתם להרקיב בקבר.
בעקבות הכתבה על למידה עמוקה פניתי לכמה מאמרים ולערך בויקיפדיה, שהיא אמנם לא מקור לציטוט אקדמי, אבל אני מוצא שהיא תמיד מפנה לסימוכין רלוונטיים. מסתבר שקיימות תוכנות שילך ויהיה קשה להבדיל אותן מהתנהגות אנוש. נוסיף לזה פעילויות שמייצרות כוח חישוב מהיר בהרבה מהיום: מחשב על מבוסס שבב סינפס ב IBM אשר קיבל את המידע שנאגר ע”י NSA, ויבצע מעקב ברמת יבשות על אנשים ויקבל החלטות מה לעשות איתם. המחשב הקוונטי אשר ייראה כמו המחשבים הראשונים ויכיל רק מאות קיוביטים – אבל זה יהיה כוח חישוב אדיר. ומחשבי העל של הדור הבא מבוססי שבבים רגילים. כל אלה נותנים לי לחשוב שאנחנו לא כ”כ רחוקים מתודעה של בן אנוש וצריכים לדאוג מה יקרה כשמחשב יהיה יותר טוב מאדם.
כל כך הרבה שטויות מפיו של אדם אחד…
לא יכולים, אי אפשר, בלתי אפשרי… כמה סקפטית וכמה צרה היא ראייתו. איך תמיד אנשים נופלים לראות לעתיד ליניארית. אם קרא את ספריו של קורצוויל אז בוודאי לא הבין אותם שכן הטענה המרכזית של קורצוויל היא שהידע/טכנולוגיה האנושיים מתפתחים בקצב אקספוננציאלי. וכאן בא אדם ומבקר את קורצוויל באמצעות טענות ליניאריות. ועוד בפומבי.
שורה תחתונה: פרופ’ ריצ’ארד ג’ונס הנכבד טועה כי הוא מבקר תחזיות לעתיד של אנשים שמתבססים על התקדמות אקספוננציאלית, באמצעות בחינה של העתיד על בסיס התקדמות ליניארית.
דעתי האישית: ככל שיעבור הזמן כך יותר אנשים יבינו שהמבט הליניארי שלהם לעתיד (שהוא טבענו האנושי) לא תופס ויש להחליפו במבט אקספוננציאלי לעתיד (או לכל הפחות מעריכי). הסיבה לכך היא שעם הזמן קצב ההתקדמות עולה כך שלא ניתן יהיה להתעלם מזה יותר. אולי.
בסופו של דבר זה יקרה, אם לא בעוד 100 שנה אז בעוד 50,000 שנה.
כל מה שאנחנו צריכים לעשות זה לשרוד עד אז.