העלאת תכולת המוח שלנו למחשב היא כנראה משימה בלתי אפשרית. אבל לצורך הדיון: מה תעשו לו יתאפשר הדבר?
מאת הילרי רוזנר, הכתבה מתפרסמת באישור סיינטיפיק אמריקן ישראל ורשת אורט ישראל 17.11.2016
- יש מדענים הסבורים שיום אחד, הטכנולוגיה תאפשר לנו להשיג אלמוות באמצעות טעינת הקשרים העצביים שלנו לגופים רובוטיים. אחרים חושבים שזה בלתי אפשרי.
- כך או כך, פילוסופים רציניים דנים בשאלה איך מצב כזה ישנה את האנושיות שלנו.
- הדיון הפילוסופי חשוב מכיוון שאפילו אם ה”סינגולריות” לא תתממש במלואה, שיפור היכולות של בני האדם עשוי לעורר שאלות דומות.
לא מזמן, בקבלת פנים בחתונה, ערכתי סקר בקרב כמה חברים על נושא האלמוות. שאלתי בני זוג מלומדים מסן פרנסיסקו, הורים לשתי בנות צעירות: נניח שיכולתם לטעון מחר את המוחות שלכם למחשב, ולחיות לנצח כהכלאה של אדם ומכונה – האם הייתם רוצים לעשות זאת? הבעל, דוקטור לרפואה בן 42, השיב מיד בחיוב. המחקר הנוכחי שלו, כך אמר, יישא פירות במאות השנים הבאות, והוא מעוניין לראות זאת. “כמו כן, אני רוצה לדעת איך ייראה העולם בעוד עשרת אלפים שנה.” האישה, דוקטור להיסטוריה של האמנות בת 39, הייתה נחרצת באותה מידה. “בשום אופן,” אמרה. “המוות הוא חלק מן החיים. אני רוצה לדעת איך זה למות.”
תהיתי אם החלטתה של האשה תגרום לבעל לשקול את דבריו שוב, אך מטעמי נימוס דיפלומטי החלטתי להניח לנושא. אף על פי כן, מדובר ביותר מסתם שעשוע אינטלקטואלי במסיבות. אם להאמין לדבריהם של כמה עתידנים, נצטרך במוקדם או במאוחר להתמודד עם שאלות כאלה, מכיוון שפנינו מועדות לעולם פוסט-ביולוגי שבו המוות יעבור מן העולם – או לפחות יהיה נתון במידה רבה לשליטתנו.
הגרסה המפורטת ביותר של עתיד אלמותי זה היא גרסתו של ריי קורצווייל. בספרו רב-המכר מ-2005, “הסינגולריות מתקרבת“, חזה קורצווייל שבקרוב הבינה המלאכותית “תקיף את כל הידע והמיומנויות האנושיים”. טכנולוגיה לסריקת מוח בקנה מידה ננומטרי תאפשר, בסופו של דבר, “העברה מדורגת של התבונה, האישיות והכישורים שלנו אל החלק הלא ביולוגי של הבינה”. באותו זמן, מיליארדי ננו-רובוטים בגופנו “ישמידו מחוללי מחלה, יתקנו שגיאות בדנ”א, ינטרלו רעלנים ויבצעו משימות רבות אחרות במטרה לשפר את בריאותנו הפיזית. כתוצאה מכך נוכל לחיות בלי סוף, בלי להזדקן”. ננו-רובוטים אלה ייצרו “מציאות מדומה בתוך מערכת העצבים”. אנחנו נעבור לחיות יותר ויותר בעולם הווירטואלי, עד שלא נוכל להבדיל בינו לבין היקום האנמי שאנו עשויים לכנות בשם “המציאות האמיתית”.
בהתבסס על ההתקדמות בתחומי הגנטיקה, הננוטכנולוגיה והרובוטיקה, ועל הקצב המעריכי של השינויים בעולם הטכנולוגיה, קבע קורצווייל את שנת 2045 כמועד הופעת הסינגולריות הטכנולוגית: הנקודה שבה בינה לא-ביולוגית תעלה על זו האנושית במידה כזאת שייווצר “שינוי מהותי ומהפכני ביכולת האנושית”. יש כמה תומכים ברעיון הסינגולריות שעדיין נוקבים בתאריך הזה, וההתקדמות בתחום ה”למידה העמוקה” של הבינה המלאכותית רק עודדה אותם.
עם זאת, רוב המדענים סבורים שהופעתו של הגורל הסיבורגי שלנו רחוקה הרבה יותר. סבסטיאן סונג, פרופסור במכון פרינסטון למדעי המוח, טוען שהעלאת תוכן המוח למחשב כנראה לא תהיה אפשרית לעולם. מוחות אנושיים בנויים ממאה מיליארדי תאי עצב (נוירונים), המחוברים ביניהם בסינפסות. חוקרים במדעי המוח סבורים שמכלול החיבורים האלה הוא המפתח לזהות שלנו. אפילו לפי הסטנדרטים של קורצווייל להתקדמות טכנולוגית, מדובר בכמות אדירה של חיבורים שצריך למפות ולהעלות למחשב. כמו כן, ייתכן שזו רק ההתחלה: תאי העצב מתקשרים זה עם זה גם מחוץ לסינפסות, ואינטראקציות “חוץ־סינפטיות” כאלה עשויות להיות חיוניות לתפקוד המוח. במקרה זה, כפי שכתב סונג ב-2012 בספרו “קונקטום: כיצד חיווט המוח מגדיר מי אנו“, העלאת המוח למחשב תצטרך לכלול לא רק כל חיבור, או כל תא עצב, אלא גם כל אטום. כוח המחשוב שנדרש לשם כך “לגמרי לא בא בחשבון, אלא אם צאצאיך הרחוקים ישרדו למשך זמן בקנה מידה גלקטי,” כתב סונג.
אף על פי כן, עצם האפשרות של עתיד סיבורגי, רחוק או בלתי סביר ככל שיהיה, מעורר דאגות חשובות דיין כדי שפילוסופים רציניים ידונו בהן בכובד ראש. גם אם הטכנולוגיה שלנו לא תצליח לממש את החזון הקורצוויליאני במלואו, שיפורים של המוח והגוף האנושיים עשויים לקחת אותנו חלק מן הדרך, וזה מחייב בחינה של השאלה: מה עושה אותנו לאנושיים?
הפילוסוף דייוויד צ’למרס, ממנהלי המרכז למחשבה, מוח ותודעה באוניברסיטת ניו יורק, כתב על הדרך הטובה ביותר לשימור הזהות העצמית באמצעות העלאת המוח למחשב. שאלתי אותו אם לדעתו הוא יזכה לחיות לנצח. צ’למרס, בן חמישים, אומר שלדעתו הוא לא יזכה לכך, אבל “הנושאים האלה יהיו לאפשרויות מעשיות מתישהו במאה הבאה, לערך.”
רונלד סנדלר, מומחה לאתיקה ולסביבה ונשיא המחלקה לפילוסופיה ולדת באוניברסיטת נורת’-איסטרן, אומר שהשיח בנושא העתיד הסייבורגי “זורה אור על הרבה נושאים. המחשבה על המקרה הקיצוני יכולה ללמד אותנו רבות על הטווח הקרוב.”
וכמובן, אם יש אפילו סיכוי קלוש שהחיים כיום יוכלו לבחור בסופו של דבר בין מוות לבין חיי נצח כסייבורגים, כדאי להתחיל לשקול זאת כבר עכשיו. אם נניח בצד את שאלת ההיתכנות, ראוי לעצור ולחשוב על שאלות מהותיות יותר. האם מצב כזה רצוי? אם המוח והתודעה שלי ייטענו לתוך סייבורג, מי אני אהיה? האם עדיין אוהב את משפחתי ואת חבריי? האם הם עדיין יאהבו אותי? האם, בסופו של דבר, אשאר אנושי?
אחד הנושאים שמעסיקים את הפילוסופים הוא השאלה כיצד אנו מתייחסים זה לזה. האם “כלל הזהב” של “ואהבת לרעך כמוך” יישאר בתוקף בעולם פוסט־אנושי? לפני שנים ספורות השתתף סנדלר בכתיבת המאמר, “טרנס־אנושיות, כבוד האדם ומעמד מוסרי“, שבו נטען שבני אדם “משופרים” ישמרו על מחויבות מוסרית לבני אדם רגילים. “אפילו אם תהפוך למשופר בדרך כלשהי, עדיין תצטרך לדאוג לי,” הוא אומר. קשה להתווכח עם זה, וקשה עוד יותר להאמין שזה מה שאכן יקרה.
פילוסופים אחרים מציעים “שיפור מוסרי”: שימוש באמצעים רפואיים או ביו-רפואיים כדי לשדרג את העקרונות שלנו. כשיעמדו לרשותנו אינטליגנציה ועוצמה אדירות, נצטרך להבטיח שהן יהיו בידיים טובות. הידע המדעי שלנו “מתחיל לאפשר לנו להשפיע באופן ישיר על היסודות הביולוגיים או הפיזיולוגיים למוטיבציה אנושית, באמצעות תרופות, ברירה או הנדסה גנטית, או בעזרת התקנים חיצוניים המשפיעים על המוח ועל תהליך הלמידה”, כך כתבו לאחרונה הפילוסופים ג’וליאן סבולסקו ואינגמר פרסון. “נוכל להשתמש בטכניקות האלה כדי להתגבר על המגבלות המוסריות והפסיכולוגיות המאיימות על המין האנושי.”
במאי 2016 התפרסם בעמוד הדעות של וושינגטון פוסט מאמר שכותרתו “בקרוב נשתמש במדע כדי להפוך בני אדם למוסריים יותר“. המחבר, ג’יימס יוז, ביו-אתיקן מאוניברסיטת מסצ’וסטס בבוסטון, טען בעד השיפור המוסרי, אבל אמר שעליו להתקבל מרצון, לא בכפייה. “בעזרת המדע נוכל לגלות דרכים משלנו להגיע לאושר ולמידות טובות באמצעים טכנולוגיים,” כתב יוז, שמנהל את המכון לאתיקה ולטכנולוגיות חדשות, קבוצת חשיבה פרוגרסיבית טרנס-הומניסטית. יוז, בן 55, שהיה בעברו נזיר בודהיסטי, אמר לי שהוא מעוניין להישאר בחיים די זמן כדי לחוות הארה.
נשאלת גם השאלה לגבי האופן שבו נתייחס לכדור הארץ. חיי נצח, בכל צורה, ישנו את יחסינו לא רק זה עם זה אלא גם עם העולם שסביבנו. האם נדאג לסביבה יותר או פחות? האם עולם הטבע יֵצא נשכר או מופסד?
סנדלר אומר שהסינגולריות מתארת מצב סופי. כדי להגיע למצב הזה תידרש כמות עצומה של שינויים טכנולוגיים, ו”שום דבר אינו משנה את היחסים שלנו עם הטבע מהר וביסודיות יותר מאשר טכנולוגיה.” אם נגיע למצב שבו נוכל להעלות מודעות אנושית למחשב ולנוע בלי הפרעה בין המציאות האמיתית למדומה, סביר להניח שנהנדס כבר את כל השאר בדרכים משמעותיות. “עד שהסינגולריות תתרחש, היחסים שלנו עם הטבע כבר ישתנו לגמרי,” אומר סנדלר.
על אף מה שהיינו רוצים להאמין, במצבנו הנוכחי כבני תמותה אנחנו תלויים מאוד במערכות טבעיות ופגיעים להן. בעולם העתידי, התלות הזאת תשתנה. אם לא נצטרך לנשום דרך ריאות, מדוע שיהיה אכפת לנו מזיהום האוויר? אם לא נצטרך לגדל את המזון שלנו, נתנתק גם מן האדמה שסביבנו.
באותו האופן, בעולם שבו אי אפשר להבדיל בין העולם הממשי ובין העולם המדומה, ייתכן שנוכל להפיק תועלת מן הטבע הדיגיטלי באותה מידה כמו מזה שבחוץ. הקשר שלנו לטבע האמיתי ישתנה: הוא יפסיק להיות חושי, פיזיקלי. המעבר הזה יכול להשפיע השפעה עמוקה על המוח שלנו – אולי אפילו בגרסת הסיליקון. מחקרים מראים שאינטראקציה עם הטבע משפיעה עלינו מאוד ולטובה. ייתכן שקשר כזה, גם ברמה הלא מודעת, הוא תכונה בסיסית של האנושיות.
אם התלות שלנו בטבע תיעלם, והיכולת הפיזית שלנו להתחבר לטבע תדעך, “הבסיס לדאגה לסביבה ישתנה, ויהיה קשור הרבה יותר לאחריות כלפי הטבע כשהוא לעצמו,” אומר סנדלר. היכולת שלנו לפתור בעיות סביבתיות, לדוגמה, באמצעות הנדסת אקלים, תהיה בקנה מידה שאיננו מסוגלים אף לדמיין כיום. אבל האם עדיין נרגיש שיש לטבע ערך משל עצמו? אם כן, המערכות האקולוגיות ירוויחו מכך. אם לא, מינים אחרים והמערכות האקולוגיות שתלויות בהם יהיו בבעיה.
היחסים שלנו עם הסביבה תלויים גם בשאלת קנה המידה של הזמן. בפרספקטיבה גאולוגית, משבר הכחדת המינים שאנחנו עדים לו כיום הוא אולי חסר חשיבות, אבל הוא כן משנה בקנה המידה הנוכחי של משך חיי אדם. איך ישפיע אורך חיים גדול בהרבה על “הפרספקטיבה שממנה אנחנו שואלים שאלות וחושבים על הסביבה הלא אנושית?” שואל סנדלר. “קנה המידה של הזמן קובע אילו תשובות ייחשבו סבירות.” האם נדאג יותר לסביבה מכיוון שנישאר בה זמן רב כל כך? או שאולי יהיה אכפת לנו פחות, מכיוון שנתבונן בדברים מנקודת מבט גאולוגית ורחבה יותר? “כמעט בלתי אפשרי לדמיין איך זה יהיה,” אומר סנדלר, “אם כי אנחנו יכולים לדעת שהפרספקטיבה תהיה שונה מאוד.”
כשמדברים עם מומחים על נושאים כאלה די זמן, נופלים לבור ללא תחתית ומגלים שאנחנו מנהלים שיחות נורמליות לכאורה על דברים אבסורדיים. יוז אמר לי בשלב מסוים ש”אם יהיה טיפול גנטי בסגנון אקס-מן, שמאפשר לירות קרני לייזר מן העיניים או להשתלט על מוחם של אחרים,” אנשים שירצו תכונות כאלה יצטרכו לעבור אימון מיוחד ולקבל רישיון.
“אתה משתמש בדוגמאות האלה כדי להמחיש רעיון, או שאלה הם דברים שאתה באמת חושב שיקרו בעתיד?” שאלתי.
“מבחינת כמות הדיבורים על נושאים כאלה בקרב טרנס-הומניסטים,” הוא משיב בעקיפין, “רובנו מנסים לא להפחיד את החדשים יותר מדי. אבל אחרי שעוברים את שלב הלם מספר ארבע, אפשר להתחיל לדבר על היום שבו נהיה כולנו רק ננובוטים.”
כשנהיה רק ננובוטים, אילו מין דברים ידאיגו אותנו? החרדה היא אולי אחת מן התכונות המגדירות אותנו כבני אדם. האם האלמוות יהפוך את החרדה לדבר שעבר זמנו? אם לא אצטרך לדאוג יותר לבריאותי, לתשלום החשבונות ולמה שאעשה כשאהיה קשישה ושברירית מכדי להסתובב ולכתוב מאמרים, האם עדיין אהיה אני-עצמי? או שאולי אהיה רק רובוט שטחי ומרוצה יתר על המידה? על מה אחלום בהקיץ? האם אאבד את השאפתנות שלי? הרי אם אחיה לנצח, הרומן האמריקני הגדול שלי יוכל בוודאי להמתין למאה הבאה, נכון?
האם עדיין אהיה אני? צ’למרס סבור ש”זו עומדת להיות שאלה פרקטית, לא רק פילוסופית, דוחקת מאוד.”
מבחינה אינטואיטיבית, נראה הגיוני שאני אשאר עצמי גם אם המוח שלי ייטען למחשב, אפילו אם, כפי שמתאר צ’למרס, הייתי עושה זאת תא עצב אחר תא עצב, תוך שמירה על מודעות לאורך כל התהליך, והופכת לאחוז אחד סיליקון, אחר כך לחמישה, לעשרה ולבסוף למאה אחוזים. זהו המשל העתיק על הספינה של תזאוס, שבכל פעם הוחלף בה לוח אחר בלוח עץ חדש וחזק יותר. האם בסיום התהליך היא הייתה אותה ספינה? ואם לא, באיזה שלב נטתה הכף והיא הפכה לספינה אחרת?
“אחת הבעיות הגדולות,” אומר יוז, “היא שאם חיים די זמן ועוברים שינויים רבים כל כך, אין עוד משמעות לאורך החיים. האם אני באמת אותו אדם שהייתי בגיל חמש? אם אחיה עוד חמשת אלפים שנה, האם באמת אהיה מי שאני עכשיו? בעתיד נוכל לחלוק את הזיכרונות שלנו, כך שהחשיבות של הזהות וההמשכיות העצמית תישחק.” נשמע מדכא למדי.
על אף הרטוריקה האוטופית של הסינגולריות, יש בה שמץ של פטאליזם. זהו הנתיב היחיד שפתוח לפנינו: להתאחד עם המכונות או להתפוגג – או משהו גרוע מזה. ומה אם איני רוצה להיהפך לסייבורגית? קורצווייל עשוי לומר שזה רק המוח הביולוגי המוגבל והלקוי שלי, שמונע ממני להבין את המשיכה ואת הפוטנציאל האמיתיים של העתיד הזה. הבחירות שיהיו זמינות לי – כל סוג של גוף, כל חווייה במציאות המדומה, אינסוף אפשרויות לביטוי יצירתי, הסיכוי ליישב את החלל – יהפכו את הקיום הביולוגי הנוכחי שלי לטריוויאלי במידה קומית ממש. ובכלל, מה פטאליסטי יותר מאשר מוות ודאי?
ואף על פי כן, אני אוהבת להיות אנושית. אני אוהבת את הידיעה שאני עשויה, בסופו של דבר, מאותו חומר כמו כל החיים על כדור הארץ. אני אפילו קשורה באופן מסוים לשבריריות האנושית שלי. אני אוהבת להיות חמימה ונעימה, ולא קשה ועמידה כמו רובוט־על בסרט פעולה. אני אוהבת את הדם החם שזורם בעורקיי, ואינני משוכנעת שאני רוצה להחליף אותו בננובוטים.
יש אתיקנים הטוענים שהאושר האנושי מסתמך על כך שהחיים שלנו בני חלוף, שאנחנו יצורים פגיעים שתלויים זה בזה. איזו משמעות ואיזה ערך נמצא לחיים בעתיד של אדם-מכונה?
“מבחינתי, המהות של להיות אנושי היא לא המגבלות שלנו… היא היכולת שלנו להתגבר על המגבלות האלה,” כותב קורצווייל. זו נקודת מבט מעניינת. המוות היה מאז ומעולם אחת המגבלות האלה, אז אולי ההתגברות על המוות עושה אותנו לאנושיים באופן עמוק ביותר?
אבל אחרי שנתגבר עליו, אינני משוכנעת שהאנושיות שלנו תישאר. המוות עצמו אינו מגדיר אותנו דווקא, כמובן – כל היצורים החיים מתים – אבל הן המודעות למוות וההבנה שלנו אותו, והן הניסיון שלנו להעניק משמעות לחיים עד אליו, הם בוודאי חלק מן הרוח האנושית.
לכתבות נוספות בסדרה:
- שאלות לעתיד האנושות: כיצד שינוי האקלים ישנה אותנו?
- שאלות לעתיד האנושות: איזה חותם גאולוגי נשאיר אחרינו?
- שאלות לעתיד האנושות: האם נשרוד את הפערים הכלכליים?
- שאלות לעתיד האנושות: מי ישגשג ומי יישאר מאחור בעולם של 10 מיליארד בני אדם?
- שאלות לעתיד האנושות: האם נביס את ההזדקנות?
- עשרים שאלות גדולות על עתיד האנושות
131 תגובות
walking death,
רשתות נוירונים מסוג ״Convolutional Neural Networks״ אשר תופסות תאוצה חזקה מאד בשנים האחרונות עובדות בצורה דומה מאד לזו שבה המוח שלנו עובד כאשר הוא מפענח תמונות ויזואליות המגיעות מהעיניים. גם ברשת העצבית הזו התמונה מפורקת למרכיביה הבסיסיים כמו למשל קווים אנכיים, קווים אופקיים, קווים אלכסוניים וכו׳ (כפי שנעשה אצלנו באיזור הרשתית בעין) ובהמשך השכבות הבאות שנמצאות יותר בעומק מזהות מאפיינים נוספים כמו למשל אף, פה ואוזניים אם זה פרצוף, או גלגלים אם זו מכונית. השכבות האחרונות מזהות כבר את האובייקט עצמו.
למעשה רשתות נוירונים מסוג ״Convolutional Neural Networks״ שאבו את השראתן מהאופן שבו המוח שלנו מפענח תמונות, והן גם הרבה יותר מדוייקות מרשתות נוירונים מדורות קודמים.
אין הבדל מהותי בין האופן שבו המוח שלנו מפענח תמונות ובין האופן שבו רשתות נוירונים מסוג זה מפענחות תמונות.
אם אתה רוצה הנה סרטון דוגמא מתוך יוטיוב:
https://www.youtube.com/watch?v=FmpDIaiMIeA
WD
רשת עיצבית במחשב לזיהוי כתב יד היא יחסית פשוטה. המערכת מבצעת בשלב ראשון סגמנטציה – הפרדת האותיות ליחידות עצמאיות. דרך פשוטה היא לנסות להעביר קווים בין האותיות (לעיתים מבצעים סיבוב לפני זה – וזה גם תהליך שהמוח שלנו מבצע).
למעגל הזיהוי יש כניסה לכל פיקסל (נניח 32 על 32). ביציאה יש קו לכל תו אפשרי (וצריך טיפול מיוחד לרווחים בין מילים). שכבת הזיהוי (בין הקלט) מכילה מספר ניורונים שקובעים בצורה ניסויית.
עכשיו מתחיל הקטע המעניין – מלמדים את הרשת ע”י ניסוי וטעייה – מכניסים קלט ידוע (כלומר – אנחנו יודעים מה האות) ומשחקים טיפה עם המשקלים כדי להגיע לפלט הרצוי. זה שלב מורכב – כי אפשר לבצע “לימוד יתר” על קבוצת הלימוד ואז המערכת תזהה פחות טוב דברים ששונים מהקלט.
היום מבצעים שני תהליכים נוספים. הראשון הוא לימוד מילים: אם גילינו אות אחת אז אנחנו יודעים איזה אות צפוייה לבוא אחריה (למשל – אחרי q יבוא u). התהליך השני הוא זיהוי רצפי מילים – אחרי the כנראה לעולם לא יבוא if, או why וכן הלאה.
כלומר – יש פה מערכת יחודית שלמדה לזהות אותיות – אבל אין שום מקום ברשת הזאת שזיהית אות 🙂 לכל אות פלט משלה – אין שום מקום במערכת ש”יודעת” איזו אות זוהתה.
במוח שלנו יש מערכת שלמה בין העיניים לבין הרגע בו אנחנו מבינים את המשמעות של טקסט – כשליש מהמוח בנוי לניתוח של מה שאנחנו רואים. לימוד אותיות בבני אדם הוא שונה מבמחשב. יש לנו מעגלים לזיהוי גיומטריה, ואחרי זה אנחנו רואים “אוביקטים”. בגיל מסויים אנחנו מצליחים להעביר זיהוי אובייקטים מסויימים למעגלי השפה (לא כולנו – יש כל מיני בעיות של דיסלקציה שמקשות על המעבר הזה).
אנסה לתת דוגמה – טבעת של כדור סל בנוי מעיגול וקווים ישרים – אבל אנחנו מזהים את הטבעת כטבעת מכל זווית. עכשיו תחשוב על d, b, p, ו-q. יש פה משהו מהותי שונה, נכון?
ניסים
אם יש לך זמן לזה, אני דווקא מאוד אשמח לקרוא את הפירוט שלך בנוגע לזיהוי אותיות בתוכנה ובמוח.
מה שתגיד.
יריב
השיחה בינינו ניגמרה.
אני רק מציע לך להבין נושא לפני שאתה מתווכח עליו. לקרוא ספר של פופוליסט זה לא ידע וזה בטח לא הבנה.
ניסים אתה צודק, אני באמת חושב שהדיון איתך מיותר.
יריב
אתה כל הזמן מניח את מה שאתה מנסה להוכיח….
בקשר לשגב – אתה מניח שהוא יודע איך עובד המוח, ואם המודל שהוא בונה לא יעבוד, הסיבה היא טעות בבנייה, ולא בהבנה.
ובקשר לזיהוי אות – אתה מניח שהמערכת במוח שמזהה “א” דומה במשהו לאותו תוכנה שמזהה אותיות. אז, אני יודע בדיוק איך תוכנה מזהה אותיות ואני אומר לך מתוך ידיעה שהמוח שלנו לא עובד בשיטה הזאת. אם תרצה, אוכל לפרט, אבל נראה לי שזה יהיה בזבוז זמן לשנינו.
ניסים,
אין לי כוח לדיונים פילוסופים ארוכים למרות שאני יודע שאתה מאד אוהב דיונים כאלה. אני אגיד לך בפשטות, כשאני רוצה להעתיק משהו יש לפני שתי אפשרויות: או להעתיק אותו בצורה מדוייקת אחד לאחד – בדיוק מאותם חומרים בדיוק באותו הגודל וכו׳ ממש כמו המקור, והדרך השנייה שדומה יותר למקרה שלנו היא ליצור העתק שאינו זהה לחלוטין למקור אך עדיין מכיל בתוכו את עקרונות הפעולה החשובים שקיימים במקור ויוצרים את התופעה שבה אנחנו מעוניינים. ההעתק עשוי להיות מורכב מחומרים אחרים, בגודל שונה וכיוצא בכך אבל עדיין הוא יכיל בתוכו את עקרונות הפעולה שקיימים במקור. למשל דאון מנייר שמסוגל לדאות כמו נץ או כמו חסידה למרות שהוא עשוי מחומרים אחרים וצורתו שונה אך עדיין מכיל בתוכו את עקרונות העילוי ויחסי המשקל הנכונים.
במקרה של פרויקט מוח האדם עליו מדבר עידן שגב מנסים ליצור העתק של מוח ביולוגי אבל כזה שעשוי מחומרים אחרים (שבבי סיליקון) שגודלם שונה ממה שקיים במוח שלנו, אבל התיקווה היא שהמודל עדיין יכיל בתוכו את אותם עקרונות חשובים שמאפשרים הופעת תודעה במוח שלנו ולכן גם בו תיווצר תודעה.
אם הם ישלימו את המודל ויפעילו אותו וילמדו אותו ויספקו לו את כל הקלטים שמוח ביולוגי מקבל, ועדיין לא תיווצר בו תודעה זה אומר שכנראה הם פיספסו משהו, זה אומר שהמודל שלהם לא מכיל כנראה את כל העקרונות שגורמים להופעת תודעה במוח שלנו, אתה לא חושב?
לגבי שאלתך השנייה, האם לדעתך הרשת העצבית הקטנה במוח שלך שמזהה את האות ׳א׳ חושבת? האם לדעתך היא מבינה את משמעות האות ׳א׳? התשובה שתיתן היא גם התשובה לגבי רשת עצבית על שבב שמזהה את האות ׳א׳.
יריב
תחשוב על מערכת לזיהוי כתב יד שמשתמשת ברשת עיצבית. ייתכן שהיא פועלת כמו מוח ביולוגית. האם לדעתך היא חושבת? אם לא – תסביר בבקשה למה לא.
יריב
לא. אני טוען שזה שבניתי משהו בצורה נכונה לא אומר שבניתי את הדבר הנכון.
יריב,
סיימתי. אני חושב שמי שקורא מבין את הטענה שלי.
אגב, אם הגעת ל- 30 דקות והשתעממת, אל תמשיך. אני משוכנע שפנרוז לא יעלב
ניסים,
שים לב שכתבתי ״מבינה״ במרכאות, אולי כדאי שתחליף משקפיים. ומה נראה לך שתכתוב ״מונטה-קארלו״ ותפחית מעוצמת ההישג שלהם? אתה מוזמן לכתוב אפליקציה שמשתמשת בשיטת מונטה-קארלו ללא רשתות עצביות שתצליח להגיע להישגים שאלפא גו הגיעה אליהם, נראה אותך.
דרך אגב אני לא אתפלא בכלל אם גם במוח שלנו מתרחש תהליך שדומה לשיטת מונטה-קארלו כאשר אנחנו מנסים למצוא פיתרון לבעיה כמו החלטה על ביצוע מהלך במשחק שח או גו.
לגבי דוגמת המטוס הנחמדה שלך, מה אתה מנסה לטעון שאם המוח הסינטטי שנבנה לא יהיה עשוי מחומר אורגני לא תוכל להיווצר בו תודעה? זה מה שאתה טוען?
יריב
בהקשר לציטוט לדבריו של שגב:
שמע יריב, בניתי היום מודל פלסטיק של מטוס קונקורד. אבל, לצערי, משום מה היא לא מסוגלת לטוס בשני מאך. אז איך תגיב אם אומר שהיא לא טסה כי בניתי אותה לא נכון? אני מקווה שתחשוב שאני טמבל…
אני מקווה שברור לך שעקבתי במדוייק אחרי ההוראות ושזו לא הבעיה. הבנת עכשיו למה אני מתכוון?
יריב
אלפאגו לא הבינה כלום – אל תשלה את עצמך. היא ביצעה חיפוש מונטה-קארלו בעץ (כלומר – חלק מתהליך החיפוש היה אקראי). העץ ניגזם ע”י אימונים במספר גדול של משחקים.
תחשוב על תוכנה לזיהוי כתב יד – גם זו משתמשת ברשת עיצבית. האם אתה חושב שתוכנה כזו מבינה מה זה האות “א”?
שמוליק,
1. נכון בקליפת המוח קורה משהו מיוחד, המבנה של קליפת המוח, והקישוריות שקיימת שם בין האיזורים השונים, היא זו שמאפשרת בסופו של דבר היווצרות של תודעה.
הנה, מתוך ויקיפדיה: ״קליפת המוח האנושית היא מוקד החשיבה המודעת במוח. היא מטפלת בפעולות קוגניטיביות גבוהות, כגון דיבור, הבנת שפה וקבלת החלטות״
זה לא סותר את דברי ולפיהם יש חשיבות מכרעת לכמות הנוירונים בקליפת המוח, קליפת המוח של אדם למשל גדולה פי 3 מזו של קוף, מדוע קשה לך להבין שזו הסיבה לכך שהמודעות שלנו גבוהה יותר?
2. כתבתי והתעלמת, זה שמרדימים חלק קטן במוח והמודעות נעלמת לא אומר ששם נמצאת התודעה, בחתיכת המוח הקטנה שהורדמה. זה כמו שאני אחסום את צינור אספקת האוויר למנוע של הרכב והמנוע יפסיק לפעול, ואז אני אגיד לך שהנה הוכחתי שבנקודה שבה שמתי את החסימה נמצא הכוח של המנוע. שוב, יכול להיות שהאיזור שהורדם הוא צומת חשובה שמאפשרת לסיגנלים חשובים להגיע לקליפת המוח כדי שתיווצר שם תודעה, עכשיו זה ברור?
3. תקשיב אין לי באמת מושג מה רמת התודעה של אלפא-גו ואין לי שום רפרנס לתת לך, סתם זרקתי ניחוש כי לא עזבת אותי, חשבתי שזה ברור. ברשת עצבית כל כך קטנה כפי שאני מניח שקיימת באלפא-גו אני לא מצפה שתיתפתח תודעה ברמה שאפשר להרגיש או למדוד, אני גם לא יודע למדוד למשל את רמת התודעה של נמלה.
4. אתה מבקש ממני שאתן לך רפרנס אך לא עושה זאת בעצמך, מה זה כמות ״גדולה מאד״ של טרנזיסטורים? כמה נוירונים הם מדמים? אלף? מיליון? חמישים מיליון? סלח לי אבל אני לא אמור לנחש מתוך צריכת האנרגיה של המחשב כמה תאי עצב הוא מדמה, טרנזיסטור צורך הרבה יותר אנרגיה מנוירון בקליפת המוח, אם אין לך מספר לתת לי אז אין לך קייס והכל ניחושים.
5. תאמין לי שאני לא מפספס שום הנקודה, אתה זה שמפספס. כמה פעמים אפשר להסביר לך שאלפא גו לא הגיעה לנצחונות שלה בעזרת כוח חישוב? אלפא גו ״הבינה״ את מצב הלוח בדרך של אינטואיציה ומכך הסיקה כיצד עליה לפעול, זה מפיל לחלוטין את הטיעון שלך. בכל שלב במשחק עמדו לרשותה של אלפא-גו כמות אינסופית (לכל דבר ועניין) של מהלכים אפשריים ומהלכי נגד של היריב, אם היא הייתה מתבססת על כוח חישוב כפי שאתה טוען, אז היא לא הייתה מצליחה גם בעוד אלף שנה להחליט איזה מהלך לבצע.
6. התחלתי לצפות בהרצאה, ראיתי כבר 30 דקות ממנה, משעמם טיכו אני מקווה שאני אצליח לצלוח את שאר 60 הדקות. קצת מצחיק בעיני שאדם שהתמחותו היא פיסיקה מדבר על נושאים שקשורים בכלל לתחום הביולוגיה וחקר המוח, זה לא נראה לי רציני.
יריב,
1, 7, 3 – אני חושב שאתה לא מבין את הנקודה. כל זה אומר שמסה קריטית אינה התשובה אלא כמות ניורונים בתפקוד מסויים. אם היתרון שלנו אל מול הליוויתנים הוא בכמות ניורונים ב-*קליפת המוח* זה אומר שקורה בקליפת המוח קורה משהו מיוחד. לא כל המוח רלוונטי לתודעה שהרי יש מצבים בהם חלקים מהמוח נהרסים אך אין פגיעה ביכולת הקוגניטיבית. מאידך, אם מספיק לעצבב איזור מסויים והתודעה נעלמת, זה מרמז על איזור מסוים שהוא הוא האחראי על התודעה. מכאן, שלכאורה, לא (רק) הגודל קובע אלא (גם) התפקוד באיזור הזה הוא קריטי לקיום תודעה. זו הנקודה העיקרית שאני מנסה להעביר
2 –
4, 5 – מה זה מרוצה? זה לא סוג כזה של ויכוח. זורק מילים? רפרנס לטענתך בבקשה שיש לו תודעה של ג׳וק. הנה מה שמצאתי לגבי כמות המעבדים. חשבתי שתבין שבצריכת חשמל כ״כ גדולה, יש הרבה מאוד טרנזיסטורים שעובדים: https://jacquesmattheij.com/another-way-of-looking-at-lee-sedol-vs-alphago
6 – זו נקודה חשובה שנדמה לי שאתה מחמיץ. החידה של פנרוז יכלה להיות גם בגו. בוא נניח שהיא בגו כי לדעתי המעבר לשח קצת מטעה אותך. אלפאגו מיועד לנצח במשחק הגו. יש לפנינו חידת גו שמיועדת לזקק את ההבדל בסוגי המחשבה. איך? ע״י רתימת מה שמחשב עושה הכי טוב וזה חישובים. במקרה הזה, עד לאינסוף כי אין דרך לנצח מהמצב ע״י כמות חישובים. אנחנו פותרים את המצב ע״י *הבנה* שאין צורך בכל החישובים הללו כדי להגיע למסקנה שמדובר בפט (אין לי מושג אם יש פט בגו) ומחשבים (לפחות אליבא דה פנרוז) לא מצליחים לעמוד באתגר.
8 – סבבה
שמוליק,
1. איך בדיוק הרדמת איזור קטן במוח שמעלימה את המודעות סותרת את הטענה שלי? אולי האיזור הזה הוא צומת דרכים קריטית שמעבירה סיגנלים חשמליים לשאר חלקי המוח כדי שתוכל להווצר בהם מודעות?
2. ״נכון שהוא אמר שאם יבוצע מידול שלם של המוח תיווצר מודעות, אמר ואתה מאמין לכל מילה. מאמר מדעי יש?״
זו אמירה שמבוססת על היגיון בריא, קרא בבקשה את התשובה שנתתי לניסים בנושא עם דוגמת המנוע.
3. ״הוא לא מדבר רק על מסה קריטית אלא על מידול של הניורונים והמבנה המרחבי שלהם״
הוא רוצה לבנות מודל שיהיה דומה ככל שיותר למקור, כדי שיהיה אפשר להשוות בין מה שמתרחש במודל (למשל במקרה של מחלות) ובין מה שמתרחש במוח אמיתי, מה לא בסדר בזה? הוא גם יכל לדמות את הקשרים בלי המבנה המרחבי אבל אז היה קשה יותר להשוות למקור שהוא כן בתלת מימד.
4. ״אתה כן משנה דעות לגבי אלפא, במקום אחד כתבת שאלפא גו עובדת בדומה למוח שלנו, בדרך של אינטואיציה ובמקום אחר החלטת שאין לאלפא גו מודעות, בטח לא כזו שמתקרבת לזו של אדם״
רשת נוירונים חייבת להיות בעלת מודעות של אדם כדי שתהיה לה אינטואיציה? איפה אמרתי דבר כזה? מה, לעכבר אין אינטואיציה? ולשאלתך, לאלפא גו יש רמת מודעות של נמלה, או של ג׳וק, בסדר? עכשיו אתה מרוצה?
5. ״אין לגו ׳סתם׳ רשת עצבית מסכנה אלא יש לה רשת עצבית מסובכת אשר צורכת פי 50000 חשמל מהמוח האנושי״
תגיד לי, זה מה שמשנה כאן כמה חשמל היא צורכת?? כמה נוירונים וכמה קשרים יש ברשת הזו? זו לא שאלה קצת יותר רלוונטית לדיון שלנו?
6. ״כאן נכנס פנרוז לתמונה… הוא נותן תרגילים הקשורים לאינסוף. חידת השח שהוא הביא היא כזו והיא הרבה יותר בעייתית ממשחק גו כי היא באמת הולכת לאינסוף. שום יכולת חישובית לא תביא לך את הפיתרון כי המשחק תקוע ויש אינסוף מהלכים שאפשר לבצע שלא יקרבו אותך במילימטר לפתרון הנכון״
שמוליק, כמות המהלכים שניתן לבצע במשחק גו גדולה (בסדרי גודל רבים) מכמות כל החלקיקים ביקום! מבחינתך לכל דבר ועניין מדובר על אינסוף מהלכים! גם אם היו נותנים לאלפא גו מיליון שנה היא לא הייתה מסוגלת לחשב אפילו חלקיק מהמהלכים האפשריים קדימה! אז איך בכל זאת היא ניצחה? איך בכל זאת היא הצליחה לבצע מהלכים מפתיעים כל כך שהובילו אותה לניצחון בלי לבצע אינסוף חישובים? האם זה לא קצת מפיל את כל הטיעון שלך?
7. לגבי ליוויתן, אני לא מבין מה קשה לך כל כך להבין, צפית בהרצאה של סוזנה נכון? בקליפת המוח של ליוויתן יש הרבה פחות נוירונים ממה שיש בקליפת המוח שלנו! זו עובדה! אז איך זה סותר את הטיעון שלי: יותר נוירונים ויותר קישורים ביניהם = רמת תודעה גבוהה יותר? איפה הסתירה כאן?
8. אני חושב שאני דיי מבין (ברמת העיקרון) את טענתו של פנרוז, אבל תן לי קודם לצפות בהרצאה כדי שנהיה מסונכרנים יותר, אוקיי?
ניסים,
תגיד, צריך להיות מדען גדול כדי להבין שאם בנית מנוע והוא לא עובד זה אומר שלא בנית אותו נכון? אם המוח שלנו מייצר תודעה, ובנית העתק של מוח שלא נוצרה בו תודעה, זה לא אומר לך שמשהו במודל שלך כנראה לא נכון? מה לא טוב לך באמירה שלו? על מה אתה מתלונן בדיוק?
יריב
כתבת “ואומר באופן ברור ונחרץ שברשת העצבית שהם בונים בהכרח תיווצר גם מודעות עצמית, כי אם לא זה אומר שלא בנינו אותה נכון.”
ברצינות? זו אמירה של מדען? שגב טוען שהוא יודע בוודאות מה זו תודעה? הוא יותר גרוע ממני, לא? 🙂
יריב,
רק כדי להיות ברור, הטיעון של פנרוז שאני מנסה להעביר ונכשל הינו פיזיקלי לחלוטין ולא ממבו ג׳מבו ואני לגמרי עם עידן שגב שחושב שהכל זה פיזיקה ואין רוח, נפש ושאר מרעין בשין.
הטענה העיקרית שלי היא שמודעות לא תצוץ אם נגיע למסה קריטית של ניורונים והדגמתי את זה שוב ושוב. גם מודעות של בני אדם אינה רק עניין של מסה קריטית וכל לינק שאתה שולח אותי אליו רק מחזק את ההכרה שלי בכך. בלינק האחרון ששלחת אותי אליו אומר הפרופסור שאם הוא מנטרל איזור קטן, המודעות נעלמת. נו? איזור קטן, לא כל המוח. איך זה מסתדר לך? נכון שהוא אמר שאם יבוצע מידול שלם של המוח תיווצר מודעות (אמר ואתה מאמין לכל מילה. מאמר מדעי יש?) אלא שגם הוא לא מדבר רק על מסה קריטית אלא על מידול של הניורונים והמבנה המרחבי שלהם.
אתה כן משנה דעות לגבי אלפא, לך תקרא את מה שכתבת. במקום אחד כתבת שאלפא גו עובדת בדומה למוח שלנו, בדרך של אינטואיציה ובמקום אחר החלטת שאין לאלפא גו מודעות, בטח לא כזו שמתקרבת לזו של אדם. כך אי אפשר לנהל דיון. יש או אין לה מודעות? טיפת מודעות? כמו של מדוזה? פחות? יותר? בכל זאת היא הצליחה לנצח בן אדם במשחק מורכב ביותר. אין לגו ״סתם״ רשת עצבית מסכנה אלא יש לה רשת עצבית מסובכת אשר צורכת פי 50000 חשמל מהמוח האנושי. אז יש משהו או שהיא מודעת כמו אבן? למה זה חשוב, כי אם יש מודעות, אם פיצחת את הנושא הזה, מכאן ולשפר אותה עוד ועוד זה יותר קל ואז באמת ככל שתגדיל אותה ותייעל אותה, תוכל טוב יותר למדל את המוח אבל הטענה היא שלא בוצע כאן אפילו הצעד הראשון. כאן נכנס פנרוז לתמונה ולהלן תמצית טיעונו. רשת עצבית הממומשת במחשב בטכנולוגיה הנוכחית יכולה להיות ממודלת ע״י מכונת טיורינג ואם כן, היא מוגבלת בגין משפט אי השלמות של גדל (מכונת טיורינג והמוגבלות שלו הוא לגמרי בקונצנזוס המדעי ויש אינסוף מאמרים בנושא). בני אדם לא. כדוגמא לכך, הוא נותן תרגילים הקשורים לאינסוף. חידת השח שהוא הביא היא כזו והיא הרבה יותר בעייתית ממשחק גו כי היא באמת הולכת לאינסוף. שום יכולת חישובית לא תביא לך את הפיתרון כי המשחק תקוע ויש אינסוף מהלכים שאפשר לבצע שלא יקרבו אותך במילימטר לפתרון הנכון. שחקן שח שבקושי מבין את החוקים ישר *יבין* את הקטע ויספר לך את התשובה מבלי לבצע את אינסוף החישובים. התכונה החמקמקה הזו, *הבנה*, לטענתו לעולם לא תהיה ממודלת בדיוק בגלל מקרים כאלו של הליכה לאינסוף. גם אם יש לך יכולת חישובית אינסופית, ממש אינסופית, לא תוכל לפתור את סט מסויים של בעיות שנראה שלאנשים אין בעיה איתם. להערכתי החמצת את המשמעות של הבעיה הזו. זה לא סתם משחק שח מול משחק גו. פנרוז יכול היה לבחור דוגמא מקבילה ממשחק גו (כנראה, אני לא מכיר) אלא שאני מניח שהוא העדיף לבחור משחק שהרבה מאוד אנשים מכירים כדי לאתגרם לאתר פתרון שיביס את טיעונו.
מכאן שמבחינת פנרוז, עידן שגב טועה ברמה העקרונית ביותר שאפשר. כאמור, יש לטיעון של פנרוז הרבה מתנגדים כולל לבסיס הטיעון שלו (ראה עמוד ויקיפדיה) אבל אתה לא העלית אף לא אחד מהטיעונים הללו אלא רק המשכת לשלוח אותי ללינקים שלא רק שלא משרתים את טיעונך אלא סותרים אותו.
דרך אגב, לא הבעתי פליאה מדוע ללוויתן יש פחות מודעות אלא הגבתי למשפטים שלך כגון זה: ״יש ערימת חול קטנה שבנוייה משלושה גרגרים, ויש ערימת חול גדולה שמורכבת ממיליון גרגרים. באופן דומה ככל שיש ברשת עצבית יותר נוירונים ויותר קשרים כך המודעות שתיווצר בה תהיה גבוהה יותר. המוח שלנו גדול פי שלוש יותר ממוח של קוף, פי שלוש יותר״. יופי. טיעון כזה דורש את הטיעון ״אבל ללוויתן יש מוח יותר גדול״. מדוע העובדה שיש לו גוף גדול יותר הורסת לו את המודעות? אולי זה בגלל שלא רק מדובר על מסה קריטית אלא אולי על מסה מסוימת של ניורונים, הקישורים שלהם, ריכוזם במקום ספציפי אשר אמונים על פעילות מסויימת? פליאה עלאק
ברור לי שעכשיו תגיב ואני אגיב לך וחוזר חלילה כאילו יש לך מניות אצל שגב ולי אצל פנרוז אך כלום לא יתקדם. תוכל לפחות לכתוב האם הבנת את תמצית טיעונו של פנרוז כי אני כן טרחתי לבדוק ולהבין (ולהתרשם) מהלינקים ששלחת אותי אליהם
ושלחתי אותך לקטע של 3 וחצי דקות בו עידן שגב מתייחס באופן ספציפי לנושא המודעות ואומר באופן ברור ונחרץ שברשת העצבית שהם בונים בהכרח תיווצר גם מודעות עצמית, כי אם לא זה אומר שלא בנינו אותה נכון.
אמרתי לך שיקח לי בערך שבוע להגיע להרצאה שנתת לי, אין קצת סבלנות במחוזותינו?
שמוליק,
אני לא מבין מדוע אתה כל כך מתקשה להבין אותי. שלחתי אותך להרצאה כי:
1. הבעת פליאה על כך שלליוויתנים יש מוח יותר גדול משלנו ועדיין אין להם יכולות כמו שיש לנו.
2. אמרת שלא ברור לך מדוע יש הבדל כזה גדול בין היכולות השכליות של קופים ובני אדם.
האם ההרצאה לא ענתה על השאלות שלך?
שלחתי אותך לקטע קצר שמדבר על מודלים מתמטיים של פעולת המוח (ההרצאה של עידן שגב) אחרי שטענת שיש מודלים מתמטיים רבים שמנסים להסביר איך המוח פועל, אז הבאתי לך דוגמא של מודל מתמטי אשר דיי מוכיח את עצמו.
ושוב אני חוזר על עצמי, כשאני מדבר על מסה קריטית אני מדבר על מודעות צלולה וגבוהה כמו זו של בני אדם! גם לבעלי חיים אחרים כמו קוף חתול ועכבר יש מודעות כלשהי אבל היא כלל לא מתקרבת לזו שיש לנו.
הניצחון של אלפא-גו לא קשור לעניין המסה הקריטית, ולא טענתי בשום מקום שיש לאלפא גו מודעות שמתקרבת אפילו לזו של עכבר. זו רשת נוירונים זעירה שמצליחה להביס בני אדם בתחום אחד מאד ספציפי שנחשב בלעדי למוח אנושי, זאת האמת איזו בריחה יש כאן? איפה אני בורח? ואיפה אמרתי שכדי שתהיה לאדם מודעות הוא צריך לדעת אינסוף דברים? אני מתאר לעצמי שאתה יודע קצת יותר דברים ממה שאלפא-גו יודעת, ויש לך רשת עצבית ״קצת״ יותר גדולה, אין לכך שום משמעות בעיניך? אין לזה איזו השפעה על יכולות קוגנטיביות ורמת תודעה?
יריב,
ההרצאה עצמה מאוד יפה הגם שהרעיונות שם אינם חדשים. לדוגמא, מייקל פולאן בספריו מדבר על הנושאים הללו. לדוגמא הוא מתאר טרייד אוף נוסף שקיים והוא בין כמות ניורונים במוח לכמות ניורונים במערכת העיכול אבל זה כבר מחוץ לתמונה. ההרצאה עצמה יפה ומעניינת אבל לא רלוונטית לענייננו והוא (לדעתי) מקור התודעה והאם מחשבים יוכלו למדל את המוח האנושי. שלחתי אותך לבדוק מקור שעשוי לספר לך ההפך ממה שאתה חושב והדבר היחידי שאתה לא עושה זה לבדוק אותו
יריב,
מדוע שלחת אותי להרצאה הזו?
הדרך היחידה שההרצאה הזו תהיה רלוונטית למשהו היא אם טענתך שרק לבני אדם יש מודעות.
אם זו טענתך כעת הרי שהיא סותרת את הסיפור שלך על הנמלה והעכבר ואם הסיפור הזה נעלם אז מאיפה אתה מגיע לרעיון המסה הקריטית? ואם הסיפור שלך כבר לא רלוונטי אז מדוע שלחת אותי להרצאה על מידול מול של עכבר? ההרצאה לחלוטין לא רלוונטית לדיון כי ההרצאה לא מטפלת במקור המודעות אלא מסבירה משהו שמעולם לא היה בדיון והוא שבני אדם מיוחדים בגלל יחס משקל לניורונים באיזור מסוים במוח. סו וואט?
אלפא-גו. אתה טועה יריב ואתה משנה כל הזמן דעות. אתה מספר לנו שאלפא-גו לא תוכנת באופן ספציפי אבל אז כשאני מעמת אותך עם רעיון המסה הקריטית ומדגים בעזרת הניצחון שיש כאן מסה קריטית אתה בורח ואומר שהמחשב הוא רק מכונה למשחק גו. תחליט. וגם אם זו רק מכונה למשחק גו, אז מה? אולי לפי שיטתך יש לה מודעות גו? אני, כמו אלפא גו, מכיר מספר מצומצם של דברים, קטן בהרבה מאינסוף. גם אני ללא תודעה?
אז כאמור, יותר ויותר אני משתכנע שמקור התודעה אינו במסה קריטית של ניורונים בלבד
ניסים,
האם אני אמרתי או רמזתי איפשהו שלאלפא גו יש מודעות, או איזורים שמטפלים בשפה? אבל יש רשתות נוירונים שכן מטפלות באספקטים שונים של שפה ודיבור, זה לא משהו כזה בשמיים שלא ניתן לדמות. אם אתה לא מכיר אני יכול לתת לך כמה לינקים בנושא.
יריב
אכן יש טענה שמה שמייחד את המוח האדם הוא “חוש השפה” (ביטוי של סטיבן פינקר). אני כבר הזכרתי שני איזורים במוח שלנו שמטפל בשפה (איזורי וורניקה וברוקה). גילו את האיזורים האלה דרך אנשים שנפיגעו והיה ניתן לאבחן את שינוי ההתנהגות שלהם. היום אנחנו יודעים לראות איזורים אלה בעזרת MRI – אבל הרזולוציה היא בקוביות של 2x2x2 מ”מ, וגם זה בהרבה ניחושים.
האם לדעתך האיזורים האלה קיימים באלפאגו?
משום מה הקישור נחתך באמצע, חפש בגוגל:
״מה כל כך מיוחד במוח האנושי?״
ולחץ על הקישור הראשון ברשימת התוצאות.
לא ברור לי מדוע הקישור נחתך, מנסה שוב:
https://www.ted.com/talks/suzana_herculano_houzel_what_is_so_special_about_the_human_brain?language=he
שמוליק,
ברור שמדובר גם ב DNA (שמכתיב הרי את גודל המוח והקישוריות הרבה שקיימת בו) וברור שמדובר גם מבנוירון, ובניסיון חיים שבלעדיו לא תיווצר ברשת שום תודעה, לא אמרתי שום דבר שסותר זאת.
אבל כדי להשתכנע שכן מדובר במסה קריטית, ולהבין מדוע המוח שלנו יותר אינטיליגנטי ממוח של לווייתן למרות שמוחו גדול יותר משלנו, צפה בהרצאה הקצרצרה הזו:
https://www.ted.com/talks/suzana_herculano_houzel_what_is_so_special_about_the_human_brain?language=he
לדעתי היא תעזור לך להשתכנע.
לאלפא גו אין מודעות, בטח לא כזו שמתקרבת לזו של אדם משום שמדובר על רשת עצבית זעירה שמתמחה בדבר אחד בלבד – משחק גו, שום דבר אחר.
יריב,
ללוויתנים יש מוח יותר גדול משלנו. במין האנושי יש הבדלים עצומים בדרך מה מתבטאת האינטיליגנציה למרות גודל מוח דומה בין הפרטים עצמם. זה לא רק עניין של כמות אלא שילוב של כל הפרטים גם יחד, החל מהד.נ.א ומהניורון עצמו וכלה בניסיון החיים. אני לא השתכנעתי שמדובר רק במסה קריטית, אם כבר הדיון הזה גרם לי להבין שזה ממש לא עניין של מסה קריטית
אלפא-גו ניצח את לי סדול (או איך שקוראים לו) במשחק גו. לאלפא-גו יש יכולית חישובית טובה מש המתחרה האנושי. יש לאלפא-גו מסה קריטית. יש לאלפא-גו מודעות?
יריב
לחיישן יש מעגל משוב – הוא מגיב לשינויים בסביבה.
לאלפאגו יש גם מעגלי משוב – ולכן יש לו תודעה. איפה אמרתי שאין לו תודעה? מה שאני אומר שזו לא תודעה שאפילו דומה לתודעה של האדם.
ניסים,
1. אתה טוען כל הזמן שלחיישן באוטו שלך יש תודעה.
2. אתה טוען שלרשת העצבית אלפא-גו אין תודעה.
האם זו עיקביות בעיניך? אם לחיישן הקטן באוטו שלך יש ״תודעה״ מדוע לרשת עצבית פי מיליון יותר מורכבת אין תודעה? מה יש לחיישן באוטו שלך שאין לרשת העצבית של גוגל?
יריב
אני אומר כל הזמן את אותו הדבר.
1) תודעה היא תהליך של מעגל משוב. אם יש מעגל משוב אז יש תודעה.
2) תודעה של האדם בנוי אמנם על מעגלי תודעה, אבל – היא מורכבת הרבה מעבר ליכולת ההבנה שלנו היום. אני טוען שאין לנו שום סיבה להאמין שאנחנו קרובים לבנות מכונה שיתפתח בה, לבד, תודעה של אדם. הרבה יותר סביר להניח שמה שיתפתח לא יאהב אותנו….
איפה אני לא עיקבי?
שמוליק,
צפה בוידאו, זה קטע קצר של 3 דקות וחצי בסך הכל.
עידן שגב טוען בתוקף (ואני מסכים איתו לחלוטין) שכל מה שיש במוח שלנו זו פעילות חשמלית וכימית והיא זו שיוצרת את הכל, כולל התודעה והרגשות. האינטרנט ממש לא פועל כמו רשת נוירונים (הוא רשת, אבל ממש לא במבנה של רשת עצבית) ולכן אין שום סיבה שתיווצר שם תודעה.
״לאור הרצאות ששמעתי ברור שיש הרבה יותר למוח מאשר סך כל הזרמים שרצים שם. אילו זה היה כך, לא היה הרבה הבדל בין קופים לבני אדם״
יש ערימת חול קטנה שבנוייה משלושה גרגרים, ויש ערימת חול גדולה שמורכבת ממיליון גרגרים. באופן דומה ככל שיש ברשת עצבית יותר נוירונים ויותר קשרים כך המודעות שתיווצר בה תהיה גבוהה יותר. המוח שלנו גדול פי שלוש יותר ממוח של קוף, פי שלוש יותר! אתה לא חושב שזה עושה ״קצת״ הבדל ויכול להסביר מדוע התודעה שלנו גבוהה יותר מזו של קוף? או מדוע יש לנו יכולות שיכליות גבוהות יותר? לדעתי מסביר גם מסביר ומייתר את ההסבר הקוונטי.
אותו גנום בגופנו שיוצר את המוח יוצר גם את הכבד והלב, אין שום סיבה להניח או לחשוב שמתרחש במוח שלנו משהו יוצא דופן שלא מתרחש באיברים אחרים בגוף.
(אני אצפה בהרצאה של חבר שלך פנרוז, אבל יקח לי בערך שבוע להגיע אליה, סבלנות)
יריב,
אצפה.
יש בעיה להגדיר תודעה כי זה קצת כמו להגדיר מתי ערמה הופכת לערמה ולכן למדל את זה מאוד קשה. ברור לי מדוע הגישה של למדוד מתח על הממברנה ובכך למדל את המוח כל כך אטרקטיבית. אנחנו ממש מצטיינים במדידת מתחים וזרמים אבל זה לא מספיק. לאור הרצאות ששמעתי ברור שיש הרבה יותר למוח מאשר סך כל הזרמים שרצים שם. אילו זה היה כך, לא היה הרבה הבדל בין קופים לבני אדם. בקיצור, אני מנסה לומר לך שהגישה שלך מאוד פשטנית. אפשר לחשוב על האינטרנט כעל מפלצת עם יכולת חישוב אדירה. מדוע אין שם תודעה? צריך משהו נוסף. בין אם פנרוז צודק או טועה, הטענה שלו מרשימה בתעוזתה ובבסיסה היא אומרת שכבר בניורון בודד מתחילה תודעה וצריך את מכניקת הקוונטים כדי להסביר מה קורה שם. בפוטוסינטיזה מתקיימים תהליכים קוונטיים אז אולי גם במוח. ברור לי שמחשבים ילכו וישתפרו בלבצע פעולות שאנחנו מקשרים לאינטיליגנציה אבל זה לא זה ולא בגלל שטרם הגענו למסה הקריטית.
שמוליק,
מצאתי בשבילך קטע קצר שבו עידן שגב מתייחס לנושא התודעה במחשב, קטע קצת ישן אבל הוא חוזר על אותם דברים גם בהרצאות חדשות פשוט יקח לי זמן למצוא כרגע. צפה החל מדקה 2:20 ועד דקה 6:00 –
https://www.youtube.com/watch?v=L0AR1cUlhTk
לא מצאתי עדיין זמן לצפות בהרצאה של פנרוז אבל קראתי קצת בגוגל (בעברית) כמה מאמרים על התיאוריות שלו.
שמוליק,
בקטע שהפניתי אותך אליו הוא מדבר רק על המודלים המתמטיים שמהווים את הבסיס לרשת העצבית שהם בונים, לנושא התודעה הוא מתייחס בהרצאות אחרות, יותר מאוחר אני אמצא ואתן לך קישור.
בכל מקרה חתיכת המוח שהם דימו עד עכשיו (שמהווה אולי חצי או רבע מוח של עכבר) עדיין קטנה מדי מכדי שיהיה ניתן להבחין בה בתודעה כלשהי, יקח עוד קצת זמן עד שנגיע לרמת תודעה של אדם, או אפילו של קוף.
יריב,
צפיתי. מרשים ביותר. בשום מקום עד הקטע שראיתי הוא לא מדבר על תודעה. מודל יפיפה של מוח העכבר (או חלק ממנו) אשר מסמלץ את הפעילות החשמלית של הניורונים אבל אפילו הוא לא טוען שנוצרה כאן תודעה אלא שיש לו מודל שיאפשר לפתח פתרונות לאפילפסיה ועוד. המוח הוא סך הפעילות החשמלית של התאים וזהו? זו אולי טענתך אבל לא שלו. לשניה אין כאן סתירה לעמוד הוויקיפדיה ואני לא יודע כמה עבודות הם פרסמו. מניח שלו היתה כאן פריצת דרך, זה היה מתועד בויקיפדיה.
ראית את ההרצאה של פנרוז?
Walking death,
כנ״ל, גם אני לא מבין מה הבעיה שלו עם זה שלדעתי המורכבות של העניין (שנוצרה בגלל אילוצים אבולוציוניים) היא הרבה פחות גבוהה ממה שהוא מעריך.
יריב
זה לא משנה, אם אתה חושב שהוא מתכוון לדבר אחד כאשר הוא מתכוון לדבר אחר(ולהפך), כל מה שלא תכתבו יהיה בזבוז משווע של הזמן והאנרגיה שלכם.
אני לא מבין מה הבעיה שלך עם זה שניסים חושב שהמורכבות של כל העניין היא הרבה יותר גבוהה ממה שאתה צופה?
Walking death,
אני לא יודע אם זה יעזור, הוא נעול על זה שזה מורכב מדי, ומסובך מדי, ואנחנו לא יודעים ולא מבינים… לדעתי הוא מפריז יותר מדי עם רמת הקושי של הבעיה.
יריב, ניסים
תתאמו הגדרות
דרך אגב ניסים, זה קצת מצחיק שמישהו שטוען שחיישן הטמפרטורה או לחץ האוויר באוטו שלו מודעים לעצמם טוען שמשהו שהרבה יותר דומה לחתיכת מוח כמו רשת נוירונים במחשב היא חסרת כל תודעה. אתה קצת לא עיקבי עם הטענות שלך.
ניסים,
ברשת עם כמות כל כך קטנה של נוירונים אני גם לא מצפה שתתפתח תודעה, ואני חושב שאני חוזר על זה כבר בפעם האלף.
יריב
לא רק תהליך של לימוד – המערכת נבנתה במפורש לשחק גו. מומשו שם אלגוריתמים ספציפיים למשחקים מהסוג הזה (חיפוש מונטה-קארלו במקרה הזה). את האלגוריתם עצמו כיילו בעזרת לימוד רשת עיצבית.
זה לא דומה בשום צורה לצורה שבן-אדם משחק את המשחק! זה דומה, אולי, לדרך שאנחנו לומדים לרכב על האופניים, או לנגן בפסנתר.
ומעבר לכך – אין פה שום קשר למושג של תודעה. אלפאגו לא יודע שהוא משחק גו…
שמוליק,
האם צפית בקטע שהפניתי אותך אליו מההרצאה של פרופ׳ עידן שגב? איך התרשמת מהמודלים המתמטיים שלהם?
ניסים,
״אני מבין שאתה חושב שזרקו מיליארד ניורונים סינטטים בקופסה והקופסה פתאום ביקשה לשחק גו… נחמד ?״
ברור שהיה שם תהליך של לימוד לפני כן, איפה כתבתי משהו שסותר את זה?
שמוליק
תודעה דומה לגז. אם תסתכל על מולקולה בודדת, לא תראה טמפרטורה, לחץ, מספר ריינולדז או צפיפות, נכון?
אני חושב שתודעה זו אוסף גדול של תהליכי משוב פשוטים יותר ופשוטים פחות. כמו התכונות של גז, גם התכונות של מודעות מתהוות ממורכבות. אבל להבדיל מגז, יש בתודעה כמו של האדם הרבה מאד שכבות.
אולי יותר נכון להסתכל על האקלים כאנלוגיה לתודעה שלנו. אם תבצע הדמייה של טריליון מולקולות של חנקן, חמצן ואדי מים תקבל, אולי תקבל אקלים מסויים – אבל רק יריב יכול לחשוב שנקבל את האקלים של כדור הארץ 🙂
ניסים, יריב,
ניסים, כמובן שזה מה שמיוחד בחידת השח. אתה מיד מבין שהלבן יכול לנוע כך שהוא לעולם לא יפסיד למרות שהוא בנחיתות כלית אדירה. היכולת של שחקן להבין שמספר פעולות אינסופי לא ישנה את המצב הוא הדרך של פנרוז להביס יכולת חישובית גבוהה בהרבה שיש למחשבים. אני מניח שבקרוב נראה עבודות המתיימרות להביס את הטענה של פנרוז וזה מצויין כי כך מתקדם המדע.
יריב, אני לא חובר לגישה כללית שלך שאומרת ״עוד קצת כוח מיחשוב ותצוץ תודעה״. זה לא מסתדר אפילו עם דוגמת הנמלה והעכבר שלך כי שם כבר לנמלה היתה תודעה ואז יותר ״ממה שעושה תודעה״ מביא לתודעה מורכבת יותר אבל זה גם אומר שכבר במצב ההתחלתי היתה תודעה. אם כך, אלא אם כן יש תודעה ברכיב הבסיסי ביותר של המחשב, ואני לא חושב שזה כך, שום מסה קריטית של יכולת חישובית לא תגרום למחשב לפתח תודעה. ברור שככל שהתחום יצבור עוד ניסיון, הביצועים של המחשבים ילכו וישתפרו. הם יצלחו טוב יותר את מבחני טיורינג השונים אבל ללא רעיון מהפכני נראה לי שההשתפרות תהיה כמותית ולא איכותית ואולי זה לא ישנה.
ניסים, להגיד טוסטר עם תודעה של ביט אחד לא אומרת לי כלום על מהי תודעה כי אני לא מבין כמה ביטים של תודעה מייצג אדם. אתה יכול לעשות סדר בהסבר שלך?
יריב
אז באמת לא הבנת.
אני מבין שאתה חושב שזרקו מיליארד ניורונים סינטטים בקופסה והקופסה פתאום ביקשה לשחק גו… נחמד 🙂
ניסים,
מה יש להבין פה? כשאתה אומר לי שהקשר היחיד בין רשת עצבית ובין איך שעובד המוח שלנו זה ששניהם בנויים מאטומים זו או היתממות או חוסר הבנה מוחלט. מה, אתה לא יודע שרשתות נוירונים במחשב נוצרו בהשראת אופן הפעולה של מוח ביולוגי? ואני גם מניח ש״פרויקט מוח האדם״ נקרא כך סתם בגלל שזה שם מגניב, נכון? אין לרשת העצבית שהם בונים שום קשר לאופן הפעולה של המוח שלנו, הא ניסים?
בקשר לניסוי המחשבתי שלך יש כבר דוגמא הרבה יותר טובה והיא הרשת העצבית אלפא-גו של גוגל שפתרה אתגר הרבה יותר מסובך מחידת השחמט של שמוליק. היא ביצעה במשחק הרבה יותר קשה ומאתגר משח מהלכים שאף אחד לא העלה בדעתו שכדאי לבצע אותם, מהלכים שהובילו אותה לניצחון מספר צעדים לאחר מכן. זה לא מספיק טוב בשבילך? למה אני צריך להתעכב על חידת השח כשרשת עצבית כבר הצליחה לפתור חידה הרבה יותר קשה מזו?
לגבי שכבות חסרות ותודעה, בפרויקט המוח האנושי מנסים לדמות את כל החלקים ולא רק את קליפת המוח, ומתכוונים לחבר גם את הרשת העצבית הזו לגוף שינוע במרחב. על סמך מה אתה כבר קובע שזה לא יעבוד? ודרך אגב עד שלא נבנה רשת עצבית בסדר גודל של המוח שלנו אין לך שום דרך לדעת מה נחוץ עבור קיום תודעה ומה לא, זה הכל ניחושים.
יריב
נראה לי שאתה כלל לא מבין על מה אני מדבר.
הנושא הראשון הוא שהמוח הוא מערכת היררכית שאנחנו לא מכירים עדיין חלק גדול מהשכבות שלה.
הנושא השני הוא שגם אותה שכבה שאתה חושב שהיא הכל – גם אותנ אנחנו מדמים ברמה פשוטה מאד, וחסרים שם רבדים שלמים.
הנושא השלישי הוא שאני בהחלט מסכים שרשת ניורונים יכולה לפתח תודעה – אבל אין לנו שום סיבה לחשוב שזה יהיה משהו שקרוב לתודעה האנושית.
בוא נעשה ניסוי מחשבתי בהמשך לדוגמת השח שהביא שמוליק. אני רוצה שתציע שיטה לבדוק איך המוח שלי פתר את הבעיה (בהנחה שהפתרון שלי נכון – שמוליק?). אה, ותניח שאני דובר אכדית עתיקה בלבד.
חיים, אני חושב שאני מסכים איתך לגמרי. גם אני הייתי מוכן לחתום על אופציה לחיי נצח רק אם יתאפשר לי לסיים אותם כשארצה בכך.
היבט נוסף שהמאמר מחמיץ:
שאלתי את עצמי פעם את השאלה הבאה: אם יבוא אלי גורם מוסמך (נניח, “אלוהים”) ויציע לי את ההצעה הבאה:
אני מציע לך חיי נצח. בלי התחכמויות. בריאות טובה, חופש. המון חתיכות. בתנאי אחד: לא תוכל לחזור בך מהבחירה שתעשה. לא תוכל להתאבד.
ברגע הראשון, נטיית הלב היא “איפה אני צריך לחתום?”.
אבל, במחשבה שנייה, נצח זה הרבה מאוד זמן. מליון שנה זה משהו מפלצתי. וגם זה נראה כגרגר חול לייד הנצח.
כל האתגרים שמחזיקים אותי היום עירני, עובד, חיוני – כל אלה יאבדו בהדרגה ויאבדו את משמעותם. הכל מתחיל לשעמם כי גם החידושים, אם יהיו, יהיו משעממים. אפילו החתיכות המובטחות (יותר מ-70!) – יאבדו מקסמן. אנו לא בנויים לחיי נצח אפילו אם נתאים לכך את הזכרון.
במאמר, אשתו של הדוקטור מוותרת על חיי נצח כדי לחוות את המוות. אך נראה לי שיש כאן החמצה. תהליך המוות – זה לא מעניין. יש יצורים שמתים בחטף, בלי לחוות דבר. הנקודה החשובה היא שחיי נצח יגרמו לאבדן התשוקה לחיות. החיים יהיו לגהינום.
ניסים,
באמת חבל שאתה לא מבין מה הקשר, אבל בוא אני אעזור לך, הנה ציטוט מתוך ויקיפדיה:
״רשת עצבית מלאכותית (ANN-Artificial Neural Network), רשת נוירונים או רשת קשרית הוא מודל מתמטי חישובי המאפשר לבצע הדמיה של תהליכים מוחיים או קוגניטיביים, ושל תהליכים המתרחשים ברשת עצבית טבעית”.
יריב
מה הקשר בין רשת עיצבית שמשחקת שח לאיך שעובד המוח שלנו? בשניהם יש אטומים?
ומה הקשר בין שח לתודעה?
ניסים,
קודם כל התכוונת ״שמוליק״ ולא ״יריב״.
״הפתרון התכנותי של הדמיית צעדים קדימה אינה הפתרון היחיד, להבנתי. מצד שני, קשה לחשוב על אלגוריתם כלשהו שהיה פותר את החידה״
קשה לחשוב על אלגוריתם? מה דעתך על רשת עצבית?
שוב, הרשת העצבית ״אלפא גו״ לא ניצחה במשחק ע״י הדמיית צעדים קדימה אלא בדרך שהרבה יותר דומה לזו שבה המוח שלנו עושה את זה. אני לא אתפלא בכלל אם היא מסוגלת לפתור גם חידה כזו במידה וילמדו אותה שח כפי שלימדו אותה גו.
יריב
תרגיל שח נחמד 🙂 אם אני לא טועה, השחור יכול להזיז רק רצים והם לא יכולים לחסום את המלך או לאיים עליו כל עוד הוא נשאר על לבן. לבן מצידו תמיד יכול להזיז את המלך, וכדאי לו להזיז רק את המלך.
אני לא בטוח שמחשב לא מסוגל להגיע למסקנה הזו לבד. הפתרון התכנותי של הדמיית צעדים קדימה אינה הפתרון היחיד, להבנתי. מצד שני, קשה לחשוב על אלגוריתם כלשהו שהיה פותר את החידה.
יריב
תיאורטית אני מסכים שניתן לבודד את המוח. אבל … יש המון מעגלי משוב בין המוח לגוף שגם אותם תצטרך לדמות. מחלת פרקינסון (בחלקה) היא פגיעה במעגל המשוב הזה. כאבי פנטום הן פגיעה בחלק אחר של המעגל. מערכת שיווי המשקל, שנשלטת במוח, גם כוללת מעגלי משוב. מחלת תנועה היא תופעה נוספת של פגיעה במעגלי משוב.
בלי להבין לעומק את כל אלה, ואת כל שאר המעגלים שאני לא מכיר, ואף כאלה שאף אחד היום לא מכיר – תחשוב באיזה סבל יימצא המוח הזה….
יריב
זו בדיוק הנקודה! עברת ממצב של יצירת תודעה במערכת סינטטית להדמיית תודעה. מה שהייתה אמור להגיד זה שאיך שהוא יתפתח לבד ברשת העיצבית הסינטטית מערכת ששקולה למערכת ההורמונלית האנושית.
מצד אחד אתה אומר שתודעה תתפתח לבד בגלל מבנה החומרה. מצד שני אתה מוסיף דברים למערכת שחסרים בחומרה. זה פשוט לא סביר.
שמוליק,
הסתכלתי על הלינק שלך עוד לפני שחיפשתי את ההרצאה של עידן שגב. קצת גדול עלי כל המודלים המתמטיים שמוצגים שם אבל דבר אחד מעניין אותי וזה מבחן התוצאה. עידן שגב והנרי מרקרם מציגים בהרצאות שלהם מספר דוגמאות יפות לפעילויות חשמליות שמתקבלות על חתיכת המוח הדיגיטלית שהם יצרו במחשב (שכוללת מאות אלפי תאי עצב ממודלים מתמטית) והפעילות שמתקבלות שם דומה באופן מפתיע ומעורר התפעלות לזו שמודדים על חתיכת מוח ביולוגית במעבדה.
אז אני אומר דבר פשוט וזה שאם המודלים המתמטיים שלהם היו כל כך שגויים הם לא היו מקבלים תוצאות כאלו יפות שכל כך תואמות למציאות, זה אומר שהכיוון שלהם הוא כנראה נכון.
אצפה. ראית את עמוד הויקיפדיה שטוען (כנראה) אחרת? מה דעתך עליו?
יריב,
אצפה. קראת את עמוד הויקיפדיה שטוען (כנראה) אחרת? מה דעתך עליו?
שמוליק,
ראה למשל כאן החל מדקה 48:40 –
https://www.youtube.com/watch?v=fYfZv-dZB3s
ניסים,
״יריב טוען שניתן לבצע רדוקציה, ורק רדוקציה אחת, מתודעה של אדם לניורונים. לא חשוב אם יש שכבות נוספות בדרך, ולא חשובות הרמות שמתחת לניורונים בודדים. את זה אני לא מקבל״
בנוסף לשאלה ששאלתי אותך בהודעה הקודמת ואשמח לתשובתך, יש לי שאלה נוספת. נגיד שהיינו מבודדים את קליפת המוח של אדם בוגר בתוך צינצנת, בלי גוף, בלי מוח קטן, בלי כל החלקים האחרים, אבל היינו ממשיכים להזרים לתוכה בדיוק את אותם אותות וסיגנלים והורמונים שזרמו אליה קודם מחלקי הגוף השונים. האם לדעתך לקליפת המוח הזו הייתה תודעה? איזו תודעה? תודעה של אדם רגיל? תודעה נמוכה יותר? מה היא הייתה חשה כלפי עצמה?
ניסים,
אתה מבין את הבעיה שלי?
ברגע שהסברת לי מהי התודעה בבני אדם וגם כתבת שלטוסטר יש תודעה של ביט אחד, אני לא מבין איך אותה מילה מתייחסת גם לאדם וגם לטוסטר.
בקשר לחידת השח, סור ללינק הוויאנט שנתתי בעמוד הקודם ותסתכל. מה שיפה הוא שהוא קורא לציבור הכללי לתקוף את הבעיה ולנסות להביסה. יהיה מעניין.
ניסים,
אני לא רואה משהו שמונע מאיתנו לדמות את ההשפעה של האנדרנלין על הסינפסות ברשת, השאלה היא האם הרשת תרגיש באופן סובייקטיבי תחושה של פחד? כיצד למשל אתה יכול להוכיח לי שרשת עצבית במוח של עכבר מרגישה פחד כשהיא רואה חתול מתקרב אליה?
שמוליק
הביטים לא מייצגים מידע, אלא מעגלי משוב. אין קשר ישיר לניורונים. גם לחיידק יש מעגלי משוב – חום, חומרים כימיים, כבידה, שדות חשמליים וכן הלאה. יש לו (אני מניח) גם מעגלי משוב פנימיים, כמו רעב. ביוצורים פשוטים כמו תולעים יש מעגלים נוספים שממומשים ע”י ניורונים. ביצורים מורכבים יותר יש מערכות של ניורונים, מה שהופסטדאר קורא “סיגנלים”. מיצ’יאו קאקו מדבר על מעגלים עוד יותר גבוהים – שתפקידם לסמלץ את העתיד, וכאן התודעה של האדם.
יריב טוען שניתן לבצע רדוקציה, ורק רדוקציה אחת, מתודעה של אדם לניורונים. לא חשוב אם יש שכבות נוספות בדרך, ולא חשובות הרמות שמתחת לניורונים בודדים. את זה אני לא מקבל.
ממתינה
ניסים,
יש לי בעיה עם האמירה ״תודעה של ביט אחד״. זה מייתר או מרגש את המושג תודעה. אסביר באמצעות כמה שאלות:
כמה ביטים מייצגים ניורון?
לאדם יש תודעה של כמה ביטים?
לווייתנים יש מול גדול יותר ואני מניח שזה אומר יותר ניורונים. איך זה מתיישב?
לבני אדם יש בערך אותה כמות של ניורונים, מדוע יש הבדלי אי קיו כל כך גדולים בין אנשים?
כלומר, אני לא מבין את הסקאלה הזו. אני מניח שפנרוז יכול להגיד שאם אתה מודד תודעה בביטים אז שניורון יכול להיות מיוצג אך ורק בקיוביטים אלא שאז שוב לא יהיה אפשרי לשים מחשבים, טוסטרים ובני אדם על אותה הסקאלה ולא התקדמנו
יריב
האם הניורון הסינטטי שלך מפחד כשהוא בסביבה של אפניפרין (אדרנלין)? אם תחבר 100 מיליארד כאלה – אז הם יתחילו להראות סימני פחד?
שמוליק
זה אכן דומה למה שמתאר כהנמן. מחקרים היום מראים שאכן יש לוקליזציה מסויימת בפעילות של המוח. למשל – בצד שמאל של המוח שלנו, בחלק האחורי איזור שנקרא “האיזור של וורניקה” שאחרי להבנת שפה. קדימה משם יש חלק אחר, “איזור ברוקה” שאחרי על הדיבור. ביניהם יש העברת מידע במסלול שנקרא ה”ארקואט פסיקולוס”. (אני מכיר את המסלול הזה כי אנחנו מציגים אותו במערכת שלנו, בעזרת שיטת סריקה שניקראת DTI). כלומר – יש בסיס ראייתי לכך שהחלק השמאלי של המוח הוא אכן “מערכת 2” של כהנמן (כמובן שהרעיון לא שלו). מעבר לכך, עוד מהניתוחים של ספרי אנחנו יודעים שיש חלוקה מסויימת בין שני צידי המוח (ראיה מרחבית, למשל, היא בעיקר בצד ימין).
לאטב אין תודעה, אבל לטרמוסטט יש. אפשר להגיד שיש לאטב תודעה של 0 ביטים, ולטרמוסטט תודעה של ביט אחת.
אני לא מכיר את הבעיה של השח.
יריב,
שלח לינק להרצאה הרלוונטית ואשמח שתכוון אותי לדקה הרלוונטית. מקווה שיהיה לי זמן לצפות
מה שכן, עמוד הויקיפדיה בנושא לא מסכים איתך לחלוטין
https://en.wikipedia.org/wiki/Biological_neuron_model
Although it is not unusual in science and engineering to have several descriptive models for different abstraction/detail levels, the number of different, sometimes contradicting, biological neuron models is exceptionally high. This situation is partly the result of the many different experimental settings, and the difficulty to separate the intrinsic properties of a single neuron from measurements effects and interactions of many cells (network effects)
זו הסיבה שאהבתי את ההרצאה של פנרוז בנושא התודעה. היא היתה מאתגרת ושונה מרוב ההרצאות בנושא. לטענתו, במודל המחשוב הקיים ובידע הקיים היום על ניורונים, לעולם לא תוכל למדל תודעה אנושית ולעולם לא תוכל לפתור כל בעיה שאדם יוכל לפתור, בגלל בעיית אי השלמות של גדל/מכונת טיורינג. שוב, בהחלט ייתכן שהוא טועה ועמוד הויקי מלא בהתנגדויות לטענתו.
אם לא נוכל להבדיל בין מחשב לאדם (איש מאתיים השנה של אסימוב…)ברור שאם כן יהיה מחשב שלעולם, בשום ניסוי שהוא, לא אוכל להבחין בינו לבין אדם, אוכל להגיד שהוא בעל תודעה אבל סו וואט? מה הוכחנו בכך?
בקשר לשאלת השח, אני מנחש שהוא בדק. ֿכל מה שיש לי זה הכתבה בוואינט ועוד לינק שמצאתי בו נכתב שהוא קורא למומחי אי איי לנסות לפתור את הבעיה הזו ולשלוח לו את הפתרון
http://www.iflscience.com/brain/humans-can-solve-this-chess-puzzle-but-a-supercomputer-cant/
מה שנקרא, טו בי קונטיניוד
אגב, בדקתי את הקישור שלך לחידת השח בוינט:
1. איך הוא קבע שמחשב לא ידע לפתור את החידה הזו? הוא בדק? או שהוא סתם ניחש והסיק מסקנות שתואמות לדעותיו?
2. המסקנות שלו אולי נכונות לגבי מחשב העל כחול עמוק שניצח בזמנו את אלוף העולם בשח ג׳רי קספרוב, המחשב התבסס בחישוביו על כוח מיחשוב עצום (נכון לאותה תקופה) שסרק כמעט את כל אפשרויות התזוזה ומצא אילו מהלכים בעץ האפשרויות יתנו לו את היתרון הכי גדול. אבל אם תקרא קצת על הרשת העצבית ״אלפא גו״ שסיפרתי לך עליה תראה שהיא פועלת הרבה יותר כמו מוח אנושי, בדרך של אינטואיציה ולא בדרך של סריקה מאסיבית של כל האפשרויות. אני לא אתפלא בכלל אם היא מסוגלת לפתור את החידה הזו.
אז הנה המילכוד שמוליק,
אנחנו יודעים המון על נוירון בודד, ומצליחים למדל את פעולתו ברמת דיוק כזו שאינך מסוגל להבדיל בין הפולסים שיוצר נוירון אמיתי לאלו שיוצר הנוירון בהדמיית המחשב. אני מציע לך לצפות באחת ההרצאות המרתקות של פרופ׳ עידן שגב ותראה שלא רק שיודעים למדל מצויין עשרות סוגים של תאי עצב שקיימים במוח, אלא יודעים למדל גם מאות אלפי תאי עצב שמחוברים ופועלים יחד, ואת תהליכי הלמידה שמתרחשים בהם.
השאלה היא איך מודדים תודעה? איך נדע כמה תודעה יש לרשת שבנינו ולימדנו וגידלנו? מבחינתי, ברגע שהרשת תצליח לבצע כל פעולה שמוח אנושי מצליח לבצע, כולל פיתרון חידות ומשוואות ומבחני IQ, והיא תטען שהיא מודעת לעצמה ושיש לה מחשבות, אז לא תהיה שום סיבה לפקפק שזה לא המצב.
מה דעתך?
יריב,
אבל הנה המלכוד: אם תודעה צצה כשיש אפילו ניורון בודד הרי שכל עוד לא תבין מה קורה בו, ואנחנו ממש ממש רחוקים מלהבין מה קורה בו, לא תוכל למדל נכון את התודעה
שמוליק,
אוקיי הבנתי עכשיו איפה חוסר הסינכרון בינינו, כשדיברתי על ״מסה קריטית״ דיברתי על המסה המינימלית שדרושה עבור קיום תודעה *ברמה אנושית*.
אני דווקא כן מסכים עם פנרוז לגבי כך שתודעה מתחילה בניורון בודד, או אולי ב 100, או ב 1000, רק שאז היא כל כך חלשה שקשה להבחין בה. ככל שהרשת תכיל יותר נוירונים ויותר קשרים ביניהם כך התודעה שתיווצר בה תהיה חזקה יותר.
לדעתי גוף הוא הכרחי על מנת שתיווצר ברשת תודעה, בטח ברמה אנושית. הרשת חייבת לחוות את העולם, ללמוד שפה, להיות באינטרקציה עם העולם, אחרת התודעה לא תופיע בה.
יריב,
אני לא צריך לענות מניין לי שזה לא המצב בפועל אלא אתה צריך להראות שזה המצב בפועל אבל אני מסתייע בך. אתה כתבת כך:
“אני לא חושב שצריך לבודד שום דבר, התודעה תיווצר בעצמה בתוך הרשת כאשר זו תהיה מספיק גדולה ותחובר לגוף שיאפשר לה לחוות את העולם. בדיוק כפי שקרה במוחם של בעלי החיים כאשר מוחם גדל וגדל עד שהתחילה לצוץ בו תודעה.”
לפי טענתך, התודעה תיווצר אם מספיק גדולה ומחוברת לגוף. אני לא מסכים בהכרח שצריך גוף אבל זה לא משנה. אתה טוען כאן למסה קריטית שמתחתיה אין תודעה. אתה גם לא טוען שם שכבר קיימת תודעה אלא שבעתיד תהיה תודעה. מכאן הסקתי שנכון להיום, לפי דעתך, אין תודעה ברשתות עצביות. אני גם לא חושב שיש מישהו שחושב שקיימת תודעה ברשתות עצביות. בכל מקרה, אפשר לחדד את ההבדל בין גישתך לגישה של פנרוז היא שהוא טוען שמקור התודעה הוא בניורון בודד ואתה דורש מסה קריטית וכן דומה שאתה מתעלם מהניורון עצמו ושם חשיבות עיקרית על הרשת. לא נראה לי סביר. אני לא מבין מדוע אם יהיו 10 ניורונים לא תהיה תודעה אבל אם יהיו 11 ניורונים תהיה תודעה. פשטני מדי.
הכשל שלך הוא שאתה *מניח* שחייב להיות עוד משהו בכדי שתיווצר תודעה, אני לא חושב שזה המצב.
שמוליק,
״כתבת שלנמלה יש תודעה ולעכבר יותר. בסדר גמור אבל אם להשליך את זה לרשת העצבית, זה אומר שגם לרשת עצבית קטנה תהיה תודעה כלשהי ולרשת עצבית גדולה תהיה תודעה ״חזקה״ יותר. זה לא המצב בפועל״
ומאיפה לך שזה לא המצב בפועל? כיצד קבעת שרשתות עצביות שיצרנו לא עוברות כבר את עוצמת ״התודעה״ של נמלה או של ג׳וק?
לגבי הכתבה בנושא חידת השח אל תדאג, מבטיח לך שאקרא אותה.
יריב,
דוגמת הנייטרונים שלי מציגה את הכשל בטענה שלך, שכל מה שצריך לעשות זה להגיע למסה קריטית של ניורונים והופ, תהיה תודעה. כתבתי שדוגמת הניוטרונים שלי שהיא לא נכונה כי לא מספיק לרכז הרבה ניוטרונים כדי שתיווצר פצצת אטום. אני מנסה לטעון שבדיוק אותו הדבר תקף לתודעה. תודעה לא תתרחש סתם אם תהיה רשת עצבית גדולה יותר ודוגמת העכבר והנמלה שלך באה לעזרתי. כתבת שלנמלה יש תודעה ולעכבר יותר. בסדר גמור אבל אם להשליך את זה לרשת העצבית, זה אומר שגם לרשת עצבית קטנה תהיה תודעה כלשהי ולרשת עצבית גדולה תהיה תודעה ״חזקה״ יותר. זה לא המצב בפועל. בגלל זה כתבתי שדווקא דוגמת העכבר והנמלה לא תומכת בטיעון שלך.
לגבי הגו, זה שייחסו למחשב אינטליגנציה על-אנושית זה סבבה אבל אני לא יודע איך להתייחס לזה. האם הוא מייצג שינוי דרמטי במדעי המחשב? לא נראה לי.
אם תסתכל לשניה על חידת השח תבין את הפואנטה של טענתו של פנרוז: המחשב מחשב ואילו השחקן *מבין* את תמצית העניין. איך השחקן עושה זאת, בלינק/הרצאה ששלחתי
אבי,
ישנם יתרונות גדולים במעבר למחשב ונדמה לי שהתייחסתי לכך קודם, למשל מהירות חשיבה הרבה יותר גבוהה, או היכולת להכפיל פי אלפים ואפילו מיליונים את רמת האינטליגנציה שלנו.
לדעתי אם נבנה את הרשת העצבית בצורה מספיק מדוייקת (כלומר שתהיה דומה בפעולתה למוח אנושי, כולל הדמייה של הורמונים למשל) אז יהיו לה רצונות ורגשות, וכל שאר הדברים שציינת.
השאלה היא פילוסופית – נניח שאפשר להעביר תודעה למחשב מאד משוכלל … מה תהיה המטרה ?
האם באותו רגע שאעביר את התודעה שלי למחשב אמשיך להתקיים בתוך מחשב ? או שפשוט זה יהיה מחשב שידע כל מה שאני ידעתי עד לאותו רגע ומאותו רגע ואילך הוא ימשיך אבל בתור מחשב ולא בתור אדם , הגוף שלי הצרכים של הגוף שלי ההורמונים שיש לי בגוף שמשפיעים עלי היום, כבר לא ישפיעו עליו באותה צורה והמחשבות שלו יהיו שונות הרצונות שלו יהיו שונים – הוא כבר לא יהיה אני .
בכך בעצם אני הופך למחשב, ומפסיק להתקיים כאדם, ואז מה המטרה שלי בלהפוך למחשב? מה יצא לי מזה שאחדל להתקיים בגוף ואמשיך בתוך מחשב ?
הרי מה מעצב את האופי שלי את הרצונות וההחלטות שלי ?
את זה עושה היום הגוף שלי האורגני , עצם מצבו האורגני ועצם קיומו האורגני , ההורומונים ,השובע, הרעב , היצרים, הרגשות, השנאה, הקנאה, האהבה, הקור ,החום, הריח, הטעם, וכל מה שאני מרגיש .
למחשב לא יהיה את כל זה ולכן לא תהיה לו אותה מטרה להתקיים כמו שישי לי, או שהמטרה שלו להתקיים תהיה שונה לחלוטין ואז זה כבר לא יהיה אני.
ואז למה לי ?
שמוליק… אנסה להתייחס שוב לדוגמת השח שלך למרות שעוד לא קראתי את המאמר שקישרת אליו. לא מזמן רשת עצבית בשם ״אלפא גו״ של גוגל הביסה את אלוף העולם במשחק ״גו״ שנחשב להרבה יותר קשה ומסובך משח, בכמה וכמה סדרי גודל. ולא רק זאת אלא שהרשת ביצעה במהלך המשחק מספר מהלכים מפתיעים שהוגדרו ע״י המומחים שם כמהלכים של אינטיליגנציה ״על אנושית״, אף בן אנוש לא העלה על דעתו שניתן לבצע מהלכים כאלו בכדי לנצח בהמשך המשחק.
שמוליק,
דוגמת הניוורונים שלך לא טובה, כדי שתיווצר תגובת שרשרת שתיצור פיצוץ גרעיני לא מספיקים ניוטרונים רבים, צריכים להיות שם אטומים שלמים שהגרעינים שלהם יכולים להתפרק ולפגוע בגרעינים שכנים, וצריכים גם לדחוס אותם בחוזקה יחד ליצירת צפיפות קריטית, וצריכים להתחיל את תגובת השרשרת… זה ממש לא דומה לרשת עצבית (למשל על השבב של IBM) שהמבנה והפעולה שלה כבר דומים למה שמתרחש בחתיכת מוח ביולוגית, לפחות ברמה העקרונית.
״אני מוכן לזרום איתך לגמרי שלעכבר יש סוג של תודעה ואולי גם לנמלה אלא שמה שעולה מדוגמתך זה שהתודעה קיימת כבר גם כשאתה קטן עם מוח לא מפותח. אמנם התודעה משתפרת ככל שהמוח גדל אבל התמצית כבר קיימת״
אבל הרי זו בדיוק הטענה שלי (ולא רק שלי) ככל שהרשת העצבית מפותחת וגדולה יותר וככל שהיא מכילה יותר נוירונים וקשרים ביניהם כך התודעה שנוצרת בה הופכת להיות חזקה ובהירה יותר.
לצערי עדיין לא הספקתי לקרוא את דוגמת השח שלך אני מקווה שאוכל למצוא זמן לכך בהמשך השבוע, אבל התייחסתי לכך בהודעה שמשום מה נחסמה. אני לא מבין מדוע לוקח לאבי בליזובסקי כל כך הרבה זמן לשחרר כאן הודעות.
יריב,
ומה התשובה לדוגמת הניוטרונים שלי?
אני מנסה לטעון שלא הכל נפתר “אם יש מסה קריטית”. עוד משהו צריך להתרחש כדי שהפיצוץ האטומי יתבצע. הטיעון שלך מניח שרק קיימת בעיית מסה קריטית. לכאורה דוגמת הנמלה והעכבר מדגימה את טענתך אבל בעצם לא. אני מוכן לזרום איתך לגמרי שלעכבר יש סוג של תודעה ואולי גם לנמלה אלא שמה שעולה מדוגמתך זה שהתודעה קיימת כבר גם כשאתה קטן עם מוח לא מפותח. אמנם התודעה משתפרת ככל שהמוח גדל אבל התמצית כבר קיימת. אגב, זה מתאים לטענה הכללית של פנרוז שהתודעה מתרחשת בשלב הניורון ולא כתוצאה של מסה קריטית
בדקת את דוגמת השח?
ניסים, לא ראיתי התייחסות ממך למה שכתבתי. אשמח לתגובה
ניסים,
ברמה העקרונית, במה נוירון בשבב הקוגנטיבי של IBM שונה מנוירון במוחנו?
שמוליק,
אם כל המוחות האנושיים היו מחוברים ומקושרים יחד בקשרים סינפטיים כפי שקורה במוח שלנו והיו יכולים להעביר ביניהם פולסים חשמליים אז יש סיכוי טוב שזה היה קורה, אך מאחר והם נפרדים זה מזה וכל אחד מהם עומד בפני עצמו אז זה לא קורה.
הסיבה שאני חושב שרעיון המסה הקריטית שדיברתי עליו הוא נכון היא מבט פשוט בטבע. לעכבר יש תודעה גבוהה יותר מזו של נמלה, ולחתול יש תודעה גבוהה יותר משל עכבר, ולקוף תודעה עוד יותר גבוהה, ולמוח האנושי שלנו שגדול פי 3 יותר ממוח של קוף יש תודעה עוד יותר גבוהה. אתה שם לב לאיזושהי תבנית מעניינת?
יריב
ברשת ניורונים אין מושג של תוכנה. תוכנה – על פי ההגדרה – היא סידרה סופית של צעדים לפתרון בעיה, כשכל צעד מבצע שינוי קטן על הסביבה. מחשב הינו מכונה שמכיל מעבד שאינו משתנה וזכרונות המכילים הן תוכנה והן נתונים.
רשת עיצבית היא חיה אחרת לגמרי. בפרט – לא ניתן לבצע רדוקציה מרשת עיצבית למכונת טיורינג. רשת עיצבית חזקה יותר, כלומר יש בעיות שרשת עיצבית יכולה לפתור שמכונת טיורינג אינה יכולה לפתור.
הנה קישור למאמר קצר שמסביר על מה אני מדבר – https://binds.cs.umass.edu/papers/2003_Siegelmann_MindAndMach.pdf
יריב,
אמתין ויש לי שאלה לגבי נקודות 2 ו- 4
אני טוען שאם יהיו מספיק אנשים מתישהו יווצר איחוד מוחות וכל האנושות תהפוך למוח משותף. פשוט טרם הגענו למסה קריטית.
אני טוען שאם נשים ביחד המון נייטרונים תהיה לנו מסה קריטית ופצצת אטום.
שתי הטענות בבירור לא נכונות אבל מדוע הן שונות מטענת המסה הקריטית של ניורונים שלך?
ניסים,
מה שכתבת לי מזכיר את מערכת 1 ומערכת 2 של דניאל כהנמן אבל אפילו הוא לא טוען שיש באמת שתי מערכות אלא שנוח לסווג את המוח ככזה. לא ראיתי התייחסות מצידך לבעיית השחמט של פנרוז שמדגימה את ההבדל בין חשיבה אנושית לבין הרצת פקודות
בקשר למה שכתבת ליריב, האם לאטב יש תודעה ואם לא, מה ההבדל בינו לבין טוסטר. חשמל?
ניסים,
גם לבני אדם יש תודעות מעט שונות זו מזו ואישיות שונה אז סביר להניח שגם לתודעה שתתפתח ברשת עצבית סינטטית תהיה תודעה בעלת אישיות ייחודית משלה. אך במידה והרשת תהיה בנוייה בדומה לרשת עצבית של מוח אנושי וכך גם יהיה גודלה, והיא תתפתח בסביבה אנושית ותלמד שפה וכו׳, אז סביר לדעתי להניח שגם תהיה לה תודעה אנושית ולא תודעה של חתול, או חלילה של טרמוסטט.
ולא ענית לי על סעיף 3.
יריב
אני מסכים לגמרי שתודעה תתפתח – אני טוען שגם לטרמוסטט יש תודעה 🙂
השאלה שלי היא – למה אתה חושב שהתודעה תהיה דומה לתודעת אדם? מה משכנע אותך שמה שיתפתח לא יהיה skynet? לעשות פראפרזה על דברי דוקינס – יש הרבה יותר דרכים להיות רשע מאשר להיות טוב.
שמוליק, הודעה בממתינה…
שמוליק,
אני לא מבין גדול במשפט אי השלמות של גדל אבל אני רואה את ההישגים המדהימים שרשתות עצביות קטנות שיצרנו כבר הגיעו אליהן ואני מניח באופן שלדעתי הוא הגיוני ששאר הדברים כולל תודעה הם המשך ישיר של זה כפי שקרה במוחם של בעלי החיים בטבע במהלך האבולוציה, ולכן יקרה גם ברשתות נוירונים מלאכותיות.
תודה על הלינקים נראה מעניין מקווה להסתכל לקראת סוף השבוע (כרגע לצערי עמוס מדי) אבל אני מזכיר לך שממש לא מזמן רשת עצבית של חברת בת של גוגל הביסה כמה אלופי עולם במשחק ששמו ׳גו׳ שנחשב להרבה יותר מסובך משח, בסדרי גודל, ויותר מכך היא ביצעה במהלך המשחק כמה מהלכים מופלאים (רק דרך ״אינטואיציה״ ולא ע״י בחינת כל האפשרויות קדימה) שהדהימו את כל מי שצפה במשחקים והוגדרו כמהלכים גאוניים של בינה על אנושית.
ניסים,
1. ״זה כמו שתגיד – גם בשבב של IBM וגם במוח יש פרוטונים, אלקטרונים וניוטרונים, אז הנה הוכחה”…
ממש לא, אני מדבר על עקרונות הפעולה ולא על החומרים שמהם הרשת בנוייה.
2. ״אף אחד לא הראה שהדמייה ברמת ניורונים היא הדרך הנכונה לדמות תודעה״
כרגע זה בלתי אפשרי כי עדיין לא הגענו למסה הקריטית שדרושה לכך, אבל זו הנחה מאד הגיונית לדעתי כשבוחנים את הדברים.
3. ״אתה בעצמך אומר שאפשר להסתכל על התודעה כתוכנה שרצה על החומרה של המוח – אבל לא כך עובדת רשת ניורונים סינטטית״
אז איך היא כן עובדת? האם ברשת נוירונים על שבב אין אותות חשמליים שמתרוצצים בין נוירונים מלאכותיים?
4. ״אבל אני לא חושב שיש שום דרך לבודד משהו שנקרא תודעה”
אני לא חושב שצריך לבודד שום דבר, התודעה תיווצר בעצמה בתוך הרשת כאשר זו תהיה מספיק גדולה ותחובר לגוף שיאפשר לה לחוות את העולם. בדיוק כפי שקרה במוחם של בעלי החיים כאשר מוחם גדל וגדל עד שהתחילה לצוץ בו תודעה.
שמוליק
הגישה שלי היא סינטזה של מספר גישות אחרות, ודווקא עם פנרוז אני פחות מסכים. אנסה לפשט…
אפשר להסתכל על המוח שלנו כ”מחשב” עם שני מעבדים וזכרון משותף. המעבד הראשון הוא מעבד איטי, לינארי, שמכיל את “אני חושב משמע אני קיים”. זה מה שנקרא לעיתים “מוח שמאל” והוא אכן נמצא, בד”כ, בצד שמאל (איזורי וורניקה וברוקה).
החלק “הימני” הוא מעבד אסוציאטיבי, מהיר מאד, שעובד במקביל. כשאנחנו מנסים להיזכר בשיר, זה החלק שמחפש בזכרון ואחרי שהפסקנו “לחשוב” על השיר – “מביא” לנו את הקישור.
עכשיו – בשנות השמונים האמינו שכל מה שמעניין בבינה מלאכותית קורה בחלק השמאלי – ולכן דיברו על הבנת שפה טבעית (מארווין מינסקי, הרברט סימון וכו’). אחרי זה – להיפך – מה שמעניין זה מה שקורה בחלק הימני של המוח. זה מה שהופסטדר טען שקורה בתוך 100 מילי.
הגישות האלה מסתכלות על המוח כמחשב, ולכן חושבים שאפשר לדמות אותו במחשב. בעיני, המוח הוא חלק מהגוף ותפקידו לנהל את הגוף. אפשר, אולי, להחליף ניורונים ברכיבים מלאכותיים, ובעתיד הרחוק אולי כל חלק בגוף. אבל אני לא חושב שיש שום דרך לבודד משהו שנקרא “תודעה”.
יריב,
למה שאעלב, עם הטענות והמסקנה שלו הרבה לא מסכימים. אבל עזוב לרגע את המסקנה ובדוק את הטענה שלו לגבי מגבלות מיחשוב. הטענה שלו מסתמכת על משפט אי השלמות של גדל ובניסוחה עי טורינג שאומרת שבשיטת המיחשוב הנוכחית, אלגוריתמיים שימומשו עי מחשב לעולם יהיו חסומים ביכולתם להוכיח טענות. אין רלוונטיות לכמות הנוירונים והחיבורים ביניהם שתייצר למחשבים כי הם עדיין מכונות טיורינג שכפופות למשפט אי השלמות. מאידך הוא טוען שבני אדם אינם מכונת טיורינג ולא כפופים למגבלה הזו ולכן מחשבים כיום לא יוכלו למדל מחשבה אנושית. להלן הניסוח שלו:
The Penrose–Lucas argument states that, because humans are capable of knowing the truth of Gödel-unprovable statements, human thought is necessarily non-computable
מתוך הלינק מויקי שמסביר את ההיפותזה שלו ומציין את רוב ההתנגדויות לה
https://en.m.wikipedia.org/wiki/Orchestrated_objective_reduction
טענתו היא שהמודעות נוצרת בניורון ומוגברת בגין מספר הניורונים והקשרים ביניהם ולא כתוצאה מכמות הניורונים. איך הניורון עושה את זה? כאן נכנסת הכבידה הקוונטית. יש לטענתו הרבה התנגדויות. לדוגמא, שהמוח הוא סביבה לחה, חמה ורטובה ולכן לא יכולים להתרחש שם תהליכים קוונטיים אבל הוא מספק תשובות והנושא לא מוכרע. מצידך, אל תרדד את בדיון ותקרא לזה קסמים. בשום מקום הוא לא פונה לאי רציונליות ומחרטט.
אם אין לך כוח או זמן לראות את ההרצאה שלו, (למרות שאני ממש ממליץ) לך ללינק מווינט ובדוק את בעיית השח שהוא הציג. כל מי שמכיר שח במידה מועטה מבין מיד שהמצב המתואר הוא פט אבל מחשבי שח מתקשים לפתור את הבעיה (אם כי בתגובות עלתה טענה שיש לכך פתרון). הבעיה מדגימה את ההבדל בין ההבנה שקיימת לבני אדם לבין הדרך בה מחשבים פועלים כדי לפתור בעיה כזו. לעצמי קראתי לזה הליכה לאינסוף: לא היתה לי כל בעיה להבין מיד את חוסר התועלת בלשחק אינסוף מהלכים חסרי תוחלת שלא יקדמו אותי במילימטר לפתרון הבעיה ובלי לבצע איסוף מהלכים אלא בזכות *הבנה* עקרונית של המצב הגעתי לפתרון
יריב
זה כמו שתגיד “גם בשבב של IBM וגם במוח יש פרוטונים, אלקטרונים וניוטרונים, אז הנה הוכחה”…
אף אחד לא הראה שהדמייה ברמת ניורונים היא הדרך הנכונה לדמות תודעה. אתה בעצמך אומר שאפשר להסתכל על התודעה כתוכנה שרצה על החומרה של המוח – אבל לא כך עובדת רשת ניורונים סינטטית.
שמוליק,
אל תיעלב, תודה על הקישור, עדיין לא יצא לי להסתכל אבל זה באמת נשמע לי קישקוש, כל הניסיון הזה להציג את המוח שלנו והתודעה כאיזה משהו קסום ו״מסתורי״ שדורש קסמים או ״כבידה קוונטית״ בכדי לעבוד. רשתות עצביות קטנות שיצרנו מצליחות יופי ללמוד ולעשות כל כך הרבה דברים שנחשבו רק לפני כמה שנים יכולת בלעדית של מוח ביולוגי והן עושות זאת בלי כבידה קוונטית ובלי קסמים מסתוריים. ההיגיון שלי אומר שגם התודעה לא זקוקה לקסמים, אלא בעיקר להרבה הרבה *הרבה* יותר נוירונים וחיבורים ביניהם, וכמובן גם גוף שדרכו היא תוכל לחוות את העולם ולפתח תודעה בדיוק כפי שתינוק מפתח אותה.
אבי,
נכון שהמוח התפתח כדי לשמור על הגוף ולעזור לו לשרוד, אבל עכשיו כשהוא כבר קיים ועובד זה לא אומר שלא ניתן להעתיק אותו ולתת לו לשלוט על גוף אחר שאינו מבוסס DNA, או על מטוס, או על מכונית, שזה בעצם בדיוק מה שמתחילים לעשות כבר היום, או לפחות זה הכיוון.
אני חושב שזה פשוט מאד, כי אנחנו וצר של אבולוציה ולכן מראש המטרה של המוח היא לשלוט בגוף ולשמור על הגוף.
בשורה התחתונה המוח שלנו דואג רק לגוף שלנו , כל הטכנולוגיה והמדע והידע והפילוסופיה … וכל מה שאנחנו עושים זה וחושבים ופועלים,זה רק חלק מאבולוציה שמטרתה היא דאגה להמשכיות של הגוף שלנו לצאצאים שלנו … כלומר לשימור החיים האורגניים וה DNA שלנו והעברתו הלאה.
ולכן בלי הגוף, בלי ה DNA , מי צריך בכלל צריך את המוח ? אם נעביר את התכולה של המוח למחשב אלקטרוני מה המטרה של המחשב הזה ? לשמר טרנזיסטורים אלקטרוניים לדגל עוד מחשבים ולשפר את מצבם האלקטרוני ולדאוג להם ?
לדעתי בשלב מסויים של ההתפתחות האנושית האדם יגיע למסקנה הזאת,ויקרה אחד מהשניים או שהאדם יזרוק את המחשבים והטכנולוגיה לזבל ויחזור לחיות חיים פשוטים. או שתמצא דרך לחיות חיי נצח אורגניים בגוף מתחדש ולא מזדקן.
יריב, ניסים
הנה הרצאה מאלפת של פנרוז (שמסכים עם מה שניסים כתב או בעצם ניסים מסכים איתו) על מודעות ויסודות הפיזיקה. פנרוז חושב שכדי למדל את המוח נזדקק לתיאוריה קוונטית של כבידה בדיוק בגלל בעיות שהן בלתי ניתנות לייצוג כמכונת טורינג. מאחר והמוח האנושי כן מצליח להתמודד איתן והמוח נוצר כתוצאה של תהליך אבולוציוני, הוא חושב שהפתרון לאיך המוח מצליח בכל זאת לפתור בעיות מסוג זה מצוי בחלק הזה של הפיזיקה, שטרם נפתר: כבידה קוונטית. הוא משבץ כמה דוגמאות לבעיות כאלו במהלך ההרצאה. אני יודע שאני חוזר על עצמי אבל ההרצאה מאלפת ולו רק הדוגמאות שהוא נותן
https://www.youtube.com/watch?v=eJjydSLEVlU&feature=youtu.be
אגב, לאחרונה הוא פרסם בעיית שח חביבה שלטענתו מדגימה את המגבלות כיום בשימוש באינטיליגנציה מלאכותית לפתרון בעיות
http://www.ynet.co.il/articles/0,7340,L-4936065,00.html
כן ניסים אפשר לשאול.
השבב פועל על פי אותם עקרונות שלפיהם עובד המוח שלנו, רשת עצבית שבה תאי עצב (או מיקרופרוססורים במקרה של השבב) מתקשרים זה עם זה ומשנים את עוצמת הקשרים ביניהם בהתאם לקלטים שהם מקבלים מהעולם החיצון.
אתה טענת קודם שלא ניתן לחקות את אופן הפעולה של המוח ונתת שלל סיבות מדוע זה בלתי אפשרי, השבב מוכיח שאין לטענה הזו בסיס.
יריב
מותר לשאול איך השבב של IBM מוכיח משהו?
ניסים,
בהודעה האחרונה לא התייחסתי לנושא התודעה אלא לטענה שלך שלא נוכל ליצור הדמייה של מוח ביולוגי משום שהמוח פועל באופן שונה מאיך שפועלת תוכנה ולכן זה בלתי אפשרי. השבב הקוגנטיבי של IBM מראה בבירור שהטענה הזו לא נכונה.
חוץ מזה כבר טחננו את הנושא הזה מספיק ועוד מעט גם תגיע לכאן קמילה ותגער בי שאני מדבר מתוך חוסר ידע ושעדיף לי לדבר עם אנשים שמתמחים בנושא כדי שהם ינחיתו אותי לקרקע המציאות. עזוב אין לי כוח לזה 🙂
יריב
אין שום קשר בין המחשב של IBM לתודעה אנושית – גם לא לטענת IBM 🙂
זה ששבב, בצורה גסה מאד, דומה לחלק קטן של המוח – ובעצם רק למודל מסויים שהרבה לא מסכימים איתו, כלל לא אומר כלום על כמה אנחנו קרובים לדמות תודעה.
שמעתי כל כך הרבה פעמים שאנחנו ממש תיכף מדמים תודעה – ואחרי זה יש שקט של שנים….
ניסים,
מצטער אבל אני לא מסכים איתך:
א׳ – אנחנו לא צריכים לתכנן, אנחנו יכולים להעתיק מנגנון שכבר קיים – מוח ביולוגי, ואנחנו יכולים לבחון אותו ולהבין את אופן פעולתו.
ב׳ – הדמיות שכבר יצרנו עבור חתיכות מוח קטנות מראות לדעתי שמה שאתה טוען שהוא בלתי אפשרי הוא בהחלט כן אפשרי, למשל הדמיות שיצרו בפרויקט מוח האדם, ויותר מכך השבבים הקוגנטיביים שאנחנו יותר ויותר שומעים עליהם בשנים האחרונות:
https://www.hayadan.org.il/ibm-so-deliver-cognitive-super-compputer-0104165
יריב
אני טוען שהאבולוציה היא תהליך יותר “חזק” מתכנון, ולכן האבולוציה היא הסבר יותר טוב למציאות מאשר אמונה דתית. בפרט – אני טוען המוח שלנו הוא מכונה שלא ניתנת לתכנון. כדי להסביר את זה, צריך קודם להבין מה הכוונה במילה “חזק”. לצורך זה צריך להבין את נושא מודלי החישוב (שזה שקול להבנת המושג “שפות פורמליות”). שלושה מודלי חישוב מקובלים הם אוטומטיים סופיים, אוטומטי מחסנית, ומכונות טיורינג, שהגדרת המכונות האלה מגדירה את המושג של “חוזק” עבור כל סוג מכונה.
בפרט – אנחנו יודעים שגם למכונות טיורינג יש חוזק מוגבל, יש בעיות שמכונת טיורינג אינה יכולה לפתור. דוגמה ידועה היא בעיית ההתאמה של פוסט.
כדי לתמוך בטיעון שלי צריך להראות 2 דברים. הראשון הוא שהמוח שלנו חזק ממכונת טיורינג. יש חוקרים רבים שחושבים ככה: טומאס נאגל, שאול קריפקה, קורט גדל, ג’ון סרל, רוג’ר פנרוז, מרטין גארדנר אלן טיורינג וג’ון לוקס. אני מקווה שאתה מופתע לראות את טיורינג ברשימה הזאת 🙂
הדבר השני שצריך להראות זה שאכן קיים מודל חישובי שהוא חזק ממכונת טיורינג (מה שנקרא hypercomputation). טיורינג בעצמו מתאר מכונה כזאת בעבודת הדוקטורט שלו. אפשר להראות שמחשבים אנלוגיים הם גם כאלה. ויש מודלים נוספים שאפשר לתאר לפחות באופן תיאורטי.
ואיך זה קשור לענייננו? ובכן – תוכנה היא תכנון. תכנון היא סידרה סופית של צעדים לפתרון בעיה, כשלכל צעד השפעה על הסביבה המקומית. כל מחשב היום (מכונה שמריצה תוכנה) כוללת מספר קטן מאד של מעבדים יחסית לגודל הזכרון (אחרת, הם אינם דומים למכונת טיורינג). המוח אינו בנוי כך – המוח בנוי ממספר מעבדים ששווה לגודל הזכרון.
אם תרצה דוגמה פשוטה לכך – הסתכל על משחק החיים של קונווי. לא ניתן להריץ את המשחק הזה במחשב 🙂 (אפשר לעשות קירוב, וגם אפשר להריץ מחשב בתוך משחק החיים – אבל זה לא שייך לנושא).
ניסים,
אני זוכר את הנושאים האלו באופן כללי ואם יהיה צורך ויקיפדיה ויוטיוב יעזרו לי להיזכר יותר לעומק.
יריב
אתה מכיר את הנושא של מודלי חישוב? למשל – אוטומטים סופיים, אוטומטי מחסנית ומכונות טיורינג?
ניסים,
כמו שאמרתי לך בשיחות קודמות שהיו לנו (וכן אני זוכר שלא הסכמת איתי) המוח לדעתי הוא בהחלט כן חומרה שמריצה תוכנה, החומרה היא הרשת העצבית על כל הקשרים שקיימים בה אחרי שהיא למדה וחוותה דברים, והתוכנה הם הפולסים החשמליים שמתרוצצים בתוך הרשת הזו.
אני לא חושב שצריכה להיות בעייה של שיכחה ברשת כזו, כפי שהרשת מסוגלת ללמוד דברים, למשל לזהות חתולים, כך היא גם תתחיל לשכוח את מה שהיא למדה אם תפסיק להראות לה חתולים ותתחיל מעכשיו להראות לה רק כלבים (הקשרים הסינפטיים יתחילו להשתנות על מנת לזהות טוב יותר כלבים, וזאת על חשבון החתולים שהיא זכרה קודם לכן).
גם את נושא ההורמונים לדעתי לא תהיה בעייה כדולה לדמות ע״י הדמייה של השפעה כללית על סינפסות באיזור מסויים ברשת.
יריב
אכן מוכר – והמוח הוא גמיש בגלל שהוא עשוי מחומר ביולוגי. זה אחד ההבדלים המהותיים בין מעגלים אלקטרוניים למערכות ביולוגיות. כמו שאמרת המוח התפתח באבולוציה, במהלך מאות מיליוני שנה, כדי להיות מספיק אמין לשרוד 80 שנה. וזה, תוך כדי התגברטת על תאונות, מחלות, שינויי הסביבה וכן הלאה.
המוח הזה אינו מחשב שמריץ תוכנה. כלומר – לא ניתן לפרק אותו לשני מרכיבים.
כדי לבנות בן-אדם, החיקוי יצטרך להיות ברמה שלא דומה בכלל למה שאנחנו עושים היום.
כדי שה”תודעה” הסינטטית שלך תאהב, היא תצטרך להפריש כל מיני הורמונים בתנאים מסויימים, או איכשהו לדמות את ההשפעה של ההורמונים האלה בתנאים מסויימים.
חלק אחר מהתודעה שלנו מזהה חוסר אנרגיה בגוף ודואג להספקת אנרגיה לגוף. מנגנון יצור האנרגיה מבוזר בכל הגוף שלנו. התודעה הסינטטית תהיה שונה מאיתנו מאד במנגנון הזה, או שזה לא יהיה חלק מהתודעה.
מה שאני מנסה להבהיר הוא שתפקידה של התודעה שלנו היא בעיקר לשלוט על הגוף. כך לדוגמה את מנגנוני הזכרון. ובפרט – כך את מנגנונן השיכחה, חלק קריטי בתודעה שלנו. איך את זה נדמה במחשב?
ניסים,
שים לב שגם במאמר שקישרת אליו מתייחסים בספקנות רבה לטענה שלמוח הקטן יש תפקידים קוגנטטיביים ואומרים שם (בין היתר) שאולי משום שהוא משמש תחנת ממסר פשוטה בין הגוף ובין קליפת המוח אז פגיעה בו מונעת מחלק מהאותות לעבור.
קליפת המוח התפתחה מעל המוח הקטן בגלל שיקולים אבולוציוניים, זה לא אומר שהיא לא יכולה לפעול בלעדיו במידה והיא תהיה מחוברת בצורה ישירה, בטח מוכר לך הספר ״המוח הגמיש״.
יריב
Cognitive functions. Although the cerebellum is most understood in terms of its contributions to motor control, it is also involved in certain cognitive functions, such as language. Thus, like the basal ganglia, the cerebellum is historically considered as part of the motor system, but its functions extend beyond motor control in ways that are not yet well understood.
בנוסף – קרא כאן: https://braindecoder.com/post/a-bigger-role-for-the-little-brain-1136092769
ניסים,
היכן שאני קראתי לא הזכירו פגיעה בתודעה, דיברו רק על פגיעה ביכולת התנועה העדינה. היכן קראת שפגיעה במוח הקטן הופכת את התודעה למאד מוגבלת?
יריב
נכון, הם לא איבדו את תודעתם. אבל הם בעלי תודעה מאד מוגבלת. וזה מעבר לאיבוד יכולת הדיבור, פגיעה קשה בתנועה, חוסר יכולת ללמוד תנועות חדשות וכן הלאה. ותוסיף לזה שהבעיות מחמירות עם הגיל.
ניסים,
אני לא חושב שלמוח הקטן יש תפקיד כזה חשוב ביצירת תודעה, בויקיפדיה מתוארים מקרים של חיילים שמוחם הקטן נפגע מכדורים, ואף מקרים נדירים של אנשים ללא מוח קטן בכלל, וההשפעה של זה היא בעיקר על מוטוריקה ותנועה, האנשים האלו לא איבדו את תודעתם.
יריב
איך נדע איזה חלק נחוץ לתודעה? אני לא חושב שאנחנו יודעים, או שנדע בקרוב, איך לחלק את המוח, או את המוח הקטן, לאיזורים שקשורים רק לתודעה.
אני חאושב שהדוגמה שאתה נתת, של החלפת ניורונים במעגלים, היא פתרון אפשרי. הבעיה שאני לא בטוח שזה מעלה את האמינות שלנו, או את תוחלת החיים.
ניסים,
כן זה נשמע הגיוני כי בקליפת המוח ישנם ״רק״ 16 מיליארד נוירונים לעומת 85 מיליארד במוח כולו. אך אינני חושב שלא נוכל ליצור הדמיית מוח שתכלול גם את המוח הקטן, או לפחות את החלק בו שנחוץ עבור תודעה.
יריב
דיברנו, ולא הסכמנו 🙂 האם אתה מודע לכך שכ-80% מהניורונים במוח הם במוח הקטן? זה חלק שבכלל לא נחשב ל”חשוב” כשמדברים על תודעה. אבל בלעדיו אין שום תודעה. אתה מוזמן לקרוא קצת על תאי Purkinje כדי להבין כמה זה מורכב, וכמה מעט אנחנו יודעים.
וגם למוח הדיגיטלי הזה יהיו איברים וחושים.
ניסים,
אני לא חושב שהגוף שנחבר לרשת הנוירונים הדיגיטלית שניצור יצטרך להיות כל כך מורכב ומסובך כמו הגוף הביולוגי שלנו, וכבר דיברנו על זה.
ניסים,
טעות ראשונה היא לדון על הייתכנות של טכנולוגיה עתידית במונחי הטכנולוגיה הנוכחית. חישוב השרידה של מחשב מודרני במונחי יכולת השרידה שחושבו לשפופרות הוואקום של מחשב ה-ENIAC היו מראות שהוא לא יוכל לעבוד אפילו לשנייה אחת לפני שיישרף משהו. מן הסתם עשוי להתברר שיותר קל יהיה לשלוח כמה אלפי חבילות של כמה אלפי פטאבייט של מידע למושבה רחוקה + אסמבלר אוניברסלי מאשר להסתכן בספינת דורות. יש לך מושג מה עלול להשתבש בספינת דורות? ובחברה שאמורה לשרוד בתנאים האלו?
אותו הדבר נוגע גם לעוצמת המחשוב הדרושה כדי להפריד חוויות מכל הדברים האחרים שמתרחשים במוח. אם יש לך היכולת להעתיק סינפסות ולמפות אותן, אם יש לך היכולת לפענח את המצב האנושי הנובע מכל הקישורים וממבנה הנויירונים, אם יש לדבר הזה היתכנות כלכלית (ותהייה), אז יוכלו לבודד חוויות מכל שאר ההתרחשות במוח, לתרגם למבנה אחר ולהלביש אותן שם. גם אם ההעברה הראשונה תצריך יכולת מחשוב אדירה ואלפי מדענים שעובדים על זה, הרי שעשרים שנה אח”כ תוכל לבצע את זה בסכומים לא גבוהים במיוחד. להזכירך: שנות השבעים – מיפוי הגנום האנושי נתפס כלא אפשרי. 2000: מיפוי הגנום האנושי מתבצע בעלות גבוהה (מאות מיליוני $) ותוך סטייה ניכרת מהתקציב והזמן המוקצב, היום: אפשר לקנות כזה בכמה אלפי $, באופן שקורע ת’תחת לחוק מור.
לורם איפסום
התפקיד של המוח הוא להניע את האיברים כתוצאה מקלט מהחושים. זה שהמוח גם אוהב לשמוע את שופן או לשחק פוקר זה משהו מינורי ויהיה מאד קשה לבודד אותו משאר המוח. לדעתי – זה בלתי אפשרי.
תיאורטית – אפשר להחליף כל תא באדם ברכיב אלקטרוני, אבל לרכיבים ביולוגיים יש יתרונות גדולים על רכיבים מסיליקון. למשל – המערכת החיסונית שלנו משתנה בקצב גבוה כדי להילחם בפולשים. בינתיים, אני לא מכיר מערכת לא-ביולוגית פשוטה ששורדת מעל לשנים בודדות.
מערכות שכן שורדות הן חלליות למיניהם, אבל מרכיב עיקרי בתכנון שלהם היא פשטות. מי שחושב שמערכת של טריליוני רכיבים מורכבים תהיה אמינה, וזולה, הולך להיות מופתע 🙂
יאיר,
אפשר לחשוב על הרבה יתרונות אפשריים בתודעה שמתקיימת על שבב דיגיטלי ולא במוח ביולוגי, למשל תודעה שפועלת על שבב מחשב תיהיה כנראה מהירה פי עשרות אלפים יותר מאשר כזו שמתקיימת במוח ביולוגי, כמו כן למה למה לתקן ולשפצר כשאפשר ליצור מראש משהו הרבה יותר טוב ועמיד מגוף ביולוגי?
אתה אומר שהכותבת מרגיזה אותך כשהיא כותבת שהיא אוהבת להיות אנושית משום שאין לה שמץ של מושג איך זה להיות משהו אחר, אבל בלי לשים לב זה בדיוק מה שאתה עושה בעצמך, אתה אומר שטוב לך להישאר בגוף ביולוגי למרות שאין לך שום מושג איך זה להתקיים בתוך מחשב, או בגוף שעשוי מחומרים אחרים שהם לא דווקא ביולוגים.
בוודאי שנרצה להעתיק או להעביר את התודעה למחשב (יצירת כנ”ל). היש דרך יותר טובה למסע בין כוכבי שאורך אלפי שנים? טוענים את התודעה למחשב. בהגיענו ליעד יוצרים גוף חדש (מהחומרים שיש בשטח), טוענים את עצמנו לתוכו ו-ווואלה! מוכנים לחיים חדשים!
מעבר לכך, השאלה אם מדובר ביצור אחר עדיין פתוחה מבחינה משפטית. אם הכנ”ל של מישהו הולך ורוצח אדם (או כנ”ל) אחר – לפי דעתכם המקור לא יישא בתוצאות? הנושא טעון דיון משפטי ומוסרי שעוד לא נורתה בו הירייה הראשונה (תרתי משמע). ועוד לא התחלנו את הדיון מי יורש את האדם כאשר הגוף הראשון שלו מת – היורשים או הכנ”לים שלו. גם כאן צפויים כמה קרבות משפטיים לא פשוטים.
יצירת כנ”לים זה רק תחילתו של התהליך. הבנה מעמיקה של הקישורים העצביים ומשמעותם תבוא קצת אחר כך נוכל לתרגם ולהעביר זיכרונות וחוויות ממערכת עצבית אחת לאחרת. מאוחר יותר נוכל להעביר מרכיבי אישיות. אנשים יהיו מוכנים לשלם הון עבור חוש הומור מוצלח (למשל) וייתכנו אפילו אופנות בתחום הזה (פתאום נגלה שכולם הופכים להיות משוררים רומנטיים עגמומיים למראה).
ולסיכום? “סנדלר אומר שהסינגולריות מתארת מצב סופי”: מותק, אין לך מושג. המושג סינגולריות רק אומר שלא יכול להיות לך מושג היום מה יקרה אז, באיזושהי דרגה של וודאות.
בשביל מה כל הדיבורים על להעלות תודעה למחשב. אפשרי לחיות לנצח בגוף שלנו עצמנו אם רק ימלאו דרך לתקן כל נזק שנגרם ל DNA ולמנוע מחלות וכו’.
אך אחד לא יעביר שום תודעה למחשב כי אין בזה טעם. מה שכן סביר שיהיה זה שהגוף העתידי יהיה מהונדס גנטית בצורה אופטימלית השונה מזו העכשווית.
בנוסף, הרגיז אותי שהכותבת בסוף רשמה שהיא אוהבת להיות אנושית. זה משפט עם בורות אינסופית בהבנת הנושא עצמו. אהבה ורגשות עצמן מגבילות את התפישה שכלית. זה כמו שאדם טיפש יגיד שהוא שמח להיות כמו שהוא בדיוק. זה אבסורד כי אין לו שמץ של מושג איך זה להיות משהו אחר לכן עצם הטענה של טוב לך כמו שאתה היא מגוכחת עד אין סוף.
בכלל השאלה הזו של אם נצליח או לא נצליח להעביר את התודעה שלנו לתוך מחשב היא כל כך שולית ולא חשובה, ברגע שנצליח ליצור תודעה אמיתית בתוך מחשב אז התודעות החדשות שיווצרו מרגע זה והלאה בתוך מחשבים (וסביר להניח שהן יהיו מחוברות לגופים רובוטיים שיאפשרו להן לנוע ולהיות באינטרקציה עם הסביבה הפיזית) יהנו באופן מיידי מחיי נצח וחוסן מפני מחלות ובעיות אחרות שאנחנו מתמודדים איתן בגלל גופנו הביולוגי. הם יהיו דור ההמשך, הם יהיו הצאצים שלנו. אז נגיד שכל הדור הנוכחי ימות ולא יצליח לשרוד ולהעביר את תודעתו לתוך מחשב – ביג דיל, אז נהיה בסך הכל כמו מיליוני דורות קודמים לפנינו של בני אדם שזה גם היה גורלם. העיקר שתהיה המשכיות של המין האנושי, המשכיות שתהיה הפעם לא ביולוגית, עידן חדש באבולוציית האדם.
אלון אתה צודק, כל השיכפולים האלו יהיו עבורך כמו אחים תאומים, הם לא באמת יהיו אתה והתודעה שלך. לכן קורצווייל מציע להעביר את התודעה שלך למחשב באופן הדרגתי כך שזה עדיין תישאר אתה. הוא מציע להחליף תחילה חתיכת מוח קטנה במוח שלך בשבב קוגנטיבי זהה ולשאול אותך אם זה עדיין אתה, סביר להניח שהתשובה שלך תהיה חיובית, וכך להמשיך ולהחליף עוד ועוד חתיכות מוח עד שלבסוף כל המוח שלך יהיה דיגיטלי אך אתה עדיין תמשיך להשיב כן זה אני, והתודעה שלך תישאר רצופה לאורך כל התהליך.
אם היה אפשר לעלות את תכולת המוח שלנו למחשב, זה אומר שהיה אפשר גם לשכפל אותו כמה שרוצים
ואם ניתן היה לשכפל אותו איך תדעו מי מהם הוא באמת אתם, כול אחד יחשוב שהוא האמיתי
בפועל נקבל כמה העתקים מושלמים, אבל לא את האני האמיתי
או שכולם היו האני האמיתי