שאלות לעתיד האנושות: האם תרצו לחיות לנצח?

העלאת תכולת המוח שלנו למחשב היא כנראה משימה בלתי אפשרית. אבל לצורך הדיון: מה תעשו לו יתאפשר הדבר?

האם חיי נצח של התאחדות עם מחשבים הם בלתי נמנעים? אילוסטרציה: pixabay.com.
האם חיי נצח של התאחדות עם מחשבים הם בלתי נמנעים? אילוסטרציה: pixabay.com.

מאת הילרי רוזנר, הכתבה מתפרסמת באישור סיינטיפיק אמריקן ישראל ורשת אורט ישראל 17.11.2016

  • יש מדענים הסבורים שיום אחד, הטכנולוגיה תאפשר לנו להשיג אלמוות באמצעות טעינת הקשרים העצביים שלנו לגופים רובוטיים. אחרים חושבים שזה בלתי אפשרי.
  • כך או כך, פילוסופים רציניים דנים בשאלה איך מצב כזה ישנה את האנושיות שלנו.
  • הדיון הפילוסופי חשוב מכיוון שאפילו אם ה"סינגולריות" לא תתממש במלואה, שיפור היכולות של בני האדם עשוי לעורר שאלות דומות.

לא מזמן, בקבלת פנים בחתונה, ערכתי סקר בקרב כמה חברים על נושא האלמוות. שאלתי בני זוג מלומדים מסן פרנסיסקו, הורים לשתי בנות צעירות: נניח שיכולתם לטעון מחר את המוחות שלכם למחשב, ולחיות לנצח כהכלאה של אדם ומכונה – האם הייתם רוצים לעשות זאת? הבעל, דוקטור לרפואה בן 42, השיב מיד בחיוב. המחקר הנוכחי שלו, כך אמר, יישא פירות במאות השנים הבאות, והוא מעוניין לראות זאת. "כמו כן, אני רוצה לדעת איך ייראה העולם בעוד עשרת אלפים שנה." האישה, דוקטור להיסטוריה של האמנות בת 39, הייתה נחרצת באותה מידה. "בשום אופן," אמרה. "המוות הוא חלק מן החיים. אני רוצה לדעת איך זה למות."

תהיתי אם החלטתה של האשה תגרום לבעל לשקול את דבריו שוב, אך מטעמי נימוס דיפלומטי החלטתי להניח לנושא. אף על פי כן, מדובר ביותר מסתם שעשוע אינטלקטואלי במסיבות. אם להאמין לדבריהם של כמה עתידנים, נצטרך במוקדם או במאוחר להתמודד עם שאלות כאלה, מכיוון שפנינו מועדות לעולם פוסט-ביולוגי שבו המוות יעבור מן העולם – או לפחות יהיה נתון במידה רבה לשליטתנו.

הגרסה המפורטת ביותר של עתיד אלמותי זה היא גרסתו של ריי קורצווייל. בספרו רב-המכר מ-2005, "הסינגולריות מתקרבת", חזה קורצווייל שבקרוב הבינה המלאכותית "תקיף את כל הידע והמיומנויות האנושיים". טכנולוגיה לסריקת מוח בקנה מידה ננומטרי תאפשר, בסופו של דבר, "העברה מדורגת של התבונה, האישיות והכישורים שלנו אל החלק הלא ביולוגי של הבינה". באותו זמן, מיליארדי ננו-רובוטים בגופנו "ישמידו מחוללי מחלה, יתקנו שגיאות בדנ"א, ינטרלו רעלנים ויבצעו משימות רבות אחרות במטרה לשפר את בריאותנו הפיזית. כתוצאה מכך נוכל לחיות בלי סוף, בלי להזדקן". ננו-רובוטים אלה ייצרו "מציאות מדומה בתוך מערכת העצבים". אנחנו נעבור לחיות יותר ויותר בעולם הווירטואלי, עד שלא נוכל להבדיל בינו לבין היקום האנמי שאנו עשויים לכנות בשם "המציאות האמיתית".

בהתבסס על ההתקדמות בתחומי הגנטיקה, הננוטכנולוגיה והרובוטיקה, ועל הקצב המעריכי של השינויים בעולם הטכנולוגיה, קבע קורצווייל את שנת 2045 כמועד הופעת הסינגולריות הטכנולוגית: הנקודה שבה בינה לא-ביולוגית תעלה על זו האנושית במידה כזאת שייווצר "שינוי מהותי ומהפכני ביכולת האנושית". יש כמה תומכים ברעיון הסינגולריות שעדיין נוקבים בתאריך הזה, וההתקדמות בתחום ה"למידה העמוקה" של הבינה המלאכותית רק עודדה אותם.

עם זאת, רוב המדענים סבורים שהופעתו של הגורל הסיבורגי שלנו רחוקה הרבה יותר. סבסטיאן סונג, פרופסור במכון פרינסטון למדעי המוח, טוען שהעלאת תוכן המוח למחשב כנראה לא תהיה אפשרית לעולם. מוחות אנושיים בנויים ממאה מיליארדי תאי עצב (נוירונים), המחוברים ביניהם בסינפסות. חוקרים במדעי המוח סבורים שמכלול החיבורים האלה הוא המפתח לזהות שלנו. אפילו לפי הסטנדרטים של קורצווייל להתקדמות טכנולוגית, מדובר בכמות אדירה של חיבורים שצריך למפות ולהעלות למחשב. כמו כן, ייתכן שזו רק ההתחלה: תאי העצב מתקשרים זה עם זה גם מחוץ לסינפסות, ואינטראקציות "חוץ־סינפטיות" כאלה עשויות להיות חיוניות לתפקוד המוח. במקרה זה, כפי שכתב סונג ב-2012 בספרו "קונקטום: כיצד חיווט המוח מגדיר מי אנו", העלאת המוח למחשב תצטרך לכלול לא רק כל חיבור, או כל תא עצב, אלא גם כל אטום. כוח המחשוב שנדרש לשם כך "לגמרי לא בא בחשבון, אלא אם צאצאיך הרחוקים ישרדו למשך זמן בקנה מידה גלקטי," כתב סונג.

אף על פי כן, עצם האפשרות של עתיד סיבורגי, רחוק או בלתי סביר ככל שיהיה, מעורר דאגות חשובות דיין כדי שפילוסופים רציניים ידונו בהן בכובד ראש. גם אם הטכנולוגיה שלנו לא תצליח לממש את החזון הקורצוויליאני במלואו, שיפורים של המוח והגוף האנושיים עשויים לקחת אותנו חלק מן הדרך, וזה מחייב בחינה של השאלה: מה עושה אותנו לאנושיים?

הפילוסוף דייוויד צ'למרס, ממנהלי המרכז למחשבה, מוח ותודעה באוניברסיטת ניו יורק, כתב על הדרך הטובה ביותר לשימור הזהות העצמית באמצעות העלאת המוח למחשב. שאלתי אותו אם לדעתו הוא יזכה לחיות לנצח. צ'למרס, בן חמישים, אומר שלדעתו הוא לא יזכה לכך, אבל "הנושאים האלה יהיו לאפשרויות מעשיות מתישהו במאה הבאה, לערך."

רונלד סנדלר, מומחה לאתיקה ולסביבה ונשיא המחלקה לפילוסופיה ולדת באוניברסיטת נורת'-איסטרן, אומר שהשיח בנושא העתיד הסייבורגי "זורה אור על הרבה נושאים. המחשבה על המקרה הקיצוני יכולה ללמד אותנו רבות על הטווח הקרוב."

וכמובן, אם יש אפילו סיכוי קלוש שהחיים כיום יוכלו לבחור בסופו של דבר בין מוות לבין חיי נצח כסייבורגים, כדאי להתחיל לשקול זאת כבר עכשיו. אם נניח בצד את שאלת ההיתכנות, ראוי לעצור ולחשוב על שאלות מהותיות יותר. האם מצב כזה רצוי? אם המוח והתודעה שלי ייטענו לתוך סייבורג, מי אני אהיה? האם עדיין אוהב את משפחתי ואת חבריי? האם הם עדיין יאהבו אותי? האם, בסופו של דבר, אשאר אנושי?

אחד הנושאים שמעסיקים את הפילוסופים הוא השאלה כיצד אנו מתייחסים זה לזה. האם "כלל הזהב" של "ואהבת לרעך כמוך" יישאר בתוקף בעולם פוסט־אנושי? לפני שנים ספורות השתתף סנדלר בכתיבת המאמר, "טרנס־אנושיות, כבוד האדם ומעמד מוסרי", שבו נטען שבני אדם "משופרים" ישמרו על מחויבות מוסרית לבני אדם רגילים. "אפילו אם תהפוך למשופר בדרך כלשהי, עדיין תצטרך לדאוג לי," הוא אומר. קשה להתווכח עם זה, וקשה עוד יותר להאמין שזה מה שאכן יקרה.

פילוסופים אחרים מציעים "שיפור מוסרי": שימוש באמצעים רפואיים או ביו-רפואיים כדי לשדרג את העקרונות שלנו. כשיעמדו לרשותנו אינטליגנציה ועוצמה אדירות, נצטרך להבטיח שהן יהיו בידיים טובות. הידע המדעי שלנו "מתחיל לאפשר לנו להשפיע באופן ישיר על היסודות הביולוגיים או הפיזיולוגיים למוטיבציה אנושית, באמצעות תרופות, ברירה או הנדסה גנטית, או בעזרת התקנים חיצוניים המשפיעים על המוח ועל תהליך הלמידה", כך כתבו לאחרונה הפילוסופים ג'וליאן סבולסקו ואינגמר פרסון. "נוכל להשתמש בטכניקות האלה כדי להתגבר על המגבלות המוסריות והפסיכולוגיות המאיימות על המין האנושי."

במאי 2016 התפרסם בעמוד הדעות של וושינגטון פוסט מאמר שכותרתו "בקרוב נשתמש במדע כדי להפוך בני אדם למוסריים יותר". המחבר, ג'יימס יוז, ביו-אתיקן מאוניברסיטת מסצ'וסטס בבוסטון, טען בעד השיפור המוסרי, אבל אמר שעליו להתקבל מרצון, לא בכפייה. "בעזרת המדע נוכל לגלות דרכים משלנו להגיע לאושר ולמידות טובות באמצעים טכנולוגיים," כתב יוז, שמנהל את המכון לאתיקה ולטכנולוגיות חדשות, קבוצת חשיבה פרוגרסיבית טרנס-הומניסטית. יוז, בן 55, שהיה בעברו נזיר בודהיסטי, אמר לי שהוא מעוניין להישאר בחיים די זמן כדי לחוות הארה.

נשאלת גם השאלה לגבי האופן שבו נתייחס לכדור הארץ. חיי נצח, בכל צורה, ישנו את יחסינו לא רק זה עם זה אלא גם עם העולם שסביבנו. האם נדאג לסביבה יותר או פחות? האם עולם הטבע יֵצא נשכר או מופסד?

סנדלר אומר שהסינגולריות מתארת מצב סופי. כדי להגיע למצב הזה תידרש כמות עצומה של שינויים טכנולוגיים, ו"שום דבר אינו משנה את היחסים שלנו עם הטבע מהר וביסודיות יותר מאשר טכנולוגיה." אם נגיע למצב שבו נוכל להעלות מודעות אנושית למחשב ולנוע בלי הפרעה בין המציאות האמיתית למדומה, סביר להניח שנהנדס כבר את כל השאר בדרכים משמעותיות. "עד שהסינגולריות תתרחש, היחסים שלנו עם הטבע כבר ישתנו לגמרי," אומר סנדלר.

על אף מה שהיינו רוצים להאמין, במצבנו הנוכחי כבני תמותה אנחנו תלויים מאוד במערכות טבעיות ופגיעים להן. בעולם העתידי, התלות הזאת תשתנה. אם לא נצטרך לנשום דרך ריאות, מדוע שיהיה אכפת לנו מזיהום האוויר? אם לא נצטרך לגדל את המזון שלנו, נתנתק גם מן האדמה שסביבנו.

באותו האופן, בעולם שבו אי אפשר להבדיל בין העולם הממשי ובין העולם המדומה, ייתכן שנוכל להפיק תועלת מן הטבע הדיגיטלי באותה מידה כמו מזה שבחוץ. הקשר שלנו לטבע האמיתי ישתנה: הוא יפסיק להיות חושי, פיזיקלי. המעבר הזה יכול להשפיע השפעה עמוקה על המוח שלנו – אולי אפילו בגרסת הסיליקון. מחקרים מראים שאינטראקציה עם הטבע משפיעה עלינו מאוד ולטובה. ייתכן שקשר כזה, גם ברמה הלא מודעת, הוא תכונה בסיסית של האנושיות.

אם התלות שלנו בטבע תיעלם, והיכולת הפיזית שלנו להתחבר לטבע תדעך, "הבסיס לדאגה לסביבה ישתנה, ויהיה קשור הרבה יותר לאחריות כלפי הטבע כשהוא לעצמו," אומר סנדלר. היכולת שלנו לפתור בעיות סביבתיות, לדוגמה, באמצעות הנדסת אקלים, תהיה בקנה מידה שאיננו מסוגלים אף לדמיין כיום. אבל האם עדיין נרגיש שיש לטבע ערך משל עצמו? אם כן, המערכות האקולוגיות ירוויחו מכך. אם לא, מינים אחרים והמערכות האקולוגיות שתלויות בהם יהיו בבעיה.

היחסים שלנו עם הסביבה תלויים גם בשאלת קנה המידה של הזמן. בפרספקטיבה גאולוגית, משבר הכחדת המינים שאנחנו עדים לו כיום הוא אולי חסר חשיבות, אבל הוא כן משנה בקנה המידה הנוכחי של משך חיי אדם. איך ישפיע אורך חיים גדול בהרבה על "הפרספקטיבה שממנה אנחנו שואלים שאלות וחושבים על הסביבה הלא אנושית?" שואל סנדלר. "קנה המידה של הזמן קובע אילו תשובות ייחשבו סבירות." האם נדאג יותר לסביבה מכיוון שנישאר בה זמן רב כל כך? או שאולי יהיה אכפת לנו פחות, מכיוון שנתבונן בדברים מנקודת מבט גאולוגית ורחבה יותר? "כמעט בלתי אפשרי לדמיין איך זה יהיה," אומר סנדלר, "אם כי אנחנו יכולים לדעת שהפרספקטיבה תהיה שונה מאוד."

כשמדברים עם מומחים על נושאים כאלה די זמן, נופלים לבור ללא תחתית ומגלים שאנחנו מנהלים שיחות נורמליות לכאורה על דברים אבסורדיים. יוז אמר לי בשלב מסוים ש"אם יהיה טיפול גנטי בסגנון אקס-מן, שמאפשר לירות קרני לייזר מן העיניים או להשתלט על מוחם של אחרים," אנשים שירצו תכונות כאלה יצטרכו לעבור אימון מיוחד ולקבל רישיון.

"אתה משתמש בדוגמאות האלה כדי להמחיש רעיון, או שאלה הם דברים שאתה באמת חושב שיקרו בעתיד?" שאלתי.

"מבחינת כמות הדיבורים על נושאים כאלה בקרב טרנס-הומניסטים," הוא משיב בעקיפין, "רובנו מנסים לא להפחיד את החדשים יותר מדי. אבל אחרי שעוברים את שלב הלם מספר ארבע, אפשר להתחיל לדבר על היום שבו נהיה כולנו רק ננובוטים."

כשנהיה רק ננובוטים, אילו מין דברים ידאיגו אותנו? החרדה היא אולי אחת מן התכונות המגדירות אותנו כבני אדם. האם האלמוות יהפוך את החרדה לדבר שעבר זמנו? אם לא אצטרך לדאוג יותר לבריאותי, לתשלום החשבונות ולמה שאעשה כשאהיה קשישה ושברירית מכדי להסתובב ולכתוב מאמרים, האם עדיין אהיה אני-עצמי? או שאולי אהיה רק רובוט שטחי ומרוצה יתר על המידה? על מה אחלום בהקיץ? האם אאבד את השאפתנות שלי? הרי אם אחיה לנצח, הרומן האמריקני הגדול שלי יוכל בוודאי להמתין למאה הבאה, נכון?

האם עדיין אהיה אני? צ'למרס סבור ש"זו עומדת להיות שאלה פרקטית, לא רק פילוסופית, דוחקת מאוד."

מבחינה אינטואיטיבית, נראה הגיוני שאני אשאר עצמי גם אם המוח שלי ייטען למחשב, אפילו אם, כפי שמתאר צ'למרס, הייתי עושה זאת תא עצב אחר תא עצב, תוך שמירה על מודעות לאורך כל התהליך, והופכת לאחוז אחד סיליקון, אחר כך לחמישה, לעשרה ולבסוף למאה אחוזים. זהו המשל העתיק על הספינה של תזאוס, שבכל פעם הוחלף בה לוח אחר בלוח עץ חדש וחזק יותר. האם בסיום התהליך היא הייתה אותה ספינה? ואם לא, באיזה שלב נטתה הכף והיא הפכה לספינה אחרת?

"אחת הבעיות הגדולות," אומר יוז, "היא שאם חיים די זמן ועוברים שינויים רבים כל כך, אין עוד משמעות לאורך החיים. האם אני באמת אותו אדם שהייתי בגיל חמש? אם אחיה עוד חמשת אלפים שנה, האם באמת אהיה מי שאני עכשיו? בעתיד נוכל לחלוק את הזיכרונות שלנו, כך שהחשיבות של הזהות וההמשכיות העצמית תישחק." נשמע מדכא למדי.

על אף הרטוריקה האוטופית של הסינגולריות, יש בה שמץ של פטאליזם. זהו הנתיב היחיד שפתוח לפנינו: להתאחד עם המכונות או להתפוגג – או משהו גרוע מזה. ומה אם איני רוצה להיהפך לסייבורגית? קורצווייל עשוי לומר שזה רק המוח הביולוגי המוגבל והלקוי שלי, שמונע ממני להבין את המשיכה ואת הפוטנציאל האמיתיים של העתיד הזה. הבחירות שיהיו זמינות לי – כל סוג של גוף, כל חווייה במציאות המדומה, אינסוף אפשרויות לביטוי יצירתי, הסיכוי ליישב את החלל – יהפכו את הקיום הביולוגי הנוכחי שלי לטריוויאלי במידה קומית ממש. ובכלל, מה פטאליסטי יותר מאשר מוות ודאי?

ואף על פי כן, אני אוהבת להיות אנושית. אני אוהבת את הידיעה שאני עשויה, בסופו של דבר, מאותו חומר כמו כל החיים על כדור הארץ. אני אפילו קשורה באופן מסוים לשבריריות האנושית שלי. אני אוהבת להיות חמימה ונעימה, ולא קשה ועמידה כמו רובוט־על בסרט פעולה. אני אוהבת את הדם החם שזורם בעורקיי, ואינני משוכנעת שאני רוצה להחליף אותו בננובוטים.

יש אתיקנים הטוענים שהאושר האנושי מסתמך על כך שהחיים שלנו בני חלוף, שאנחנו יצורים פגיעים שתלויים זה בזה. איזו משמעות ואיזה ערך נמצא לחיים בעתיד של אדם-מכונה?

"מבחינתי, המהות של להיות אנושי היא לא המגבלות שלנו… היא היכולת שלנו להתגבר על המגבלות האלה," כותב קורצווייל. זו נקודת מבט מעניינת. המוות היה מאז ומעולם אחת המגבלות האלה, אז אולי ההתגברות על המוות עושה אותנו לאנושיים באופן עמוק ביותר?

אבל אחרי שנתגבר עליו, אינני משוכנעת שהאנושיות שלנו תישאר. המוות עצמו אינו מגדיר אותנו דווקא, כמובן – כל היצורים החיים מתים – אבל הן המודעות למוות וההבנה שלנו אותו, והן הניסיון שלנו להעניק משמעות לחיים עד אליו, הם בוודאי חלק מן הרוח האנושית.

לכתבות נוספות בסדרה:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

131 תגובות

  1. walking death,

    רשתות נוירונים מסוג ״Convolutional Neural Networks״ אשר תופסות תאוצה חזקה מאד בשנים האחרונות עובדות בצורה דומה מאד לזו שבה המוח שלנו עובד כאשר הוא מפענח תמונות ויזואליות המגיעות מהעיניים. גם ברשת העצבית הזו התמונה מפורקת למרכיביה הבסיסיים כמו למשל קווים אנכיים, קווים אופקיים, קווים אלכסוניים וכו׳ (כפי שנעשה אצלנו באיזור הרשתית בעין) ובהמשך השכבות הבאות שנמצאות יותר בעומק מזהות מאפיינים נוספים כמו למשל אף, פה ואוזניים אם זה פרצוף, או גלגלים אם זו מכונית. השכבות האחרונות מזהות כבר את האובייקט עצמו.

    למעשה רשתות נוירונים מסוג ״Convolutional Neural Networks״ שאבו את השראתן מהאופן שבו המוח שלנו מפענח תמונות, והן גם הרבה יותר מדוייקות מרשתות נוירונים מדורות קודמים.

    אין הבדל מהותי בין האופן שבו המוח שלנו מפענח תמונות ובין האופן שבו רשתות נוירונים מסוג זה מפענחות תמונות.

    אם אתה רוצה הנה סרטון דוגמא מתוך יוטיוב:

  2. WD
    רשת עיצבית במחשב לזיהוי כתב יד היא יחסית פשוטה. המערכת מבצעת בשלב ראשון סגמנטציה – הפרדת האותיות ליחידות עצמאיות. דרך פשוטה היא לנסות להעביר קווים בין האותיות (לעיתים מבצעים סיבוב לפני זה – וזה גם תהליך שהמוח שלנו מבצע).
    למעגל הזיהוי יש כניסה לכל פיקסל (נניח 32 על 32). ביציאה יש קו לכל תו אפשרי (וצריך טיפול מיוחד לרווחים בין מילים). שכבת הזיהוי (בין הקלט) מכילה מספר ניורונים שקובעים בצורה ניסויית.
    עכשיו מתחיל הקטע המעניין – מלמדים את הרשת ע"י ניסוי וטעייה – מכניסים קלט ידוע (כלומר – אנחנו יודעים מה האות) ומשחקים טיפה עם המשקלים כדי להגיע לפלט הרצוי. זה שלב מורכב – כי אפשר לבצע "לימוד יתר" על קבוצת הלימוד ואז המערכת תזהה פחות טוב דברים ששונים מהקלט.

    היום מבצעים שני תהליכים נוספים. הראשון הוא לימוד מילים: אם גילינו אות אחת אז אנחנו יודעים איזה אות צפוייה לבוא אחריה (למשל – אחרי q יבוא u). התהליך השני הוא זיהוי רצפי מילים – אחרי the כנראה לעולם לא יבוא if, או why וכן הלאה.

    כלומר – יש פה מערכת יחודית שלמדה לזהות אותיות – אבל אין שום מקום ברשת הזאת שזיהית אות 🙂 לכל אות פלט משלה – אין שום מקום במערכת ש"יודעת" איזו אות זוהתה.

    במוח שלנו יש מערכת שלמה בין העיניים לבין הרגע בו אנחנו מבינים את המשמעות של טקסט – כשליש מהמוח בנוי לניתוח של מה שאנחנו רואים. לימוד אותיות בבני אדם הוא שונה מבמחשב. יש לנו מעגלים לזיהוי גיומטריה, ואחרי זה אנחנו רואים "אוביקטים". בגיל מסויים אנחנו מצליחים להעביר זיהוי אובייקטים מסויימים למעגלי השפה (לא כולנו – יש כל מיני בעיות של דיסלקציה שמקשות על המעבר הזה).
    אנסה לתת דוגמה – טבעת של כדור סל בנוי מעיגול וקווים ישרים – אבל אנחנו מזהים את הטבעת כטבעת מכל זווית. עכשיו תחשוב על d, b, p, ו-q. יש פה משהו מהותי שונה, נכון?

  3. יריב
    השיחה בינינו ניגמרה.
    אני רק מציע לך להבין נושא לפני שאתה מתווכח עליו. לקרוא ספר של פופוליסט זה לא ידע וזה בטח לא הבנה.

כתיבת תגובה

האימייל לא יוצג באתר.

This site uses Akismet to reduce spam. Learn how your comment data is processed.

דילוג לתוכן