הקצב המואץ של ההתקדמות הטכנולוגית מורה על כך שיצירי כפינו התבוניים צפויים להאפיל עלינו בקרוב – ושיצירי כפיהם יאפילו בסופו של דבר גם עליהם. העתידן ריי קורצווייל צופה שבאמצע המאה לא נוכל עוד להבדיל בין אדם למכונה.
הקצב המואץ של ההתקדמות הטכנולוגית מורה על כך שיצירי כפינו התבוניים צפויים להאפיל עלינו בקרוב – ושיצירי כפיהם יאפילו בסופו של דבר גם עליהם. העתידן ריי קורצווייל צופה שבאמצע המאה לא נוכל עוד להבדיל בין אדם למכונה.
בזמן כלשהו, בחלק הראשון של המאה ה-21, תשיג תבונתן של מכונות את תבונתם של בני האדם. בתוך רבע מאה, יהיו מכונות שלמראית עין ייראו כבעלות תבונה, רגשות ומיומנויות אנושיים על כל גוניהם: ממוזיקה וכישורים יצירתיים אחרים ועד תנועה פיזית. הן יטענו שהן חשות רגש, ובניגוד לדמויות הווירטואליות של היום, טענתן תישמע משכנעת עד מאוד. בערך ב-2020 ישתווה כושר העיבוד של מחשב שיעלה 1,000 דולר לזה של מוח אדם. ב-2029 תושלם כמעט לגמרי התוכנה הדרושה לאינטליגנציה מלאה והמחשב האישי הממוצע יהיה שקול לכ-1,000 מוחות.
ברגע שמחשבים ישיגו רמה כזאת של תבונה בהשוואה לבני אדם, הם בהכרח ישעטו קדימה. למשל, אם אני לומד צרפתית, איני יכול להטעין את הלמידה הזאת בקלות אל תוך מוחכם. שכן תהליך הלמידה שלנו כרוך בבניית רצפים של תבניות קישורים מסובכות להפליא בין תאי העצב במוח, הכרוכות גם בריכוזיהם של חומרים ביולוגיים, שליחים עצביים, המאפשרים לאותות לעבור בין תאי העצב. אין לנו שום דרך להעביר את התבניות האלה במהירות למוח אחר. אבל יכולתם של יצירי כפינו הלא-ביולוגיים להעביר ביניהם מידע במהירות, תאפשר להם לשתף מיד את מה שלמדו עם מיליארדי מכונות אחרות. בסופו של דבר, ישויות לא-ביולוגיות יחלשו לא רק על כל הידע שלהן אלא גם על כל הידע שלנו.
כשיתרחש הדבר, לא תהיה עוד אבחנה ברורה בין אדם למכונה. כבר היום אנו משתילים מחשבים, או שתלים עצביים, היישר בתוך מוחם של אנשים כדי לשכך את השפעתה של מחלת פרקינסון ואת הרעידות הנובעות מטרשת נפוצה. אנו משתמשים בשתלים שבלוליים כדי לשחזר שמיעה. בארה"ב מפתחים היום שתל רשתית שיוכל לספק לעיוורים סוג כלשהו של תפיסה חזותית באמצעות החלפה של כמה מעגלי עיבוד חזותי במוח. צוות מדענים באוניברסיטת אמורי השתיל בראשו של משותק שבץ שבב שאפשר לו להשתמש במוחו כדי להזיז סמן על צג המחשב.
בשנות ה-20 של המאה ה-21 ישדרגו שתלים עצביים את החוויות החושיות שלנו, את הזיכרון ואת החשיבה. ב-2030, נוכל להחליף שיחה טלפונית עם חבר בפגישה וירטואלית, למשל בשמורת ציד במוזמביק, שתיראה אמיתית לגמרי. תוכלו לחוות כל סוג של חוויה – עסקית, חברתית או מינית, עם כל אדם, אמיתי או מדומה, בלי קשר לקרבה הפיזית ביניכם.
כיצד מתפתחים החיים והטכנולוגיה
כדי להיטיב להבין את סוג התחזיות שהצגתי זה עתה, חשוב לשים לב שטכנולוגיית המידע מתקדמת בקצב מעריכי (אקספוננציאלי). תהליך מעריכי מתחיל לאט, אבל בסופו של דבר הוא מתקדם מהר מאוד. (אפשר לקרוא תיעוד מלא של הטיעון הזה בספרי "הסינגולריות קרובה".)
האבולוציה של החיים הביולוגיים והתפתחות הטכנולוגיה פוסעות שתיהן באותו נתיב: נדרש להן זמן רב להתחיל, אבל שלבי ההתקדמות נבנים זה על גבי זה, עד שהקִדמה מתפרצת בשצף הולך ומתגבר. ממש עכשיו אנו נכנסים לשלב ההתפרצות הזה בעקומת ההתפתחות הטכנולוגית.
שימו לב: נדרשו מיליארדי שנים עד שנוצר כדור הארץ. עוד שני מיליארד שנים עד שהחיים התחילו, וכמעט אותו פרק זמן היה דרוש עד שמולקולות התארגנו ליצירת הצמחים ובעלי החיים הרב-תאיים הראשונים לפני כ-700 מיליון שנה. קצב האבולוציה הואץ כשיונקים ירשו את הארץ לפני כ-65 מיליון שנה. הופעתם של הפרימטים הביאה לכך שקצב ההתקדמות האבולוציונית נמדד במיליוני שנה בלבד, עד הופעת האדם המודרני לפני כ-500,000 שנה.
ההתפתחות הטכנולוגית היא למעשה המשך התהליך האבולוציוני שהביא מלכתחילה לקיומנו שלנו – היצורים יוצרי הטכנולוגיה. לאבות אבותינו נדרשו עשרות אלפי שנים כדי להבין שאם יחדדו אבן משני צִדיה יוכלו ליצור כלים שימושיים. ואז, בראשית האלף הקודם, הצטמק הזמן הנדרש לשינוי פרדיגמה טכנולוגית לכדי מאות שנים.
קצב ההתקדמות הטכנולוגית המשיך להאיץ במאה ה-19 והשתווה לזה של 10 המאות שקדמו לה. בשני העשורים הראשונים של המאה ה-20 השתוותה ההתקדמות לזאת של המאה ה-19 כולה. כיום, מהפכים טכנולוגיים חשובים מתרחשים כל כמה שנים. למשל, האינטרנט, כלי תקשורת ומסחר המצוי כבר בכל מקום, לא היה קיים לפני 20 שנה בלבד. ורק לפני כעשר שנים כמעט לא השתמש איש במנועי חיפוש.
טכנולוגיות המחשוב מתפתחות באותו מסלול צמיחה מעריכי. במשך עשרות השנים האחרונות תואר הגורם החשוב בהתרחבות הזאת על ידי חוק מוּר. גורדון מור, ממייסדי אינטל, שם לב באמצע שנות ה-60 שאנשי הטכנולוגיה הכפילו את צפיפות הטרנזיסטורים במעגלים משולבים כל 12 חודשים. כלומר, מחשבים הכפילו במחזוריות קבועה הן את קיבולתם והן את מהירותם לכל יחידת מחיר. באמצע שנות ה-70 עדכן מור את תצפיתו וקבע את משך מחזור ההכפלה, על פי אומדן אמין יותר, על כ-24 חודשים, והמגמה הזאת התמידה לאורך השנים.
לאחר עשרות שנים של שירות מסור, יאלץ חוק מור לפנות את מקומו בערך ב-2019. עד אז יגיעו הטרנזיסטורים לרוחב של כמה אטומים. אבל ארכיטקטורות מחשבים חדשות ימשיכו את הצמיחה המעריכית של המחשוב. למשל, קוביות חישוב המתוכננות כבר כעת יכילו אלפי שכבות של מעגלים, ולא רק אחת כפי שיש בשבבי המחשב של היום. טכנולוגיות אחרות מבטיחות עלייה בסדרי גודל בצפיפות המחשוב, ובהן מעגלים המבוססים על צינוריות-ננו פחמניות, מחשוב אופטי, מחשוב גבישי ומחשוב מולקולרי.
אנו יכולים לראות בנקל את צעידת המחשוב קדימה באמצעות גרף המתאר את מהירות החישוב (ביחידות של מספר הוראות לשנייה) לכל 1,000 דולר (בערך דולרי קבוע) של 49 מכונות חישוב מפורסמות מן המאה ה-20. הגרף נראה כמו דוגמה שנלקחה מספר לימוד העוסק בצמיחה מעריכית: מהירות המחשבים ליחידת מחיר הוכפלה כל שלוש שנים מ-1910 עד 1950, כל שנתיים מ-1950 עד 1966 וכל שנה כיום. נדרשו 90 שנה כדי להגיע למחשב הראשון המסוגל לבצע מיליון הוראות בשנייה (MIPS) במחיר של 1,000 דולר. כיום אנו מוסיפים למחשב שמחירו 1,000 דולר כמה MIPS נוספים בכל יום.
קרדיט: דפנה אקסל
מדוע התשואות מאיצות
מדוע אנו מוצאים שהתפתחות מעריכית מתרחשת בעולם החי הביולוגי, בטכנולוגיה ובמחשוב? זוהי תוצאה של תכונה יסודית של כל תהליך אבולוציוני-התפתחותי, תופעה שאני מכנה בשם "חוק התשואות המאיצות". כשהסדר עולה בקצב מעריכי (תופעה המשקפת את מהותה של אבולוציה), מתקצר פרק הזמן שבין אירועי צמיחה בולטים. ההתקדמות מואצת. והתשואות – המוצרים בעלי הערך שההתפתחות מניבה – מאיצות באופן לא לינארי. הצמיחה המתגברת של ביצועי המחשוב יחסית למחיר היא דוגמה חשובה אחת לתשואות מאיצות כאלה.
ביקורת נפוצה על תחזיות טוענת שהן מסתמכות על המשך בלתי מוצדק של מגמות עכשוויות (אֶקסטרַפּוֹלציה), בלי להביא בחשבון את הכוחות העלולים לשנות את המגמות האלה. אבל התפתחות אבולוציונית מאיצה מפני שהיא נבנית על גבי הישגי העבר, ובהם גם שיפור בכושרה של האבולוציה עצמה להתפתח הלאה. המשאבים שההתפתחות זקוקה לנצל כדי להמשיך את צמיחתה המעריכית הם למעשה הסדר ההולך וגובר שלה עצמה, והכאוס בסביבה שבה תהליך ההתפתחות מתרחש, המספק את האפשרויות למגוון עתידי. שני המשאבים האלה הם למעשה בלתי מוגבלים.
חוק התשואות המאיצות מראה שבערך ב-2020 יהיה למחשב אישי במחיר של 1,000 דולר כוח חישוב של מוח אדם – 20 מיליוני מיליארדי חישובים לשנייה. האומדן מבוסס על אזורים במוח שפעולתם כבר שוחזרה בהצלחה בהדמיית מחשב. ב-2055, כוח חישוב במחיר של 1,000 דולר יהיה שווה לכושר החישוב של כל המוחות האנושיים בעולם (ואני יכול לטעות כמובן בשנה-שנתיים).
לתכנת תבונה
זאת התחזית לגבי כוח החישוב, תנאי הכרחי אך לא מספיק כדי להשיג תבונה ברמה אנושית. לתוכנת התבונה חשיבות רבה מזה.
גישה אחת ליצור את התוכנה הזאת היא לתכנת בדקדקנות את חוקיהם של תהליכים מורכבים. גישה אחרת היא תכנות באמצעות "תיאוריית הסיבוכיות" (המוכרת גם בשם תיאוריית הכאוס). בגישה זו, אלגוריתמים המתארגנים מעצמם לומדים בהדרגה דפוסי מידע באופן דומה ללמידה אנושית. שיטה אחת כזאת, רשתות נוירונים, מבוססת על מודלים מתמטיים מפושטים של תאי עצב של יונקים. שיטה אחרת, הקרויה אלגוריתמים גנטיים (או אבולוציוניים), מבוססת על פיתוח הדרגתי של פתרונות חכמים בסביבה אבולוציונית מדומה.
אבל בסופו של דבר נלמד לתכנן תבונה באמצעות העתקה של הישות התבונית הטובה ביותר שאנו יכולים להשיג: המוח האנושי עצמו. אנחנו נהנדס לאחור את המוח האנושי, ולמזלנו לא חלים עליו זכויות יוצרים!
הדרך הישירה ביותר היא סריקה הרסנית: לקחת מוח שהוקפא רגע לפני שהוא מפסיק לפעול, לפרוס אותו לפרוסות דקות ולבחון אותן, זו אחר זו, כדי לגלות כל תא עצב, כל קשר בין-עצבי ולמדוד את ריכוזי השליחים העצביים בכל מרווח בין תאי העצב (הקרויים סינפסות). רוצח אחד שהוצא להורג, כבר תרם את מוחו וגופו לצורך סריקה כזאת, וכל 15 מיליארדי הביטים שלו נגישים באתר של הספרייה האמריקנית הלאומית לרפואה (http://www.nlm.nih.gov/research/visible/visible_gallery.html). כושר ההפרדה (של הסריקות האלה אינו מתקרב לדרישות שלנו, אבל הנתונים לפחות מאפשרים לנו להתחיל לחשוב על הנושאים האלה.
ברשותנו גם שיטות סריקה בלתי פולשניות, כמו דימות בתהודה מגנטית בהפרדה גבוהה (MRI) ואחרות. שיטות סריקה חדישות מסוגלות להראות חיבורים בין-עצביים יחידים במוח חי ולהציגם בזמן אמת בעת שהם משגרים אות. המהירות וכושר ההפרדה המשתפרים של השיטות האלה יאפשרו לנו בסופו של דבר לפענח את הקשרים בין תאי העצב. השיפורים המואצים נובעים אף הם מחוק התשואות המאיצות, מפני שכוח חישוב עוצמתי הוא הגורם העיקרי המאפשר דימות בהפרדה גבוהה.
גישה אפשרית אחרת תהיה לשלוח בזרם הדם אל המוח רובוטים מיקרוסקופיים (או "ננובוטים") ולתכנת אותם לחקור כל נים ולנטר את קישורי המוח ואת ריכוזי השליחים העצביים.
המסע המופלא
אף על פי שרובוטים מתוחכמים קטנים כל כך מצויים במרחק של לפחות כמה עשרות שנים בעתיד, השימוש בהם לבחינת הפינות החבויות ביותר בגופנו יהיה מרחיק לכת. הם יוכלו לתקשר ביניהם בקשר אלחוטי ולדווח על ממצאיהם למחשבים חיצוניים. התוצאה תהיה תמונת דימות של המוח מבפנים, שהתקבלה בדרך בלתי חודרנית.
רוב הטכנולוגיות הדרושות למימוש התרחיש הזה כבר מצויות, אבל עדיין לא בקנה המידה המיקרוסקופי הדרוש לכך. עם זאת, מזעורם לגדלים הקטנטנים הדרושים, ישקף את מהותו של חוק התשואות המאיצות. לדוגמה, הטרנזיסטורים במעגלים המשולבים הצטמקו פי 5 לערך, בכל אחד משלושת הממדים שלהם, כל 10 שנים.
אבל היכולות של הננובוטים המושתלים האלה לא יוגבלו לתפקידים פסיביים כמו ניטור. בסופו של דבר יהיה אפשר לתכננם לתקשורת ישירה עם המעגלים העצביים במוחנו ולהעצים ולהרחיב את היכולות השכליות שלנו. כבר היום יש לנו התקנים אלקטרוניים שמסוגלים לתקשר עם תאי עצב, לזהות את פעילותם ולגרום לתאי עצב שכנים לשגר אות או למנוע את שיגורו. הננובוטים המושתלים יוכלו לתכנת מחדש את הקישורים העצביים כדי לאפשר לנו חוויות של מציאות מדומה ולשדרג כישורים מחשבתיים שונים כמו היכולת לזהות תבניות.
כדי לפענח ולהבין את שיטות עיבוד המידע של המוח (שבמקרה משלבות שיטות דיגיטליות ואנלוגיות), אין צורך לראות כל חיבור וחיבור, מפני שבכל אזור במוח יש כפילות רבה למדי. כבר היום אנו מיישמים כמה מן התובנות שרכשנו בשלבים הראשונים של תהליך ההנדסה לאחור הזה. למשל, בזיהוי דיבור הצלחנו לפענח ולהעתיק את השלבים הראשונים של עיבוד צלילים במוח.
אבל אולי במקום לסרוק את המוח כדי להבינו, יהיה מעניין יותר לסרוק את המוח כדי להוריד אותו למחשב. נוכל למפות את המיקומים והקישורים של כל תאי העצב והסינפסות ואת כל הריכוזים של השליחים העצביים. לאחר מכן, נוכל ליצור מחדש את כל הארגון הזה, המכיל את הזיכרון של המוח, במחשב דיגיטלי-אנלוגי.
לשם כך נצטרך להבין את התהליכים המקומיים במוח, והתקדמות בתחום זה כבר מתרחשת. תאודור ו' ברגר ועמיתיו מאוניברסיטת דרום-קליפורניה בנו מעגלים משולבים התואמים במדויק למאפייני העיבוד של צברי תאי עצב בגודל ניכר. קארוור א' מיד ועמיתיו מן המכון הטכנולוגי של קליפורניה בנו מעגלים משולבים שונים המחקים את המאפיינים הדיגיטליים-אנלוגיים של מעגלים עצביים של יונקים. יש הדמיות של אזורי מוח האחראים לעיבוד חזותי ושל המוח הקטן (צֶרֶבלום), האחראי לבניית מיומנויות.
סרטוט מפה מושלמת של המוח האנושי אינה משימה מפחידה כפי שהיא נשמעת. גם פרויקט הגנום האנושי נראה בלתי מעשי כשהציעו אותו בראשונה. בקצב שבו סרקו קודים גנטיים לפני 20 שנה, היו נדרשים אלפי שנים להשלים את מיפוי הגנום. אבל בהתאם לחוק התשואות המאיצות, היכולת לקבוע רצף דנ"א הכפילה את עצמה כל שנה, והפרויקט הושלם ב-2003.
בעשור השלישי של המאה הזאת, נוכל ליצור מפות מלאות ומפורטות של כל המאפיינים הרלוונטיים לחישוב במוח האנושי ולשחזר את המבנה הזה במחשבים עצביים מתקדמים. נוכל להעניק למכונות שלנו גם מגוון של גופים, מגופים וירטואליים במציאות מדומה עד גופים המורכבים מנחילים של ננובוטים ועד רובוטים דמויי אדם.
שאלת התודעה
אפשרויות כאלה מעלות מגוון שאלות ונושאים מרתקים. נניח שנסרוק את מוחו של מישהו ונאתחל את "קובץ המוח" שנקבל באמצעי מחשוב מתאים. האם לישות שתיווצר כתוצאה מכך תהיה תודעה? למראית עין יהיו לישות הזאת אישיות, היסטוריה וזיכרון דומים מאוד למקור. יש אנשים שבעיניהם די בכך כדי להגדיר תודעה. אחרים, כמו הפיזיקאי והסופר ג'יימס טרפיל, סבורים ששום שחזור לוגי לא יוכל להגיע לתודעה אנושית. ואולם, טרפיל מקבל את האפשרות שמחשבים עשויים להיעשות מודעים בדרך חדשה משלהם.
מתי בדיוק אנו מקבלים כעובדה שלישות כלשהי יש תודעה, מודעות עצמית ורצון חופשי? כיצד אנו מבדילים בין תהליך מודע לבין תהליך המתנהג כאילו הוא מודע? האם די בכך שהישות תגיד לנו באופן משכנע מאוד: "אני בודדה, אנא ארחו לי לחברה"?
אם תשאלו את "האדם" שבתוך המכונה, הוא יטען בתוקף שהוא האדם המקורי. אם למשל נסרוק אותי ונאתחל את המידע הזה במחשב עצבי, האדם שייווצר יחשוב שהוא (ושתמיד היה) אני (או לפחות יתנהג כך). הוא יאמר: "גדלתי ברובע קווינס בניו יורק, למדתי בקולג' ב-MIT, נשארתי להתגורר באזור בוסטון, נכנסתי שם לסורק והתעוררתי במכונה הזאת כאן. הי! הטכנולוגיה הזאת באמת פועלת."
אבל חכו רגע, האם זה באמת אני? מה שבטוח זה שריי הישן (כלומר אני) עדיין קיים בתוך מוחי העשוי תאים מבוססי פחמן.
האם הישות החדשה תהיה מסוגלת לחוות חוויות רוחניות? מכיוון שהתהליכים המוחיים במכונה יהיו למעשה זהים לאלה של האדם המקורי, ההתנהגות שלה תהיה אף היא דומה. כך שאין ספק שהמכונה תטען למלוא החוויות הרגשיות והרוחניות שגם האדם טוען להן.
אין מבחן אובייקטיבי המסוגל לקבוע תודעה מוחלטת. אין לנו יכולת למדידה אובייקטיבית של התנסות סובייקטיבית (מפני שהדבר קשור למהות המושגים "אובייקטיבי" ו"סובייקטיבי"). אנו יכולים למדוד רק דברים תואמים לכך, כמו התנהגות. הישויות החדשות ייראו מודעות, ועצם היותן מודעות או לא, לא ישפיע על התנהגותן. כמו שאנו מתלבטים היום בשאלת מודעותן של ישויות לא-אנושיות, כמו בעלי חיים, כך נתלבט בוודאי באפשרות לתודעה של ישויות תבוניות לא ביולוגיות. באופן מעשי, נאלץ לקבל את טענותיהם. הם יכעסו אם לא נעשה זאת.
לפני תום המאה הזאת, על פי חוק התשואות המאיצות, תתמזג טכנולוגיית ייצור המינים של כדור הארץ, כלומר אנחנו, עם הטכנולוגיה שלנו עצמנו. כשיתרחש הדבר, אולי נשאל: מה ההבדל בין מוח אנושי מוגבר פי מיליון באמצעות שתלים עצביים לבין תבונה לא-ביולוגית המבוססת על הנדסה לאחור של המוח האנושי שעברה אחר כך הגברה והרחבה?
מנגנון האבולוציה ניצל את החדשנות של תקופה אחת (בני האדם) כדי ליצור את השלב הבא (מכונות תבוניות). אבן הדרך הבאה תהיה כשהמכונות ייצרו את הדור הבא שלהן ללא התערבות אדם.
התהליך האבולוציוני מאיץ מפני שהוא בונה את עצמו באמצעות המשאבים העצמיים שלו כדי להמשיך את האבולוציה. בני האדם ניצחו את האבולוציה. אנו יוצרים ישויות תבוניות במשכי זמן קצרים במידה ניכרת מן הזמן שנדרש לתהליך האבולוציוני לבנות אותנו. התבונה האנושית, תוצר האבולוציה, התעלתה עליה. ולכן, גם התבונה שאנו יוצרים כעת במחשבים תשיג בקרוב את התבונה של יוצריה.
על המחבר
ריי קורצווייל (Kurzweil) הוא מנכ"ל חברת קורצווייל טכנולוגיות. הוא עמד בראש הצוות שבנה את המכונה הראשונה המתרגמת טקסט מודפס לדיבור, את המערכת הראשונה לזיהוי אופטי של תווי דפוס (OCR) מכל פונט, את מחולל הדיבור הראשון מתוך טקסט, את מחולל המוזיקה הראשון המסוגל ליצור צלילים של פסנתר כנף ואת המערכת המסחרית הראשונה לזיהוי דיבור באוצר מילים רחב. ב-2009 ייסד את אוניברסיטת הסינגולריות לטיפוח מנהיגות לחדשנות טכנולוגית.