המיזוג המתקרב בין מוח למכונה / ריי קורצווייל

הקצב המואץ של ההתקדמות הטכנולוגית מורה על כך שיצירי כפינו התבוניים צפויים להאפיל עלינו בקרוב – ושיצירי כפיהם יאפילו בסופו של דבר גם עליהם. העתידן ריי קורצווייל צופה שבאמצע המאה לא נוכל עוד להבדיל בין אדם למכונה.

ריי קורצווייל בהרצאה באוניברסיטת סטנפורד ב-2006. מתוך ויקיפדיה
ריי קורצווייל בהרצאה באוניברסיטת סטנפורד ב-2006. מתוך ויקיפדיה

הקצב המואץ של ההתקדמות הטכנולוגית מורה על כך שיצירי כפינו התבוניים צפויים להאפיל עלינו בקרוב – ושיצירי כפיהם יאפילו בסופו של דבר גם עליהם. העתידן ריי קורצווייל צופה שבאמצע המאה לא נוכל עוד להבדיל בין אדם למכונה.
בזמן כלשהו, בחלק הראשון של המאה ה-21, תשיג תבונתן של מכונות את תבונתם של בני האדם. בתוך רבע מאה, יהיו מכונות שלמראית עין ייראו כבעלות תבונה, רגשות ומיומנויות אנושיים על כל גוניהם: ממוזיקה וכישורים יצירתיים אחרים ועד תנועה פיזית. הן יטענו שהן חשות רגש, ובניגוד לדמויות הווירטואליות של היום, טענתן תישמע משכנעת עד מאוד. בערך ב-2020 ישתווה כושר העיבוד של מחשב שיעלה 1,000 דולר לזה של מוח אדם. ב-2029 תושלם כמעט לגמרי התוכנה הדרושה לאינטליגנציה מלאה והמחשב האישי הממוצע יהיה שקול לכ-1,000 מוחות.
ברגע שמחשבים ישיגו רמה כזאת של תבונה בהשוואה לבני אדם, הם בהכרח ישעטו קדימה. למשל, אם אני לומד צרפתית, איני יכול להטעין את הלמידה הזאת בקלות אל תוך מוחכם. שכן תהליך הלמידה שלנו כרוך בבניית רצפים של תבניות קישורים מסובכות להפליא בין תאי העצב במוח, הכרוכות גם בריכוזיהם של חומרים ביולוגיים, שליחים עצביים, המאפשרים לאותות לעבור בין תאי העצב. אין לנו שום דרך להעביר את התבניות האלה במהירות למוח אחר. אבל יכולתם של יצירי כפינו הלא-ביולוגיים להעביר ביניהם מידע במהירות, תאפשר להם לשתף מיד את מה שלמדו עם מיליארדי מכונות אחרות. בסופו של דבר, ישויות לא-ביולוגיות יחלשו לא רק על כל הידע שלהן אלא גם על כל הידע שלנו.
כשיתרחש הדבר, לא תהיה עוד אבחנה ברורה בין אדם למכונה. כבר היום אנו משתילים מחשבים, או שתלים עצביים, היישר בתוך מוחם של אנשים כדי לשכך את השפעתה של מחלת פרקינסון ואת הרעידות הנובעות מטרשת נפוצה. אנו משתמשים בשתלים שבלוליים כדי לשחזר שמיעה. בארה"ב מפתחים היום שתל רשתית שיוכל לספק לעיוורים סוג כלשהו של תפיסה חזותית באמצעות החלפה של כמה מעגלי עיבוד חזותי במוח. צוות מדענים באוניברסיטת אמורי השתיל בראשו של משותק שבץ שבב שאפשר לו להשתמש במוחו כדי להזיז סמן על צג המחשב.
בשנות ה-20 של המאה ה-21 ישדרגו שתלים עצביים את החוויות החושיות שלנו, את הזיכרון ואת החשיבה. ב-2030, נוכל להחליף שיחה טלפונית עם חבר בפגישה וירטואלית, למשל בשמורת ציד במוזמביק, שתיראה אמיתית לגמרי. תוכלו לחוות כל סוג של חוויה – עסקית, חברתית או מינית, עם כל אדם, אמיתי או מדומה, בלי קשר לקרבה הפיזית ביניכם.
כיצד מתפתחים החיים והטכנולוגיה
כדי להיטיב להבין את סוג התחזיות שהצגתי זה עתה, חשוב לשים לב שטכנולוגיית המידע מתקדמת בקצב מעריכי (אקספוננציאלי). תהליך מעריכי מתחיל לאט, אבל בסופו של דבר הוא מתקדם מהר מאוד. (אפשר לקרוא תיעוד מלא של הטיעון הזה בספרי "הסינגולריות קרובה".)
האבולוציה של החיים הביולוגיים והתפתחות הטכנולוגיה פוסעות שתיהן באותו נתיב: נדרש להן זמן רב להתחיל, אבל שלבי ההתקדמות נבנים זה על גבי זה, עד שהקִדמה מתפרצת בשצף הולך ומתגבר. ממש עכשיו אנו נכנסים לשלב ההתפרצות הזה בעקומת ההתפתחות הטכנולוגית.
שימו לב: נדרשו מיליארדי שנים עד שנוצר כדור הארץ. עוד שני מיליארד שנים עד שהחיים התחילו, וכמעט אותו פרק זמן היה דרוש עד שמולקולות התארגנו ליצירת הצמחים ובעלי החיים הרב-תאיים הראשונים לפני כ-700 מיליון שנה. קצב האבולוציה הואץ כשיונקים ירשו את הארץ לפני כ-65 מיליון שנה. הופעתם של הפרימטים הביאה לכך שקצב ההתקדמות האבולוציונית נמדד במיליוני שנה בלבד, עד הופעת האדם המודרני לפני כ-500,000 שנה.
ההתפתחות הטכנולוגית היא למעשה המשך התהליך האבולוציוני שהביא מלכתחילה לקיומנו שלנו – היצורים יוצרי הטכנולוגיה. לאבות אבותינו נדרשו עשרות אלפי שנים כדי להבין שאם יחדדו אבן משני צִדיה יוכלו ליצור כלים שימושיים. ואז, בראשית האלף הקודם, הצטמק הזמן הנדרש לשינוי פרדיגמה טכנולוגית לכדי מאות שנים.
קצב ההתקדמות הטכנולוגית המשיך להאיץ במאה ה-19 והשתווה לזה של 10 המאות שקדמו לה. בשני העשורים הראשונים של המאה ה-20 השתוותה ההתקדמות לזאת של המאה ה-19 כולה. כיום, מהפכים טכנולוגיים חשובים מתרחשים כל כמה שנים. למשל, האינטרנט, כלי תקשורת ומסחר המצוי כבר בכל מקום, לא היה קיים לפני 20 שנה בלבד. ורק לפני כעשר שנים כמעט לא השתמש איש במנועי חיפוש.
טכנולוגיות המחשוב מתפתחות באותו מסלול צמיחה מעריכי. במשך עשרות השנים האחרונות תואר הגורם החשוב בהתרחבות הזאת על ידי חוק מוּר. גורדון מור, ממייסדי אינטל, שם לב באמצע שנות ה-60 שאנשי הטכנולוגיה הכפילו את צפיפות הטרנזיסטורים במעגלים משולבים כל 12 חודשים. כלומר, מחשבים הכפילו במחזוריות קבועה הן את קיבולתם והן את מהירותם לכל יחידת מחיר. באמצע שנות ה-70 עדכן מור את תצפיתו וקבע את משך מחזור ההכפלה, על פי אומדן אמין יותר, על כ-24 חודשים, והמגמה הזאת התמידה לאורך השנים.
לאחר עשרות שנים של שירות מסור, יאלץ חוק מור לפנות את מקומו בערך ב-2019. עד אז יגיעו הטרנזיסטורים לרוחב של כמה אטומים. אבל ארכיטקטורות מחשבים חדשות ימשיכו את הצמיחה המעריכית של המחשוב. למשל, קוביות חישוב המתוכננות כבר כעת יכילו אלפי שכבות של מעגלים, ולא רק אחת כפי שיש בשבבי המחשב של היום. טכנולוגיות אחרות מבטיחות עלייה בסדרי גודל בצפיפות המחשוב, ובהן מעגלים המבוססים על צינוריות-ננו פחמניות, מחשוב אופטי, מחשוב גבישי ומחשוב מולקולרי.
אנו יכולים לראות בנקל את צעידת המחשוב קדימה באמצעות גרף המתאר את מהירות החישוב (ביחידות של מספר הוראות לשנייה) לכל 1,000 דולר (בערך דולרי קבוע) של 49 מכונות חישוב מפורסמות מן המאה ה-20. הגרף נראה כמו דוגמה שנלקחה מספר לימוד העוסק בצמיחה מעריכית: מהירות המחשבים ליחידת מחיר הוכפלה כל שלוש שנים מ-1910 עד 1950, כל שנתיים מ-1950 עד 1966 וכל שנה כיום. נדרשו 90 שנה כדי להגיע למחשב הראשון המסוגל לבצע מיליון הוראות בשנייה (MIPS) במחיר של 1,000 דולר. כיום אנו מוסיפים למחשב שמחירו 1,000 דולר כמה MIPS נוספים בכל יום.
קרדיט: דפנה אקסל
מדוע התשואות מאיצות
מדוע אנו מוצאים שהתפתחות מעריכית מתרחשת בעולם החי הביולוגי, בטכנולוגיה ובמחשוב? זוהי תוצאה של תכונה יסודית של כל תהליך אבולוציוני-התפתחותי, תופעה שאני מכנה בשם "חוק התשואות המאיצות". כשהסדר עולה בקצב מעריכי (תופעה המשקפת את מהותה של אבולוציה), מתקצר פרק הזמן שבין אירועי צמיחה בולטים. ההתקדמות מואצת. והתשואות – המוצרים בעלי הערך שההתפתחות מניבה – מאיצות באופן לא לינארי. הצמיחה המתגברת של ביצועי המחשוב יחסית למחיר היא דוגמה חשובה אחת לתשואות מאיצות כאלה.
ביקורת נפוצה על תחזיות טוענת שהן מסתמכות על המשך בלתי מוצדק של מגמות עכשוויות (אֶקסטרַפּוֹלציה), בלי להביא בחשבון את הכוחות העלולים לשנות את המגמות האלה. אבל התפתחות אבולוציונית מאיצה מפני שהיא נבנית על גבי הישגי העבר, ובהם גם שיפור בכושרה של האבולוציה עצמה להתפתח הלאה. המשאבים שההתפתחות זקוקה לנצל כדי להמשיך את צמיחתה המעריכית הם למעשה הסדר ההולך וגובר שלה עצמה, והכאוס בסביבה שבה תהליך ההתפתחות מתרחש, המספק את האפשרויות למגוון עתידי. שני המשאבים האלה הם למעשה בלתי מוגבלים.
חוק התשואות המאיצות מראה שבערך ב-2020 יהיה למחשב אישי במחיר של 1,000 דולר כוח חישוב של מוח אדם – 20 מיליוני מיליארדי חישובים לשנייה. האומדן מבוסס על אזורים במוח שפעולתם כבר שוחזרה בהצלחה בהדמיית מחשב. ב-2055, כוח חישוב במחיר של 1,000 דולר יהיה שווה לכושר החישוב של כל המוחות האנושיים בעולם (ואני יכול לטעות כמובן בשנה-שנתיים).
לתכנת תבונה
זאת התחזית לגבי כוח החישוב, תנאי הכרחי אך לא מספיק כדי להשיג תבונה ברמה אנושית. לתוכנת התבונה חשיבות רבה מזה.
גישה אחת ליצור את התוכנה הזאת היא לתכנת בדקדקנות את חוקיהם של תהליכים מורכבים. גישה אחרת היא תכנות באמצעות "תיאוריית הסיבוכיות" (המוכרת גם בשם תיאוריית הכאוס). בגישה זו, אלגוריתמים המתארגנים מעצמם לומדים בהדרגה דפוסי מידע באופן דומה ללמידה אנושית. שיטה אחת כזאת, רשתות נוירונים, מבוססת על מודלים מתמטיים מפושטים של תאי עצב של יונקים. שיטה אחרת, הקרויה אלגוריתמים גנטיים (או אבולוציוניים), מבוססת על פיתוח הדרגתי של פתרונות חכמים בסביבה אבולוציונית מדומה.
אבל בסופו של דבר נלמד לתכנן תבונה באמצעות העתקה של הישות התבונית הטובה ביותר שאנו יכולים להשיג: המוח האנושי עצמו. אנחנו נהנדס לאחור את המוח האנושי, ולמזלנו לא חלים עליו זכויות יוצרים!
הדרך הישירה ביותר היא סריקה הרסנית: לקחת מוח שהוקפא רגע לפני שהוא מפסיק לפעול, לפרוס אותו לפרוסות דקות ולבחון אותן, זו אחר זו, כדי לגלות כל תא עצב, כל קשר בין-עצבי ולמדוד את ריכוזי השליחים העצביים בכל מרווח בין תאי העצב (הקרויים סינפסות). רוצח אחד שהוצא להורג, כבר תרם את מוחו וגופו לצורך סריקה כזאת, וכל 15 מיליארדי הביטים שלו נגישים באתר של הספרייה האמריקנית הלאומית לרפואה (http://www.nlm.nih.gov/research/visible/visible_gallery.html). כושר ההפרדה (של הסריקות האלה אינו מתקרב לדרישות שלנו, אבל הנתונים לפחות מאפשרים לנו להתחיל לחשוב על הנושאים האלה.
ברשותנו גם שיטות סריקה בלתי פולשניות, כמו דימות בתהודה מגנטית בהפרדה גבוהה (MRI) ואחרות. שיטות סריקה חדישות מסוגלות להראות חיבורים בין-עצביים יחידים במוח חי ולהציגם בזמן אמת בעת שהם משגרים אות. המהירות וכושר ההפרדה המשתפרים של השיטות האלה יאפשרו לנו בסופו של דבר לפענח את הקשרים בין תאי העצב. השיפורים המואצים נובעים אף הם מחוק התשואות המאיצות, מפני שכוח חישוב עוצמתי הוא הגורם העיקרי המאפשר דימות בהפרדה גבוהה.
גישה אפשרית אחרת תהיה לשלוח בזרם הדם אל המוח רובוטים מיקרוסקופיים (או "ננובוטים") ולתכנת אותם לחקור כל נים ולנטר את קישורי המוח ואת ריכוזי השליחים העצביים.
המסע המופלא
אף על פי שרובוטים מתוחכמים קטנים כל כך מצויים במרחק של לפחות כמה עשרות שנים בעתיד, השימוש בהם לבחינת הפינות החבויות ביותר בגופנו יהיה מרחיק לכת. הם יוכלו לתקשר ביניהם בקשר אלחוטי ולדווח על ממצאיהם למחשבים חיצוניים. התוצאה תהיה תמונת דימות של המוח מבפנים, שהתקבלה בדרך בלתי חודרנית.
רוב הטכנולוגיות הדרושות למימוש התרחיש הזה כבר מצויות, אבל עדיין לא בקנה המידה המיקרוסקופי הדרוש לכך. עם זאת, מזעורם לגדלים הקטנטנים הדרושים, ישקף את מהותו של חוק התשואות המאיצות. לדוגמה, הטרנזיסטורים במעגלים המשולבים הצטמקו פי 5 לערך, בכל אחד משלושת הממדים שלהם, כל 10 שנים.
אבל היכולות של הננובוטים המושתלים האלה לא יוגבלו לתפקידים פסיביים כמו ניטור. בסופו של דבר יהיה אפשר לתכננם לתקשורת ישירה עם המעגלים העצביים במוחנו ולהעצים ולהרחיב את היכולות השכליות שלנו. כבר היום יש לנו התקנים אלקטרוניים שמסוגלים לתקשר עם תאי עצב, לזהות את פעילותם ולגרום לתאי עצב שכנים לשגר אות או למנוע את שיגורו. הננובוטים המושתלים יוכלו לתכנת מחדש את הקישורים העצביים כדי לאפשר לנו חוויות של מציאות מדומה ולשדרג כישורים מחשבתיים שונים כמו היכולת לזהות תבניות.
כדי לפענח ולהבין את שיטות עיבוד המידע של המוח (שבמקרה משלבות שיטות דיגיטליות ואנלוגיות), אין צורך לראות כל חיבור וחיבור, מפני שבכל אזור במוח יש כפילות רבה למדי. כבר היום אנו מיישמים כמה מן התובנות שרכשנו בשלבים הראשונים של תהליך ההנדסה לאחור הזה. למשל, בזיהוי דיבור הצלחנו לפענח ולהעתיק את השלבים הראשונים של עיבוד צלילים במוח.
אבל אולי במקום לסרוק את המוח כדי להבינו, יהיה מעניין יותר לסרוק את המוח כדי להוריד אותו למחשב. נוכל למפות את המיקומים והקישורים של כל תאי העצב והסינפסות ואת כל הריכוזים של השליחים העצביים. לאחר מכן, נוכל ליצור מחדש את כל הארגון הזה, המכיל את הזיכרון של המוח, במחשב דיגיטלי-אנלוגי.
לשם כך נצטרך להבין את התהליכים המקומיים במוח, והתקדמות בתחום זה כבר מתרחשת. תאודור ו' ברגר ועמיתיו מאוניברסיטת דרום-קליפורניה בנו מעגלים משולבים התואמים במדויק למאפייני העיבוד של צברי תאי עצב בגודל ניכר. קארוור א' מיד ועמיתיו מן המכון הטכנולוגי של קליפורניה בנו מעגלים משולבים שונים המחקים את המאפיינים הדיגיטליים-אנלוגיים של מעגלים עצביים של יונקים. יש הדמיות של אזורי מוח האחראים לעיבוד חזותי ושל המוח הקטן (צֶרֶבלום), האחראי לבניית מיומנויות.
סרטוט מפה מושלמת של המוח האנושי אינה משימה מפחידה כפי שהיא נשמעת. גם פרויקט הגנום האנושי נראה בלתי מעשי כשהציעו אותו בראשונה. בקצב שבו סרקו קודים גנטיים לפני 20 שנה, היו נדרשים אלפי שנים להשלים את מיפוי הגנום. אבל בהתאם לחוק התשואות המאיצות, היכולת לקבוע רצף דנ"א הכפילה את עצמה כל שנה, והפרויקט הושלם ב-2003.
בעשור השלישי של המאה הזאת, נוכל ליצור מפות מלאות ומפורטות של כל המאפיינים הרלוונטיים לחישוב במוח האנושי ולשחזר את המבנה הזה במחשבים עצביים מתקדמים. נוכל להעניק למכונות שלנו גם מגוון של גופים, מגופים וירטואליים במציאות מדומה עד גופים המורכבים מנחילים של ננובוטים ועד רובוטים דמויי אדם.
שאלת התודעה
אפשרויות כאלה מעלות מגוון שאלות ונושאים מרתקים. נניח שנסרוק את מוחו של מישהו ונאתחל את "קובץ המוח" שנקבל באמצעי מחשוב מתאים. האם לישות שתיווצר כתוצאה מכך תהיה תודעה? למראית עין יהיו לישות הזאת אישיות, היסטוריה וזיכרון דומים מאוד למקור. יש אנשים שבעיניהם די בכך כדי להגדיר תודעה. אחרים, כמו הפיזיקאי והסופר ג'יימס טרפיל, סבורים ששום שחזור לוגי לא יוכל להגיע לתודעה אנושית. ואולם, טרפיל מקבל את האפשרות שמחשבים עשויים להיעשות מודעים בדרך חדשה משלהם.
מתי בדיוק אנו מקבלים כעובדה שלישות כלשהי יש תודעה, מודעות עצמית ורצון חופשי? כיצד אנו מבדילים בין תהליך מודע לבין תהליך המתנהג כאילו הוא מודע? האם די בכך שהישות תגיד לנו באופן משכנע מאוד: "אני בודדה, אנא ארחו לי לחברה"?
אם תשאלו את "האדם" שבתוך המכונה, הוא יטען בתוקף שהוא האדם המקורי. אם למשל נסרוק אותי ונאתחל את המידע הזה במחשב עצבי, האדם שייווצר יחשוב שהוא (ושתמיד היה) אני (או לפחות יתנהג כך). הוא יאמר: "גדלתי ברובע קווינס בניו יורק, למדתי בקולג' ב-MIT, נשארתי להתגורר באזור בוסטון, נכנסתי שם לסורק והתעוררתי במכונה הזאת כאן. הי! הטכנולוגיה הזאת באמת פועלת."
אבל חכו רגע, האם זה באמת אני? מה שבטוח זה שריי הישן (כלומר אני) עדיין קיים בתוך מוחי העשוי תאים מבוססי פחמן.
האם הישות החדשה תהיה מסוגלת לחוות חוויות רוחניות? מכיוון שהתהליכים המוחיים במכונה יהיו למעשה זהים לאלה של האדם המקורי, ההתנהגות שלה תהיה אף היא דומה. כך שאין ספק שהמכונה תטען למלוא החוויות הרגשיות והרוחניות שגם האדם טוען להן.
אין מבחן אובייקטיבי המסוגל לקבוע תודעה מוחלטת. אין לנו יכולת למדידה אובייקטיבית של התנסות סובייקטיבית (מפני שהדבר קשור למהות המושגים "אובייקטיבי" ו"סובייקטיבי"). אנו יכולים למדוד רק דברים תואמים לכך, כמו התנהגות. הישויות החדשות ייראו מודעות, ועצם היותן מודעות או לא, לא ישפיע על התנהגותן. כמו שאנו מתלבטים היום בשאלת מודעותן של ישויות לא-אנושיות, כמו בעלי חיים, כך נתלבט בוודאי באפשרות לתודעה של ישויות תבוניות לא ביולוגיות. באופן מעשי, נאלץ לקבל את טענותיהם. הם יכעסו אם לא נעשה זאת.
לפני תום המאה הזאת, על פי חוק התשואות המאיצות, תתמזג טכנולוגיית ייצור המינים של כדור הארץ, כלומר אנחנו, עם הטכנולוגיה שלנו עצמנו. כשיתרחש הדבר, אולי נשאל: מה ההבדל בין מוח אנושי מוגבר פי מיליון באמצעות שתלים עצביים לבין תבונה לא-ביולוגית המבוססת על הנדסה לאחור של המוח האנושי שעברה אחר כך הגברה והרחבה?
מנגנון האבולוציה ניצל את החדשנות של תקופה אחת (בני האדם) כדי ליצור את השלב הבא (מכונות תבוניות). אבן הדרך הבאה תהיה כשהמכונות ייצרו את הדור הבא שלהן ללא התערבות אדם.
התהליך האבולוציוני מאיץ מפני שהוא בונה את עצמו באמצעות המשאבים העצמיים שלו כדי להמשיך את האבולוציה. בני האדם ניצחו את האבולוציה. אנו יוצרים ישויות תבוניות במשכי זמן קצרים במידה ניכרת מן הזמן שנדרש לתהליך האבולוציוני לבנות אותנו. התבונה האנושית, תוצר האבולוציה, התעלתה עליה. ולכן, גם התבונה שאנו יוצרים כעת במחשבים תשיג בקרוב את התבונה של יוצריה.

על המחבר
ריי קורצווייל (Kurzweil) הוא מנכ"ל חברת קורצווייל טכנולוגיות. הוא עמד בראש הצוות שבנה את המכונה הראשונה המתרגמת טקסט מודפס לדיבור, את המערכת הראשונה לזיהוי אופטי של תווי דפוס (OCR) מכל פונט, את מחולל הדיבור הראשון מתוך טקסט, את מחולל המוזיקה הראשון המסוגל ליצור צלילים של פסנתר כנף ואת המערכת המסחרית הראשונה לזיהוי דיבור באוצר מילים רחב. ב-2009 ייסד את אוניברסיטת הסינגולריות לטיפוח מנהיגות לחדשנות טכנולוגית.

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

37 תגובות

  1. ממשק מוח מחשב (BCI), לעתים קרובות נקרא בשם ממשק מוח מכונה (MMI), הוא מסלול תקשורת ישיברה בין המוח להתקן חיצוני. BCI משמש לעתים קרובות לסיוע או תיקון פונקציות קוגנטיביות, חושיות או מוטריות אצל האדם.

    המחקר הזה החל עוד בשנות ה-70 באוניברסיטת (UCLA) בלוס אנג'לס תחת מענק של הקרן הלאומית למדע. במחקר ראשוני זה הצליחו לראשונה לתרגם את פעולת המוח לביטויים בממשק מחשב.

  2. צרכים:
    לא היה מדובר בהנחת המבוקש אלא מענה לשאלתו של יאיר.
    אני גם מניח שיש סיכוי גבוה שזה גם שלב שנצטרך לעבור בדרך- בהתחלה "נעתיק" מוח של יצור חי וננסה להביא לכך שיפעל מבלי להבין עד הסוף את כל המנגנונים ורק אחר כך נוכל להשתמש בו לפיצוח המנגנונים שגורמים לו לפעול.
    רצוי להזכיר שכבר כיום יש מכונות שיכולותיהם עולות על שלנו בתחומים רבים (כמו תעופה, התקדמות בים וביבשה, נשיאת מסעות, ואפילו חישובים).
    העניין הוא שבכל המכונות הללו – אנחנו מספקים את הרצון. למעט תאונות, הן לא עושות דבר מבלי שאנחנו נרצה בכך.
    יש סיכוי שהיכולת לחשוב באופן יצירתי ממש – מחייבת גם את קיומו של רצון וברור שעלינו לדאוג שלא יהיה מדובר ברצון שסותר את רצוננו.
    מתוך ראיית הבעיה הזאת ניסח אסימוב את חוקי הרובוטיקה אבל הבעיה, ככל הנראה, סבוכה יותר.

  3. עלתה בדיון שאלה מעניינת על צרכי המכונה.

    מיכאל הניח שרצונות המכונה יהיו זהים לצרכי המוח האנושי עליהם יתבסס אותו מחשב על עתידי. זה קצת להניח את המבוקש – כי אם מחשב העל לא יוכל לחרוג מכוונת יוצריו – ברור שלא יהווה איום.

    השאלה המעניינת היא מה קורה אם מניחים (הנחה מתבקשת לדעתי) שמחשב העל לא יהיה כפוף לכוונת יוצריו, ויוכל לשנות גם מהרגליהם אף שהיו הבסיס ליצירתו. כך לדוגמה, אני רוצה להאמין על עצמי שאני יכול לשנות את ההרגלים שלי (במידה מסוימת…) למרות אבולוציה בת מאות אלפי שנים שטבעה בי הרגלים אלו. אין סיבה שלא להניח הנחה דומה לגבי יצור תבוני בעל יכולות העולות על שלי.

    והדרא קושיה לדוכתא – מה הצרכים של מערכת מחשוב? המערכת צריכה אנרגיה, חומרי גלם – ואם היא אנושית מבחינת מהותה, גם אהבה ואמפתיה. אנחנו בדרך כלל מדמיינים מערכות מחשוב מתקדמות כאיום של יצור מתקדם חסר לב – יש גם אפשרות הפוכה.

    אם המערכת בעלת יכולות העולות על שלנו – אולי היא גם יכולה להגיע להבנות רוחניות טובות משלנו ולהתייחס טוב יותר לפרה ולאדם כאחד מאשר אנחנו. בינתיים – נותר לנו לשפר את עצמנו, כדי שבבוא היום, כשמחשב העל ייבנה על בסיסנו – יהיה אפשר לקוות שיהיה לו מודל טוב להעתיק ממנו.

  4. ריי אומר דברים מעניינים וגם מבסס את חלקם מתמטית, על ידי חוקים בסיסיים.
    בל נשכח שאחד המפורסמים שניבא התקדמוות הרת גורל לאנושות בקצב מעריכי היה תומאס מלתוס, שנחשב כאבי התחזיות המתמטיות, אך התחזיות שלו נכשלו כשלון גורף, כיוון שלא הביא בחשבון תופעות שלא יעלו על הדעת וקלפים טרופים.
    קורצוויל בעצמו אומר שחוק מור יפנה את מקומו – האם החוקים שלו יעמדו איתנים.
    אני נוטה להסכים עמו, אך חושב שהוא מקדים מעט ולא מתחשב בבעיות המין האנושי כבסיס קיומי להתפתחות הטכנולוגיה. ההישרדות היא בראש ובראשונה, והיום, איך שזה נראה, המשאבים יופנו לשם.

  5. אני חושב שמחשבים אינטיליגנטיים אשר מסוגלים לחשוב ממש כמו בני אדם רחוקים רק כמה עשורים בודדים מאיתנו, זה הולך להיות מדהים ברמות, לא יכול לחכות לזה כבר.

    🙂

  6. נחמד בתור קריאה לפני השינה, לא יותר.
    לפחות הוא לא מנבא לנו מכונית מעופפת, כבר טוב.

  7. ובקשר לדיבור על דברים שלא יודעים:
    אני אינני אוהב לטעון טענות שאינני יודע אם הן נכונות.
    מסתבר שיש מי שאוהב זאת או שהוא באמת חושב שהוא יודע מה שאני חושב שאינו יודע.
    אפשר לדבר על ספקולציות ולהציג אותן ככאלה אבל להציג תחזית מסוג זה זו בעיני שרלטנות.

  8. יאיר:
    חשבתי שהסברתי באופן ברור.
    מה שמניע את האדם הוא שיניע את המכונה.
    זה לא הצורך אלא תחושה שבאדם האבולוציה יצרה בגלל הצורך ובמכונה יצור האדם על ידי זה שישכפל מוח של אדם.
    מה לא ברור כאן?
    קרא שוב את תגובתי הקודמת: איננו עושים דבר בגלל הצורך כי את כל הדברים אנחנו עושים בגלל דחפים שטבעה בנו האבולוציה.
    זה שהאבולוציה טבעה אותם בגלל הצורך ממש לא חשוב.
    מה שחשוב זה שהם טבועים בנו ובגללם אנחנו פועלים.
    הם יהיו טבועים גם במחשב – לא בגלל האבולוציה אלא בגללנו.

  9. יאיר
    אותה המוטיבציה של המכונה (הבאמת אינטלגנטית, והראשונה שתיווצר) תהיה הנגזרת שיקבע האדם/אנשים שייצרו אותה.
    כל עוד לא נוצרה מכונה כזאת לא נוכל ללמוד מה מניע אותה להיות יותר אינטלגנטית.
    אבל המכונה האינטלגנטית הראשונה שתיווצר תהיה בעלת מוטיבציה שתיגזר מתוך התכנות שיקבע לה.

  10. רפאים,
    אתה מדבר על המוטיבציה האנושית, שלא צריכה הוכחה, השאלה שלי היא על המוטיבציה של מכונה.
    נקודה,
    אם המכונות יבצעו את התוכנה של האדם, הן לא יעברו את הרמה של שרתים של האדם. המאמר מנבא מכונות שלא רק שיחליפו את האדם, אלא גם יוחלפו במכונות יותר משוכללות, לכאורה המשך של האבולוציה הטבעית. ומה שחסר בנבואה הזאת זה מה עתיד להיות אותו גורם שיניע את הפוטנציאל האינטלגנטי של המכונות.

  11. יאיר, הצרכים(בשפת המכונות ניתן לקרוא להן מטרות), הם הדרכים הפרימיטיביות של הטבע להורות לגוף לעשות משהו כשהמטרה שעומדת מתחת לכל אלו זה השרדות והתרבות. אין שום בעיה לכתוב תוכנה עם כל מטרה שנבחר. אך מדוע להעסיק את המחשב באוכל כשניתן לתכנת אותו לשחק משחקים ולנצח (המטרה=לנצח). וכך הוא יוכל להיות מתוחכם יותר ויותר (דוגמא אחת לתחכום)

  12. יאיר
    המוטיבציה לשיפור האינטלגנציה האנושית יכולה לגרום ליצירת מכונות עם אינטלגנציה משופרת משל האדם.

  13. מכאל,
    לדבר על דברים שאנחנו לא באמת יודעים עליהם זה מעניין מאוד. גם המאמר הנוכחי הוא כזה, והוא בשבילי מרשים מאוד במה שיש בו ובמה שחסר בו.
    האכילה, עקרונית, היא צורך. ואני מעלה את השאלה, מה יכול להוות צורך לאינטלגנציה מתוכננת. האם היא תבנה למשל כך שטמפרטורות של פחות מ10 ויותר מ40, המזיקות לאדם יזיקו גם לה והיא תצטרך למצוא לזה פתרון? איזו אינטראקציה עם יצורים – ביולוגיים או אחרים – היא "תרצה" ליצור? וכן הלאה. במגבלות הראיה שלי כרגע, אני לא מזהה את הדרך ליצור צורך במכונות כאלה, אלא אם יתוכננו לתוכן "פגמים".

  14. יותר משהכותב מצביע על כיוון עתידי הוא מראה על בעיתיות הבנת העבר. למעשה הוא עושה הנפשה [אנימציה]של תהליכים 'ספונטניים'.וכאן עולה הסימן שאלה הגדול האם אכן תהליך סדור כזה הוא אקראי ויכול להיות מתואר ללא שאיפה/רצון/מטרה? דווקא ההקבלה שעושה קורצוויל בין התהליכים ההתפתחותיים של המחשוב שהוא בוודאי מונע על ידי שאיפה ,רצון,יצרים ובעיקר תחרותיות. לבין התהליכים האוולוציונים מפתה לחפש לה כח מניע רצוני. בסופו של יום האוולוציה 'התגברה' על כל כך הרבה מכשולים ואף פעם לא התיאשה שקשה להימנע מלהוסיף לאלגוריתם שלה את הרצון והמחויבות לקיומו של שכלול ועליית מדרגה [אינסופית?].
    גם ההנחה ששום מגבלה לא תחסום את תהליך ההכפלה של חוק מור היא בעייתית. בעולם שבו יש מגבלות לחומר עשויה להתגלות תקרה. אומנם קורצוויל רואה בכל מחסום סתם 'תקרת זכוכית' שתתנפץ ע"י היצירתיות [האנושית או הרובוטית] אבל זו הנחה רומנטית שעדיין דורשת הוכחה.
    עכ"פ מרתק ,מעניין, ומסעיר -תודב על המאמר.

  15. חושם:
    מה הקשקוש הזה?
    אתה הולך לפעמים לקולנוע?
    איך אתה מרשה לעצמך לעשות זאת לפני שנפתרה בעיית היד של אותו פצוע צה"ל? לא היית צריך לעבוד על פיתוח פתרון עבורו לפני שאתה הולך לקולנוע?
    יש הרבה דברים שמתרחשים בעולם במקביל ותנוח דעתך: גם לבעיית התותבים החכמים מנסים כל הזמן למצוא פתרונות טובים יותר ויותר (לא אתה – אבל אחרים).

  16. יאיר:
    אתה מבלבל בין צורך לבין תחושת צורך.
    אתה אוכל – לא מפני שהגוף שלך צריך אנרגיה אלא מפני שאתה רעב.
    נכון שהאבולוציה גרמה לכך שתחוש רעב ברגעים הנכונים (ואולי גם בכמה רגעים לא נכונים) בגלל הצורך (והיא עשתה זאת בדרכה הרגילה, כאשר היצורים שלא חשו רעב כשצריך פשוט מתו) אבל אתה עדיין אוכל בגלל הרעב או התיאבון או החשק להתפנק או מה שלא יהיה. אילו היינו אוכלים רק בגלל הצורך היינו מתים כי תינוק בכלל לא יודע מה הוא צריך (וכך גם רוב בעלי החיים).
    תחושת הצורך נוצרת במוח ואין שום סיבה שלא תיווצר בו גם אם הוא עשוי בידי אדם. אם הוא חיקוי מלא של המוח האנושי הוא יכול לחוש צורך (מן הסתם – לא תהיה סיבה לצייד אותו בתחושת הצורך לאכול אבל אין כל בעיה עקרונית עם תחושת צורך כלשהו).
    אגב, אין בדברי משום הסכמה לתחזיות המופיעות במאמר.
    הן נראות לי מוגזמות אבל באמת שאינני יודע (ואינני מרגיש צורך לדבר על דברים שאינני יודע אבל אולי מחשב שייבנה על פי תבנית מוחו של קורצווייל דווקא ירגיש צורך כזה)

  17. ראיתי בחדשות חייל לשעבר בן 23 ללא יד
    (נפצע באורך קל)

    אולי כדאי לייצר את האיבר הבנאלי הזה קודם כל
    וללמוד איך להדביק לו את זה חזרה במקום זה שאבד
    ורק אח"כ לצמיח לו ראש חדש ?!

  18. העתיד הזה נשמע מפחיד ומרתק. ייתכן מאוד שכמו שחוזים סרטי המד"ב זה יהיה הסוף המין האנושי.
    מי באמת יודע מה יקרה כשהמכונות יהיו יותר חכמות מאיתנו? האם הן ירצו לשדרג אותנו כך שנהפוך לבעלי יכולות שכליות ופיזיות סופר-אנושיים או שהן יחליטו שאנחנו מיותרים?
    ברגע שהמכונות יעקפו אותנו בראש "שרשרת המזון", הן אלו שיקבלו את ההחלטות.
    כשם שאנחנו החלטנו שהכלב הוא ידידנו הטוב ביותר ואילו הפרה היא אוכל (משאב) לשימושנו,
    אזי כפי שאני רואה זאת, או שנהיה חיות המחמד של המכונות, כלומר, הן יניחו לנו להתקיים לצידן, אך השליטה תהיה כולה בידיהן. או שהן ייפטרו מאיתנו, כי כמשאב אני לא רואה מה יש ביכולתנו לתרום, שהן לא יוכלו להשיג בעצמן.
    אם האנושות רוצה לשרוד, עלינו להקדיש הרבה מחשבה לנושא ולהתקדם מאוד בזהירות כי ברגע שנעבור את נקודת הסינגולריות, השליטה תצא מדינו ותעבור אל המכונות ואז כבר יהיה מאוחר מדי לשנות דברים.

  19. נקודה,
    הבעיה היא צורך. למינים ביולוגיים יש צרכים, שמהם נובעים הרצונות והפעולות, וגם המבנים שלהם, ובסופו של דבר גם האינטלגנציה.
    איזה צורך יכול להיות ליצור מיכני מתוכנן, אלא אם יתוכננו לו גם פגמים.
    יוסי,
    כדאי לשים לב שהאדם כלל לא מחקה את תעופת הציפורים, אלא המציא תעופה אחרת לגמרי.

  20. אם אכן לא ניתן יהיה להבחין בן אדם למכונה בתוך כ 4 עשורים כפי שחוזה העתידן ריי קורצוויל אזי נגזר על האנושות להיכחד בקרוב מאוד שכן הטבע או אלוהים לא יניח/יניחו לאדם לנצח אותו/ אותם.
    יתכן שהדבר יקרה בעקבות הפיכת כדור הארץ למקום בלתי ראוי למגורי אדם או בעקבות מגפות/מלחמות שיסיימו או יצמצמו את רוב ההתיישבות האנושית בכוכבינו ובכל כוכב אחר.
    מדובר למעשה בקריאת תגר על הטבע או אלוהים שתחרוץ את גורל המין האנושי לחומרה.

  21. יאיר, השאלה נכונה. המוח שלנו מחובר לגוף ע"י העצבים עצמם (שגם מהווים את המוח עצמו) כל עצב משמש כחוש (עניין של מינוח).
    אך כמו שניתן יהיה לחקות את המוח כך יהיה ניתן לחקות את החושים. לדוגמא את הראיה ניתן יהיה לחקות ע"י חיבור פיקסלים של מצלמה למחשב.

  22. המאמר מייחס למוח אוטונומיה. מאיפה עתיד לנבוע לאינטיליגנט המכני רצון, כשאין לו צורך במזון, במין, לא קר לו ולא חם…
    אפילו הסקרנות היא תולדה של המצב האנושי (או החתולי…) הביולוגי. האינטיליגנט המיכני יהיה אדיש לכל דבר.

  23. לנקודה וענת, אני חושב שהדברים האלו נלקחים בחשבון, כמו כן השאיפה היא שברגע שנבין את עקרונות הפעולה הבסיסיים של המוח נוכל ליישם אותם בצורה הרבה יותר יעילה ופשוטה על גבי מחשב. בדיוק כפי שבכדי לחקות על פעולת התעופה של הציפורים לא היינו צריכים לבנות מטוסים עם נוצות ולא היינו צריכים לבנות להם כנפיים שמכילות את כל המורכבות הביולוגית העצומה שקיימת בכנף אמיתית של ציפור.

  24. במוח האנושי 100 מיליארד נוירונים לכל אחד 10000 דנטריטים זה כ 1000 טרה קצוות עצב שעובדות במקביל למחשב שולחני 4 ליבות שעובדות במקביל
    יקח כ 35 שנה בקצב ההיתקדמות הנוכחי זא בסביבות 2050 ריי כבר לא יהיה בן בחיים עד אז למזלו
    כמו כן מתכנתי המחשב לא יודעים ליצור תובנה ספונטאנית מבסיסי נתונים אפילו אם יהיה להם את כח המיחשוב

  25. האדם עומד לההפך ל"אל" שאבותיו האמינו בו. בתוך 50 שנה נהיה גם בני אלמוות (או לפחות בני תןחלת של מאות שנים) וגם כל יכולים בסביבה המיידית שלנו.
    תקישו בגוגל: SINGULARITY ותראו מה יוצא.
    אני מצפה לראות כתבות בנושא גם באתר זה…
    למרות שהואמגמתי, חסר מעוף ו-mainstream בצורה מבישה כמעט.
    🙂

  26. זה לא נכון. ריי מאוד לא אובייקטיבי פה. גורם הגיל שלו גורם לחשיבה מעוותת
    האמת היא שמחשב על של היום (שהוא מהיר פי 100 אלף בערך ממחשב שעולה 1000$) יש לו יכולת חישוב של 1% ממוח של אדם.
    כלומר, כדי שמחשב שולחני יוכל להשתוות למוח יש להכפיל את מהירותו פי 10 מיליון.
    אם מדברים על קצב של פי 2 כל שנה וחצי אזי יקח לפחות 34 שנים כדי להגיע לזה.
    בכלל לפי דעתי ככל שמנסים לחקות אלמנטים יותר מורכבים במוח המורכבות עולה שם בצורה מעריכית חזקה.
    לכן לדעתי יקח יותר זמן מ35 שנים.

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן