כשהאדם יברא את אלוהים, רצוי שהוא יהיה ידידותי

המתמטיקאי וסופר המד”ב ורנור וינג' טבע ב-1993 את מושג הייחודיות (סינגולריות), מכונה שתעלה בחוכמתה ויכולותיה על האדם, ואף טען שהיא תופיע עד 2030. איש המחשבים אליעזר יודקובסקי מאטלנטה כבר הקים מכון, שמטרתו לכתוב את התוכנות שיוודאו כי הישות הזאת תהיה ידידותית ומוסרית

יובל דרור, הארץ, חדשות וואלה!

איור: שירה מזור

הסרט הראשון בסדרת “המטריקס” הוביל לפרסום עשרות מאמרים, שעסקו במשמעויות הפילוסופיות החבויות בתוכו. אחת הסוגיות שנדונו בהרחבה היתה שאלת יכולתן של “המכונות” להשתלט יום אחד על בני האדם. סופרי המדע הבדיוני מתחבטים בסוגיה הזאת זה עשרות בשנים. בשנת 1993 המתמטיקאי וסופר המדע הבדיוני ורנור וינג' העלה את הדיון מדרגה כאשר טען, שהישות שתעלה בחוכמתה וביכולותיה על בני האדם, שאותה הוא כינה בשם “ייחודיות” (Singularity), עומדת להגיע בזמן הקרוב: לא לפני שנת 2005 ולא אחרי שנת 2030. בראיון מיוחד ל”הארץ” הוא אומר, שאף על פי שחלף יותר מעשור מאז התנבא – אין הוא משנה את התחזית.

היה אפשר לפטור את הרעיון כעניין המטריד רק טיפוסים מסוג אחד – מי שקורא בשקיקה ספרי מדע בדיוני ומדמה לרגע שהוא גיבור אחת העלילות. אלא שבשנים האחרונות קמו לרעיון הייחודיות יותר ויותר תומכים. אחד מהם הוא אליעזר יודקובסקי, יהודי אמריקאי בן 23 מאטלנטה שהקים בשנת 2000 את “מכון הייחודיות לבינה מלאכותית”, שתפקידו לזרז את הבאת הייחודיות לעולם. למרות טיעוניו המסובכים מאוד לכאורה, את מומחי הבינה המלאכותית הוא אינו מרשים. לדבריהם, המרחק שלנו מבניית מכונה שתהיה חכמה כמו בני אדם הוא כה גדול, שאין כל סיבה לדון בעולם שבו תתקיים מכונה שתהיה חכמה מבני אדם.

המראה רכה והמראה קשה

לווינג' יש מקום של כבוד בעולם הפילוסופיה של הטכנולוגיה. ב-1981 הוא פירסם את הספר “True Names”, שעסק בהאקרים הפועלים במרחב קיברנטי – וזאת שלוש שנים לפני שוויליאם גיבסון טבע את המונח “סייברספייס”. כשהוא השתמש במונח “ייחודיות”, הוא ידע שהודבקו לו כבר משמעויות בתחומים נוספים, כמו ביחס לחורים שחורים. לשיטתו של וינג', בני האדם נוהגים לנתח את העתיד על פי הנחת היסוד האומרת שהבינה האנושית היא שתשלוט בכדור הארץ. ואולם, הוא שואל, האם לא הגיע הזמן לבדוק את תקפותה של ההנחה?

וינג' רואה בשיפורים בתחום החומרה והתוכנה תנאי הכרחי לקיומה של הייחודיות. לדבריו, העשורים האחרונים הוכיחו כי ההתקדמות בתחום החומרה עולה על כל דמיון. יכולות החישוב של מחשבים, שנחשבו רבי עוצמה לפני 30 שנה, הן נמוכות ביותר ביחס למה שקיים כיום. במאמר שפירסם ב-1993 הוא כתב כי הוא מודע למחלוקת בשאלה אם המדענים יכולים לבנות מכונה שתהיה אינטליגנטית כמו בני אדם. “אם התשובה היא חיובית, אז אין כמעט ספק שניתן יהיה לבנות מכונה שתהיה אינטליגנטית יותר מבני האדם”. חוק מור (שנקרא על שם גורדון מור מחברת “אינטל”), הקובע כי יכולת העיבוד של שבבי המחשב מכפילה את עצמה כל 18 חודשים, תומך בטענתו. שכן, חישוב פשוט מלמד שבתוך שנים ספורות יגיע המחשב ליכולות עיבוד דומות לאלה של בני האדם. מהרגע הזה, המעבר לישות חכמה יותר מבני אדם עשוי להתרחש בתוך ימים, שעות, אולי אפילו דקות.

כאן, חוזה וינג', דברים יתחילו לנוע במהירות עצומה. יכולת השיפור העצמי של הישות, שבעצם “תיקח פיקוד” על קצב התפתחותה, תלך ותגדל עד למצב, שבו בין מצמוץ עיניים אחד למשנהו היא תכפיל את “חוכמתה”. בשלב הזה, טוען וינג', האדם כבר יהיה נתון לחסדיה של הישות. התרחישים האפשריים ינועו מהתקדמות חסרת תקדים ביכולות האנושיות (נטעין את המוח שלנו לתוך מחשבים) ועד שואה מהסוג שמתאר “המטריקס”, כשהמכונות בעצם ישתמשו בבני האדם כסוללות חשמליות. וינג' מסביר שמספרם הגדל והולך של חוקרי הבינה המלאכותית מגדיל את הסיכוי לבואה של הייחודיות. “אם משלבים את חוק מור עם היכולות שלנו כבני אדם, מבינים שקיימת אפשרות שהייחודיות תגיע לעולם בעתיד הקרוב”, הוא מסביר.

לדבריו, קיימות שתי אפשרויות לבואה של הייחודיות, שאותן הוא מכנה המראה רכה והמראה קשה. “במסגרת ההמראה הרכה”, הוא אומר, “דברים יתרחשו באטיות, לאורך עשרות ואולי מאות שנים, כשבני האדם משתפים פעולה עם המכונות ולאט לאט מייצרים את הייחודיות. במקרה הזה האנושות תוכל להכין את עצמה. ההמראה הקשה שונה לחלוטין. במסגרתה התודעה של הייחודיות תיווצר בתוך זמן קצר, ימים ואולי אפילו שעות. במקרה הזה קשה יותר לנבא מה יקרה לנו”.

הפגמים של חוקי הרובוטים

ייעודו של המכון שהקים יודקובסקי (שכתובתו באינטרנט היא www.singinst.org) הוא לכתוב את קוד המחשב שיוביל בסופו של דבר לייחודיות. לדבריו, הוא מודע לסכנות הגדולות שעידן הייחודיות טומן בחובו ולכן מטרתו העיקרית היא לבנות את הישות כך שתהיה “ידידותית” לבני האדם. “אנחנו ממקדים את המאמצים שלנו בבניית הייחודיות מכיוון שנראה לנו שזו הנקודה הקריטית ביותר בהיסטוריה האנושית”, הוא אומר בראיון ל”הארץ”. “בנקודה הזאת האנושות תאבד לנצח או תשרוד, על פי מידת החוכמה, הרציונליות והמיומנות שלנו”.

יודקובסקי מסביר כי בשלב זה עובד המכון על פתרון הבעיות הטכניות הקשורות לבינה מלאכותית, זאת כדי שהייחודיות לא תורכב מאוסף חלקי קוד שבמקרה עובדים, אלא תושתת על “תפישה קוהרנטית ותכונות שיאפשרו לה להרגיש ולנסח מטרות, וכל זאת בצורה אתית”. לדבריו, “בשלב הזה כמעט כל מי שעוסק בתחום הבינה המלאכותית עוסק בבעיות האלה, אך גם חושב שהן כל כך קשות, עד שלא ניתן לפתור אותן. אנחנו מקווים שהם טועים. לפחות אנחנו מנסים לעשות משהו בעניין”.

אין סיבה למהר ולהתרגש מהמלה “מכון” או מנטייתו של יודקובסקי לדבר בגוף ראשון רבים. עוד בתחילת הראיון מבהיר יודקובסקי שהמכון שלו מעסיק חוקר אחד במשרה מלאה (הוא עצמו) ומתנדב. “בשלב זה אנחנו מפרסמים ניירות עמדה תיאורטיים”, הוא מבהיר. הוא מודה שהמכון טרם כתב שורת קוד אחת, אך מסביר שצריך לבנות תיאוריה לפני שניגשים לכתיבת התוכנה.

קשה להתעלם ממחויבותו של יודקובסקי למטרה. בראיון למגזין “Wired” לפני שנתיים הוא סיפר שהוא מחויב לייחודיות מאז היותו בן 11, אז קרא את ספרו של וינג' “Names True”. “כשהגעתי לעמוד 47, הבנתי מה אני עומד לעשות בשארית חיי”, הסביר אז. ליודקובסקי אין השכלה פורמלית בתחום המחשבים ואולם הוא טוען שהשכלתו הלא פורמלית רחבה בהרבה מהשכלתם של רבים. אנציקלופדיית “ויקיפדיה” המקוונת הגדירה אותו “גאון בעיני עצמו”. בעמוד אוטוביוגרפי מיוחד שהעלה לפני שנתיים לאתר האינטרנט של המכון הוא כתב: “אני חושב שעתיד האנושות עשוי להיות מוכרע בזכות המאמצים שלי. אני חושב שאני יכול להציל את העולם לא רק מכיוון שאני עושה מאמץ, אלא מכיוון שאני היחיד שיכול לעשות את המאמץ”. לאחר שמשפט זה צוטט בכתבה הוחלף הטקסט וכעת יש בו כתב אשמה נגד עיתונאים, הבוחרים להשמיץ אותו במקום לעסוק בעבודתו.

על פניו המאמץ שמשקיע יודקובסקי בבניית ייחודיות “ידידותית לבני האדם” הוא משונה. שהרי, תיאורטית, מהרגע שהישות תהיה מודעת לעצמה, היא תוכל לשנות את התכנות הבסיסי של יודקובסקי ולהיהפך למכונה רצחנית. יודקובסקי לא מכחיש שזהו תרחיש אפשרי, אך גורס כי אפשר לצמצם את סיכויי מימושו באמצעות תכנות הייחודיות כך שתישא אופי סימפטי. “קח לדוגמה את גנדי. הוא היה איש בעל שליטה עצמית מדהימה. מדוע הוא לא 'שינה את התכנות שלו' והחליט שהוא רוצה לשלוט בעולם במקום לעזור לאנשים? גם אני איש אינטליגנטי ועדיין אני לא רוצה 'לשנות את התכנות שלי' ולרצוח אנשים. אם המדובר בתכנות, הרי שאני מתוכנת היטב”. לטענתו, הדבר דומה לגידול ילד. “אם אתה מגדל ילד מינקות, אתה יכול ללמד אותו, לחנך אותו, לכוון אותו כך שיהיה אוהב אדם. אך אם אתה מקבל ילד גדול שהוא אגואיסט, יהיה לך קשה להפוך אותו לאלטרואיסט. במוקדם או במאוחר הוא יתמרד ויחזור להיות אגואיסט”.

סדרת הרובוטים של סופר המדע הבדיוני אייזק אסימוב עסקה רבות בשאלה איך להגן על האדם מפני רובוטים שיכולתם עולה על שלו. בספריו של אסימוב שולטים במוחותיהם של הרובוטים שלושה חוקי יסוד בעלי הייררכיה פנימית. על פי חוקי הרובוטים, לא יפגע רובוט באדם ולא יניח שייפגע (החוק הראשון), הוא יציית לפקודותיו של אדם (החוק השני) ויגן על עצמו (החוק השלישי). בספרים מאוחרים יותר מתכנתים שני רובוטים חוק אפס, המעמיד את טובת האנושות מעל טובתם של יחידים.

יודקובסקי אומר שחוקי הרובוטים של אסימוב הם מדע בדיוני ובמציאות אי אפשר להחיל אותם. עם זאת הוא מציין שייתכן ש”מטרתנו היא לגלות את כל מה שפגום בחוקי הרובוטים”.

וינג' אומר שהוא שמע על המכון של יודקובסקי ואינו מתנגד למטרותיו. “אם אכן יהיו בעולם יצורים סופר-אנושיים, זה היה נחמד אם הם יחבבו אותנו”, הוא אומר, “אם הייחודיות תגיע בצורת 'המראה רכה', הרי שזו מטרה חשובה. אם היא תבוא כ'המראה קשה', אזי תכנון שכזה הוא חסר טעם”.

כשמחשב מתחזה לאשה

בעבור ד”ר שאול מרקוביץ', מהפקולטה למדעי המחשב בטכניון, הדיון בייחודיות הוא מוזר למדי. “אנחנו נמצאים כל כך רחוק מהחזון הזה. המחשבים שלנו יודעים לעשות הרבה פחות ממה שאנשים חושבים”. לדבריו, “בתחומים דוגמת הבנת הדיבור, ניתוח הקשרים וניתוח תמונות התקדמנו מעט מאוד ב-50 השנים האחרונות. דיון על מחשבים שחכמים מאתנו הוא דיון ערטילאי”.

כדי להמחיש את אזלת ידם של המחשבים, נהוג להשתמש בדוגמה של מבחן טיורינג (שאותה המציא המתמטיקאי אלן טיורינג). ד”ר עמית פינצ'בסקי, מומחה בתקשורת ולימודי תרבות באוניברסיטת בן-גוריון, מסביר את הרעיון. “מכיוון שקשה לבחון תבונה במונחים של עצמה, נבנה מבחן טיורינג כמבחן שבאמצעותו אפשר לקבוע אם מחשב הוא אינטליגנטי כמו בני אדם. במסגרת המבחן נכנסים שלושה אנשים לשלושה חדרים שונים. בחדר אחד גבר, בשני אשה ובשלישי חוקר. החוקר לא רואה ולא שומע את הגבר ואת האשה שבחדרים האחרים. הוא מעביר להם שאלות כתובות והם עונים בכתב. מטרתו היא לקבוע מי מבין השניים הוא האשה, כאשר גם הגבר וגם האשה מנסים לשכנע אותו שהם האשה. לפי המבחן, אם נחליף את הגבר במחשב והוא יתחזה לאשה באופן כה מוצלח עד שהחוקר יאמין לו, הרי שניתן לומר על המחשב שהוא אינטליגנטי”.

לדברי מרקוביץ', המחשבים של היום נכשלים במבחן טיורינג באופן מביך. “נניח שאתה מעביר את השאלה הבאה: 'הילד זרק את הספל על הקיר ושבר אותו. איך אפשר לתקן אותו?' המחשב לא יידע לומר מה נשבר – האם הספל או הקיר. ייתכן שהוא ישיב לחוקר בשאלה 'מה נשבר?' סביר להניח שהאדם האמיתי, בניגוד למכונה, יענה מיד 'דבק' – כי הוא יודע שמה שנשבר זה הספל ולא הקיר. האדם אולי לא מבין במשוואות דיפרנציאליות, אבל הוא מכיר את הפיסיקה של העולם. מכיוון שהמחשבים אינם מסוגלים לנתח את השפה הטבעית, הם לא יצליחו לענות באופן משכנע”.

מרקוביץ' אומר שיש לשאול אם אפשר לעשות רדוקציה למוח האנושי לרמה של פיסיקה וכימיה. “אני ואחרים מאמינים שניתן להצביע על אוסף של תהליכים ביוכימיים המתרחשים במוח, שמסבירים כל רגש ומחשבה. לדעתנו, אין משהו שנקרא 'נשמה'. אם זה כך, הרי שיש לנו סיכוי לבנות מכשיר שידמה מוח. השאלה השנייה היא אם המודל הנוכחי של מחשב מספיק לבניית מוח. התשובה היא, ככל הנראה, לא. המוח עובד אחרת ממחשב”.

גם לטענת פינצ'בסקי, זו יומרה לא סבירה לחשוב שאפשר לקודד בשפה בינארית תהליכים המתרחשים במוח. “נצא מהנחה שישות תבונית היא ישות שחושבת. איך נעשה מחשב חושב? נכתוב אוסף של אלגוריתמים. אבל מהרגע שהוצאת את האלמנט האנושי מהתבונה, הוצאת את האי-ודאות, את האקראיות. השארת אוסף של חוקים”.

לחלץ את המוח מהגוף

יודקובסקי טוען שהייחודיות תצליח לשנות את תודעת בני האדם בכך שתחלץ את מוחם מגופם. “בכך היא תשחרר אותנו מהכאב והלחץ. זה יהיה מעגל סטרילי של עונג שאין לו סוף”. בעיני פינצ'בסקי, יש לאוטופיה צד שני ומסוכן ביותר. “מדוע אנשים לא רוצים להישפט בפני מכונה? כי הם רוצים אדם, שהתבונה שלו חורגת ממכלול התקדימים המשפטיים והחוקים היבשים; הם רוצים מישהו שיכול לחוש כאב, יכול להרגיש אמפתיה. מהרגע שחילצת את המוח מהגוף שבו הוא שוכן, חיסלת את הסיכוי של המכונה להרגיש משהו באמת. מהבחינה זו, ישות תבונית שכזאת עשויה להיות אלימה בצורה קיצונית”.

יודקובסקי אומר שבניגוד למה שנהוג לחשוב, המדע מבין טוב יותר את עולם הרגשות מאשר את עולם התבונה. “המדענים עשו צעד גדול קדימה דווקא בהבנת הביולוגיה והפיסיולוגיה של הרגשות. למרות זאת, עדיין לא ברור אם אנחנו

בכלל יכולים לתכנת רגשות. זה בדיוק המקום שבו העניינים מתחילים להיות סבוכים”.

מרקוביץ' מצביע על בעיה נוספת. הוא טוען שבבניית ייחודיות מקופלת ההנחה, שבני האדם מסוגלים ליצור יצור עם תודעה. “אנחנו שוכחים שהמוח האנושי התפתח בעקבות מיליוני שנות אבולוציה. היומרה שאנו יכולים ליצור משהו דומה משונה בעיני”.

יודקובסקי מכיר את הביקורת ומוכן לקראתה. “אני חושב שמי שמנסה ליצור מכונה שתהיה חכמה כמו בני אדם מנסה לקלוע למטרה מוגבלת מאוד. ובכלל, אותן מיליוני שנים של אבולוציה הרבה פחות מרשימות מכפי שהן נשמעות. אם הברירה הטבעית, שהביאה את בני האדם למקום שבו הם נמצאים, היתה מנסה ליצור את הייחודיות, היא היתה זקוקה לאלפי דורות של ניסויים. בני האדם מסוגלים ליצור את אותה ייחודיות במהירות רבה יותר”. וינג' מסכים עמו בנקודה הזאת. “אני מסופק אם כבני אדם נצליח להבין את עצמנו לחלוטין. למרות זאת, אנחנו מייצרים יצורים דומים לבני אדם על בסיס קבוע – אנחנו יולדים ילדים. אין ספק שדרושות עדיין פריצות דרך, אבל אלה פריצות דרך טכנולוגיות ולא פריצות דרך בתחום הקוגניטיווי”.

יודקובסקי לא מודה בכך, אבל בדרכו המיוחדת הוא מנסה לברוא סוג של אלוהים. הוא מעיד על עצמו שאינו דתי, אך חשוב לו להדגיש כי גם לאדם דתי לא אמורה להיות בעיה עם גישתו. “אילו הייתי אדם מאמין, הייתי מאמין שהייחודיות יכולה להתיישב עם הדת, שכן אמיתות שונות יכולות להתיישב זו עם זו בקלות”.

פרופ' יהודה גלמן, מהמחלקה לפילוסופיה בפקולטה למדעי הרוח באוניברסיטת בן-גוריון, מסכים. “לא כל ישות שהיא חכמה מאתנו היא בהכרח אלוהים. אמנם קיימת אמונה נפוצה שהאדם הוא גולת הכותרת של אלוהים, אבל זה לא חייב להיות כך”. לדבריו, “בהיסטוריה היו בעלי אמונה שטענו שאם אלוהים היה רוצה שנעוף, הוא היה בורא אותנו עם כנפיים. ובכן, הוא לא ברא אותנו עם כנפיים, אבל הוא ברא אותנו עם שכל, שברא לנו את המטוס. אני לא רואה כל עיקרון תיאולוגי בזה שהאדם צריך להיות עליון ביקום, אלא רק שיש קשר בין בני האדם לבין אלוהים, בין היהודים לבין האלוהים. אין סיבה שהקשר לא יישמר גם בעידן של ייחודיות”.

אף שווינג' ניבא את בואה של הייחודיות, הוא משתדל שלא להתנבא יתר על המידה ביחס לעתיד הרחוק. “אף אחד לא יודע מה צופן לנו העתיד ותמיד יש הפתעות”, הוא מסביר. “אך נראה לי שהדרך הנכונה לבחון את העתיד היא להביא בחשבון שיהיו 'הפתעות בלתי נמנעות'. לכן כדאי להתכונן לכל תרחיש אפשרי”.

גם יודקובסקי, הסמוך ובטוח שהייחודיות תבוא, מתקשה לתרגם זאת לאחוזי הסתברות. בראיון שהעניק ל”Wired” הוא טען ש”קיים סיכוי של 5% שהייחודיות תופיע בקרוב ושהאנושות תשתנה לנצח”. בראיון מאוחר יותר, שהעניק ל”סן פרנסיסקו גייט” בתחילת 2004, הוא היה מסויג יותר מסיבה כלשהי והתעקש ש”קיים סיכוי של 2% שהייחודיות תופיע ותשנה את האנושות”. באותה הזדמנות, הציע, היא אולי תציל אותנו משואה אקולוגית. “קץ העולם הוא סוגיה מאוד טכנית”, סיכם אז יודקובסקי, “אנחנו עובדים כדי שנוכל להציל את כולם, לרפא את כדור הארץ ולפתור את בעיות העולם”.