האם בקרוב מכונות יהיו חכמות יותר מיוצריהן?

כך סבורים חוקרים ב”וועידת הסינגולריות: בינה מלאכותית ועתיד האנושות”, שהתקיימה השבוע. הבעיה: איך נערכים מראש למצב בו המכונות האלו יהיו עוינות

במרכזו של חור שחור יש נקודה המכונה “נקודת הסינגולריות”, בה חוקי הפיזיקה מפסיקים להיות הגיוניים. באופן דומה, כך טענו העתידנים שדיברו בכנס בסוף השבוע, טכנולוגיית המידע נעה במהירות לכיוון הנקודה בה מכונות יהיו נבונות יותר מיוצריהן. כשזה יקרה, זה ישנה את משמעותן עבור המין האנושי באופן שקשה לחזות, הם אומרים.
“וועידת הסינגולריות: בינה מלאכותית ועתיד האנושות”, שנערכה אתמול ושלשום בסאן פרנסיסקו, כינסה מאות מדענים, חובבי מדע-בדיוני ועובדי הייטק מעמק הסיליקון. הם התאספו יחד וניסו לדמיין את העתיד בו מחשבים יתכנתו את עצמם ושתלים במוח יוכלו לאפשר לאנשים לחשוב במהירויות של מיקרו-מעבדים מודרניים.
חוקרי אינטיליגנציה מלאכותית הזהירו כי עכשיו הוא הזמן המתאים לגבש קווים מנחים אתיים שיבטיחו כי ההתקדמות הזו תעזור יותר מאשר תזיק.
“אנחנו והעולם שלנו לא נזדקק לעצמנו יותר”, אמר לקהל רודני ברוקס, פרופסור לרובוטיקה במכון מסצ'וסטס לטכנולוגיה (MIT). על מחשבי העתיד, הוא טוען כי “ההבדל בינינו לבינם יהפוך להיות שאלה אחרת לגמרי”.
אליעזר יודקובסקי, מייסד משותף ממוצא יהודי במכון הסינגולריות לחקר אינטיליגנציה מלאכותית, שאירגן את הוועידה, ממקד את המחקר שלו בפיתוח של מה שהוא מכנה “אינטיליגנציה מלאכותית ידידותית”. החשש הגדול שלו, הוא אומר, הוא שממציא מבריק כלשהו ייצור מכונה בעלת אינטיליגנציה מלאכותית, שמשפרת את עצמה, אך תהיה חסרת מוסר ובהתאם עויינת.
השימוש הראשון במונח “סינגולריות” לתיאור טרנספורמציה מהותית כל-כך בטכנולוגיה הוא ורנור וינג', מתמטיקאי מקליפורניה וסופר מד”ב. יזם ההייטק ריי קורצווייל קידם את קונספט הסינגולריות בספרו מ-2005, “The Singularity is Near”, בו הוא טוען כי הקצב האקספוננציאלי של ההתקדמות הטכנולוגית הופך את יצירתה של אינטיליגנציה מלאכותית (נבונה יותר משל בני אדם) – לתוצאה ההגיונית היחידה בעתיד.

מדע או מדע בדיוני?
קורצווייל, מנהל מכון הסינגולריות, כל-כך בטוח לגבי התחזית שלו לגבי הסינגולריות שהוא אפילו קבע לה דדליין: 2029. רוב ה”סינגולריסטים” מאמינים כי יש להם דיי ראיות לתמוך בטענותיהם, ומציינים כראייה את ההתקדמות הדרמטית במיחשוב שחלה ב-50 השנים האחרונות. ב-1965, המייסד המשותף של אינטל, גורדון מור, חזה נכונה כי מספר הטרנזיסטורים בשבב יכפיל את עצמו בכל שנתיים (“חוק מור”). לשם השוואה, תומכי הסינגולריות מציינים כי שלב האבולוציה של המין האנושי מהפרימאטים מסתכמת בהבדל של פי שלוש קיבולת מוחית בלבד.
עם ההתקדמות בביוטכנולוגיה וטכנולוגיית המידע, הם אומרים, אין סיבה מדעית שהחשיבה האנושית לא תואץ למהירויות של עד פי מיליון. אבל חלק מהמבקרים לועגים לסינגולריסטים ולאובססיה שלהם ל”ישועה טכנולוגית”, או לחילופין “שואה טכנולוגית”. התחזיות האלו מבוטלות לעתים כמדע בדיוני יותר מאשר מדע.
אבל תומכי הרעיון טוענים כי התעלמות ממנו היא בלתי אחראית ועלולות להיות לה השלכות קשות. “לפי התחזית, בסופו של דבר נגיע לנקודה בה ניצור אינטיליגנציה מלאכותית”, מאשר יודקובסקי. “עצם העובדה שלא ניתן לחזות בדיוק מה יקרה, ואת התאריך המדוייק, היא לא תירוץ עבורנו לעצום את העיניים ולהפסיק לחשוב על זה”.

לאתר ועידת הסינגולריות 2007