“אנו נדרשים לטסט שווה ערך של מבחן טורינג בו מחשב יידרש לכל טווח התבונה האנושית כדי לעבור מבדק מאוזן, בלי להשתמש בטריקים של עיבוד שפה טבעית כך שלא נדע אם אנו מדברים עם אדם או עם מכונה, כך לדברי קורצווייל, מנהל ההנדסה הראשי של גוגל
“אנו נדרשים לטסט שווה ערך של מבחן טורינג בו מחשב יידרש לכל טווח התבונה האנושית כדי לעבור מבדק מאוזן, בלי להשתמש בטריקים של עיבוד שפה טבעית כך שלא נדע אם אנו מדברים עם אדם או עם מכונה, כך לדברי קורצווייל, מנהל ההנדסה הראשי של גוגל
ריי קורצווייל הינו ממציא, עתידן וסופר אמריקאי, חלוץ בתחומי זיהוי תווים אופטי (OCR), זיהוי קול ונושאים אחרים הקשורים לבינה מלאכותית, כך לפחות על פי הגדרת ויקיפדיה (Wikipedia). הוא מוכר לחובבי המוזיקה מכלי הנגינה שפיתח ומחבר הספר “עידן המכונות החושבות”.
קורצווייל עומד מאז 2008 בראש אוניברסיטת הסינגולריות בקליפורניה ללימוד אינטרדיסציפלינרי של טכנולוגיות חדישות ולניתובן לטובת האנושות בתמיכת גוגל (Google) ונאס”א (NASA) ובשנים האחרונות הוא מנהל ההנדסה הראשי של גוגל, ועוסק בשילוב לימוד מכונה ועיבוד שפות במוצרי גוגל.
לפני כשלושה חודשים הרצה קורצווייל בכנס של המועצה ליחסי חוץ של ארצות הברית על התחזית שלו כי בינה מלאכותית שוות ערך לזו האנושית.
לדבריו, “אני צופה שתהיה לנו בינה מלאכותית ברמת אדם בשנת 2029. בוועידה שהתקיימה בסטנפורד ב-1999, צפו מרבית חוקרים ממחלקת הבינה המלאכותית כי הדבר לא יקרה במשך 100 שנה, ו-25% אמרו שזה לא יקרה לעולם”.
“הקונצנזוס כיום של מומחי ה-AI הוא שאנו מתקרבים לכך. אני שיניתי את דעתי משלילה לחיוב בכנס שנערך בשנת 2006 לרגל מלאת 50 שנה לכנס דארטמאות’ בו הטביעו ג’ון מקארתי ומרווין מינסקי שהיה המנטור שלי במשך למעלה מ-50 שנה, את המונח בינה מלאכותית”.
“בואו ניקח את הטלפון הסלולרי שבכיסי”, אמר קורצווייל . “הוא עושה הרבה דברים יותר טוב ממני. בשלב מסוים הטלפון ידבר איתי וישאל אותי שאלות וידבר איתי כמו בני אדם? כאשר יהיו טכנולוגיות שיאפשרו שיחות כאלה, אני והצוות שלי בגוגל ניעזר בתוכנה שתקרא אימיילים ותבין את המשמעות של כל אימייל ואז גם תגיב עליו בשמך”.
לשם כך, אמר, “אנו נדרשים למבחן שווה ערך של מבחן טורינג. אני מאמין שמבחן טורינג הוא מבחן קביל של כל טווח התבונה האנושית. מחשב יידרש לכל הטוווח הזה כדי לעבור מבחן מאוזן, בלי להשתמש בטריקים של עיבוד שפה טבעית כך שלא נדע אם אנו מדברים עם אדם או עם מכונה”.
“אני עדיין אופטימי אבל לא עד כדי כך”, הסביר קורצווייל, “ואולם ישנה קבוצה הולכת וגדלה של אנשים הטוענים שאני שמרן. לא הזכרתי את חוק ההחזר המואץ של ההשקעה. לא רק שתחום החומרה התקדם באופן מעריכי אלא גם התוכנה, ולכן אני יכול להיות אופטימי. בשנים הללו עברנו ציון דרך אחר ציון דרך בתחום הבינה המלאכותית כך שאנחנו יכולים לדבר על הטכניקות החדשות, וזה מה שגורם לי להיות בטוח יותר ואני סבור שקהילת ה-AI צוברת בטחון לכך שאנחנו לא רחוקים מציון דרך זה”.
פלישה של בינה מלאכותית מהחלל החיצון
“לרגולציה יהיה תפקיד חשוב. צריך להבין שלא מדובר בפלישה של בינה מלאכותית מהחלל החיצון. זה דבר שבני אדם שעובדים בחברות טכנולוגיה מפתחים”.
לדברי קורצווייל, “קובעי המדיניות צריכים לחשוב על בינה מלאכותית כמאיץ טכנולוגי. הם צריכים להתמקד באתיקה של ה-AI, כיצד לשמור על הטכנולוגיה בטוחה. זה סוג של דיון מקוטב כמו הרבה דיונים כיום. התחלתי לדבר על ההבטחה וגם על הסכנות עוד בשנות ה-90. הייתי שם בזמן הנכון. כתבתי בשנת 2006 את הספר “הסינגולריות מתקרבת” – בו פרק מספר שמונה דיבר על ההבטחות העמוקות מול הסכנות של התפתחות הבינה המלאכותית”.
“הטכנולוגיה היתה מאז ומתמיד חרב פיפיות”, אמר. “האש חיממה אותנו, איפשרה לנו לבשל את האוכל שלנו אך גם שרפה בתים. טכנולוגיות אלה הרבה יותר חזקות ולכן הדיון צריך גם להיות יותר ארוך. מצד אחד זו הזדמנות חסרת תקדים להתגבר על עוני ועל מחלות עתיקות יומין ולעצור את ההדרדרות הסביבתית, אך גם סכנה משום שטכנולוגיות אלה יכולות להיות הרסניות, ואפילו לגרום סיכונים קיומיים”.
“אני חושב שאנחנו צריכים לפעול לפי ציווי מוסרי כדי להמשיך את ההתקדמות של טכנולוגיות אלה, כי למרות ההתקדמות עד כה – עדיין אנשים חוששים מהגרוע מכל”.
“ניקח לדוגמה התפתחות אחרת מהזמן האחרון – ביוטכנולוגיה. לפני 40 שנה בוועידה של כל המומחים בתחום במקום שנקרא Asilomar, הם לא חשבו שתהיה אפשרות בטוחה לבצע תכנות ביולוגי אשר יכולה לרפא מחלות ולעצור את ההזדקנות”.
היום, 40 שנה לאחר מכן, אנו רואים את ההשפעה הקלינית של הביוטכנולוגיה ובטוחים שיהיה שיטפון של חידושים בתחום זה בעשור הקרוב. למרות זאת, מספר האנשים שנפגעו בשוגג או במכוון בטיפולים חדישים אלה שואף לאפס בזכות הקווים המנחים שיצרנו”.
“עכשיו צריך לקיים את כנס Asilomar הראשון שלנו ב-AI שיעסוק באתיקה של הבינה המלאכותית. הדרישה הקיצונית לגרש את הטכנולוגיה או להאט אותה היא לא גישה נכונה. יש צורך לקיים דיון גם בנושאים מסובכים, כדי שחברי הקונגרס יידעו לנסח את החוקים הנכונים”.
הפתרון – קוד פתוח
בהמשך הסביר פרופ’ קורצווייל כי הפתרון שיאפשר שקיפות למקבלי ההחלטות והציבור הוא הקוד הפתוח. “הרעיון של גוגל להעמיד את כל אלגוריתמי ה-AI שלה לרשות הציבור בקוד פתוח הוא רעיון טוב. השילוב של קוד פתוח והחוק של ההחזר המואץ תאפשר לנו להתקרב למטרה. אני חושב שאנחנו יכולים להגיע למטרה הזו באמצעות שילוב של קוד פתוח והתקדמות אקספוננציאלית מתמשכת הן בחומרה והן בתוכנה”.
12 תגובות
וואוו – לאיש אין מושג על מה הוא מדבר!
דבר ראשון – “הקונצנזוס כיום של מומחי ה-AI הוא שאנו מתקרבים לכך [לבינה ברמה של אדם]”. הנה ציטוטים מחבקת גוגל – אותו חברה בה קורצוויל עובד (!)
“It seems we’re nowhere near artificial general intelligence (AGI), or machines that equal or surpass humans in our ability to think, process, predict, examine, and learn.”
“We haven’t even scratched the surface. So to me, it’s really just a leap too far to imagine that, having finally cracked pattern recognition after decades of trying, that we would then be on the verge of artificial general intelligence.”
דבר שני – קורצוויל מדבר על קוד פתוח לאלגוריתמים של AI. אםםםם ….. אולי כדאי שמישהו יספר ל”גאון” ש-AI אינו מתבסס על אלגוריתמים?
דבר שלישי – כל מה שמבחן טיורינג יכול להראות הוא חוסר היכולת של בני אדם להבחין בין אדם למכונה.
בינה היא היכולת לקבל החלטות בהעדר כל הנתונים. איך זה קשור למבחן טיורינג?
לא ידעתי שהידען נותנים במה לשרלטנים ומנהיגי כתות איזוטריות
אני לא מאמין שמשהו שמבין משהו מקשיב להזוי הזה- אז לפי טענתו AI כללי ברמה של בן אדם ויותר יוצג לפי התחזיות האופטימיות 3 שנים לפני שמכונית אוטונומית תהיה משהו שהרגולטור יכול לתת לו OK( בהנחה שיצליחו עד אז ללמד את הAI את ההבדל בין כביש פתוח ושלט פרסומת על משאית )
עם כל הכבוד לזה ששיחרר איזה פעם איזה מאמר בתחום הוא כבר מזמן לא נשמע כמו מדען אלא כמו שרלטן שיעשה הכל בשביל עוד קצת צומת לב
המבחן הוא השוואה עם בינת בע”ח מסוגים שונים.
קודם שיוששו עם בע”ח ירודים , אחר כך עם מפותחים יותר , ובסוף עם פרימטים וכדומה.
תשאלו חוקרי מוח כמה רחוקים הם מהבנת מוח של בע”ח.
נראה לכאורה שריי קורצווייל לא מבסס את טענותיו על חלומות בהקיץ אלה על תחזיות שבוחנות
בצורה התקדמות מאריכית מול התפיסה היותר מקובלת שהיא לינארית , עד היום באופן די מרשים התחזיות של ריי קורצווייל על ההתקדמות הטכנולוגית של הבינה המלאכותית היו יותר מדויקות מהתפיסה הלינארית השכיחה יותר,
כך שממציא מערכות שנחשב בעבר להוזה ותמהוני כיום מתיחסים הרבה יותר ברצינות לטענותיו, ניתן לקחת את הספרים שלו ולבדוק מה הוא חזה ומה קרה במציאות, זה לא אומר כמובן שזה ימשיך בקצב שהוא חוזה יתכן ותהיה האטה בהתקדמות הטכנולוגית לדוגמא מחוסר יכולת להקטין יותר את המיקרופרוססור אם כי זה לא הדבר היחידי שמקדם את הבינה המלאכותית, כיום ההתקדמות היא הרבה יותר בארכיטקטורה של התוכנה והחומרה,
מכיוון שאנו לא יכולים כיום להגדיר איך בדיוק מתחולל התחושה הפנימית של רגשות במערכת הביולוגית תחושות כאב אהבה וכו יתכן בהחלט שזה יהיה קשה מאד לייצר דבר כזה בבינה המלאכותית הכוונה שיש מחסום כדי לבצע דבר כזה לא שידוע לנו , אבל ראוי לזכור שבינה מלאכותית לא צריכה רגשות תחושות כמניע לביצוע פעולות,
המניע יכול להיות שונה גם עם אפס רגש היא כבר מנצחת אותנו במשחקים שנחשבו הטופ שפותח ע”י המין האנושי כמובן שאיך שנוצחנו באותם משחקים הכרזנו עליהם לא כמבחן האמיתי אבל זה די ברור
שברגע שחומרה והתוכנה עם הארכטקטורות המתפתחות יובילו למערכות שמשאירות אותנו באבק מאחור
בהרבה תחומים שאנו מחשיבים אנושים כולל אפילו תחומי אומנות שונים יתכן והם יצטרכו להמשיך לקבל משוב אנושי אם זה ישיר או מחקירה של רשתות האינטרנט בנוסף יתכן ויהיה להם מודל פנימי של אדם סוג של סימולציה שדרכה הם יקבלו את המשוב גם ללא שום תחושה פנימית, יש הבדל עצום במערכת כאשר יחידת הבסיס עובדת בכ 3 ג’יגה הרץ מול 200 הרץ, נניח ויצרו משהו שהוא סוג של סימלציה של אדם\מדען אבל הוא חושב פי 15 מליון יותר מהר מאיתנו
אנחנו נראה לו כמו סוג של צמח חילזון את הסימנים ניתן לראות בנייד שלנו שגם אמבה היא יצור מלא רגשות מולו אבל הוא מסוגל לזכור ספר טלפונים תוך שניות באופן מושלם לשחק שח ולנצח כמעט כל אדם על פני הגלובוס וכל זה במשהוא במשקל של עכבר זה לא סתם בינה מלאכותית זה משהו שהוא על אנושי,
לדוגמא גם אלפא גו זירו שתוך שעות מצליך ללמוד משחק שהוא בטופ של היכולת האנושית ונשען על אלפי שנות פיתוח חשיבה אנושי ולנצח כל אחד כולל את התוכנה אלפא גו שקדמה לו שגם היא כבר עולה על כל אדם,
בנוסף זאת מערכת שמשנה את הארכיטקטורה הפנימית (כיום ע”י אנשים) בקצבים של שנים מול עשרות אלפי שנים של מערכות ביולוגיות , כך שהתחזית של עוד כמה עשרות שנים נראה מערכות ששוות ערך ועולה ביכולת עיבוד מידע מול אדם (אולי מינוס רגשות) היא בהחלט סבירה,
כל זה יקרה ש AI הצרות שכבר מנצחות את האדם בחומים צרים יהפכו ל GAI וזה כנראה יקרה בעשרות שנים הקרובות.
אני סבור כמו הוקינג שבינה מלאכותית מוצלחת היא סכנה לנו. תחילה האולגירכים יעשו בה שימוש כדי ליתר עוד ועוד עובדים. בעצם כך הם עבדים של תהליך היסטורי שמחליף ציויליזציה אנושית בציוילציה מלאכותית. אחרי כן הבינה המלאכותית תחליף אותנו. אנחנו ניהיה מיותרים וכל בעלי החיים האחרים.
תמשיכו לחלום בהקיץ , אוליי תהייה בינה מלאכותית ברמה של בן אדם בתחום מסויים אבל לא נראה לי שבשלושים השנים הבאות יצליחו ליצור רובוט שיהיה ברמת אינטלגנציה של אדם כולל רגש אהבה ויכולת הבנה סביבתית מתפתחת
הדרך עוד רחוקה מאוד מאוד
הוא מנהל ההנדסה של גוגל – אם הוא אומר משהו – תאמינו לי שהוא יודע על מה הוא מדבר – זה בנאדם שצריך להקשיב לו .
ודרך אגב “א” איזה תחזיות לא התממשו מאז שהיית ילד ? אם יורשה לי לשאול
לורם
עד היום לא ראיתי תחזית לעתיד טכנולוגי פסימי מידי ל30 שנה קדימה. להפך, ככל שהתחזית הייתה מוקדמת יותר היא הייתה יותר רחוקה מהמציאות לכיוון עודף אופטימית (כלומר אני לא מחשיב תחזיות של קטסטרופה מהתפתחות טכנולוגיות) כשהייתי ילד היה לנו בבית אנציקלופדיות על חלל שהיום כבר עברו הרבה יותר מ30 שנה מהכתיבה שלהם ובוודאות כל התחזיות לעתיד שלהם מוגזמות.
אמנם נכון הוא שתחזיות לעשר שנים נוטות להתגלות כאופטימיות מדי, אבל הנקודה היא שתחזיות לשלושים שנה נוטות להיות פסימיות מדי ולמעשה להחמיץ לגמרי את המהפכה שהתחוללה את רוב ההשלכות שלה.
תוכנה תוכל לעבור את מבחן טורינג ועדיין להיות רחוקה מבינתו של בן אנוש.
לא רק מבחן טורינג יצביע על בינה ברמת בן אנוש.
לדעתי הוא יודע טוב מאוד שמה שהוא אומר פשוט לא נכון.
גם בלי קשר להגזמות שלו, תחזיות של עשור או שתיים קדימה תמיד מוגזמות. גם המיתוס על הגדילה מאריכית תמידית לא נכון. ואם באמת חושבים על זה גם לא הגיוני בעליל. שום דבר לא יכול להכפיל את עצמו לנצח. למעשה יותר נכון לומר שבמדע ובטכנולוגיה תחומים ספציפיים מאיצים למשך זמן קצוב באופן מעריכי.
כל התחזיות לעתיד שקראתי בחיים (לטווח של יותר מעשור) תמיד התבררו כאופטימיות באופן מוגזם במקרה הטוב או הזויות לגמרי לאחר זמן.
תחזית שלי לעוד 10 שנים. המחשבים יהיו טובים יותר אבל הפער ביניהם לבין מחשבים של היום יהיה קטן יותר משל מחשבים של היום ואלה שמלפני 10 שנים. המכוניות לא יעופו והרבה פחות מחצי מהם יהיו חשמליות. מכוניות חדשות יהיו עם טייס אוטומטי רק בחלקים הפשוטים של הדרך. בינה מלכותית תשתפר ועדיין תשמור על מרחק שנות אור מבינה אנושית.