לדברי ד”ר רועי צזנה, “אנחנו עושים פריצות דרך ממשיות מדי שנה, ומייעלים את היכולות של הבינה המלאכותית באופן משמעותי כשפריצת הדרך החשובה ביותר היא בתחום למידת מכונה ובראש ובראשונה ב-Deep Learning
אין מה לחשוש מכך שתבונה מלאכותית תשתלט בעצמה על העולם, מסוכן יותר שאנשים יעשו בה שימוש לרעה, כך אומר ד”ר רועי צזנה, חוקר במרכז בלווטניק לחקר הסייבר הבינתחומי שבאוניברסיטת תל-אביב, ומחבר הספר “השולטים בעתיד”. ד”ר צזנה הרצה על סוגיה זו במוזיאון המדע על שם בלומפילד בירושלים, בליל המדענים בשבוע שעבר.
לדברי ד”ר צזנה התחום החשוב ביותר הוא ה-DEEP LEARNING, למידה מעמיקה שמושגת באמצעות יצירת רשתות עצבים מלאכותיות שמזכירות באופן גס למדי את דרך הפעולה של מערכות עצבים ביולוגיות. למעשה אנחנו לומדים מהטבע בכדי ליצור מבנים וירטואליים שמחקים את דרך הלמידה של מערכות עצבים ביולוגיות, אך לטענתו אנחנו עושים זאת בנקודות מסוימות בצורה יותר מוצלחת וממוקדת מכפי שהאבולוציה עשתה. אנחנו לא מנסים לייצר מוח במחשב, אלא רק לחקות דרכים מסוימות שבהן המוח האנושי והחייתי מגיעים להישגים הגדולים שלהם בתחומים כמו עיבוד תמונה, הסקת מסקנות, למידה ממספר רב של דוגמאות וכן הלאה.
בזכות הפיתוחים הללו מחשבים יכולים כיום לעשות דברים שלא הצליחו לעשות בעבר, למשל לזהות עצמים בתמונות ברמת וודאות טובה, כמו גם לבצע זיהוי פנים, זיהוי קול, הבנת דיבור אנושי ומתן תגובה הולמת, להתמודד עם משחקים ועוד מדובר בתחומים שהבינה המלאכותית לא התמודדה איתם בעבר, ובאופן כללי במצבים שה-AI לא נחשפה אליהם עד כה, אבל שכיום ביכולתה ללמוד מתוך מצבים אחרים מה עליה לעשות.
“אנחנו רואים שהבינה המלאכותית מצליחה אפילו לתכנת את עצמה במקומות מסוימים, כשאנחנו מרשים זאת”, אמר ד”ר צזנה ותהה “מהי בעצם המשמעות של למידה אם לא לימוד עצמי?!”.
צזנה טען בנאומו כי התבונה המלאכותית יכולה לקדם מאוד את תחום הרובוטיקה. הוא סיפר לקהל על מחקר מאוד מעניין שבמהלכו נתנו לבינה המלאכותית המושתת על למידה עמוקה מודלים של רובוטים מסוגים שונים ודרשו ממנה להבין איך מודלים צריכים לנוע בסימולציה בכדי שלא יפלו. למהנדסים אנושיים יידרשו המון זמן והמון עבודה למצוא את הפתרון לבעיות הללו, אבל הבינה המלאכותית יכלה להריץ סימולציות רבות מאוד, למצוא את הפרמטרים הייחודיים ולסגל יכולת תנועה מיטבית לכל סוג רובוט, לפי המבנה שלו.
ואולם ד”ר צזנה מסביר גם שכאשר אנחנו רוצים לשלוט ברובוטים ולאפשר להם לנוע ברחובות עלינו לקחת בחשבון דברים נוספים, והפעם מגבלות – רובוט עם ארבע רגליים שמאבד רגל או שמקל נתקע בגלגליו, או אפילו אם רק נפל בורג מאחת הרגליים, כל דרך התנועה שלו, שלמד עד עכשיו, חסרת תועלת לחלוטין. זאת בניגוד לאדם שאם רגלו נפצעה יכול להיאחז במקל או לצלוע יותר באטיות.
“אנחנו רואים גם שהבינה המלאכותית יכולה לבצע מטלות שבני אדם לא מסוגלים ולפתח אסטרטגיות שבני אדם לא ידעו אפילו שהם צריכים לפתח בעבר. דוגמה יפה לכך שהבינה המלאכותית יכולה לפתח אסטרטגיות ואינטואיציה יותר גבוהה מאלו שבני האנוש יכולים היא משחק ה-GO, שהבינה המלאכותית התמקצעה בו בשנתיים האחרונות. הדרך שבה הבינה המלאכותית התמקצעה במשחק, שהוא הרבה יותר מסובך משחמט, הייתה שהיא שיחקה מיליון משחקים נגד עצמה ומכל משחק כזה היא למדה, ובכל פעם היא השתפרה לקראת המשחק הבא. “זו כמות משחקים שאדם לא יכול לשחק בכל ימי חייו, והבינה המלאכותית עשתה זאת בחודשים”, סיפר צזנה.
כאשר ה-AI התמודדה מול לי סדול, אחד מאלופי ה-GO הבולטים בעולם, הוא היה בטוח שינצח אותה כי הוא זכר אותה מלפני שישה חודשים, כשעדיין הייתה בשלב מאוד התחלתי של האימונים שלה. אבל מה שהסתבר לו מהר מאוד זה שבחצי השנה הזו היא עשתה סדרת אימונים שאדם לא עושה במשך כל חייו וכך היא הצליחה לנצח אותו 4-1, תוך כדי שהיא משתמשת באסטרטגיות שבני אדם לא חשבו עליהן לפני כן.
“מסופר שאחד מאלופי ה-GO שצפה במשחקים פשוט התחיל לבכות בשלב מסוים, כי הוא ראה איך הבינה המלאכותית מראה לבני אדם שכל מה שהם חושבים שהם יודעים על משחק שקיים אלפי שנים לא משתווה למה שהבינה המלאכותית יכולה להביא לשולחן”, אמר צזנה.
“ההבנה הזו שהבינה המלאכותית יכולה לשפר את הביצועים שלנו, את התעשיות שלנו, את החיים הפרטיים שלנו ואפילו את הממשלות שלנו מתחילה לחלחל אצל כולם וכולם רוצים לדעת איך ומה תעשה, אבל השאלה הזו עדיין פתוח”, אמר. “האמירה של פוטין שהמדינה שתהיה החזקה ביותר בתחום הבינה המלאכותית תשלוט בעולם זאת בדיוק הנקודה. אפשר לדבר על עתיד בעוד 50 שנים, שבו הבינה המלאכותית רוכשת רצונות משלה ומאיימת לחסל את בני האדם. בעתיד הרחוק. בכאן ועכשיו מה שחשוב הוא שכולם נמצאים במירוץ לשפר את הבינה המלאכותית גם בגלל שיש לה את היכולת לשפר את חיי היומיום”.
לדבריו, ההערכות אומרות שעד 2030 הבינה המלאכותית תגדיל את כלכלת העולם ב-16%. יש מאין. פשוט בגלל שהבינה המלאכותית נכנסת לכל התחומים ומייעלת את ההתנהלות שלנו – לנהוג ברכבים, להטיס רחפנים, לטפל בנו מבחינה רפואית, פסיכולוגית וכן הלאה. אבל ד”ר צזנה הדגיש כי בנוסף לכך הטכנולוגיה תוכל גם להיות אחראית על מתקפות סייבר ועל מגננות סייבר. “אנחנו רואים שהעולם נהיה יותר מקושר ומי שיכול לבצע את מתקפות הסייבר החזקות והיעילות ביותר יכול לשתק מדינות שלמות”, אמר.
“אין ספק שמי שישלוט בבינה המלאכותית המשוכללת ביותר אכן למעשה ישלוט בעולם ויקבל כוח גדול על פני יתר המדינות שאינן מתקדמות באותה המידה”, סיכם ד”ר צזנה ואמר, ולכן זה “בעשורים הקרובים איננו צריכים לחשוש מכך שהבינה המלאכותית תצא מהשליטה האנושית אלא צריכים לחשוש מהשולטים בבינה המלאכותית ולשאול מה הם יכולים לעשות באמצעותה”.
ראו עוד בנושא באתר הידען:
5 תגובות
הכותב צודק בזה שבעשורים הבאים אין מה לדאוג שבינה מלאכותית תשתלט על העולם. מצד שני
בטווח יותר ארוך בהחלט יש מקום לדאגה כי אם לא יתחילו לדאוג מעכשיו כבר יהיה מאוחר מכדי לדאוג.
בינה שתגיע לרמה שמעל לאדם בכל התחומים כבר לא תהיה ניתנת לשליטה ומאותו הרגע סוף האנושות הוא ודאי.
לצורך הענין גם אם יפתחו גזע של בני אדם מהונדסים גנטית שעולים בהרבה על שאר בני האדם, סופם של בני האדם הרגילים גם הוא ודאי.
לאסף מסכים שבהחלט יכול להיות שהתיאורים של AI משתלט מחר כמו שאהוביטם במדיה מקדימים את זמנם אם כי האנושות כבר חוותה כמה מהפכות טכנולוגיות שגרמו שינוי עצום באורחות חיים שלנו כך שזה לא משהו שלא קרה בעבר, מערכות ה AI שקימות כיום הם רק בתחילת דרכם ונקראות מערכות AI צרות לא כלליות
אבל כבר בתחום הצר שבו הם נמצאות הם עולות על בני האדם מהחכמים ביותר בינינו בסימולציות משחקים שבו הם נבדקו כל פעם במשחק יותר מורכב שזה די מדהים, הם בשלבים הראשוניים שבו הם מתחילות להיכנס לתחומי העבודה כגון רפואה משפטים ועוד ויהיה להם השפעה מאד גדולה כבר בשלבים האלו, זה ברור שאם לאורך ציר הזמן המערכות האלו ממשיכות להשתפר ההשפעה שלהם תהיה גדולה יותר עם היתרונות העצומים כולל החסרונות שיבואו, אחד אולי מהדברים שאדם עושה הוא סימולציות מחשבתיות של מצבים עתידים
ומכיוון שמדובר במערכות עם מורכבות גדלה והולכת כך צריך זמן להתכונון ולנסות לעצב את העתיד שיהיה עבורינו טוב יותר שאותם מערכות יתנו את הטוב שהם יכולות לתת בהקטנה של החיסרונות,
בגלל זה הזמן לעבוד על זה כבר מתחיל כיום כי באיזה שהוא שלב המערכות ה AI הרחבות יכנסו
ולא יהיה לנו הכלים הנכונים לטפל באותם בעיות מאד מורכבות שיעלו.
לגבי המדפסות ה 3D בהחלט יש להם פוטנציאל עצום שרק בחלקו נוצל יש לנו נטייה להתלהב מהפוטנציאל ולתהעלם מהקשיים בדרך שלא תמיד ברורים בראיה בנקודת זמן מסוים דבר שיכול תאורטית לקרות גם ב AI
, אבל הסיבה של הבאזז הוא אולי פריצות דרך של מערכות חדשות שחשבו שיהיו בשנות ה 80 אבל התרחשו עכשיו, כרגע אין איז מחסום נראה לעיין להמשך ההשתפרות של אותם מערכות אבל אולי יהיו בהמשך
אולי יהיה קושי רב במעבר ממערכות AI צרות לרחבות.
התיאור של הרובוט המקובע והמוגבל הוא נכון אבל הוא תואם את המצב הנוכחי הראשוני לאוו דפקה העתידי,
לגבי ההשתלטות ה AI זה אולי יהיה יותר התמסרות של האדם לעוצמה של ה AI מהשתלטות כוחנית,
כמו סחר חלפין שבו אנו נאבד את העצמאות שלנו כדי לקבל את היתרונות העצומים שלו, בעצם הניצנים הראשונים כבר נראים כיום עוד לפני העליה של ה AI , כיום הידע שלנו כבר לא נמצא עצמאית בבית אין לנו אינצקלופדיה בבית
אין לנו אפילו CD עם אינקלופדיה הכל נמצא בענן שאליו אנו ניגשים דרך הנייד שהוא הממשק שלנו, מצד אחד אנו מקבלים תועלת עצומה שבה הידע הופך לזמין
כל הזמן אבל במחיר שבו הוא בעצם לא תחת שליטתינו הפיזית, מגמת התנהגות דומה נראת גם בחברות קטנות שנקנות ע”י קונצרנים שבו החברה\סניף שלב אחרי שלב מאבדת את העצמאות שלה ונתחים ממנה עוברים לשליטה של הקונצרן לאוו דפקה רק מזה שהקונצרן דורש אלה כי החברה סניף נדחפת בעצמה להעביר נתחים לקונצרן במחיר אובדן עצמאות, נראה לכאורה שהדבר הכי בעיתי שיהיה ב AI מעבר ליתרונות העצומים שלו הוא אובדן העבודה והמעבר של אנשים ממצב שבו יש בהם ערך למצב שיש בהם פחות ערך אמיתי מאנשים בתקופה הפיאודאלית, הערך של האנשים יגזר אולי מאידאולוגיה אבל המדינה או מה שיהיה בעתיד לא יצטרך אותם אם לצבא או לעבודה, אנשים עלולים להיתפס כמיותרים בעולם העתידי
כצרכני משאבים ללא שום תרומה מקום שבו קבוצת עלית ששולטת דרך AI ודרך רובוטים מתוחכמים בכל מה שדרוש להם כדי להתקיים ברווחה מול קבוצה של אנשים שבמקרה הטוב חיים על כספי עזרה מהמדינה,
האידאולוגיות הגדולות של המאה ה 20 כולם התבססו על חשיבות האדם אפילו אם בחלקם הם נתפסו רק כבורג במכונה היה צריך להקיע משאבים תעמולה כדי לשכנע את האנשים להתמסר לאידאולוגיה בעתיד האנשים בחלקם הגדול יהיו מיותרים הסיבה היחידה לנסות אולי לשכנע אותם זה שלא יתחילו התפרעויות
אבל לא כדי לגיס אותם לאיזה רעיון כי הם יהיו מיותרים לחלוטין, כל הכלכלה המוכרת לנו תשתנה כי אם אין לאנשים משאבים כי הם לא עובדים אז גם אין להם כח קניה שעליה כל הכלכלה המודרנית בנויה, כמעט לא ניתן לדעת מה יהיה העולם העתידי אחרי עלית ה AI , אולי זה מה שנקרא הנקודה הסינגולרית.
הבאזז של בינה מלאכותית מנופח מעבר לכל פרופורציה. יכול להיות שבינה מלאכותית תהיה טובה בנישות מאד ספציפיות אבל בטווח הנראה לעין היא רחוקה מאד מהחלום שמוכרים לכולם. זה די דומה לבאזז שהיה למדפסות התלת מימדיות, פוטציאל עצום אבל למעשה מעשית אנחנו רחוקים מאד.