מודאגים מכך שהתבונה המלאכותית תשתלט על העולם? כנראה שאתם מניחים הנחות שאינן מדעיות

כך טוענת, ילני וסילאקי, פרופסור למדעי המחשב ומדעי המוח באוניברסיטת שפילד כתשובה לחששותיהם של אנשים כדוגמת סטיבן הוקינג

ילני וסילאקי, פרופסור למדעי המחשב ומדעי המוח, אוניברסיטת שפילד
גילוי נאות: פרופ’ ילני וסילאקי מקבלת מימון מ- EPSRC, קרן וולקאם, Google Deepmind, וקרן אמזון אלקסה.

תרגום: אבי בליזובסקי

האם עלינו לפחד מבינה מלאכותית (AI)? בשבילי, זו שאלה פשוטה עם תשובה פשוטה יותר, בשתי אותיות: לא. אבל לא כולם מסכימים – אנשים רבים, כולל הפיזיקאי המנוח סטיבן הוקינג, הביעו חשש כי עלייתן של מערכות חזקות יכולה לגרום לקץ לאנושות.

ברור, ההשקפה לפיה הבינה המלאכותית תשתלט על העולם תלויה בשאלה האם המחשבים יכולים לפתח התנהגות חכמה העולה על זו של בני אדם – מה שמכונה “תבונת על”. בואו נבדוק עד כמה התרחיש הזה סביר ולמה קיימת דאגה מעתיד הבינה המלאכותית.

בני אדם נוטים לפחד ממה שהם לא מבינים. לעתים קרובות הם מואשמים בשל כך בגזענות, בהומופוביה ובמקורות אחרים של אפליה. לכן אין זה פלא שהנטיה הזו חלה גם על טכנולוגיות חדשות – הן מוקפות לעתים קרובות בתעלומהקיימים הרבה הישגים טכנולוגיים שנראים כמעט לא מציאותיים, ועולים בבירור על הציפיות ובמקרים מסוימים גם על ביצועים אנושיים.

אין רוח במכונה

אבל תנו לנו להסיר את המיסטיקה מעל טכניקות ה-AI הפופולריות הידועות בשם הקולקטיבי “לימוד מכונה”. שיטות אלה מאפשרות למכשיר ללמוד משימה מבלי שיהיה צורך לתכנת לתוכן הוראות מפורשות. זה נשמע אולי מפחיד אבל בסך הכל זה משהו פשוט.
המכונה, שהיא תוכנה, או ליתר דיוק אלגוריתם, היא בעלת יכולת לגלות קשרים בתוך נתונים שהיא מקבלת. ישנן שיטות רבות ושונות שמאפשרות לנו להשיג זאת. לדוגמה, אנו יכולים להציג את התמונות של אותיות בכתב יד, אחד אחד, ולבקש מהאלגוריתם לזהות אותה. המכונה מוציאה בהתחלה אות באקראי ואנחנו מתקנים אותה על ידי מתן התשובה הנכונה. תכנתנו את המכונה כך שתגדיר את עצמה מחדש בפעם הבאה. כתוצאה מכך, המכונה משפרת לאורך זמן את ביצועיה ו”לומדת” לזהות את האלפבית בכתב יד.

למעשה, יש לנו מכונה המתוכנתת לנצל קשרים משותפים בנתונים על מנת למלא את המשימה הספציפית. לדוגמה, כל הגרסאות של “a” נראות דומות מבחינה מבנית, אך שונות מ- “b”, והאלגוריתם יכול לנצל זאת. לאחר שלב התרגול, המכונה יכולה ליישם את הידע שהושג על דגימות אותיות חדשות, למשל כאלו שנכתבו על ידי אדם שהמכונה לא ראתה את כתב ידו קודם לכן. בני אדם, לעומת זאת, טובים בקריאה.

אולי דוגמה מעניינת יותר היא של שחקן הגו המלאכותי של Google Deepmind, שעלה על כל שחקן אנושי בביצועיו, כולל אלופי העולם. הוא לומד בבירור בצורה שונה מזו שבה לומדים בני אדם. הוא שיחק עם עצמו מספר משחקים שאף אדם לא יכול היה לשחק בחייו. המכונה גם לומדת את כללי המשחק. באמצעות מיליוני המשחקים החוזרים היא יכולה לגלות מה המהלך הטוב ביותר בכל מצב ולהציע מהלכים שאף אדם לא נקט בהם במשחקי הגו עד כה.

פעוטות לעומת רובוטים

האם זה עושה את התבונה המלאכותית חכמה יותר מאשר בני אדם? בוודאי שלא. מדובר ב-AI ייעודי לסוג מסויים זה של משימות ואינו מציג את כל הרבגוניות האנושית. בני אדם מפתחים הבנה של העולם במשך שנים, לא סביר שהתבונה המלאכותית תשיג זאת בקרוב.
העובדה שהמכונה היא “אינטליגנטית” מוגבלת ליכולתה של המכונה ללמוד, אבל גם כשמדובר בלמידה, היא מתבצעת בצורה שונה מבני אדם. למעשה, פעוטות יכולים ללמוד רק על ידי צפייה במישהו שפתר בעיה פעם אחת. תבונה מלאכותית לעומת זאת, צריכה כמויות עצומות של נתונים, ולבצע המון ניסיונות עד שתצליח ללמוד בעיה ספציפית מאוד, וקשה להכליל את הידע שלה על משימות שונות מאוד מאלה שהיא אמונה עליהן. לכן, בעוד שבני האדם מפתחים אינטליגנציה מדהימה במהירות בשנים הראשונות לחייהם, מושגי המפתח של למידת המכונה אינם שונים כל כך ממה שהיו לפני שנה או עשרים שנה.
ההצלחה של ה-AI המודרנית נובעת פחות מפריצות דרך בשיטות חדשות אלא יותר בזכות הכמות העצומה של הנתונים וכח החישוב הזמין. חשוב לציין כי גם כמות אינסופית של נתונים לא תביא לתבונה מלאכותית כמו זו של המוח האנושי. לשם כך אנו צריכים להתקדם משמעותית בפיתוח “טכניקת תבונה כללית” ראשונה. יש כבר חוקרים המנסים גישות שונות לבנות מערכת כזו אך היא כרוכה בבניית מודל ממוחשב של המוח האנושי, דבר שאיננו אפילו קרובים להשיג.

בסופו של דבר, רק בגלל ש-AI יכולה ללמוד, אי אפשר יהיה ללמד אותה את כל ההיבטים של התבונה האנושית כך שתוכל להערים עלינו. אין הגדרה פשוטה מהי התבונה האנושית ובוודאי שאין לנו מושג איך התבונה נוצרת במוח. אבל גם אם נוכל להתגבר על זה ואז ליצור תבונה מלאכותית שיכולה ללמוד ותהיה חכמה יותר, אין משמעות הדבר שהיא תהיה מוצלחת יותר.

אישית, אני מודאגת יותר מהדרך שבה בני אדם משתמשים ב-AI. אלגוריתמים של למידה ממוחשבת נחשבים לעתים קרובות לקופסאות שחורות, ולא נעשה מאמץ לאתר את הפרטים הספציפיים בפתרון שהאלגוריתמים שלנו מצאו. זהו היבט חשוב ומוזנח לעתים קרובות משום שאנו לעתים קרובות אובססיביים עם ביצועים ופחות עם הבנה. הבנת הפתרונות שמערכות אלו גילו חשובה, משום שאנו יכולים אז להעריך אם הם פתרונות נכונים או רצויים.
אם נאמן את המערכת שלנו בצורה לא נכונה, נקבל בסופו של דבר מכונה שלמדה יחסים שאינם נכונים כלל. נניח למשל שאנחנו רוצים לעצב מכונה שתעריך את היכולת של סטודנטים פוטנציאליים בהנדסה. כנראה רעיון נורא, אבל בואו נמשיך איתו למען הוויכוח. באופן מסורתי, זהו תחום הנשלט על ידי גברים, כלומר, הנתונים צפויים לכלול תלמידים זכרים קודמים. אם לא נדאג למשל שהנתונים המוזנים למכונה בשלב הלימוד יהיו מאוזנים, ייתכן שהמכונה תגיע למסקנה שתלמידי ההנדסה הם גברים, ותיישם אותה באופן שגוי בהחלטות עתידיות .

למידה ממוחשבת ותבונה מלאכותית הם כלים. הם יכולים לשמש אותנו ללכת בדרך הנכונה או בדרך לא נכונה, כמו כל כלי אחר. תאוות בצע אנושית ואינטליגנציה אנושית מפחידים אותי הרבה יותר מאשר בינה מלאכותית.

לכתבה באתר THE CONVERSATION

• עוד בנושא באתר הידען:30