מערכת מחקר אוטונומית בשם ASI4AI הצליחה לפתח ארכיטקטורות חדשות לבינה מלאכותית ללא מעורבות אנושית – האם מדובר בבשורה למהפכה עולמית או באשליה מנופחת?
יש משפטים שמסמנים את סיומו של עידן, ופתיחת עידן חדש. המשפט הבא, ממחקר שהתפרסם בימים האחרונים, הוא אחד מהם –
"הוכחנו שניתן להשיג התקדמות במחקר בקנה מידה נרחב באמצעות משאבי מחשוב, ולא בעזרת מיומנות אנושית."
וכך, במילים אלו, מתחיל להגיע לסופו עידן המחקר האנושי – ומתחיל עידן המחקר של הבינות המלאכותיות.
אז מה בדיוק קרה במחקר הזה?
הרקע
בניגוד למיתוס המקובל, המין האנושי גרוע בהמצאות טכנולוגיות. כן, המצאנו את החנית, את האש, את הגלגל, את התה והבירה ועוד שפע של פיתוחים טכנולוגיים אחרים. ועדיין, נדרשו לנו עשרות-אלפי שנים לעשות זאת. הסיבה היחידה שאנחנו מעריכים את עצמנו כל-כך על הפיתוחים הללו, היא שאנחנו טובים בכך יותר מכל היצורים האחרים החיים על פני האדמה.
אבל אנחנו עדיין עושים את זה מאד, מאד לאט.
למה? קיימות מספר סיבות, אבל אחת החשובות היא שמלאכת ההמצאה מחייבת עבודה אנושית. מומחים אנושיים צריכים להעלות רעיונות חדשים שמתבססים על המחקרים המתקדמים ביותר בתחומם. לאחר מכן הם צריכים לתכנן אבות-טיפוס של טכנולוגיות חדשות, להעמיד אותן, לבחון אותן, להבין למה הן לא עובדות (כפי שקורה בדרך-כלל) ולחזור לשולחן התכנון כדי להתחיל את כל התהליך מחדש.
אם כל התהליך הזה נשמע לכם מייגע, מייסר ובמיוחד ארוך – אתם צודקים לגמרי. אלא שכמו שצ'רצ'יל אמר – "הדמוקרטיה היא שיטת המשטר הגרועה ביותר הקיימת, מלבד כל יתר שיטות המשטר שנוסו עד היום."
אותו עקרון תקף גם לגבי השיטות הנוכחיות לפיתוח מדעי-טכנולוגי. הן גרועות, הן איטיות והן מגושמות – אבל לא מצאנו אלטרנטיבה עבורן. ולמרות העובדה שהן זוחלות קדימה בקצב של צב קטוע-גפיים, עדיין הצלחנו בזכותן להכפיל את תוחלת החיים האנושית, להגיע לירח ולייצר סרטוני תינוקות שמדברים בקול של אודי כגן.
כך שכן, התקדמנו ואנחנו ממשיכים להתקדם. אבל בוודאי אפשר לזרז את קצב ההתקדמות! מה אם, למשל, היינו מחליפים את הבינה האנושית בתהליך ב… בינה מלאכותית?
זה בדיוק מה שעשו החוקרים במחקר החדש. והם גילו, שלא במפתיע, שהבינה המלאכותית מסוגלת לבצע את כל התהליך המחקרי מהר יותר מבני-אדם – ולהביא לשולחן טכנולוגיות חדשות ויעילות יותר מהקיים. ואם כל זה לא מספיק, הרי שהם השתמשו בבינה המלאכותית כדי לפתח בינות מלאכותיות מתקדמות עוד יותר.
על ארכיטקטורות
מנועי הבינה המלאכותית החשובים ביותר כיום רצים על תשתית של "רשתות עצבים מלאכותיות". אלו מבנים ממוחשבים שמדמים את עקרון הפעולה של רשתות עצבים אמיתיות כמו המוח. וכמו שבמוח יש אזורים שונים, שכל אחד מהם מתמחה בביצוע פעולות אחרות, כך גם אפשר 'לגזום' ולעצב רשתות עצבים מלאכותיות. אפשר לבנות 'ארכיטקטורות' שונות של רשתות כאלו, שתהיינה מוצלחות יותר בהשלמת מילים, למשל, או בזיהוי תמונות, או בכל מטלה אחרת.
הבעיה היא שפיתוח כל ארכיטקטורה חדשה שכזו דורש מאמץ אנושי רב. חוקרים אנושיים צריכים להעלות רעיונות לפיתוח ארכיטקטורות חדשות, בהתבסס על המחקרים המתקדמים ביותר. לאחר שקיבלו אישורים מהמנהלים שלהם (או מהמנחים שלהם באקדמיה), החוקרים צריכים גם להעמיד את הארכיטקטורות האלו, לאמן אותן על מידע ולבחון את הביצועים שלהן. אם הרעיון הצליח – מזל טוב, יש להם פריצת דרך בידיים. ואם הוא לא הצליח? אז חוזרים לשולחן התכנון. ושוב, עוד עבודה, עוד מאמץ, עוד בקשות לאישורים, עוד ניסויים, וחוזר חלילה.
נשמע לכם מוכר? זהו בדיוק התהליך של פיתוח טכנולוגיות חדשות, אבל בדגש על פיתוח בינות מלאכותיות מתקדמות יותר.
המחקר החדש מעביר את כל התהליך הזה אוטומציה, באמצעות שלושה מודולים – כלומר, שלושה חלקים שונים שעובדים ביחד. הראשון הוא "החוקר", שמעלה רעיונות יצירתיים לארכיטקטורות חדשות, בהסתמך על מחקרים קיימים מהספרות המדעית. אחריו נכנס לפעולה "המהנדס", שמעמיד אבות-טיפוס ראשוניים ומוגבלים של הארכיטקטורות המוצעות כדי לבחון אם הרעיונות של "החוקר" מוצלחים. ולבסוף מגיע "האנליסט", שמנתח את התוצאות של כל הרצה ומפיק תובנות חדשות לגבי מה שעבד טוב יותר ופחות.
אלא שזה רק השלב הראשון.
בשלב השני, נבחרות הארכיטקטורות המוצלחות ביותר מאלו שנבחנו, ו- "החוקר" מוזעק לפעולה בשנית. הוא צריך עכשיו לשפר את הארכיטקטורות האלו עוד יותר. לשם כך הוא נעזר בתובנות שאסף "האנליסט", ומצליב אותן למול הידע המחקרי הקיים. הוא מציע רעיונות חדשים, אותן יבחן "המהנדס" וינתח "האנליסט". ושוב תובנות חדשות, והופ – כל המערכת הפכה להיות חכמה יותר, מכיוון שהתובנות הללו נשמרות בזכרון הראשי שלה. בהרצה הבאה היא תוכל לפתח ארכיטקטורות מוצלחות עוד יותר, וכן הלאה וכן הלאה, עד אינסוף.
או לפחות, עד שייגמר כוח המחשוב שלרשותה. כי כל ההרצות האלו דורשות לא-מעט ממנו.
אבל מה התוצאה?
התוצאות
החוקרים כינו את מערכת המחקר שלהם בשם ASI4AI. אלו ראשי תיבות ל- Artificial Superintelligence for AI Research, או "בינת-על מלאכותית למחקר בינה מלאכותית". השם הזה כולל בתוכו טענה מאד יומרנית, לפיה המערכת היא ברמת "בינת-על". כלומר, היא מגיעה לרמה על-אנושית במחקר.
אבל לא לגמרי ברור שהתוצאות תומכות בקביעה הזו.
המערכת כולה צרכה בערך 20,000 שעות מחשוב, כדי לבצע 1,773 ניסויים בפיתוח ארכיטקטורות חדשות של בינה מלאכותית, לגמרי בעצמה. מתוכן, המערכת זיהתה 106 ארכיטקטורות בינה מלאכותית חדשות. כאשר אלו נבחנו מול ארכיטקטורות קיימות שהומצאו על-ידי בני-אנוש, חלקן הגיעו לתוצאות טובות יותר. השיפורים לא היו גדולים – אולי באחוז אחד או שניים בסך הכל. אבל הם בהחלט היו קיימים. בחלק מהפרמטרים, אגב, הייתה דווקא ירידה ביכולות.
מה המשמעות? לפחות כרגע, לא ברור אם מדובר ב- "בינת-על". אם כן, היא לא עושה את העבודה שלה טוב כל-כך. אבל היופי הוא שהיא לא צריכה להיות "בינת-על". היא לא צריכה לעקוף את החוקרים האנושיים באופן משמעותי. מספיק שהיא תעשה עבודה שמקבילה באיכותה לזו שהחוקרים האנושיים עושים, כדי לשנות את העולם.
כי חוקרים אנושיים עולים הרבה, ובינה מלאכותית מאד זולה.
מפעלים של מחקר
מקובל להתלונן על עלות הרצת הבינה המלאכותית, על האנרגיה הרבה שהיא צורכת ועל תשתיות מרכזי המידע הנחוצות כדי להריץ אותה. הכל נכון, אבל כמה עולה לייצר "אדם" שיערוך מחקר?
חישוב מהיר מראה שבארצות הברית, גידול ילד עד התיכון – כולל מזון, בריאות, בגדים וכל יתר הצרכים – עולה בערך 300,000 דולרים. הוסיפו לכך את עלויות התואר הראשון ואת הדוקטורט, ותגיעו בקלות למיליון דולרים. הממשלה מסבסדת בערך חצי מהסכום הזה. החל מנקודה זו ואילך, הדוקטור הצעיר יכול להתחיל לערוך מחקר ולהחזיר את ערכו למדינה.
אבל האם אותו דוקטור יכול להתחרות בבינה המלאכותית?
לפי עורכי המחקר, הם חשפו חוק חדש של "מדע בקנה-מידה נרחב" (science at scale). הם טוענים שפיתוח ארכיטקטורה חדשה של בינה מלאכותית דורשת 2,000 שעות עבודה של חוקרים אנושיים. הבינה המלאכותית שהם העמידו, לעומת זאת, מסוגלת לגלות כמעט פי עשרים יותר ארכיטקטורות חדשות באותו פרק זמן. ואם מוסיפים שעות עבודה – כלומר, שעות מחשוב – אזי הביצועים של המערכת משתפרים דרמטית. בהשקעה של 7,000 שעות מחשוב, המערכת שלהם פיתחה 106 ארכיטקטורות חדשניות.
אם הטענות של החוקרים נכונות, ואם ניתן יהיה ליישם אותן גם בתחומי מדע אחרים, הרי שהמשמעות היא שלממשלות לא יהיה משתלם יותר להעמיד חוקרים אנושיים. מה כן יהיה להן משתלם? לתמוך בתשתיות מחשוב ובמערכות שיערכו את המחקרים טוב יותר מהחוקרים האנושיים.
בלי יאוש (וחוקרים) כלל
האם המשמעות היא שלא נצטרך בכלל חוקרים אנושיים? כמובן שלא. מי שחושב כך נופל לכשל "או-או" שהגדיר דניאל בורוס בספרו "חיזוי מהיר" (Flash Foresight). אנו אוהבים לחשוב על העתיד במונחים דרמטיים: או שיהיו ספרים אלקטרוניים, או ספרי נייר. או שיהיו עיתונים, או שיהיו אתרי חדשות. או ספינות ממוכנות, או סירות משוטים. או כרכרות או מכוניות.
או – או. או האחד, או השני.
המציאות מראה שהעתיד מתקדם יותר בדרך של "גם-וגם". אנשים קוראים גם ספרי נייר, וגם ספרים אלקטרוניים וגם ספרי שמע וקומיקסים במחשב. עיתונים ממשיכים להתקיים גם בגרסאות המודפסות שלהם וגם בעולם הדיגיטלי. וספינות המונעות בכוח הקיטור, הפחם, הנפט והחשמל מופיעות לצד סירות משוטים בנהרות וגונדולות ונציאניות. ובלונדון עדיין אפשר למצוא כמה כרכרות באזורים מתוחמים היטב.
יש מקום לכולם. גם זה וגם זה.
זוהי הטענה שאני אוהב להשתמש בה בכל חשיבה על העתיד, ויש בה אמת רבה. אבל אי אפשר גם להתעלם מהניואנסים שבה: כן, יש מקום לכולם, אבל כמה בדיוק? נכון, יש מקום גם למכוניות וגם לכרכרות רתומות לסוסים, אבל ברור לכולם שהמכוניות כבר השתלטו על העולם, בעוד שעידן הסוסים חלף עבר לו. וסירות המשוטים שמורות לתיירים שרוצים חוויה אקזוטית חד-פעמית. מי שרוצה יעילות – עולה על יאכטה ממונעת.
כך שיהיה מקום לכולם, גם בעולם המחקר, אבל סביר מאד להניח ש- "תמהיל" החוקרים ישתנה. יהיו עדיין חוקרים אנושיים, בוודאי, אבל הם יתחלקו לשני סוגים.
החוקרים האנושיים הראשונים יהיו יותר "מנהלים" מחוקרים ממש. הם ינהלו את הבינות המלאכותיות שיערכו את המחקר הממשי. הם ינהלו גם את המעבדות, את התשתיות ואת הארגונים שיריצו את הבינות המלאכותיות. נראה אותם בהתחלה בעיקר בתחום מדעי המחשב, מכיוון שניסויים בתחום זה דורשים מעט מאד עבודה במעבדה.
את הסוג השני של החוקרים האנושיים נראה יותר בכל תחום אחר, כמו ביולוגיה, כימיה, פיזיקה ועוד. אלו יהיו "עובדי המחקר". הבינה המלאכותית תציע להם מה לחקור, תכווין אותם בכל ניסוי ותספק להם תמיכה נפשית כשיתאכזבו מהתוצאות וכשכספי הגראנטים יגמרו. אבל הם יהיו אלו שיעבדו במעבדה עצמה. הם יהיו האצבעות, הידיים והרגליים של הבינה המלאכותית. הם יחזיקו את הפיפטורים וינקו את המנדפים הביולוגיים בסוף היום. ואנחנו נצטרך רבים מהם, לפחות בשנים הקרובות, כי כשהבינה המלאכותית הופכת את המחקר לקל ונוח יותר – יהיו יותר מעבדות באקדמיה ובתעשייה.
ואז גם המעבדות יהפכו לרובוטיות. כפי שסקרתי כאן בעבר, מושקעים כיום מאות מיליוני דולרים באוטומציה של מעבדות מחקר. וגם אם אי-אפשר לעשות להן אוטומציה מלאה, עדיין יהיה צורך רק במנהל מעבדה, שעל הדרך גם יבצע את המטלות הבודדות שעדיין יחייבו ידיים אנושיות.
אפשר לטעון בצדק שכל זה יקרה בעתיד, אבל ההווה שלנו מתעצב כיום לפי ציפיות הממשלות ובעלי ההון לגבי העתיד לבוא. הניתוח שתיארתי – של מחקר אוטונומי שמניב תוצרים במהירות שעולה על זו של כל חוקר אנושי – מוביל כיום את דרך החשיבה של ממשלות צופות פני-עתיד, כמו סין וארצות הברית. הציפיות הללו גם אחראיות למלחמה הקרה החדשה ביניהן, על כוח מחשוב ויכולות פיתוח בינות מלאכותיות משוכללות יותר. המעצמות מבינות היטב שמי שתוכל להשתמש בבינה מלאכותית חזקה יותר, תזכה ביתרון עצום על האחרות בכל תחום שטכנולוגיה יכולה להשתלב בו ולקדם אותו. ואין תחום שטכנולוגיה לא יכולה לקדם.
הגילוי הנאות
ועכשיו שריגשתי אתכם (בתקווה) לגבי הפוטנציאל לעתיד, צריך להתייחס גם לפיל שבחדר: המחקר הנוכחי אינו מרשים במיוחד. הוא פורסם ב- arXiv – מאגר של מחקרים שטרם עברו ביקורת עמיתים ראויה. המומחים שכן עברו עליו, מסכימים שהחוקר הראשי שעומד מאחורי המחקר הוא בעל-שם בתחום הבינה המלאכותית. מצד שני, ברור גם שהכותבים משתמשים בשפה פומפוזית במיוחד, ושהמאמר עדיין ברמת טיוטה לא-מלוטשת.
ועדיין, מדובר בעוד מחקר שמצטרף לרבים אחרים וחושף עובדה פשוטה: הבינה המלאכותית יכולה להאיץ דרמטית תהליכי מחקר ופיתוח טכנולוגיים. מדינות שלא יהיו מוכנות לאימוץ הבינה המלאכותית, ייוותרו מאחור. חברות שלא ישכילו לשלב את הבינה המלאכותית בתהליכי העבודה שלהן, יגססו באיטיות בזמן שמתחרותיהן רצות קדימה. ואנשים שלא ידעו להפעיל את הבינה המלאכותית ולנהל אותה לטובת עבודתם, יצטרכו להבין מה מייחד אותם – במה הם יכולים להביא ערך מוסף – לעומת עמיתיהם שכן משתמשים בה.
יהיה מעניין. בהצלחה לנו!
עוד בנושא באתר הידען:
