ד"ר רועי צזנה פיתח כלי בינה מלאכותית המחקרה תהליך המחקר של עתידנים. ספציפית, שלו עצמו. הוא מקבל כקלט המרכזי שלו את התחום שהוא אמור לחקור, ואת שנת היעד עבורה הוא אמור לספק תחזיות
המאמר התפרסם במגזין החדשנות של אלתא, בהזמנתה, הובלתה ועריכתה של מלי מרטון, מנהלת החדשנות של אלתא. תודה למלי על ההזמנה לכתוב את כתבת השער של המגזין, ולכל העוסקות במלאכה: מירה מיטלמן קליימן, רויטל מור, שלומית ליקה וסטודיו הדס לוי
הקדמה: ההתחלה
אני יושב מול מסך מרצד, וקורא בפעם הראשונה דו"ח חדש שכתבתי אודות עתיד המערכות הצבאיות האוטונומיות. זו הרגשה מוזרה, לקרוא בפעם הראשונה דו"ח שכתבתי בעצמי. המילים אינן בדיוק מילותיי, הניסוחים שונים ממה שהייתי מצפה, אבל אופן הניתוח ודרך החשיבה ברורים: זו הדרך בה אני הייתי עושה את המחקר. ההיגיון דומה מאד לזה בו אני הייתי משתמש בניתוח הממצאים. והתרחישים בסוף הדו"ח מקבילים באופיים לאלו שאני מפתח בכל עבודת מחקר על העתיד.
אני כתבתי את הדו"ח הזה במובנים חשובים רבים. אני התוויתי את הדרך בה ייאספו הממצאים, את ההיגיון מאחורי ניתוח כל פריט מידע, את השבירה והאיחוי-מחדש של תפיסות (פרדיגמות) בתחום המערכות האוטונומיות. את הדרך בה יסופרו התרחישים.
והבינה המלאכותית עשתה את כל היתר.
במאמר הנוכחי אספר על הדרך בה המחקר הזה התבצע, על המחשבה מאחוריו ועל התוצרים הראשוניים. נקנח בניסיון להבין מה המשמעות הגדולה יותר של שימוש במערכות אוטונומיות – לא רק המערכות הצבאיות, בהן התמקדנו במחקר, אלא במערכות שישמשו אותנו בכל תפקיד, ובמיוחד לחקר העתיד.
אבל נתחיל בשאלה הגדולה: האם בינה מלאכותית יכולה בכלל לעשות מחקר?
פרק ראשון: האם בינה מלאכותית יכולה לעשות מחקר?
בשנה האחרונה ביקש עורך-דין מ- ChatGPT שיכתוב עבורו מסמך לבית המשפט, עם תקדימים משפטיים משנים קודמות. שלא במפתיע, הבינה המלאכותית הפיקה מסמך שהיה כתוב באופן מרשים, אך מלא בשגיאות עובדתיות גסות. היא המציאה שישה תקדימים יש-מאין, ורק היכרות השופט עם החומר עצרה אותו מלהתפתות להאמין למסמך שהוגש לו. הפירמה נקנסה ב- 5,000 דולרים וטענה ש-
"עשינו טעות שלא בכוונת זדון, בכך שהאמנו שטכנולוגיה יכולה להמציא מקרים ככה סתם."
אירוע זה, שבוודאי חזר על עצמו במקומות רבים ובווריאציות רבות, מדגים נקודה חשובה: בינה מלאכותית יכולה לעשות מחקר, כן, אבל הוא יהיה מחקר גרוע. שלא לאמר שקרי לחלוטין.
לפחות אם אתם לא יודעים להשתמש בה נכון.
הבינה המלאכותית שעשתה את קפיצת הדרך המשמעותית ביותר בשנים האחרונות היא "הבינה המלאכותית היוצרת" (Generative AI). מנועי השפה הגדולים כמו ChatGPT הצליחו מאז 2020 לזנק קדימה מבחינת יכולתם להפיק טקסט שנראה כאילו אדם הגיוני ורהוט כתב אותו. זוהי, כמובן, אשליה בלבד. למעשה, מנועי השפה הגדולים אינם אלא "תוכים סטוכסטיים": מכונה סטטיסטית המצרפת מילים ואותיות זו לזו באופן שמשקף את התדירות בו המילים הללו מופיעות בצמידות במספר עצום של טקסטים שנאסף מהאינטרנט, מהספרות ומכל מקור אפשרי אחר.
המשמעות היא שהבינה המלאכותית היוצרת מסוגלת להפיק כתבים שנראים במבט ראשון בעלי-היגיון, אך בבחינה מדוקדקת יותר אפשר למצוא בהם "הלוצינציות" – הזיות, בעברית. זה לא מפתיע. הבינה המלאכותית כיום אינה ניחנת בהיגיון בריא, או בהבנה ממשית של העולם. היא אינה יכולה לגלוש באינטרנט כדי לאסוף מידע חדש אלא אם אנו נותנים לה רשות מפורשת לעשות זאת – ויוצרים את הכלים המתאימים שהיא תוכל להפעיל כדי לחרוג ממגבלות הידע שלה. כל מה שהיא יודעת לעשות זה למחזר את המילים שכבר עברה עליהן, בסידור חדש כדי שייצרו משמעויות שנראות לנו לפעמים הגיוניות – לפעמים שטותיות.
כמובן, יש שיאמרו בצדק שתיאור זה מתאים גם לחלק גדול מהכתיבה האנושית.
כל זה עשוי להשתנות עם שחרור מודלי בינה מלאכותית מתקדמים יותר, כמו Strawberry המובטח של OpenAI, שפיתחה גם את GPT המקורי. בקצב השינויים של היום, לא מן הנמנע שעד שתסיימו לקרוא את המאמר, הכל ישתנה שוב. עם זאת, נכון לכתיבת מילים אלו (לפחות עד סוף המשפט), ברור לכולם שיש להיזהר מלהאמין באופן אוטומטי למודלי השפה הגדולים.
אבל כבר היום, אפשר לשפר אותם. ובאורח פלאי כמעט, חלק משמעותי מהשיפור יכול להגיע לאו דווקא ממפתחי-העל של הבינה המלאכותית, או מחוקרי מדעי המחשב, אלא דווקא מהאנשים שיודעים לדבר טוב יותר עם הבינה המלאכותית.
בין מחשוב לפירוק
בתחילת 2024 חשפה חברת Cognition AI את המוצר החדש והמלהיב שלה: דווין (Devin). דווין הוא מנוע בינה מלאכותית שמסוגל לכתוב קוד ברמה גבוהה. יחסית. מנועי הבינה המלאכותית המובילים האחרים של אותו הזמן, כמו GPT4, הצליחו לכתוב קוד מצוין רק ב- 1.7% מהפעמים (לפי מבחן SWE-bench). דווין, לעומתם, הגיע להצלחה ב- 13.9% מהמקרים.
מהו סודו של דווין? האם קוגנישן-AI פיתחה מנוע שפה גדול חדש ויוצא-דופן? אולי היא השקיעה מיליארדי דולרים באימון טוב יותר של המנוע?
כנראה שהאמת פשוטה הרבה יותר. אמנם אי אפשר לדעת בוודאות, אך התשובה הסבירה ביותר היא שהחברה לקחה מודל שפה גדול כמו GPT, ולימדה אותו לחשוב בצעדים. כשדווין מקבל בעיה גדולה ומורכבת, הוא מפרק אותה למספר צעדים פשוטים, שאת כל אחד מהם הוא יכול לבצע בקלות יחסית. הפלט של כל צעד מועבר לצעד הבא, ולפעמים גם כמה צעדים קדימה, כדי לספק למנוע הקשר טוב יותר לסוג התשובות הרצוי.
נסביר בדוגמא פרקטית של פיתוח אתר. אם בינה מלאכותית כמו דווין תקבל את הדרישה, היא בוודאי תפרק אותה לסדרת צעדים: הבנה מה הת'מה של האתר, מה פלטת הצבעים בה כדאי לעשות שימוש, יצירת האייקונים של הכפתורים, יצירת התמונות שיופיעו באתר, החלטה על הפונט המתאים ביותר, חלוקה לעמודים השונים, יצירת הטקסט לכל עמוד בפני עצמו, וכן הלאה וכן הלאה.
מדוע חלוקה שכזו מובילה לתוצאות טובות יותר מצד הבינה המלאכותית?
"דמיין שאתה מתבקש לפתור חידה קשה במתמטיקה, ואתה צריך לענות מיידית את התשובה הראשונה שעולה למוחך." הסביר לאופולד אשנברנר, מומחה בינה מלאכותית שעבד ב- OpenAI עד לתחילת 2024. "נראה ברור שיהיה לך קשה לעשות זאת, אלא עבור החידות הפשוטות ביותר. אבל עד לאחרונה, זו הדרך בה מודלי שפה גדולים פתרו בעיות מתמטיות. במקום זאת, רובנו פותרים את הבעיה צעד-אחר-צעד במחברת, ויכולים לפתור בעיות הרבה יותר קשות בדרך זו."
לפי אשנברנר, בזכות פירוק בעיות מורכבות לסדרה של צעדים קונקרטיים, יכולות בינות מלאכותיות להשתפר פי עשרה ביכולותיהן בתחומים מסוימים. למשל, בכתיבת קוד. זוהי טכניקת ה- "פירוק" (תרגום לא-רשמי ל- unhobbling) שאשנברנר מאמין שמהווה את אחד מהגורמים המרכזיים שיזניקו את יכולות הבינה המלאכותית בשנים הקרובות. בזכות טכניקה זו, לצד גדילה מקבילה ביכולות המחשוב ואיסוף וניתוח מידע, אשנברנר ורבים אחרים מאמינים שבינה מלאכותית תגיע עד 2030 לרמת כתיבה וניתוח שמתחרה בקלות באלו של חוקרים מומחים בתחום. בכל תחום.
האם באמת נגיע לרמה הזו בשנים הקרובות? אני נזהר מלספק תחזיות, אבל מספר מומחים רציניים סבורים שזה אפשרי בהחלט, ואפילו סביר. גם אם לא נגיע לרמה הזו בקרוב, עדיין עובדה אחת ברורה: כפי שאפשר להשתמש בטכניקת ה- "פירוק" כדי להפיק בינה מלאכותית שכותבת קוד טוב יותר, כך בוודאי אפשר להשתמש באותה טכניקה כבר היום כדי לספק ניתוחים טובים יותר אודות העתיד.
וזה בדיוק מה שעשינו.
פרק שני: הבינה המלאכותית חוקרת את העתיד
באמצע שנת 2001 כתב סגן שר ההגנה האמריקני, לינטון וולס, מזכר פנימי בו סקר את מאה השנים האחרונות של היחסים הבינלאומיים.
"אם היית קובע-מדיניות בטחונית במעצמת-העל של העולם ב- 1900," פותח וולס, "היית בריטי שבוחן בזהירות את צרפת, אויבתך משכבר-הימים.
ב- 1910, היית מאוחד עם צרפת, והאויבת שלכם הייתה גרמניה.
ב- 1920 הייתם נלחמים ומנצחים במלחמת העולם הראשונה, וממוקד במירוץ חימוש ימי עם עמיתיך הנאמנים, ארצות הברית ויפן. …
ב- 1930 תכנון ההגנה הסטנדרטי נסמך על כך שלא תהיה מלחמה לעשר שנים.
תשע שנים לאחר מכן, נפתחה מלחמת העולם השנייה."
וולס ממשיך את המעבר על העשורים בחדות ובכנות, ומראה כיצד בכל עשור השתנתה התפיסה מחדש. הוא מקנח באמירה רבת-העוצמה כי –
"כל זה בא לומר שאני לא בטוח איך תיראה 2010, אבל אני משוכנע שהיא תהיה מאד שונה ממה שאנו מצפים, כך שעלינו לתכנן בהתאם."
וולס נוגע במזכר שלו באמת שנעים לנו להתעלם ממנה לפעמים: שאין לנו את היכולת לספק חיזויים מדויקים בטווח זמן שכזה. כל-כך הרבה שינויים יכולים להתרחש ולהתרכב זה-על-גבי-זה, ולערער לחלוטין את התפיסות וההנחות שלנו בהווה. השינויים יכולים לבוא בהדרגה, או שהם יכולים להתרחש בבת-אחת ולשנות בחדות את כל מה שחשבנו שאנחנו יודעים. רוסיה חוותה הפתעה שכזו במלחמתה עם אוקראינה, בה למדה (ביחד עם כל העולם) את כוחה של טכנולוגיית הרחפנים שאחראים על השמדת שני-שליש מכל הטנקים הרוסיים. אנו למדנו עד כמה יכולה ההפתעה להיות הרסנית ב- 7 לאוקטובר.
כשעתידנים מסתכלים קדימה לטווח הארוך, הם מתמקדים פחות בחיזוי ויותר ב- "חקר עתידים". אנו מנסים להבין כיצד יכולות מגמות טכנולוגיות וחברתיות שונות להצטלב ביחד, להתחרות, לפגוע ולתגבר זו את זו כדי ליצור סביבת משחק שונה בעתיד. אנו שוגים בדמיונות, מתוך הבנה שבמבט לטווח הארוך אנחנו חייבים לחשוב אחרת, מכיוון שמה שהיה אינו מה שיהיה, וכל מחשבה שנסמכת יותר מדי על מה שאנחנו מכירים ובטוחים בו, יכולה לתאר רק את ההווה ולא את העתיד.
האם בינה מלאכותית יכולה לעשות את כל זה?
כדי לתת מענה טנטטיבי ראשוני לשאלה, יצרנו את "החוזה-טרון".
החוזה-טרון מחקה תהליך המחקר של עתידנים. ספציפית, שלי עצמי. הוא מקבל כקלט המרכזי שלו את התחום שהוא אמור לחקור, ואת שנת היעד עבורה הוא אמור לספק תחזיות. אז הוא נכנס לפעולה ומריץ סדרה של פרומפטים, אחד-אחרי-השני. הפלט של כל אחד מהפרומפטים מספק מדרגה נוספת, וביחד מתקבל גרם מדרגות שלם שעוזר לנו להבין את העתיד.
בשלב הראשון, חוזה-טרון מזהה את הכלים הנפוצים ביותר בתחום. למשל, עבור "מערכות צבאיות אוטונומיות", הוא מזהה את קיומם של כטב"מים, של כלי-רכב קרקעיים אוטונומיים, צוללות אוטונומיות ועוד. בשלב השני הוא מאפיין את היכולות לפיהן נמדדים הכלים כיום: כטב"מים, למשל, מוערכים לפי מרחק הטיסה שלהם, יכולת נשיאת מטען, עמידות למתקפות סייבר, ועוד. לכל אחת מהיכולות הללו הוא מנסה להצמיד הערכות כמותיות עבור הכלים המתקדמים ביותר, על סמך הידע הכללי שהוא ניחן בו.
כבר בנקודה זו צריך להבהיר שחוזה-טרון אינו חף מהלוצינציות – הזיות. כל פיסת מידע שהוא מספק צריכה להיבחן בזהירות. עם זאת, באמצעות עיצוב הפרומפטים הנכונים וחלוקת המשימה למטלות קטנות וממוקדות, אפשר להפחית מאד את הסכנה להזיות. מנוע שפה גדול שנשאל ישירות על יכולותיו המדויקות של כטב"ם, למשל, ונדרש להסתמך לשם כך על מקורות מידע מהימנים בלבד, יחזיר תשובה קונקרטית על סמך הדו"חות מהאינטרנט עליהם אומן.
אחרי שחוזה-טרון אפיין את הכלים האוטונומיים הצבאיים ואת יכולותיהם המתקדמות ביותר בהווה, הוא חמוש בידע אודות הקיים כיום. עכשיו הוא צריך להתחיל להסתכל לעתיד. לשם כך הוא מתבקש בסדרה של פרומפטים שונים לתאר את האתגרים העומדים בפני הכלים הללו כיום, ולהציע פתרונות קיימים שיכולים לפתור את האתגרים הללו, ופתרונות עתידניים וחדשניים (למשל, מחשוב קוואנטי, או ביו-מימטיקה). כל אחד מהפתרונות מדורג לפי החדשנות שלו – משימה שקלה עבור מנועי השפה הגדולים, מכיוון שיש מילים מסוימות שהם מקשרים עם חדשנות ועתיד.
למה אנו צריכים את ציוני החדשנות? כדי לתת למשתמש דרגת חופש נוספת. המשתמש יכול להגדיר מראש לחוזה-טרון את רמת החדשנות הנדרשת. וחוזה-טרון לוקח רק את הפתרונות מאותה רמת חדשנות ומצליב אותם עם המידע מנתיב החשיבה הקודם. כלומר, הוא שואל את עצמו עד כמה יכול כל פתרון להשפיע ישירות על כל אחת מהיכולות של הכלים שזוהו בשלבי המחקר הראשונים. שוב, הוא מתבקש להביא נתונים כמותיים על סמך ידע קיים. אם דו"ח מהרשת תיאר כי סוללות חשמליות צפויות לגדול פי עשרה ביכולות קיבול האנרגיה שלהן בעשרים השנים הקרובות, קרוב לוודאי שחוזה-טרון יידע זאת – ויכלול את הנתון בהערכה שלו. מכך הוא עשוי להסיק – בקפיצה שאינה בהכרח לוגית – כי גם רחפני העתיד יוכלו להישאר באוויר משך זמן גבוה יותר פי עשרה.
אנו רואים כאן שוב את מגבלותיה של הבינה המלאכותית היוצרת. אין לה היגיון. היא מחברת מילים ומונחים, בלי שתתעכב בהכרח על הלוגיקה של החיבור. ועם זאת, כאשר אנו מסתכלים לעתיד הרחוק, ייתכן שדווקא יכולת זו מספיקה כדי לעזור לנו לפתח מחשבות חדשות. דווקא "נפנוף הידיים באוויר", כפי שאנו קוראים בזלזול לכל חשיבה שאינה מבוססת-נתונים ולוגיקה ברורה, יכול לעזור לנו לחשוב על העתיד מבלי להיות כבולים מדיי להווה.
בסוף החלק הראשון של התהליך, מתקבלת הערכה ראשונית אודות יכולותיהם התיאורטיות של הכלים האוטונומיים הצבאיים בשנת 2050, עם הסבר כיצד כל טכנולוגיה מובילה לשיפור הנדרש. אבל כיצד נשתמש בכלים המשופרים הללו? מה יהיו התפיסות החדשות שינחו את העבודה מסביבם?
גם כאן, לחוזה-טרון יש מה להציע לנו. למעשה, יש שיאמרו שזו הנקודה בה הוא מבריק באמת, מכיוון שמנועי שפה גדולים ניחנים בדמיון בלתי-נלאה. הם יכולים להמציא לנו רעיונות אין-סוף, אם רק יישאלו את השאלות הנכונות. אחרי הכל, מהם דמיון ויצירתיות אם לא החיבור הסמי-אקראי של קונספטים שונים, לצד מגבלות מסוימות שברורות לנו אינטואיטיבית כבני-אדם?
חוזה-טרון מקבל את רשימת הקונספטים (הכלים ויכולותיהם החדשות) והמגבלות משלבי המחקר הקודמים, ואז מתחיל לפנטז על העולם מחדש. הוא מציע שימושים חדשים בכלים האוטונומיים הצבאיים, ובנקודה זו המשתמש צריך להגביל אותו במפורש לשימושים צבאיים, או שהוא מתרחב בעצמו כדי להציע שימושים במגוון תחומים נוספים. בפרומפט הבא הוא כבר ממשיך ומזהה את הדרך בה היכולות והשימושים החדשים יכולים לערער ולעצב מחדש את התפיסות שנראות לנו ברורות-מאליהן כיום בנוגע לכלים אוטונומיים צבאיים. משם הוא ממשיך ובונה תרחישים סיפוריים: קטעי טקסט קצרצרים בהם מספר הפרוטגוניסט (הגיבור) כיצד הוא משתמש באותם כלים ב- 2050.
וכאן, סוף-סוף, מסתיימת פעולתו של חוזה-טרון. מסתיימת, ומתחילה. מכיוון שכל סדרת הפרומפטים הזו מוכלת במערכת אחת וניתנת להפעלה בלחיצת כפתור. המשתמש יכול להזין כל תחום שירצה, וחוזה-טרון יחזור על אותן פעולות בדיוק. תוך דקות ספורות, ובועלות של כמה שקלים, הוא יחזיר את כל החומר שהיה צריך בעבר צוות משולב של עתידנים, חוקרי טכנולוגיות וסופרי מדע בדיוני (לכתיבת תרחישים סיפוריים) כדי להפיק.
למרות ההתלהבות שבוודאי שמתם לב שמפעפעת מתחת למילים הכתובות במאמר הזה, אני לא רוצה להפריז ביכולותיו של החוזה-טרון. הוא אינו יכול באמת להחליף צוות מחקר שלם. ועם זאת, כמי שהיה מעורב והוביל צוותי מחקר כאלו לחקר העתיד, אני יכול לומר באמונה שלמה שעם ההנחיות הנכונות ועריכה ביקורתית וזהירה – חוזה-טרון יכול לצמצם משמעותית את העבודה שצוות מחקר כזה צריך לעשות. במקביל, יכולתו לנתח מחדש את התפיסות הקיימות ולהציע תרחישים חדשים, עוזרת לפתוח את המחשבה לכיוונים חדשים שאינם בהכרח ברורים מאליהם.
בחלק הבא של המאמר אסקור כמה מתשובותיו של חוזה-טרון אודות התפיסות החדשות שייתכנו לנו בשנת 2050 אודות כלים אוטונומיים צבאיים. ואז ננסה לענות על השאלה האחרונה ואולי החשובה מכולן, במיוחד לאלו מאיתנו שמתפרנסים מעבודות מחקר שכאלו: מה עתיד העתידנות, בעולם של בינה מלאכותית יוצרת?
פרק שלישי: תחזיותיו של חוזה-טרון
הרצנו את חוזה-טרון עם בקשה ל- "צניעות". כלומר, שלא יבחר טכנולוגיות חדשניות 'מדיי'. התוצאה הייתה שהוא השאיר טכנולוגיות כמו "מחשוב קוואנטי", בלוקצ'יין וחומרים הנרפאים-מעצמם מחוץ לתמונה. במקומם הוא התמקד בשיפור המובטח בתחומים טכנולוגיים הקיימים כבר היום. הוא בחן את השיפור ביכולות אגירת האנרגיה, באיחוד והצלבת המידע המגיע מחיישנים שונים, במערכות בינה מלאכותית לניתוח מידע ולהסברתו ועוד ועוד. לאחר שבחר את הטכנולוגיות הללו, הוא הפיק הסבר אודות השפעותיהן הצפויות על כטב"מים וכלי רכב קרקעיים בלתי-מאוישים בשנת 2050.
ובכן, בהינתן שהכלים הבלתי-מאוישים יזכו ביכולות שזיהה חוזה-טרון, מה יהיו אופני השימוש בהם ב- 2050?
חוזה-טרון הציע שכטב"מים יוכלו לבצע מספר סוגי משימות בעתיד –
- ניטור ומעקב מתמשך: כטב"מים יוכלו לקיים מעקב רציף על שטחים נרחבים לתקופות ממושכות. הכטב"מים יהיו מצוידים בחיישנים ברזולוציה גבוהה ובאמצעי ניתוח שייתמך בבינה מלאכותית כדי לזהות ולעקוב אחר תנועות אויב, ולספק מודיעין בזמן אמת למרכזי פיקוד. לדוגמה, צי של כטב"מים יוכל לנטר את כל אזור הגבול, לזהות ולדווח על כל חציה בלתי מורשית או פעילות חשודה.
- שרשראות אספקה אוטונומיות: בזכות יכולת נשיאת משא משופרת ושיפור ביכולות אגירת האנרגיה וניהולה, כטב"מים יוכלו לשנע אספקה באופן אוטונומי לכוחות בקו החזית. הכטב"מים יוכלו לשאת ציוד רפואי, תחמושת, ואפילו מזון, ולהבטיח שחיילים בסביבות מרוחקות או עוינות יקבלו משאבים חיוניים מבלי לסכן חיי אדם. המשמעות היא שבמהלך עימות ממושך, כטב"מים יוכלו לשמר קו אספקה רציף לחזית.
- מבצעי הטעיה ופיתיון: הכטב"מים יפגינו מודעות מצבית משופרת ויכולת קבלת החלטות מתקדמת, כך שניתן יהיה להשתמש בהם להוצאה לפועל של מבצעי הטעיה מתוחכמים. הכטב"מים יוכלו, למשל, לחקות דפוסי טיסה וחתימות של כלי טיס מאוישים, ולמשוך אש ותשומת לב של האויב הרחק ממטרות אמיתיות. לדוגמה, במהלך תקיפה אווירית, ניתן יהיה לשגר כטב"מי פיתיון כדי לבלבל את מערכות המכ"ם של האויב, ולאפשר לכוח התקיפה האמיתי להתקרב מבלי להתגלות.
- תיאום תקיפות מדויקות: כטב"מים יוכלו לתאם ולבצע משימות תקיפה מורכבות, בזכות יכולות התקיפה המדויקות ויכולות האוטונומיה והניווט המתקדמות שלהם. הכטב"מים יוכלו לזהות ולתקוף מטרות בעלות ערך גבוה באופן אוטונומי עם התערבות אנושית מינימלית. למשל, להק של כטב"מים יכול להיות מתוכנת לתקוף בו-זמנית מתקני אויב מרובים, להציף את ההגנות שלהם ולמקסם את ההשפעה של ההתקפה.
נודה באמת: אף אחת מהתחזיות הללו אינה פורצת דרך בפני עצמה. אבל פריצות הדרך מגיעות לרוב משילוב טכנולוגיות חדשניות מתחומים מקבילים, שלא השיקו עד כה לתחום הצבאי. כאשר ביקשנו מחוזה-טרון להוסיף טכנולוגיה שאינה מקושרת לרוב עם כלים אוטונומיים צבאיים – "בינה מלאכותית לניהול שיח" – הוא הסכים לצאת מהקופסא המחשבתית שלו (ושלנו) ולהציע שימושים מעניינים ו- 'מוזרים' יותר. כלומר, כאלו שיש להם באמת סיכוי טוב יותר לשקף את העתיד הרחוק.
"ממשקי בינה מלאכותית שיחתיים יאפשרו למפקדים לתקשר עם הנחיל בזמן אמת, לבקש נתונים ספציפיים או להנחות את הנחיל למיקומים חדשים." כתב לי חוזה-טרון (תרגמתי מאנגלית). "לדוגמה, מפקד יוכל לבקש, "הראה לי את עמדות הארטילריה של האויב," והנחיל יאתר באופן אוטונומי ויעביר מידע זה בחזרה."
הוא המשיך ותיאר עתיד שנראה מעניין וצבעוני יותר. "בינה מלאכותית שיחתית תאפשר ליחידות שדה לבקש נתוני מעקב ספציפיים או להעביר הודעות דרך רשת הכטב"מים. לדוגמה, יחידת קרקע תוכל לבקש, "ספק שידור חי של נתיב האספקה של האויב," והכטב"מ ישדר וידאו בזמן אמת בחזרה ליחידה. … בינה מלאכותית שיחתית תאפשר דיאלוג בזמן אמת בין הכטב"מים למפעילים האנושיים, ותאפשר התאמות דינמיות למיקוד המטרה בהתבסס על תנאי שדה הקרב המשתנים. למשל, מפעיל יוכל לומר, "תקוף את מרכז התקשורת של האויב," והכטב"מים יתאימו באופן אוטונומי את מסלולי הטיסה שלהם ויתקפו בדיוק גבוה."
כשהוצעו לחוזה-טרון תחומים טכנולוגיים אחרים שישתפרו משמעותית עד 2050, כמו "יכולת תפעול מזג אוויר", הוא הרשה לעצמו להציע רעיונות יצירתיים אחרים.
"כטב"מים המצוידים במערכות חיישנים ומעקב מתקדמות יוכלו לשמש לניטור ומניפולציה של דפוסי מזג אוויר ליצירת יתרונות טקטיים בשדה הקרב." כתב. "לדוגמה, כטב"מים יוכלו לפזר חומרים לזריעת עננים כדי לגרום לגשם או ערפל, ובכך להפחית את הראות לכוחות האויב ולספק כיסוי לפעולות קרקעיות. יכולות העמידות והטווח המשופרות, הנתמכות על ידי ניהול אנרגיה וכוח מתקדם, מבטיחות שכטב"מים אלה יכולים לפעול לתקופות ממושכות, ולכסות שטחים נרחבים להשגת אפקטי מזג האוויר הרצויים. … באמצעות יכולת התקיפה המדויקת, כטב"מים יוכלו להעביר מטענים המשפיעים על מזג אוויר בדיוק רב. למשל, כטב"מים יוכלו לפרוס מיקרו-רחפנים המשחררים כימיקלים ליצירת תופעות מזג אוויר מקומיות, כגון סופות ברד או ברקים, המכוונות לעמדות אויב או משבשות קווי אספקה. המודעות המצבית המשופרת ויכולות קבלת ההחלטות מבטיחות שתקיפות אלה מבוצעות בדיוק גבוה, תוך מזעור נזק אגבי."
אלו תוצרים שהיינו מצפים לראות בדו"חות תוצרת-אדם – אך יוצרו באופן אוטומטי על-ידי חוזה-טרון. ולמרות שחשוב ביותר שנמשיך להיות ביקורתיים וספקנים, אני מזכיר שחוזה-טרון לא הפיק אותם ב- 'נפנוף ידיים' מוחלט, אלא באמצעות מעקב אחר סדרה של צעדים לוגיים שאנו הגדרנו לו. כל תוצר של כל שלב הוביל לתוצרי השלבים הבאים.
ומה לגבי התפיסות החדשות? כיצד יתערערו התפיסות הקיימות כיום אודות כלים צבאיים אוטונומיים בשנת 2050? באלו תפיסות הן יוחלפו?
חוזה-טרון זיהה מספר תפיסות מההווה אודות כלים אוטונומיים, והציע להחליף אותן בחדשות. תפיסה ראשונה, לטענתו, היא שמערכות צבאיות אוטונומיות תלויות ברשתות תקשורת חזקות. תפיסה זו תוחלף בתפיסה חדשה: מערכות צבאיות אוטונומיות יפעלו במצב של "אוטונומיה מבוזרת". תפיסה חדשה זו תתבסס בזכות השיפור במודעות המצבית, בקבלת ההחלטות, וביכולות הניווט האוטונומי, שיפחיתו את התלות של הכלים האוטונומיים בתקשורת מתמדת עם מרכזי פיקוד.
התפיסה השנייה שתתערער, לטענת חוזה-טרון, הינה אודות ההשלכות האתיות והמשפטיות של השימוש במערכות צבאיות אוטונומיות. חוזה-טרון הסביר שיהיה צורך להעריך מחדש את המסגרות האתיות והמשפטיות לשימוש בכלים אוטונומיים. וכדבריו – "היכולת של מערכות אלה לזהות ולתקוף מטרות באופן אוטונומי, וכן לבצע משימות מורכבות כמו פירוק מטעני צד מאולתרים, מעלה שאלות חדשות לגבי אחריות והאצלת החלטות של חיים ומוות למכונות."
התפיסה השלישית, שמתערערת כבר בימים אלו, הינה ש- "למערכות צבאיות אוטונומיות יש עלויות פיתוח ותחזוקה משמעותיות". במקומה הציע חוזה-טרון תפיסה חדשה, לפיה "ההשקעה הראשונית המשמעותית במערכות צבאיות אוטונומיות מאוזנת על ידי היעילות התפעולית שלהן לטווח ארוך והפחתת הסיכון האנושי. בינה מלאכותית מתקדמת, ניהול אנרגיה, ויכולות אוטונומיות משפרים את העמידות והאפקטיביות של מערכות אלה, מובילים לחסכון בעלויות לאורך זמן ומצדיקים את ההוצאה הכספית."
ומכאן הוא המשיך וכתב תרחישים קצרצרים וסיפוריים. מפאת קוצר המקום לא אפרט כאן את כולם. ובכל זאת, הנה ציטוט מתוך אחד הסיפורים, שהגיע מפי אחד מהמפעילים העתידיים של הכלים ב- 2050 –
"ההשלכות האתיות והמשפטיות של מערכות אלה מעיקות עליי מאוד. כאשר נחיל של כטב"מים מופעל לתקיפה מדויקת, האחריות להבטיח ציות לחוקים הומניטריים ולמזער פגיעה באזרחים היא עצומה. ההנחיות וההסכמים הבינלאומיים שאנו מצייתים להם מתפתחים ללא הרף, אך הלחץ לקבל את ההחלטה הנכונה בזמן אמת הוא בלתי פוסק. זו תזכורת מפוכחת למורכבויות ולאחריות שמגיעות עם השליטה בכלים רבי עוצמה אלה."
מקום לשיפור
כפי שראינו, חוזה-טרון מסוגל לספק נקודות, אבחנות ורעיונות מעניינים והגיוניים לגבי העתיד. האם הוא מדויק? כדי לענות על השאלה, אנו צריכים לדעת מה יהיה בעתיד. אבל לעת עתה אפשר לקבוע שהתשובות שהוא מספק אינן נופלות באיכותן מאלו שהיינו רואים בתקציר המנהלים או בסיכום של דו"חות רבים בתעשייה.
אבל האם ההיגיון מאחוריהן תקף? תקצירים שכאלו, אחרי הכל, הם תוצר של מחקר מעמיק. האם חוזה-טרון ערך מחקר כזה בעצמו?
פה התשובה מורכבת יותר. חוזה-טרון ערך מחקר מסוים, אבל הוא לא עשה זאת בדרך הרגילה. הוא עקב אחר ההיגיון שהותווה לו על-ידי עתידן מדופלם (כותב שורות אלו), אבל בכל שלב בתהליך הוא לקח לעצמו חירות מסוימת כדי לספק את התשובה. כאשר הוא התבקש להעריך באופן כמותי, למשל, את יכולות הכטב"מים המשוכללים ביותר כיום, הוא לא "הלך לאינטרנט" ולא "קרא דו"חות" כפי שחוקרים אנושיים היו עושים. הוא פשוט הסתמך על יכולתו לחבר מילים, תווים ומספרים ביחד על סמך האימון שעבר על חלק גדול מהמידע הרלוונטי הקיים באינטרנט.
כל מודל שפה גדול עובר אימון כללי שכזה על-ידי החברות בשוק. מכיוון שהאימון "כללי", הוא יכול להוביל גם להזיות ולסילופים. אם הרשת הייתה מוצפת בשמועות אודות יכולותיהם של כטב"מים לגרום לסרטן בזמן שמודל השפה הגדול אומן לראשונה, הרי שיש סיכוי טוב שחוזה-טרון ידווח לנו בביטחון מוחלט אודות הקשר בין רחפנים לגידולים סרטניים.
למזלנו, איננו חייבים להסתמך רק על מודלי השפה הגדולים הקיימים בשוק. גרסאות משוכללות יותר של בינות מלאכותיות כמו חוזה-טרון יתבססו על מודלי שפה פתוחים, אותם ניתן יהיה לאמן אך ורק על הדו"חות והספרים האמינים, העכשוויים והמדויקים ביותר אודות הכלים האוטונומיים הצבאיים. אותן גרסאות יוכלו גם, במקרה של ספק, לשלוח 'גשוש' לאינטרנט, לאתר דו"חות ודיווחים שיצאו בימים האחרונים ולקרוא אותם בביקורתיות כדי לספק תשובות רלוונטיות יותר. כל ההתפתחויות הללו נמצאות בשימוש כבר היום בשלל אפליקציות בינות מלאכותיות. אין סיבה שלא נסב אותן גם לטובת חקר העתיד.
בינות מלאכותיות חוקרות-עתיד, לפיכך, אינן "מסביב לפינה". הן כבר כאן. וכדרכן של בינות מלאכותיות בעשור האחרון, הן רק ימשיכו להשתפר בקפיצות ובדילוגים מדי חודש ומדי שנה.
כל זה מביא אותנו לשאלה האחרונה: כיצד תיראה עבודת העתידן, בעולם בו הבינות המלאכותיות יכולות לבצע את רוב מלאכתו עבורו?
פרק רביעי: עתיד עבודת העתידן
כפי שכתבתי בתחילת המאמר, הציפיה כיום היא שעד סוף העשור יגיעו הבינות המלאכותיות לרמה בה יוכלו להתחרות בחוקרים בכל תחום. קשה – שלא לאמר בלתי-אפשרי – להבין מראש כיצד תיראה עבודת בני-האדם בעתיד שכזה. האם בכלל תישאר להם עבודה? עד כמה נהיה מוכנים לתת את המושכות לבינה המלאכותית, ועד כמה ראוי ונכון שנעשה זאת?
אלו שאלות שספרים שלמים (אחד מהם של כותב שורות אלו) נכתבו בניסיון סיזיפי לענות עליהן, בהצלחה חלקית בלבד. אלא שמפאת קוצר המקום במגזין, ננסה לענות על שאלה פשוטה יותר: כיצד תיראה עבודת העתידן בעתיד הקרוב – כלומר, בחמש השנים הקרובות?
כדי לענות על השאלה, צריך להבדיל בין שלושה אפיקים לעבודת העתידן: איסוף המידע, ניתוח ועיבוד המידע, ותקשור המידע למקבלי ההחלטות.
דווקא במה שקשור לאיסוף המידע, ייתכן מאד שעבודת העתידן לא תשתנה באופן משמעותי. הסיבה היא שכבר היום עתידנים משתמשים במנועי החיפוש ובבינות המלאכותיות כדי לאתר מידע רלוונטי ברשת. מעבר לכך, בכל עבודת מחקר יש חשיבות רבה לראיונות מומחים ולעריכת סדנאות ושולחנות עגולים. בכל אלו אפשר לצפות עדיין למעורבות אקטיבית וישירה של עורכי המחקר.
בתחום השני של ניתוח ועיבוד המידע, עבודת העתידן תהפוך לזו של מנהל. העתידן המוצלח ינהל את הבינה המלאכותית שתערוך עבורו את המחקר. הוא יכתיב לה את ההיגיון, את הצעדים הנדרשים, את המגבלות ואת סוגי המידע שהיא אמורה לכלול בניתוח שלה. לשם כך הוא יצטרך להבין את הבינה המלאכותית לעומק, ויצטרך לעבור בעצמו על התוצרים כדי לוודא שהם תואמים לסטנדרט שהגדיר.
אחרון חביב, חלק קריטי מעבודת העתידן היא לתקשר את תוצרי המחקר למקבלי ההחלטות בדרך שתוביל להבנה ולקבלה מצידם. לשם כך העתידן ישתמש בבינה המלאכותית כדי להפיק דו"חות קריאים וברורים יותר, תרחישים סיפוריים ומעניינים יותר, ואפילו תמונות וסרטוני וידאו שמשקפים את הדרך בה העתיד עשוי להיראות. אבל בסופו של דבר, כשיש צורך לעמוד מול מקבלי ההחלטות ולהסביר להם איך נערך המחקר ומה ההיגיון שמאחורי התובנות, עדיין לא יהיה תחליף לעתידן האנושי בשנים הקרובות.
הדבר האחד שאפשר לומר בוודאות בשלב זה הוא שכל חוקר – בכל תחום – צריך להתחיל להשתלם בבינה מלאכותית. לכולנו יש שפע של ידע אודות תהליכים מחקריים, אותו ניתן להנחיל לבינה המלאכותית, ולהפיק מחקרים איכותיים ומהימנים יותר בדרך זו.
כן, המשמעות היא שדרך העבודה שלנו כחוקרים תשתנה. כן, נצטרך ללמוד כלים חדשים, מיומנויות חדשות, דרכי חשיבה חדשות.
נצטרך, בקיצור, לחיות את העתיד.
עוד בנושא באתר הידען:
