מסמך אסטרטגי חדש קורא לצבא האמריקני לפעול במתכונת “זמן מלחמה”, לאמץ בינה מלאכותית אג’נטית בקצב חסר תקדים – ולהפקיד בידי מערכות אוטונומיות תפקידים קריטיים בשדה הקרב
כבר קראתי הרבה מסמכים אסטרטגיים של צבא ארצות הברית, אבל זאת הפעם הראשונה שנשארתי מזועזע בסיום הקריאה. המסמך האסטרטגי מהחודש האחרון, שהושק ישירות מטעם שר המלחמה, מכתיב כיוון חדש לכל הצבא, ועל הדרך מבהיר שאנחנו נכנסים לתקופה שונה מאד.
אה, והוא גם מגדיר לגנרלים שהם צריכים לשחזר את "המשחק של אנדר" – ספר המדע הבדיוני המפורסם – בחיים האמיתיים.
אבל נתחיל בהתחלה.
שר המלחמה של ארצות הברית שלח בתחילת ינואר מכתב רשמי לכל הגנרלים, המפקדים והמנהלים בצבא ובמשרד המלחמה. אם נסכם את המכתב בקצרה, הוא מכין את הצבא למלחמה. והוא קורא לכל המפקדים לנטוש את הבירוקרטיה, את הסחבת, את הנהלים הארוכים והטרחניים. משרד המלחמה נכנס ל- "תקופת זמן מלחמה", כדבריו.
"[יש לנקוט ב] גישת זמן-מלחמה לגורמים מעכבים." מפרט המסמך. "אנחנו חייבים לחסל גורמים שמעכבים שיתוף מידע, מתן אישורים להפעלה, בחינה, הערכה… וגורמי מדיניות אחרים שמעכבים ניסויים מהירים והשקה לשדה. אנחנו חייבים לבחון מאזני סיכונים… כאילו היינו במלחמה."
אלו לא מילים שהייתי מצפה לראות במסמך רשמי של צבא ארצות הברית. זהו הצבא המסודר ביותר בעולם, הכי 'יקה' ופדאנטי. הכל נבדק בפינצטה. לכל בורג יש שם משלו, עם ערימות של אישורים ותווי תקן מאחוריו. ועכשיו, כדי לנצח במירוץ הבינה המלאכותית, כל האתוס הקפדני הזה מטואטא הצידה. ולמה? פעם שלישית – כי אנחנו בזמן מלחמה.
אז מה עושים כדי לנצח במלחמה?
בינה מלאכותית ככלי לנצח מלחמות
תאמינו או לא, אבל התשובה מאד פשוטה: משקיעים בבינה מלאכותית. או ליתר דיוק, במירוץ שיוודא שצבא ארצות הברית ישמור על דומיננטיות בעולם של בינה מלאכותית. וכפי שכותב שר המלחמה –
"אנחנו חייבים להפנים שבינה מלאכותית צבאית תהיה מירוץ לעתיד הנראה-לעין, ולפיכך המהירות מנצחת. … אנחנו חייבים לקבל שהסיכונים מכך שלא נזוז מהר מספיק, גוברים על הסיכונים מהסדרה לא-מושלמת [של ערכי הבינה המלאכותית]."
וכך, כל המסמך מתמקד בבינה מלאכותית, בינה מלאכותית ועוד קצת בינה מלאכותית. שר המלחמה דורש מהגנרלים לזהות את הטאלנטים המוכשרים ביותר בבינה מלאכותית, לגייס אותם ולשמר אותם בתוך הצבא. הוא רוצה שכל מודל חדש ומשוכלל שמגיע לשוק, יעבור הטמעה בצבא תוך שלושים יום בלבד. כן, קראתם נכון: שלושים יום, חודש אחד בלבד. בצבא ארצות הברית עד עכשיו, חודש היה הזמן בו מחליטים איזו מנה חדשה להוסיף לתפריט בחדר האוכל. מהיום, זה יהיה משך הזמן בו מחיילים מערכות בינה מלאכותית רגישות ומתקדמות ומטמיעים אותן בכלי נשק מכל הסוגים.
כמו שאפשר להבין, הטמעת מערכות מורכבות כל-כך לא תקרה בקלות. יש שפע של מחסומים בירוקרטיים, אדמיניסטרטיביים והגיוניים שיעמדו בדרך. אז מה נעשה? נפרוץ אותם, כמובן. שר המלחמה מורה על הקמת "ועד להסרת חסמים", שיוכל לנפנף הצידה כל מחסום וכל התנגדות – רק כדי לאפשר לדברים לקרות במהירות.
כי אנחנו במלחמה, זוכרים?
כל יחידה, לפי ההנחיות, אמורה לזכות ב- "מוביל אינטגרציית AI": חייל שיהיה אחראי על שילוב הבינה המלאכותית ביחידה, וידחוף את הנושא בכל הכוח. כדאי לו, כי שר המלחמה מפקח על הכל מגבוה, והוא רוצה לראות תוצאות. והכל יהיה מנוטר, מפוקח ומבוקר, עם מערכות ש- "יאספו משוב תוך ימים, במקום שנים."
נחילים, סוכנים רצחניים וסימולציות
מה יעשו עם כל הבינה המלאכותית הזו בצבא? המסמך קובע מספר תחומים בהם היא תשתלב, ושהיא אמורה להזניק אותם קדימה. באלו נכללים, למשל, "כור הנחילים". זהו פרויקט שיחקור, יגלה ויאמץ דרכים חדשניות ללחימה עם בינה מלאכותית ונגדה. או במילים פשוטות יותר: ללמוד להילחם כמו האוקראינים ונגד האוקראינים (והרוסים) עם נחילי כלי טיס רובוטיים לצד החיילים.
מה עוד? לא משהו גדול. בסך הכל פיתוח סוכני בינה מלאכותית שיוכלו לנהל קרבות לצד הגנרלים ובמקומם. הסוכנים הללו יוכלו לקחת שליטה על כל מטלה, "מתכנון מערכה ועד הוצאה לפועל של שרשרת הוצאה להורג."
ושוב במילים פשוטות: האמריקנים רוצים לתת לבינה מלאכותית את המושכות בשדה הקרב. כן, עד כדי קבלת החלטה את מי להרוג ואיך.
כיוון מעניין שלישי מבוסס במפורש ובשם על ספר המדע הבדיוני "המשחק של אנדר". בספר, שמתרחש בעתיד, מתוארת מערכת סימולציה במציאות מדומה, שעוזרת לגיבור הסיפור – אנדר – ללמוד על עצמו ולהבין את עצמו טוב יותר. שר המלחמה מבקש בעדינות מפקודיו להרים מערכות סימולציה דומות, שיעזרו לחקור את שדה הקרב העתידי עוד לפני שזה יופיע בשטח, וכך – "להבטיח שאנו נשארים לפני יריבים מבוססי-בינה מלאכותית."
אחרון חביב, במלחמה אין מקום או זמן להיות נחמדים. באמריקה של היום, המשמעות היא שעקרונות כמו "שוויון, גיוון והכלה" כבר לא רלוונטיים בצבא. אלא ששר המלחמה לוקח את העניין צעד קדימה, וקובע שגם הבינות המלאכותיות שבהן הצבא יעשה שימוש, צריכות להתנער מהעקרונות האלו. הבינות צריכות לספק תשובות "נכונות אובייקטיבית" לשאלות שמוצגות להן. אבל כמובן, מהי אותה "אובייקטיביות"? מי קובע מה "נכון" ולפי איזה קריטריונים?
עכשיו שקראתם את הדרישות של שר המלחמה של המעצמה עם הצבא המתקדם ביותר בעולם, אתם מבינים למה אני כל-כך חרד?
אם לא, אז אסביר.
סיבות לחשש
נתחיל בכך שאפשר ורצוי לשלב בינה מלאכותית בתהליכי קבלת החלטות בצבא. כן, אפילו בקבלת ההחלטה במי לירות בשדה הקרב. בינה מלאכותית שמכוילת נכון ונבחנת היטב, עשויה גם להגיע לרמת מוסריות שהחייל הרגיל בשטח אינו מסוגל אליה, כשהוא נתון בסערת הקרב ומוצף באדרנלין. אבל כדי להגיע לרמה כזו של יכולות, צריך לפתח את הבינה המלאכותית בזהירות ובקפידה ולבחון אותה בתנאים רבים ושונים בשטח. כל טעות יכולה לעלות בחיי אדם. לא רק של אויבי ארצות הברית, אלא גם של החיילים עצמם.
שר המלחמה זורק את החששות האלו לכל הרוחות, וקובע עובדות בשטח: ריצה קדימה בכל מחיר. או לא בכל מחיר, אבל לפחות במחיר החיים של אנשים שעלולים ליפול קורבן למכונות מלחמה שאינן רואות היטב, שומעות היטב או מנתחות היטב את המצב.
בעצם, גם ניתוח נכון של המצב אינו בהכרח ברשימת הדרישות הקריטיות של שר המלחמה. העקרונות של "שוויון, גיוון והכלה" לא נקבעו יש מאין. הם באו כדי לספק מענה לצרכים חברתיים מסוימים, וכדי לשקף ערכים מוסריים גבוהים וראויים שמאפיינים דמוקרטיות ליברליות. אפשר, כמובן, לקחת את הערכים האלו רחוק מדיי – ואכן תומכי טראמפ רבים טוענים שזה המצב כרגע בארצות הברית – אבל לא נכון לדרוש שהבינות המלאכותיות יתעלמו מהם לגמרי. ואם כך דורש שר המלחמה לעשות, קשה לי להניח אוטומטית שמכונות המלחמה שלו יהיו מחוננות במצפון מפותח, או שיצייתו לחוקי המלחמה המקובלים.
אם היינו עכשיו באמצע מלחמת העולם השנייה, כשמיליוני חיילים ואזרחים מתים בכל צד מדי חודש, הייתי יכול להבין את הנכונות לפרוק כל עול ולדרוש תנועה מהירה קדימה בכל מחיר. אבל ארצות הברית אינה מנהלת לחימה קדחתנית בתקופה זו, ואין לה חיילים באוקראינה. אז מה קורה כאן? לאיזו מלחמה הם מתכוננים? נגד מי? מה כבוד השר יודע שאנחנו לא?
אפשר לטעון שאולי ארצות הברית נערכת למלחמה באיראן, על עשרות-אלפי כלי-הטיס הבלתי-מאוישים שלה. או אולי בסין, שרצה קדימה בעצמה עם הבינה המלאכותית, ושחררה לאחרונה סרטון שמראה את הרובוטים הצבאיים המרשימים שלה. או – מי יודע – אולי אפילו טראמפ רוצה להתנגח ראש-בראש עם האירופאים על גרינלנד. הסיכוי לכך נמוך, בוודאי, אבל אולי.
הדבר היחיד שאפשר לקבוע בוודאות הוא שאנחנו בתקופה של אי-ודאות גדולה. אירופה, סין וארצות הברית נערכות למלחמה. אוקראינה ורוסיה כבר נמצאים בעיצומה. וכאשר כל-כך הרבה אקדחים מיוצרים ומונחים על השולחן במערכה הראשונה, מישהו ישתמש בהם עד סוף ההצגה.
ואם נלך לפי משנתו של שר המלחמה האמריקני, בהחלט ייתכן שמי שישתמש באקדחים האלו יהיו הרובוטים.
עוד בנושא באתר הידען:
