ועידת REAIM ניסתה לקדם כללים לשימוש אחראי ב־AI במערכות נשק, אך פחות ממחצית המדינות חתמו על ההצהרה הלא מחייבת. ארה״ב וסין נמנעו מהצטרפות, והחשש מפגיעה ביתרון הצבאי ממשיך לחסום רגולציה עולמית
המאמץ הבין־לאומי להסדיר את השימוש בבינה מלאכותית במערכות נשק נתקל במכשול מרכזי: מדינות חוששות שכל הגבלה שיקבלו על עצמן תעניק יתרון לאויבים שלא ינהגו באותה מידה של אחריות. מאמר שפורסם ב־The Conversation בידי ד״ר מארק צאגאס, מרצה בכיר למשפט, פשעי סייבר ואתיקה של בינה מלאכותית באוניברסיטת מזרח לונדון, מתאר כיצד החשש הזה חוסם מעבר מהצהרות עקרוניות לכללי פעולה ממשיים.
בפברואר 2026 נערכה בלה קורוניה שבספרד הוועידה השלישית בסדרת ועידותREAIM , העוסקות בבינה מלאכותית אחראית בתחום הצבאי. מטרת המפגש הייתה להפוך עקרונות שכבר נוסחו בעבר לצעדים מעשיים. השתתפו בו נציגי ממשלות, אנשי צבא, נציגי תעשייה וחוקרים ממכוני מדיניות. הוועידה הציגה התחייבות לא מחייבת, שקראה לשמירה על פיקוח אנושי על מערכות AI צבאיות, לביצוע הערכות סיכונים ובדיקות קפדניות, ולשקיפות בתהליכי קבלת ההחלטות בעת שימוש בבינה מלאכותית בעימותים.
לכאורה מדובר בעקרונות בסיסיים שקשה להתנגד להם. אבל בפועל, פחות ממחצית המדינות שהשתתפו בוועידה חתמו על ההתחייבות. ארה״ב וסין, שתיים מהשחקניות המרכזיות ביותר בתחום, בחרו שלא לחתום. לפי המאמר, ההימנעות שלהן חיזקה את ההיסוס של מדינות אחרות והמחישה עד כמה קשה להגיע להסכמה כאשר הטכנולוגיה נתפסת כחלק מהמאבק על יתרון צבאי.
דילמת האסיר של המדינות
שר ההגנה של הולנד, רובן ברקלמנס, תיאר את המצב כ״דילמת אסיר״. זהו מושג מתורת המשחקים שבו שני צדדים עשויים להרוויח משיתוף פעולה, אך כל אחד מהם חושש שהצד השני יפר את הכללים וינצל את אמונו. בתחום הצבאי, המשמעות ברורה: מדינה עשויה להסכים להגבלות אחראיות על שימוש ב־AI, אך לחשוש שמדינה יריבה תפתח מערכות אוטונומיות מתקדמות יותר ותשתמש בהן ללא אותן מגבלות.
הבעיה חריפה במיוחד בכל הנוגע למערכות נשק אוטונומיות. מערכות כאלה, המכונות לעיתים “רובוטים קטלניים”, מעוררות חשש משום שהן עשויות לקבל החלטות מבצעיות ללא התערבות אנושית מספקת. אף שיש הסכמה רחבה נגד שימוש חסר אחריות במערכות כאלה, המדינות עדיין לא מצליחות להסכים אפילו על הגדרה אחידה שלהן. ללא הגדרה מוסכמת, קשה להתחיל בדיון רציני על רגולציה.
החשש מאימוץ הגדרה מחייבת אינו רק משפטי. מדינות חוששות שהסכמה להגדרה רחבה מדי תצמצם את חופש הפעולה של צבאותיהן בשדה הקרב. לכן גם ניסיונות של מומחים אקדמיים להציע ניסוחים גמישים לא הצליחו עד כה לגשר על הפערים.
שדות הקרב הפכו לשדות ניסוי
המאמר מציין כי דיני הלחימה הקיימים כבר אוסרים, לפחות עקרונית, שימוש לא אחראי ולא אתי בטכנולוגיות צבאיות. אולם השאלה היא כיצד כללים שנוסחו לעולם אנושי יותר יפעלו כאשר החלטות מודיעיניות, זיהוי מטרות או הפעלת מערכות נשק נעשים בסיוע מערכות בינה מלאכותית.
המלחמה באוקראינה, המלחמה בעזה וההסלמה באיראן מוצגות במאמר כדוגמאות למצבים שבהם צבאות משתמשים בטכנולוגיות חדשות כמעין שדות ניסוי. המאמר מזכיר, בין היתר, מערכות לאיסוף מודיעין ולסיוע בזיהוי מטרות, וכן שימושים מתקדמים במודלי AI לניתוח מידע. הדגש הוא לא רק על כלי נשק אוטונומיים, אלא גם על השכבה המודיעינית והתכנונית: מערכות שמסייעות למפקדים לקבל החלטות מהר יותר, לעיתים בסביבה של מידע חלקי ולחץ מבצעי.
במקביל, לוחמת הרחפנים מתפתחת במהירות. רחפנים בסיוע AI , רחפנים חצי־אוטונומיים ומערכות בעלות יכולות עצמאיות יותר כבר משנות את שדה הקרב. לפי המאמר, קצב ההתפתחות של הטכנולוגיה מהיר בהרבה מקצב גיבוש הכללים שאמורים להסדיר אותה.
פיקוח אנושי שאינו תמיד משמעותי
אחד הטיעונים המרכזיים בעד שימוש זהיר ב־AI צבאי הוא השארת “אדם בלולאה”. כלומר, דרישה לכך שהחלטות קריטיות יישארו בפיקוח אנושי. אך גם פתרון זה אינו חסין מסכנות. כאשר מפעילים מתרגלים למערכות AI וסומכים עליהן יותר מדי, הם עלולים להפוך למאשרים פסיביים של המלצות המערכת. תופעה זו מכונה הטיית אוטומציה.
במצב כזה, הפיקוח האנושי עלול לאבד ממשמעותו. במקום בחינה ביקורתית של החלטות המערכת, האדם עלול ללחוץ על אישור כמעט באופן אוטומטי. ככל שמערכות AI משתלבות עמוק יותר בתהליכי מודיעין, תכנון ותקיפה, הסיכון הזה נעשה חמור יותר.
המאמר מדגיש גם בעיות מוכרות של מערכות בינה מלאכותית: הטיות, מידע שגוי, דיסאינפורמציה ושחיקה של שיקול הדעת האנושי עקב הסתמכות יתר על מערכות אוטומטיות. כאשר מדובר במערכות אזרחיות, תקלות כאלה עלולות לגרום נזק. כאשר מדובר בשדה הקרב, הן עלולות להוביל להסלמה בלתי מכוונת ולפגיעה באזרחים.
המסקנה המרכזית היא שהקהילה הבין־לאומית יודעת לזהות את הסיכונים, אך מתקשה להפוך את ההכרה הזאת לכללים מחייבים. כל עוד מדינות חוששות שהתחייבות לאחריות תפגע בהן מול יריב שלא יעמוד באותם כללים, הסדרה בין־לאומית של AI צבאי תמשיך להתקדם לאט הרבה יותר מהטכנולוגיה עצמה.
אמפמ מלא
כותרת:
כותרת משנה:
תגים: בינה מלאכותית, נשק אוטונומי AI צבאי, מערכות נשק, דיני מלחמה, רחפנים, רובוטים קטלניים, אתיקה של בינה מלאכותית, ביטחון בין־לאומי, REAIM, הטיית אוטומציה
ביטוי מפתח: בינה מלאכותית צבאית
נרדפים:AI צבאי, בינה מלאכותית במערכות נשק, נשק אוטונומי, מערכות נשק אוטונומיות, רובוטים קטלניים, בינה מלאכותית במלחמה, שימוש צבאי בבינה מלאכותית, רגולציה על AI צבאי
SLUG: military-ai-weapons-regulation-prisoners-dilemma
כותרת SEO:
בינה מלאכותית צבאית: למה העולם מתקשה להסדיר אותה
מטא־תיאור:
מדינות חוששות שהגבלת בינה מלאכותית צבאית תסייע לאויביהן. ועידת REAIM חשפה את הקושי להסדיר נשק אוטונומי ו־AI בשדה הקרב.
מילות מפתח:
בינה מלאכותית צבאית, נשק אוטונומי, רגולציה על AI צבאי, רובוטים קטלניים, דיני מלחמה, הטיית אוטומציה, רחפנים צבאיים, REAIM
הצעות לקישורים פנימיים:
בינה מלאכותית וביטחון, עוגן: שימושי AI במערכות ביטחון
רחפנים ושדה הקרב המודרני, עוגן: לוחמת רחפנים
אתיקה של בינה מלאכותית, עוגן: סיכונים אתיים של AI
FAQ קצר:
מהי בינה מלאכותית צבאית?
בינה מלאכותית צבאית היא שימוש במערכות AI לצורכי מודיעין, תכנון, ניתוח מידע, זיהוי מטרות או הפעלת מערכות נשק.
מה הבעיה המרכזית בהסדרת AI צבאי?
הבעיה היא שמדינות חוששות שהגבלות שיקבלו על עצמן ינוצלו בידי יריבים שלא יעמדו באותם כללים.
מהי הטיית אוטומציה?
הטיית אוטומציה היא מצב שבו בני אדם סומכים יותר מדי על המלצות מערכת ממוחשבת, עד שהם מאשרים אותן בלי בדיקה ביקורתית מספקת.
