# חוקי הרובוטיקה של אסימוב יהפכו לתוכנה שתוטמע ברובוטים צבאיים

> רובוטים צבאיים אוטונומיים יהיו חייבים לציית לקוד לוחמים או שהם יהפכו לאדוני האנושות, מזהיר דו"ח של חוקרים מהמכון הפוליטכני של קליפורניה אזהרה מפני הפיכה בנוסח ספרי הרובוטים של אייזק אסימוב, והפעם במציאות. לאחרונה התפרסם דוח העוסק באתיקה של הרובוטים. בדוח, שהובל על ידי חוקרים מקבוצת האתיקה של הטכנולוגיות המתפתחות במכון הפוליטכני של קליפורניה, כותבים החוקרים פטריק לין, ג'ורג' בקי וקיית אבני כי יש להתכונן למצב שבו הרובוטים ישלטו בשדה הקרב.…

- Canonical: https://www.hayadan.org.il/autonomous-military-robotics-ethics-code-2302092
- Author: אבי בליזובסקי
- Published: 2009-02-23T00:10:36+02:00
- Modified: 2016-03-18T21:49:43+02:00
- Sections: אסימוב, רובוטיקה
- Topics: טכנולוגיה צבאית, רובוטים, רובוטים אוטונומיים, תבונה מלאכותית

## Article

רובוטים צבאיים אוטונומיים יהיו חייבים לציית לקוד לוחמים או שהם יהפכו לאדוני האנושות, מזהיר דו"ח של חוקרים מהמכון הפוליטכני של קליפורניה אזהרה מפני הפיכה בנוסח ספרי הרובוטים של אייזק אסימוב, והפעם במציאות. לאחרונה התפרסם דוח העוסק באתיקה של הרובוטים. בדוח, שהובל על ידי חוקרים מקבוצת האתיקה של הטכנולוגיות המתפתחות במכון הפוליטכני של קליפורניה, כותבים החוקרים פטריק לין, ג'ורג' בקי וקיית אבני כי יש להתכונן למצב שבו הרובוטים ישלטו בשדה הקרב. הרובוטים, לרבות רובוטים חמושים דמויי המחסל מהסרט שליחות קטלנית, ישמשו תחליף לכוח אדם צבאי. הדבר מעלה שאלות מוסריות. תותח רובוטי אוטונומי למחצה שהותקן בדרום אפריקה שגה והרג תשעה חיילים "ידידותיים" ופצע 14 אחרים. הדוח מציין כי "על מי עלינו להטיל את האשמה והעונש לביצוע הפגיעה הבלתי מורשית בידי הרובוטים האוטונומיים, בין אם בטעות או בכוונה – על המתכנן, על יצרן הרובוט? על הקצין שהיה אחראי על היחידה שבה הוצב? על הבקר והמפקח שלו, המקד בשטח, נשיא ארה"ב, או אולי על הרובוט עצמו. לדברי לין, ישנם כוחות מניעים לקראת מגמה זו. "הקונגרס אישר כי עד שנת 2010, כשליש מכלי הטייס יהיו בלתי מאוישים, עד 2015 כל כלי השטח הקרקעיים יצטרכו להיות בלתי מאוישים. מועדי סיום אלה יוצרים לחץ לפתח ולהטמיע כלים רובוטיים לרבות כלי רכב עצמאיים, אך יתכן שהריצה אל השוק מגדילה את הסיכון לתכנון או לתכנות לא הולמים? תארו לעצמכם כיצד יראה שדה הקרב עם רובוטים אוטונומיים? במקום שהחיילים שלנו יחזרו בארון עטוף בדגל למשפחות שבורות, רובוטים אוטונומיים – מכונות ניידות שיוכלו לקבל החלטות כגון לירות על מטרה בלי מעורבות אנושית – יוכלו להחליף את החיילים במגוון רחב של משימות מסוכנות המשימות הללו משתרעות מניווט בתוך מערכות ומנהרות חשוכות בחיפוש אחר טרוריסטים, ועד לאבטחת רחובות בערים בעזרת רובי צלפים או לפטרל בשמים ובדרכי המים כדי לכסות מפני התקפה, לטהר דרכים ואת הים מפני פצצות מאולתרות, לסרוק אחר נזקים מפני נשק ביוכימי, להגן על הגבולות ועל בניינים, לשלוט על קהל בעל פוטנציאל לעוינות, ואפילו להחליף את חיל הרוגלים בחזית. "הרובוטים יהיו חכמים מספיק כדי לקבל החלטות שרק בני אדם יכולים כיום לקבל" כותבים השלושה, וכשקצב הקונפליקט יגבר וידרוש עיבוד נתונים הרבה יותר מהיר ובהתאם גם תגובה יותר מהירה, לרובוטים יהיה יתרון משמעותי על פני היכולות הקוגניטיביות המוגבלות של האדם. לא רק שהרובוטים ירחיבו את שדה הקרב גם לשטחים קשים ונרחבים, אלא שהם גם יוכלו לייצג כוח משמעותי – שחקן רב גוני – כאשר כל רובוט יוכל לעשות את העבודה של חיילים רבים, תוך שהוא מחוסן מפני הצורך לישון ומוגן מפני בעיות אחרות כגון תשישות, מורל נמוך, אתגרי תפיסה ותקשורת בערפל הקרב, ובעיות אחרות הפוגעות בביצועים האנושיים." "הרובוטים גם לא יושפעו מהאדרנלין, רגשות ומתח הגורמים לחיילים לפעול פעילות יתר או להפר את הכללים, שלא לומר פשעי מלחמה. הרובוטים יוכלו לדווח על כל התנהגות חריגה למפקדה." "ואולם הטכנולוגיה היא חרב פיפיות שיש לה גם יתרונות וגם סיכונים, ורובוטים צבאיים אינם יוצאים מן הכלל. החששות כוללים: כאשר האחריות תיפול במקרים של גרימת נזק בלי כוונה או בניגוד לחוק, דבר שיכול להשתרע החל מהיצרן, דרך המפקד בשטח ועד למכונה עצמה; האפשרות של תקלה חמורה שתגרום לרובוט להשתגע, לכידה ופריצה למוח של הרובוט והפיכתו לפעול נגדנו; הפחתת הסף של קונפליקטים ומלחמות, בגלל שפחות חיילים אמריקנים ייפגעו. ההשפעה של רובוטים כאלה על התלכדות היחידות – כלומר אם רובוטים מתעדים ומדווחים כל פעולה של החייל; סירוב פקודה לגיטימית, ושאר נזקים אפשריים." מסכמים השלושה את המבוא למאמרם." הדוח מומן בידי המשרד למחקרים ימיים של צי ארה"ב. [לדו"ח במלואו (PDF)](http://ethics.calpoly.edu/ONR_report.pdf)