סיקור מקיף

חוקי הרובוטיקה של אסימוב יהפכו לתוכנה שתוטמע ברובוטים צבאיים

רובוטים צבאיים אוטונומיים יהיו חייבים לציית לקוד לוחמים או שהם יהפכו לאדוני האנושות, מזהיר דו"ח של חוקרים מהמכון הפוליטכני של קליפורניה

רובוט שוטר וכלבו. איור: shutterstock
רובוט שוטר וכלבו. איור: shutterstock
רובוטים
רובוטים

אזהרה מפני הפיכה בנוסח ספרי הרובוטים של אייזק אסימוב, והפעם במציאות. לאחרונה התפרסם דוח העוסק באתיקה של הרובוטים. בדוח, שהובל על ידי חוקרים מקבוצת האתיקה של הטכנולוגיות המתפתחות במכון הפוליטכני של קליפורניה, כותבים החוקרים פטריק לין, ג'ורג' בקי וקיית אבני כי יש להתכונן למצב שבו הרובוטים ישלטו בשדה הקרב.

הרובוטים, לרבות רובוטים חמושים דמויי המחסל מהסרט שליחות קטלנית, ישמשו תחליף לכוח אדם צבאי. הדבר מעלה שאלות מוסריות. תותח רובוטי אוטונומי למחצה שהותקן בדרום אפריקה שגה והרג תשעה חיילים "ידידותיים" ופצע 14 אחרים. הדוח מציין כי "על מי עלינו להטיל את האשמה והעונש לביצוע הפגיעה הבלתי מורשית בידי הרובוטים האוטונומיים, בין אם בטעות או בכוונה – על המתכנן, על יצרן הרובוט? על הקצין שהיה אחראי על היחידה שבה הוצב? על הבקר והמפקח שלו, המקד בשטח, נשיא ארה"ב, או אולי על הרובוט עצמו.

לדברי לין, ישנם כוחות מניעים לקראת מגמה זו. "הקונגרס אישר כי עד שנת 2010, כשליש מכלי הטייס יהיו בלתי מאוישים, עד 2015 כל כלי השטח הקרקעיים יצטרכו להיות בלתי מאוישים. מועדי סיום אלה יוצרים לחץ לפתח ולהטמיע כלים רובוטיים לרבות כלי רכב עצמאיים, אך יתכן שהריצה אל השוק מגדילה את הסיכון לתכנון או לתכנות לא הולמים?

תארו לעצמכם כיצד יראה שדה הקרב עם רובוטים אוטונומיים? במקום שהחיילים שלנו יחזרו בארון עטוף בדגל למשפחות שבורות, רובוטים אוטונומיים – מכונות ניידות שיוכלו לקבל החלטות כגון לירות על מטרה בלי מעורבות אנושית – יוכלו להחליף את החיילים במגוון רחב של משימות מסוכנות המשימות הללו משתרעות מניווט בתוך מערכות ומנהרות חשוכות בחיפוש אחר טרוריסטים, ועד לאבטחת רחובות בערים בעזרת רובי צלפים או לפטרל בשמים ובדרכי המים כדי לכסות מפני התקפה, לטהר דרכים ואת הים מפני פצצות מאולתרות, לסרוק אחר נזקים מפני נשק ביוכימי, להגן על הגבולות ועל בניינים, לשלוט על קהל בעל פוטנציאל לעוינות, ואפילו להחליף את חיל הרוגלים בחזית.

"הרובוטים יהיו חכמים מספיק כדי לקבל החלטות שרק בני אדם יכולים כיום לקבל" כותבים השלושה, וכשקצב הקונפליקט יגבר וידרוש עיבוד נתונים הרבה יותר מהיר ובהתאם גם תגובה יותר מהירה, לרובוטים יהיה יתרון משמעותי על פני היכולות הקוגניטיביות המוגבלות של האדם. לא רק שהרובוטים ירחיבו את שדה הקרב גם לשטחים קשים ונרחבים, אלא שהם גם יוכלו לייצג כוח משמעותי – שחקן רב גוני – כאשר כל רובוט יוכל לעשות את העבודה של חיילים רבים, תוך שהוא מחוסן מפני הצורך לישון ומוגן מפני בעיות אחרות כגון תשישות, מורל נמוך, אתגרי תפיסה ותקשורת בערפל הקרב, ובעיות אחרות הפוגעות בביצועים האנושיים."

"הרובוטים גם לא יושפעו מהאדרנלין, רגשות ומתח הגורמים לחיילים לפעול פעילות יתר או להפר את הכללים, שלא לומר פשעי מלחמה. הרובוטים יוכלו לדווח על כל התנהגות חריגה למפקדה."

"ואולם הטכנולוגיה היא חרב פיפיות שיש לה גם יתרונות וגם סיכונים, ורובוטים צבאיים אינם יוצאים מן הכלל. החששות כוללים: כאשר האחריות תיפול במקרים של גרימת נזק בלי כוונה או בניגוד לחוק, דבר שיכול להשתרע החל מהיצרן, דרך המפקד בשטח ועד למכונה עצמה; האפשרות של תקלה חמורה שתגרום לרובוט להשתגע, לכידה ופריצה למוח של הרובוט והפיכתו לפעול נגדנו; הפחתת הסף של קונפליקטים ומלחמות, בגלל שפחות חיילים אמריקנים ייפגעו. ההשפעה של רובוטים כאלה על התלכדות היחידות – כלומר אם רובוטים מתעדים ומדווחים כל פעולה של החייל; סירוב פקודה לגיטימית, ושאר נזקים אפשריים." מסכמים השלושה את המבוא למאמרם."

הדוח מומן בידי המשרד למחקרים ימיים של צי ארה"ב.

לדו"ח במלואו (PDF)

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

46 תגובות

  1. אפשר ללמוד ממלחמות אטילה:
    אטילה עמד בראש צבא לוחמים עזי נפש שהיו מצויידים במועט שבמועט.
    לא היה להם שריון ולא קסדה.
    מולו עמד הצבא הרומאי. הצבא בעל אמצעי הלחימה הטובים ביותר באותם הזמנים. עם חיילים שאומנו לתפקד כרובוטים בשדה הקרב.
    המלחמה היתה שקולה.
    שני הצבאות הפסידו כמות אדירה של לוחמים.
    אטילה החליט לסגת חזרה למקום שממנו הוא בא.
    לא היה קרב נוסף כי אטילה מת בטרם הספיק להתארגן לקרב נוסף.
    אבל לאטילה היתה לפחות מסקנה אחת ברורה:
    הוא טען שאנשיו היו גוברים על הרומאים אילו היו להם קסדות. כלומר אילו היו מצויידים מעט יותר טוב.

  2. ב
    לא במיקרים רבים – אלא כמעט תמיד 🙁
    המערכות המורכבות ביותר מעשי אדםהם תוכנות. רק תוכנה פשוטה ביותר עושה בדיוק מה שתוכננה לעשות.

  3. אים ראיתם את הסרט פלדה חיה אתם לא יודעים מזה רובוט צבעיך

  4. הסרט "אני רובוט" ממחיש את הבעייתיות של חוקי אסימוב,
    בהם למרות שהם מתוכנתים כך קורה שם משהו. ממולץ לראות

  5. איציק (אחר):
    ומה יהיה אם יבנו מאות אלפי רובוטים, ישימו פצצת אטום בכל אחד ויפזרו אותם במרכזי הערים ואז יגידו לכולם להתפוצץ?
    אה – בעצם לא צריך רובוטים בשביל זה, נכון? מספיק פצצות אטום עם הפעלה (מושהית) מרחוק.
    אתה רואה?
    אפשר לעשות המון שטונות ולא צריך לפתח כלי מתוחכם כמו רובוט כדי להרוס את העולם.
    השאלה היא, כמובן, למה שנעשה מעשה כה טיפשי, ואני חוזר ואומר – אם מישהו רוצה לעשות זאת הוא יכול כבר היום.
    מה שאתה אומר על מחשבים ולוגיקה עמומה מצביע רק על כך שאינך מכיר את הנושא ואני אומר לך זאת כאדם שעסק בנושא שנים רבות וגם בנה מערכות לומדות.

  6. איציק (אחר),
    התאונה שהתרחשה בדרום אפריקה אינה נבעה מ"אינטליגנציה" של הרובוט בגלל סיבה פשוטה מאוד. לרובוט הזה אין AI. אין לו יכולת ללמוד ויותר מזה, אין לו יכולת להחליט מתי לירות ומתי לא. הוא יורה לפי סט פרמטרים קבועה שניתנה לו בתכנות. האשמה כולה הינה על המתכנת שקבע סט פרמטרים לא מתאים עבור התנאים שבו הוצב הרובוט. יכול להיות שהרובוט בכלל לא תוכנת עם סט פרמטרים אלא חובר לגלאי תנועה פשוטים – כמו שאומרים shoot on sight.

    עוד לא הגענו לבעיה המוסרית – האם לתת לרובוטים אינטליגנציה שיוכלו בסופו של דבר להפנות אותו כנגדנו. אנו עדיין בשלב של "האם הרובוט שתיכנתנו אותו כך וכך ישים עבור הפעולה הנדרשת".

    הרובוט עושה מה שאומרים לו, אבל האם אנחנו מבינים מה שאמרנו לו?

  7. "— תותח רובוטי אוטונומי למחצה שהותקן בדרום אפריקה שגה והרג תשעה חיילים "ידידותיים" ופצע 14 אחרים. "
    כן, אנחנו כנראה רחוקים מאוד ממצב שבו רובוטים אינטליגנטים יהרגו אותנו בלי הרף.

    הויכוח האם הרובוט התכוון לירות על האנשים האלה כי הוא פיתח אינטליגנציה מספיק גבוהה והחליט להתחבר לצד הרשע שבו לא רלוונטית בכלל. העובדה היא שהוא הוצב שם עם הפקודה "לירות על מנת להרוג" וזה מה שהוא עשה, וביעילות.

    ואם יהיו מספיק רובוטים כאלו, ואם הרובוטים יתוכנתו עם הפקודה "להגן על הרובוטים בכל מחיר אפשרי" אז לא ירחק היום שבו רובוטים בלי אינטליגנציה גבוהה ישתלטו לנו על העולם.

    ו…. כן, בלי קשר ליולת החישוב של מחשבים היום ואיך הם היו ב1985 – היום מיוצרים אלגוריתמים מספיק חכמים שתוצאותיהם אינן ידועות עד אשר נגמר ה"אימון" שלהם. זה כבר לא אלגוריתם קלאסי מבוסס שיטות, זה אלגוריתם לומד בעל לוגיקה מעורפלת fuzzy logic. לך תתוכח עם זה… ועוד שיש לו תת מקלע ביד והוא בלתי ניתן לעצירה.

  8. אני חושב שהסידרה סרטים של שליחות קטלנית נותנים דוגמאות של 2 הצדדים ….

  9. נא לתקן את טעויות הכתיב, זה באמת לא לרמת הכתבה

    תודה

  10. איזה יופי:
    גם בכך שביקשת את רשותי לעשות דבר מה ובצעת אותו ללא רשותי – טעית.

  11. ובכל זאת! מיכאל, הרשה לי פעם אחת נוספת – אתה טועה!

    בברכה.

  12. מיכאל, כל מה שיש לי להגיד לך זה – אתה פשוט טועה.

    יום טוב!

  13. איזה יופי:
    אין צורך להכביר מילים.
    מה שלא הבנת הוא מה שכתבתי קודם.
    המחשבים שייבנו על ידינו יוכלו לעשות רק מה שנרצה שיעשו.
    אין כל סיבה שנעניק להם רצון ותודעה משל עצמם (ותכונות אלו בבירור שונות מן היכולת שכן נעניק להם לפתור ביעילות את בעיותינו אנו).
    מלבד זאת – מה שכתבת על מצבם של מדעי המחשב והמוח ב 1985 אינו נכון אבל לזה כמובן שלא התייחסתי בתגובתי הקודמת.
    דבר נוסף שכן אמרתי בתגובתי הקודמת הוא שלמרות האופטימיות של כמה אנשים אני חושב שאנחנו עוד די רחוקים מן היכולת ליצור מחשבים אינטליגנטים באמת וגם מן היכולת ליצור מחשבים בעלי תודעה ורצון משל עצמם.

  14. נו מיכאל עוד לא התאוששת?

    אני ממתין לתשובתך.

    בברכה!

  15. בוקר טוב מיכאל !!

    אשמח אם תסביר לי מה לא הבנתי.

    בברכה,
    איזה יופי !!!!!

  16. איזה יופי:
    לא הבנת אותי אבל הצלחת לעייף אותי אז לילה טוב.

  17. Gillans קח דוגמה פשוטה, לרובוט אחד ניתנת הפקודה להכניס כמוסת רעל לתוך כוס מים, ולאחר מכן לרובוט אחר שלא יודע מה עשה הרובוט הקודם, ניתנת הפקודה להגיש את כוח המים הזו לאדון שלו, דבר שכמובן יגרום למותו.

    זו דוגמה דיי מטופשת אבל היא מראה לך שגם חוקי אסימוב ניתנים לכיפוף דיי בקלות.

    קרא גם את ההודעה הקודמת שלי (מעל זו שכתבת)

    בברכה,
    איזה יופי !!!!!

  18. אין סיכוי – להזכירכם, חוקי הרובוטיקה של אסימוב אוסרים על רובוט לפגוע באדם באופן כלשהו, כך שהעניין כבר ירד מהפרק בכל הנוגע לרובוטים צבאיים.

  19. מיכאל, יש דברים שניתן לחזות אותם בקלות על סמך מגמות, לדוגמה קל מאד להביט בכדור מתגלגל על משטח ולחזות היכן הוא יהיה בעוד כך וכך שניות או דקות.

    עם כל הכבוד בשנת 1985 טכנולוגיית טכנולוגיית המחשב וחקר המוח היו נושאים שרק החלו להתפתח, בתקופה המדוברת היה קשה מאד לחזות כיצד ולאן הדברים יתפתחו, המצב כיום שונה לגמרי וניתן להבחין כבר במגמות ברורות מאד של לאן הדברים מתפתחים ובאילו קצבים. שוב כמו שהצעתי לאוֹר (או בעצם אתה תחת שם אחר?) אני מציע לך בחום לרכוש ולקרוא בהקדם את הספר "הסינגולריות קרובה" של ריי קורצוויל, ואז להמשיך את הדיון עם תובנות חדשות שיהיו לך בנושא כי הטיעונים שהוא מעלה בספר מאד משכנעים ואני בדרך כלל אדם מאד סקפטי.

    החוקים של אסימוב טובים אולי לספרי מדע בדיוני אבל זה ממש מגוכח לחשוב שנוכל באמת לכפות אותם על רובוטים בעלי רמת אינטיליגנצייה גבוהה משלנו, הדבר משול לאדם אסיר בתא כלא כשקבוצת קופים שומרים עליו, במוקדם או במאוחר הוא יצליח להשיג את המפתח לדלת ולהשתחרר, זה מגוכח לחשוב שמחשב או רובוט שרמת האינטיליגנצייה שלו גבוהה פי מילייאדים על זו שלנו ימשיך להיות כפוף למרותנו ולשרת אותנו, זה פשוט בלתי הגיוני ובלתי אפשרי במציאות.

    "גם אם נדע כיצד אפשר לייצר מחשבים בעלי תודעה – אין זה אומר שבהכרח נייצר כאלה מחשבים"

    מחשבים כאלו יתנו יתרון עצום למדינה שתחזיק אותם ותשתמש בהם, לדוגמה מחשבים אינטיליגנטיים כאלו שישלטו בטילים, במטוסי הקרב, בטנקים ובשאר מערכות הנשק והבקרה יתנו לאותה מדינה כוח מחץ צבאי ששום מדינת אוייב לא תוכל להתמודד מולו, מחשבים כאלו יהפכו את הנסיעה או הטיסה במטוס להרבה יותר בטוחים, הם יעזרו לפתח תרופות חדשות וחומרים חדשים, כשמחשבים כאלו יהיו זמינים אף מדינה שפוייה לא תחליט מרצון לא להשתמש ביכולת שלהם, כי מדינה כזו תישאר מהר מאד מאחור.

    בברכה!
    איזה יופי !!!!!

  20. איזה יופי:
    אמרו כבר לפני שקשה מאד להתנבא – במיוחד ביחס לעתיד.
    אני זוכר שבשנת 1985 התערבתי עם יוני נוקד (נדמה לי שהיום הוא מנכ"ל איגוד האינטרנט) על השאלה אם עד שנת 2000 יהיו בידינו רובוטים שמסוגלים להחליף אותנו במטבח.
    אני הייתי אז ראש ענף תכנה באחת מיחידות המחשב של צה"ל והוא היה באיזה תפקיד מקביל בשלישות.
    אני טענתי שאין סיכוי והוא אמר שבטוח.
    עכשיו 2009 ומתברר שצדקתי.
    לדעתי עלינו לעבור עוד כברת דרך גדולה מאד עד שנבין כיצד פועל המוח ומהם תודעה, אינטליגנציה ורצון.
    אינני טוען שלא ניתן להגיע להבנה כזאת אבל לדעתי עוד יש בפנינו כמה אתגרים שאינם רק אתגרים של כמות אלא גם אתגרים של איכות – כאלה שידע בלבד לא מספיק כדי להתגבר עליהם ונחוצים גם כמה רעיונות מבריקים.
    לכן אני חושב שאיננו כה קרובים למחשבים בעלי תודעה ומוטיבציה ואיננו יודעים כיצד ליצור אותם גם אם נרצה.
    וכאן נכנס השיקול הבא שבעצם הועלה כבר על ידי אור.
    מה שהמחשבים שלנו יעשו זה מה שאנחנו נאפשר להם לעשות.
    גם אם נדע כיצד אפשר לייצר מחשבים בעלי תודעה – אין זה אומר שבהכרח נייצר כאלה מחשבים.
    אני גם מניח שאם נייצר משהון קרוב – באמת נטרח – כפי שמוצע כאן בכתבה וכפי שהציע גם אסימוב – להטמיע בהם באופן שאינו ניתן למחיקה – חוקים שיאלצו אותם להישאר לנצח משרתינו.

  21. אוֹר, חקר המוח מתקדם בצעדי ענק ומדי שנה מוכפלת כמות הידע שיש לנו לגבי המוח וכיצד הוא פועל, כשנגיע בעוד מספר שנים להבנה מלאה של אופן פעולת המוח (ואין שום ספק שהרגע הזה בוא יגיע) לא תהייה שום סיבה מדוע שלא נצליח להעתיק ולשחזר את מבנה הנויירונים במוח שלנו לתוך מערכת אלקטרונית ממוחשבת שתבצע בדיוק את אותם דברים שהמוח שלנו מסוגל לבצע כולל רגשות, ומודעות עצמית, ומה גם נוכל לבנות מוח כזה בצורה הרבה יותר יעילה יותר מאשר מוח אנושי שהתפתח בצורה עיוורת ע"י תהליך של אבולוציה טיבעית כי כאשר אתה מבין את אופן הפעולה של מכשיר מסויים אתה יכול לשפר אותו ולייעל את אופן פעולתו.

    ראה רק בתור דוגמה אחת את פרוייקט "המוח הכחול" שמתבצע על מחשבי העל של IBM, פרוייקט מדהים שמנסה לשחזר את המוח האנושי בתוך מערכת ממוחשבת ולמרות שעוצמת מחשבי העל של היום מאפשרת לסמלץ רק מוחות של יונקים קטנים כמו חולדות ועכברים (ועוצמת המחשבים מוכפלת משנה לשנה….) כבר עכשיו הסימולציות שבוצעו בפרוייקט מראות תוצאות דומות להפליא לאלו שמתקבלות בתנאים דומים במוח ביולוגי, והדבר מוכיח שהפרוייקט בפירוש צועד בכיוון הנכון וזו רק ההתחלה.

    קרא את הספר "הסינגולריות קרובה" של ריי קורצוויל –

    http://www.tapuz.co.il/blog/ViewEntry.asp?EntryId=1065939

    הספר הזה אחת לאחת על כל הקושיות שלך שנובעות בעיקר מחוסר הבנה של הנושא המדהים הזה, צא ולמד.

    בברכה,
    איזה יופי !!!!!

  22. לאיזה יופי,
    מחשב או רובוט, יודע לעשות רק מה שתכנתו אותו לעשות. ניתן לומר שגם ברגע זה ממש המחשבים יותר נבונים מאיתנו – הם יכולים לחשב הרבה יותר ממני וממך. יש להם יכולות גרפיות ליצור תמונות תלת-מימדיות נעלות בהרבה על אלו של כל אדם. המחשבים יכולים לנצח אותנו בשחמט. גם במחשב שאתה משתמש בו עכשיו, יש יכולות "שכליות" גבוהות יותר משל כל אדם אחר.
    ובכל זאת, אתה שולט בו ולא הוא בך. הסיבה לכך היא שמעולם אף אחד לא הינדס רגשות לתוך המחשב, ואין לו שום יצר עצמאות או הישרדות. אלה מאפיינים של יצורים חיים שהתפתחו באבולוציה. אבולוציה זו הייתה אפשרית בשל יכולת ההעתקה והטעות שהיו ליצורים החיים הקדומים ביותר, כלומר אפשרות לתורשה. כיום, אף מחשב אינו נתון בפני ברירה טבעית וגם לו היה, אני בספק אם הוא היה שורד בכוחות עצמו. המחשבים לא יפתחו רגש השתלטות אם לא יחדירו אותו להם בכוונה.

    מה שמחזיר לדיון את נושא הטרור, שעלה קודם…

  23. למישהו,
    אתה טועה, התמונה גדלה בס"מ על ס"מ יותר 🙂 בדקתי.

    בכל המקרה, התמונה הנוכחית היא רק אילוסטרציה ולא היתה מוסיפה לך מידע על הכתוב במאמר אז ההפסד לא כזה גדול, אם זה מנחם אותך 🙂

  24. אבי, זה מצחיק שבמאמרים האחרונים כאן ניתן ללחוץ על התמונות אבל אז הן נפתחות בחלון חדש בבדיוק באותו הגודל….. אז מה עשינו בזה? האם לחיצה על תמונה לא אמורה לפתוח אותה בגודל גדול יותר?

  25. אלי, אתה פשוט תמים. התחזיות האלו רחוקות מאד מלהיות מדע בדיוני וכל אדם שמתעסק בתחומים האלו יגיד לך זאת. כאשר רמת האינטיליגנצייה של המחשבים האלו תעלה על שלנו, ולאור קצב התפתחות עוצמת המחשב יחד עם ההתקדמות המהירה בחקר לקראת הבנה מלאה של המוח האנושי, זה צפויי לקרות כבר ב 20-25 שנים הקרובות ויתחיל להתגלגל כמו כדור שלג, אז תתכונן לאכול את הכובע, כי שום דבר לא יוכל לעצור את זה. האבולוציה הטכנולוגית הזו היא המשך ישיר של האבולוציה הביולוגית, מתישהו הרובוטים האלו יקחו את השליטה לידייהם, אז כדאי שתתחיל כבר מעכשיו להתייחס אליהם בכבוד כדי שהם יחוסו עליך.

  26. לאיזה יופי !!!!!:

    ראית יותר מידי מדע בידיוני אם אתה חושב שהרובוטים ינצחו אותנו, זה לעולם לא יקרה.

  27. ואוו, ממש מדהים לראות איך בכל יום שעובר התחזיות של ריי קורצוויל קורמות עוד וגידים אחת לאחת לנגד עיניינו –

    http://www.tapuz.co.il/blog/ViewEntry.asp?EntryId=1065939

    אין ספק שטנקים, מטוסים ושאר כלי משחית שישלטו ע"י מוחות ממוחשבים אינטיליגנטיים יהוו כוח מחץ מכריע בזמן מלחמה בידיי אלו שיחזיקו בהם. לגבי החוקים שרוצים להטמיע ברובוטים האלו, לדעתי זו שטות גמורה וזה חסר כל סיכויי, בשלב מסויים רמת האינטיליגנציה שלהם תעלה פי מיליונים ופי מיליארדים על זו שלנו, בשלב מסויים נאבד את השליטה עליהם והם לא יהיו מוכנים לפעול תחת סמכותנו, בדיוק באותו האופן שאנחנו בני האדם לא היינו סרים למרותם של קופים ולא היינו מוכנים לצאת להילחם בשבילם את מלחמותיהם, גם אם היינו יודעים שהם אלו שיצרו אותנו.

    בקיצור, יפה, איזה עתיד מדהים! (בשלב מסויים, עתיד ללא בני אדם, לצערי…)

  28. יופי, עכשיו לכל ילד סיני תיהיה אלטרנטיבה לפריצה לפנטגון שמזמן הפסיקה ליהיות אתגר.
    מכל מה שמוצג שם, רק רובוט לזיהוי וחיטוי חל"כ נישמע בטוח.
    כל השאר זה יסודות להרג חסר אבחנה.
    למה לא לנהל את הרובוטים בסיגנון MMORPG? במקום לתת להם להחליט לבד.

  29. שמוליק:

    זה מזכיר לי שיעקב פרוינד פעם כתב על מישהו ש(בכתיב חסר) "פצה איטלקית בגלל שפתה עיראקית".

    בעניין המלחמה בטרור – אל נא בחפזה.
    בואו ניזכר בעובדה שמדברים כאן על טכנולוגיה עתידנית.
    לוחם ממוכן אוטונומי עוד רחוק מרחק שנות פיתוח רבות מיכולתנו הנוכחית.
    המלחמה בטרור מציבה אתגר נוסף – בדיוק אותו אתגר שהיא מציבה בפני הלוחמים האנושיים בטרור, והוא הקושי הרב יותר בהבחנה בין עמית לטורף.
    האם אתה באמת חושב שבאיזה שהוא עתיד נראה לעין נציב בפתח הקניון רובוט שיפתח באש כלפי מי שיחשוד בו כמחבל?
    חוץ מזה – דווקא מחבלים אנושיים יהיו – מבחינת ארגוני הטרור – עדיפים על רובוטים. אתה יכול להשוות את הקושי הניצב בפני רובוט בהסתננות לשטח ישראל מבלי לעורר תשומת לב לקלות הבלתי נסבלת של הסתננות בן אדם? הרי גם מערכות ממוכנות תגלנה רובוט עוין הרבה יותר בקלות מאשר תגלנה אדם עוין.
    לכן ארגוני הטרור לא יצטיידו בכזאת טכנולוגיה – לא בגלל עלותה אלא בגלל חוסר היעילות שלה.

  30. פצע עם ע

    ונראה לי שזה הפתרון היחיד למלחמה בטרור
    שלא יכול להחזיק טכנולוגיה ברמה הזו

  31. כתבה מעניינת. הרחקת החיילים משדה הקרב פירושה הרחקת הרגש מההרג (רחוק מהעין רחוק מהלב). כפי שזה נראה, רק מדינות עשירות תשתמשנה בטכנולוגיה הזו ואילו מדינות עניות ישתמשו בחיילים אנושיים. גם במנטליות של הלחימה וגם במוסר הלחימה יכולו שינויים מרחיקי לכת.

  32. מעיין:
    קרא שוב.
    כל הכתבה מדברת על הצורך בחוקים אלה (כמובן – בשינוי כלשהו – כזה שיזהה רק את הצד שלך כ"בני אדם").

    חיים:
    מכיוון שלא מדובר בדיוק על חוקי הרובוטיקה של אסימוב – זה לא ימנע מלחמות.

  33. איזה כף. אם חוקי הרובוטיקה של אסימוב יוטמעו ברובוטים ואם רובוטים יעודו למלחמות אז לא תהינה מלחמות. גאוני.

  34. חוץ מהכותרת אין שום אזכור בכתבה הקשור לחוקי הרובוטים של אסימוב, אני חושב שזה נובע מכך שהם פשוט לא קשורים לדיון.
    החוק הראשון:"לא יפגע רובוט לרעה בבן אדם, ולא יניח, במחדל, שאדם יפגע" לא כל כך מסתדר אם רובוט לפעולות מלחמה…

  35. המצאה מטומטמת. אם רובוטים ילחמו במקום בני אדם אז זה כבר לא יהיה כיף להילחם.

כתיבת תגובה

האימייל לא יוצג באתר.

לוגו אתר הידען
דילוג לתוכן