“האם צריך לתת זכויות לרובוטים?”/ מאת אפרת אורן

28 תגובות

1. שלום,
   הייתי שמח לפרסם אצלכם מאמר שלי בנוגע זכויות של רובוטין בעלי בינה מלאכותית, כחלק מתואר שני שלי במשפטים וטכנולוגיה (בעל תואר ראשון במדעי המחשב).

2. כמו שהבנת נכון אף אחד לא מדבר על לתת זכויות לשואב אבק או למקרר שלך, מדובר על זכויות שינתנו לרובוטים ומחשבים בעוד 30 שנה שבאמת תהיה להם אינטיליגנציה אמיתית, אפילו יותר גבוהה משלך ושלי, רק עכשיו עוצמת המחשבים מתחילה להתקרב לעוצמה שבאמת דרושה לכך.

   בשנות ה 80 אנשים זרקו הרבה ספקולציות וניחושים לאוויר שלא היו מבוססים על המציאות, בשנות ה 80 הנושא רק התחיל להתפתח ומעטים הבינו מה באמת דרוש ואילו משאבים נחוצים כדי לממש זאת, היום הנושא הרבה יותר בשל, והעוסקים בתחום הרבה יותר מפוקחים ומבינים מה באמת דרוש כדי ליצור אינטיליגנציה אמיתית במחשב.

3. איזה זכויות תגיד לי?
   לרומבה השואב אבק שלי?
   למחשב שלי?
   למקרר?
   לממיר של יס?
   לרסיבר שלי?
   אם המקרר יקבל צורה של בן אדם אבל אין לו אינטיליגנציה אז לתת לו זכויות?

   על מה לעזעזל אתם מדברים? מדברים על אינטיליגנציה מלאכותית מאז שנות ה80 וזיהוי קול עוד לא הצלחנו לשכלל לרמה של לזהות בעלי מבטא שונה אז אינטיליגנציה וזכויות?

   הגזמתם לגמריי

4. מישהו חושב באמת שלרובוטים שרמת האינטיליגנציה שלהם תהיה גבוהה פי מיליארדים מזו של בני אדם יהיה איכפת בכלל אם אנחנו "מוכנים" להעניק להם זכויות או לא? זה כמו לשאול אם מעניין אותנו היום אם איזו פרה רועה בשדה מוכנה להעניק לנו זכויות… אם יהיה לנו מזל הם יחליטו לשמור חלק מאיתנו בשמורות טבע….

5. קודם כל יש ויכוח רב שנים … ועמוק.. האם לנו עצמנו או לא מישהו בכלל יש מודעות עצמית ובחירה חופשית .. וכבר סוקרטס הוכיח בצורה יפה ש… לא…
   אז שוב זה מותיר אותנו בשאלה אם כך מה מותר האדם ..

   ואולי השאלה שצריכה להישאל היא "האם הרובוטים (או שמה זה אמור להיות המחשבים) יתנו זכויות לנו?"

   ודעתי.. אנו הולכים לקראת סימביוזה ביננו למחשבים.. ואולי ביננו האנשים.. ושאלת הזכויות כולה.. הולכת להעלם מעצם העובדה שאדם תמיד נותן זכויות לעצמו

6. האם יתנו לרובוטים את הזכות לריבוי טבעי בשטחים שהחזרנו מאז ששת הימים?

7. אני זוכר שבשנות השבעים והשמונים אמרו שבשנת אלפיים כבר רובוטים יעשו הכל, החל מעבודות בית פשוטות וכלה בהפעלת חדרי ניתוח.
   לא תמיד התחזיות מתממשות במציאות.
   בכל מקרה מה שיפה בכתבה הזאת זה מספר התגובות שהיא הביאה….

8. בהקשר זה נראה לי הולם ביותר לצטט את דבריו של מרווין, האנדרואיד הפרנואיד מ"מדריך הטרמפיסט", שכבר צויין כי הוא אינטיליגנטי פי 5 ביליון בערך מיצורים פשוטים (כמו מזרני ביצות למשל). לאחר שהסתובב במעגל סביב רגלו התקועה במשך מיליון וחצי שנים, פגש לפתע במזרן ביצות בשם זם שהחל לנסות להתיידד איתו. מילותיו הראשונות של הרובוט לאחר מיליון וחצי שנים היו:
   "בלעכס."

   ובמשפט קצר וקולע זה הוא מסכם גם את דעתי על המאמר כאן.

9. לי זה נראה די ברור שכל יצור שמגיע לרמה של מודעות עצמית זכאי מוסרית להגנה על זכותו להתקיים , לדעתי יכול להיות שכשמערכות מסוימות נעשות מספיק מורכבת הן פשוט הופכת למודעת מעצמן ,אם יש בכך אמת אז זה יכול להיות מדד טוב לידיעה האם המערכת שלפני ראויה לזכויות המוסריות , כלומר המודעות העצמית אינה צריכה להיות פונקציה מלאכותית שנכתבת כחיקוי למודעות האנושית אלא היא צריכה לנבוע מעצמה ,זאת אומרת כשרובוט מסוים יגדל מעבר לתכנות הבסיסי שלו בצורה עצמאית ויאמר "אני קיים" בלי שאף אחד תיכנת אותו להגיד זאת הרי שזו אולי תהיה הוכחה מספיק טובה לקיומה של תודעה אמיתית ,כשאני חושב על זה הדבר היחיד מעשה ידי אדם שנראה לי מספיק מורכב להגיע מתישהו לרמה כזו ,זה האינטרנט

10. לא יודע מה איתכם, לי זה ברור כשמש, בכל אופן השאלה האמיתית שצריכה להשאל היא האם רובוטים שרמת האינטיליגנציה שלהם תהיה גבוהה פי מיליארדים מזו של בן אנוש, יסכימו להעניק לנו זכויות, או בכלל לחיות…. הכיוון ברור מאד לכל מי שעיניים בראשו –

    —————————————————-

    1. ראיון עם הנציג הישראלי בפרוייקט “המוח הממוחשב” –

    http://www.youtube.com/watch?v=Bz5IUaRr8No

    —————————————————-

    2. הרצאה מרתקת (!!!) של ראש הפרוייקט, ממליץ ללחוץ על הכפתור מתחת לחלון הוידאו ולהגדיל למסך מלא כדי לא לפספס פרטים חשובים במצגת –

    http://ditwww.epfl.ch/cgi-perl/EPFLTV/home.pl/?page=video&lang=2&id=365&plugin=9&plugin=2&plugin=3&checkplugin=1

    —————————————————-

    3. הרצאה נוספת –

    http://neuroinformatics2008.org/congress-movies/Henry%20Markram.flv/view

    —————————————————-

    4. נושא הקשור באופן חזק לתחום, הסינגולריות מתקרבת –

    http://www.tapuz.co.il/blog/ViewEntry.asp?EntryId=1065939

    —————————————————-

    5. תמונות מתוך המוח –

    http://www.tapuz.co.il/blog/ViewEntry.asp?EntryId=1399918

    —————————————————-

    6. מאמר מרתק על פרוייקט סימולציית המוח הממוחשבת –

    חלק א’

    http://seedmagazine.com/content/article/out_of_the_blue/?page=2

    חלק ב’

    http://seedmagazine.com/content/article/out_of_the_blue/P2

    —————————————————-

    7. מסמך PDF מרתק בנושא (בעברית) ללחוץ כפתור ימני, ו “שמור בשם….” –

    http://www.odyssey.org.il/pdf/עידן%20שגב-מסע%20מודרני%20אל%20נבכי%20המוח.pdf

    —————————————————-

    8. “הפרוייקט לפיצוח סודות המוח” –

    http://www.themedical.co.il/Article.aspx?medicalField=0&category=0&itemID=1868

    —————————————————-

11. אדי:
    אין לך וויכוח של ממש עם עמדתו של רענן כי אינך מציג שום אלטרנטיבה.

12. כן שיוויון זכויות לערמות פח? לנשים אין שיוויון זכויות בעולם הזה כבר אלפי שנים אל לרובוט יהיו?
    לא נירא לי שיש לכל הפנטזיה הזו תוקף כלשהו בעולם השלישי שהוא נתח עצום מאוכלוסיית העולם.
    ניראה שדברים כאלו נכתבים כדי להצדיק משכורת של פקיד כלשהו יותר מאשר לספק תוכן עינייני.

13. אדי שלום,

    מה גורם לך לחשוב שהכתבה מתורגמת?

14. מיקי,

    החמצת כנראה את הבהרתי בתגובה 2. הכתבה מתורגמת, לא גב’ אפרת אורן היתה המטרה לדברי.
    לגופו של ענין, אתה צודק בענין כינויי הגנאי – הייתי צריך לעדן יותר את דברי. אכן, דברי חכמים בנחת נשמעים, וטעיתי כש נסחפתי בעזות הביטוי.

    עם זאת, אינני מקבל שיצאתי נגד חופש הביטוי. גינוים של דברים אינו גינוי חופש הביטוי כשלעצמו. לתשומת ליבך, דוקא הזיהוי בין שני הדברים האלה הוא סוג של נסיון לסתימת פיות.

    אגב, בסיפא של דבריך נדמה לי שגם אתה נסחפת בביטויי הגנאי… וה’פוסל במומו פוסל’ – הלא את זה אתה בעצמך אומר…
    צר לי לומר לך, אבל הגזמת וירדת נמוך עם הביטויים שלך, לא?

    ההיסק הכפול שלך ‘הדבר אומר בהכרח שהיא איננה כסילה או אדיוטית, אלא אתה’ – מוזר. הרבה דברים ביזאריים מתפרסמים בעתונות, כולל ב’הידען’. זה מחיר חופש הביטוי. המאמר הזה הוא אחד מהביזאריים יותר, ולבקר אותו זה לא סימן לטפשות – ההיפך.

    אשר לפרסום כתבות – זה לא סימן וגם לא סייג לחכמה. אגב, כבר הוצע בעבר לפרסם מאמר מסוים בן כמה פרקים, משלי (למעשה המציע היה מיכאל רוטשילד, שדוקא חלק עלי חזק). לא היתה לכך תגובה מצד המערכת, והחומר לא נחשף אפילו. חבל.

    מיכאל,
    מבחינה מהותית ‘שבריר’ המשפט הזה תופס בערך חצי מהתגובה של רענן…והוא משקף השקפת עולם יסודית שאיתה יש לי ויכוח, וצריך להיות ויכוח איתה. ההיתפסות לא היתה בכדי, גם אם אני (כמובן) מסכים עם יתר דברי רענן ואין לי ספק במוסריותו האישית.

15. התייחסתי בעיקר לתגובות

16. אז למה התייחסת?..

17. שוויון זכויות למכונות?….
    נו באמת…
    תהיו רציניים!
    זה לא מצדיק כתבה ובטח לא התיחסות. כתבה והתיחסות.

18. אדי,

    תגובתך הייתה נהדרת, בעלת ניחוח ביקורתי משובח עד שבפסקה האחרונה הרשית לעצמך לצוטט את דברי הכתבת ולהוסיף מילות גנאי שלא לעניין. או אז הערכתי לדבריך הגבוהים- ירדו לטימיון. אני לא מעריך אנשים שיורדים נמוך, וירדת.

    אתה מדבר בשפה גבוהה כאילו שהעולם שבו אנו חיים צריך לעבוד רק על פי אמונתך הפורמליסטית, צרת האופקים הזו.
    כמה חבל שיש בארצינו הקטנה אנשים כמוך, שיוצאים כנגד מתן זכויות לרובוטים, בעוד שבדבריהם הצולבים, שוללים זכויות מבני אדם- כמו חופש ביטוי. הפסק לבקר מעשים של יזמים המביעים את דעתם בחופשיות שכן אל תשכח כי כל הפוסל – במומו פוסל.

    צר לי לומר לך, שאם העלו את הכתבה של הגב’ אפרת אורן לידען, כאתר מכובד, הדבר אומר בהכרח שהיא איננה כסילה או אדיוטית, אלא אתה.
    ואם אתה כזה “חכם”- היכן הכתבות שלך?…

    מיקי

19. אדי:
    אתה נתפס לשבריר המשפט הראשון בדברי רענן ומתעלם מכל השאר.
    ההמשך שם את הדברים בהקשר שמיתר את כל דבריך.

20. רענן,
    אינני מבין אותך.
    אם אדם אינו יותר מאשר רובוט – הרי שעקרונית, לחייו אין יותר ערך של קדושה מאשר יש ל ‘חיי’ מחשב או של ‘חיי’ כל מערכת פיסיקלית, מורכבת יותר או מורכבת פחות פחות.
    אם אדם אינו יותר מאשר רובוט – אין לו רצון או אינטרס קיומי מועדף על זה של כל מכונה פיסיקלית, מורכבת יותר או מורכבת פחות .
    אם אדם אינו יותר מאשר רובוט – עקרונית, הוא אינו נושא לזכויות וחובות מוסריות יותר מאשר כל מכונה פיסיקלית, כלומר – הוא נושא בחובות וזכויות ברמה אפס.
    כך, אם האדם עובר רדוקציה מלאה לארועים ותהליכים פיסיקליים (וזו המשמעות של “אני בכלל חושב שבני האדם הם לא יותר מאשר רובוטים ביולוגים”) – אין בסיס לכל חובה או זכות מוסריים – כולל לחיים – לא מצדו ולא כלפיו. כל מה שאפשרי מבחינה פיסיקלית – לא מותר וגם לא אסור, עקרונית. ה’מוסר’ מתרוקן מתוכן, שהרי אין מוסר ב’טבע’.

    לפיכך, לשיטתך, אם לוקחים אותה ברצינות, מגיעים לאבסורדים. בין היתר – אין זה אסור לסיים חייו של אדם (‘לרצוח’)…

    חשוב על כך לפני שאתה מפליג למסקנות בדבר הרצח (‘לכל דבר וענין’) שיש כביכול בניתוק רובוט מהחשמל ועל הצורך לשמור על זכויות אדם…

    אני כמובן חולק על השקפתך, שהיא בעיני אבסורדית מבחינה לוגית ואנטי מוסרית (בפועל. אני לא מאמין שאתה מתכוון להיות אנוי מוסרי). אחת מנקודות המוצא שלי מתוארת בתגובה 1.

21. אני בכלל חושב שבני האדם הם לא יותר מאשר רובוטים ביולוגים, ולכן אם רובוט או תוכנה תגיע לרמת אינטליגנציה אנושית אז בוודאי שיש לה זכויות שוות לכאלה של כל אדם, וניתוקה מהחשמל זה רצח לכל דבר ועניין. הבעיה היא שכיום יש קושי במדינות רבות בעולם לשמור על זכויות אדם, מקומות כמו אפריקה העולם המוסלמי, סין, רוסיה וכו’. אבל היום בו ילדינו לא יצטרכו ללכת לצבא כי הרובוטים יהיו שם במקומם עוד רחוק, ואולי טוב שכך.

22. רועי:
    זה לא מדויק.
    כבר היום יש לנו רובוטים שאיננו מסוגלים לחזות בדיוק מה יעשו.
    חוץ מזה – מה שאנשים אומרים על אלוהים הוא עוד פחות רציני ממה שהם אומרים על רובוטים אינטליגנטים.

23. זה לא יהיה, ואין סיבה שיהיה. זה בדיוק מו שאנחנו ואלוהים נהיה באותה דרגה. וכמו שהוא יודע מה נעשה, או לפחות ככה אומרים, אנחנו נוכל לחזות בדיוק איך רובוט יתנהג, לא משנה כמה הוא יחשוב שיש לו בחירה חופשית.

24. ביום שרובוטים יהיו בעלי AI ויגדירו את עצמם אז הם בהחלט יהיו זכאים לזכויות. תודעה היא הגדרה עצמית ולא ע"י מישהוא אחר.

    עד אז זה לא יצור "חושב" אלה מכונה.

25. אדי:
    גם לדעתי מדובר בהתנבאות חסרת בסיס.
    זו לא דת וזה לא ניו אייג’ כי אין לזה כל השפעה אבל ברור שכיום אין לנו מושג אמיתי על אופן היווצרותן של תודעה ואינטליגנציה.
    המעניין הוא שאופטימיות יתרה זו כבר שורה במקומותינו שנים רבות והיו לי וויכוחים מסוג זה כבר לפני 20 שנה ויותר.
    https://www.hayadan.org.il/autonomous-military-robotics-ethics-code-2302092/#comment-181662

26. הגיע הזמן שכולכם תקראו את אסימוב, יש לו סיפור מצוין על ז’יסקאר, הרובוט שהעביר חוק האומר כי אנשים שרובם תותבות רובוטיות הנם בני אדם, אז השתילו לו לב אנושי והוא מת כאדם

27. בקשר לתגובתי הקודמת, אני רוצה להבהיר כי השתמשתי בכינויים שונים לא כלפי המתרגמת.

28. “לאחר קריאה מדוקדקת על חומרים העוסקים בתחום הפיתוח המעלף של האינטליגנציה המלאכותית העתידה להימצא בכל “מוח” רובוטי הבנתי, כי לא קיים מחקר עובדתי מוצק אחד שקובע בנחרצות, כי רובוטים (כרגע) באמת חושבים בעצמם ומסיקים מסקנות”.

    רובוטים לא ‘חושבים’ – הם אוטומטים שמצייתים לפקודות. הפקודות ניתנות, אם לא ישירות ע”י בני אדם, – אזי בעקיפין – ע”י תוכנות מעשי בני אדם.תוכנות אלה יכולותיהן מוגבלות לכח חישובי מסוים ולפעולה ע”י אלגוריתמים מסוימים- שגם הן פרי האינטלגנציה והיצירתיות הייחודית של האדם שהגה ויצר את התוכנות.יכולות אלה הן סופיות – התוכנות אינן יכולות לצאת מהקופסה של עצמן.
    ולא רק על אינטלגנציה במובנה המהותי אין מה לדבר – גם שאר התכונות המנטליות לא קימות אצל הרובוט. אין לו ‘תודעה’, הוא אינו מסוגל לחוש ‘חויה’ ואינו מסוגל ליצר ‘רגש’. גם אם יצהיר בפניך ש’הוא’
    קיים כאן ןעכשיו – הרי זו הצהרה של מעשה קוף בעלמא. גם אם ‘ישבע’ לך שהוא ‘מבין’ אותך ו’חש’ ידידות כלפיך – אל תאמין לו – יש לך עסק עם אחיזת עיניים אלקטרונית. אפילו אם ‘יחייך’ אליך – אל תלך שולל – אין הבדל עקרוני בינו לבין כל בובת צעצוע.

    ולא יעזרו כאן גם כל הדיבורים הרמים על ‘חישוביות עצבית’ (אני כבר מנחש את התגובה של אנשי מחשבים מסוימים…). דבורים כאלה טובים רק לגיוס כספים למרכזים אקדמיים, שהשגיהם (בלי לזלזל בהם כשלעצמם) נחמדים, אך מוגבלים ורחוקים מלהראות אפשרות של רדוקציה מלאה או עקרונית של הכשורים המנטליים לרמה הפיסיקלית.

    בסך הכל, המאמר משקף סוג של עבודת אלילים חדשה, בפורמט ניו אייג’י מגובב סיסמאות ריקות וסתם פטפטי הבל פתטיים:
    “זה ראוי בעיניי לקדש את פרי פיתוחנו. זה ראוי בעיניי לא להתכחש לתכונות ויצרים לייחוס רגשות, שמובְנים באשיותינו. זה ראוי בעיניי להכיר בעצם קיומנו כאנושיים. זה ראוי בעיניי להאמין במשהו שאנו הכנסנו לחיינו. זה ראוי בעיניי להוקיר תודה, אף לחפץ שהיה לנו לעזר. זה ראוי בעיניי לחנך את דור העתיד להעניק זכויות גם למנוכר והזר, כבר מעכשיו, שעוד קיימת טיפה של צלם אנוש. זה פשוט ראוי בעיניי”.

    ועוד דבר חוכמה מפעים יש לה לכסילה:
    “דא עקא, משכל התחזיות הטכנולוגיות מראות פה אחד, שהרובוטים יהיו כל כך חכמים ונבונים, אף יותר מבני האדם, לא נהיה עוד בשלב שבו נדון האם ראוי או לא, או אילו זכויות ומה היקפן, כי הם פשוט ידרשו אותן בעצמם ויאמצו אותן ללא שיצטרכו לעבור תחילה דרך שערי החוק “.
    …לשיטתה של האידיוטית, אני כבר רואה איך זכויות בני האדם נעשות משניות לזכויותיהם של אדוני הארץ החדשים, בני האלוהים הרובוטים. לא נהיה בעתיד אלא עבדים נרצעים למעשי ידנו, לאלילים ‘פרי פיתוחנו’ ש’קודשו’ ברוב איוולתם של בעלי מוסר סרווילי נחות שאפילו ניטשה לא חלם עליהם.

אתר זה עושה שימוש באקיזמט למניעת הודעות זבל. לחצו כאן כדי ללמוד איך נתוני התגובה שלכם מעובדים.