מי אחראי אם רובוט שפועל באמצעות תבונה מלאכותית יגרום נזק? כך שואל דב גרינבאום, מנהל מכון צבי מיתר לחדשנות טכנולוגית, משפט ואתיקה ● השאלה בה עסקה הרצאתו הייתה “האם בינה מלאכותית היא כלי, או שזה סוג חדש של יצור שיש לו מחויבויות מוסריות?”
אחד המפעלים האחרונים של עו”ד צבי מיתר, שנפטר לפני כחצי שנה, היה הקמת מכון צבי מיתר לחדשנות טכנולוגית, משפט ואתיקה, בביה”ס רדזינר למשפטים במרכז הביתנחומי בהרצליה. שבוע לפני מותו הפתאומי, הוא עוד הספיק לשלוח לראש המרכז, ד”ר דב גרינבאום, ספר בשם “עלייתם של הרובוטים” (Rise of the Robots), המעלה את השאלות המשפטיות החשובות כגון- מה קורה אם רובוט פוגע במישהו, מי אשם? הבעלים, המתכנת? ומה אם הרובוט הוא רובוט לומד, והתכנות הראשוני כבר אינו הגורם היחיד?
כך סיפר ד”ר גרינבאום, בהרצאה שנשאה את הכותרת “השלכות משפטיות ואתיות בזירת הבינה המלאכותית”, במסגרת כנס BI לזכרו של צבי מיתר.
לדברי גרינבאום, רבים חוששים מעידן שבו בינה מלאכותית תנהל כל שלב בחיינו. לאחרונה התפרסם מכתב שכתבו 20 אלף איש, ובהם מפורסמים כמו סטיבן הוקינג אשר דיבר על תחילת הסוף של המין האנושי, נעם חומסקי החושש ממתן כוח יתר לרובוטים, ואילון מאסק שאפילו צוטט כאומר שזה “האיום הקיומי הגדול ביותר על המין האנושי”. ולא מדובר באנשים שפוחדים מטכנולוגיה.
מקצועות שיעלמו – גם התכנות
“הרובוטים עשויים להחליף כל נותן שירות אפשרי: סוכני ביטוח, משפטנים ואפילו מתכנתים – דרפ”א ביחד עם אוניברסיטאות מובילות בארצות הברית מובילים פרויקט שבו רובוטים גם יתכנתו את הדורות הבאים שלהם. אנחנו יכולים לתכנת בינה מלאכותית שתתעלם מהבקשות שלנו”, הסביר גרינבאום. “בינה מלאכותית משמשת בכיפת ברזל, ובמידה מסוימת יש בכך דאגה חוקית, משפטית. עדיין צריכים אנשים בלופ, כי אחרת מי האחראי? ואולם אנשים מוסיפים טעויות למערכת. דוגמה נוספת מהמישור הצבאי היא המל”טים שהיום כל כך חכמים שלא רק שהם מזהים חשודים, הם גם יכולים לירות בהם”.
“מסתבר שהדאגה הזו אינה חדשה, ולא היתה זו רק נחלת סיפורי המדע הבדיוני” אומר גרינבאום. “אלכסנדר סולז’יניצין, הסופר הרוסי מתנגד המשטר, כתב בספר משנת 1968, עשור לאחר שנטבע המונח בינה מלאכותית, כי הוא מודאג מכך שהממשלה תוכל לאסוף את כל שיחות הטלפון שלנו ותשתמש בבינה מלאכותית כדי לדעת מה אנו אומרים – וזה בדיוק מה שה-NSA עושה, ועוד בארצות הברית.”
“היבט נוסף של הבינה המלאכותית, הוא אותו הקוף שחטף מצלמה מחוקר וצילם תמונת סלפי. היה דיון בשאלה למי שייכות זכויות היוצרים, לבעל המצלמה או לקוף, ומכיוון שכנראה זה הקוף, היתה בעיה כי זכויות יוצרים שמורות לאנשים (או לתאגידים). וזה עוד מקרה פשוט”, הסביר גרינבאום. מה לגבי בינה מלאכותית שתכתוב ספרים, תפיק סרטים”?
מה יקרה אם מערכת בינה מלאכותית גורמת נזק
“לאחרונה נרשם בארצות הברית פטנט על מכונה שתמציא בעצמה פטנטים, הפועלת באמצעות טכנולוגיה המספקת לה יכולת ללמוד ולפתח טכנולוגיה בעצמה. חוק הפטנטים לא יודע כיצד צריךל לפעול במצב כזה, האם הפטנט שייך לאדם שפיתח את המכונה? האם זו המכונה עצמה או אף אחד? וגם דיני מזיקין בתמונה – אם אני גורם למפגע אני אחראי וחייב לפצות על כך, אך מה יקרה אם מערכת בינה מלאכותית גורמת נזק”? שאל גרינבאום
“עוד נושא שכדאי לחשוב עליו הוא מה עושים במקרה של ממשק מוח-מכונה”, אמר. “מכניסים שבב למוח של אדם והמוח שולט במכשיר דרך השבב. מה יקרה אם נוסיף לשבב תבונה מלאכותית והוא יופעל למעשה על ידי התת מודע? מה יהיה אם אותו אדם יגרום נזק שלא ברצונו בגלל השבב? האם הוא אשם? האם השבב”?
“ובאשר לאחריות המשפטית”, אמר גרינבאום, “יש דרגות שונות של אחריות – למשל לי יש אחריות על חיות המחמד, על הילדים, ועל העובדים שלי – האם מערכת בינה מלאכותית שקולה לבעל חיים מבחינת האחריות? לילד? לעובד? ומה באשר למכונות לומדות היכולות לדבר, האם חלה עליהם הגנת חופש הביטוי”?
“עד רמה מסוימת יש לנו את חוקי הרובוטיקה של אסימוב, אבל הם לא הומצאו על ידי מדען אלא על ידי סופר, ולכן הם לא מלאים”, הסביר גרינבאום. “כעת האיחוד האירופי עובד על פרויקט חוקי רובוטיקה – RoboLaw”.
לסיום שאל ד”ר גרינבאום, “האם בינה מלאכותית היא כלי, או שזה סוג חדש של יצור שיש לו מחויבויות מוסריות, חוקיות ומשפטיות”?
שאלה שאין עליה עדיין תשובה.
עוד בנושא באתר הידען:
9 תגובות
לבינה מלאכותית יהיה בדיוק מה שנכניס לתוכה. אם נכניס אלטרואיסטיות, התחשבות וכיו”ב – זה מה שנקבל. אם נכניס קנאה, צרות עין וקנאות אידיאולוגית / דתית – ובכן, מזה יש לנו מספיק. אם נכניס לתוכה ניצול משאבים אופטימלי וחישוב קר של עלות מול תועלת – היא תאכל את כולנו לארוחת בוקר.
אין לחשוב איך לעצור את הקידמה, אלא איך לשלב אותה באינטגרטיביות כך שלא תהיה קטסטרופה. בספרים של אסימוב יש פתרונות יצירתיים לדו קיום אדם ורובוט. בסדרת הסרטים מטריקס ובסרט אליסיום עם מאט דיימון יש עתיד שחור.
דווקא לא. בד”כ אני מתנגד לדתיים במדע, אם כי אני אדם מאמין.
מה שחלק גדול מהקוראים באתר מפספסים זה שבינה מלאכותית תהיה כמונו- עם רגשות מחשבות ומודעות. אנחנו לא פחות כלי בידו של הממסד מאשר הבינה. קשה לאנשים להפנים שלתוכנה תהיה מודעות עצמית, אבל לדעתי זה נכון מאד. ואז למה המצאנו את הרובוטים – כדי שהבירוקרטים יחליפו אותנו? הם יחליפו גם אותם תוך דור שניים.
בחיי, איך ממנים לתפקיד ראש מרכז מכון צבי מיתר לחדשנות טכנולוגית, משפט ואתיקה, בביה”ס רדזינר למשפטים במרכז הביתנחומי בהרצליה אדם ששואל שאלות כאלה טיפשיות ?
איך אדם כזה מצליח להוציא דוקטורט ?
הוא גנב אותו ?
“לסיום שאל ד”ר גרינבאום, “האם בינה מלאכותית היא כלי, או שזה סוג חדש של יצור שיש לו מחויבויות מוסריות, חוקיות ומשפטיות”?” – בינה מלאכותית אינה זה או זה, היא מכשיר מעשה ידי אדם וחוקית היא צריכה להישאר ככזאת !
לא יצא כלום מלהכניס רובוטים לכלא.
רובוט צריך להיות בעל מעמד של קטין.
אם קטינה נכנסת להיריון, מי אחראי על הולד מבחינת החוק ? – שלושה: היולדת, בעל הזירעון והאפוטרופוסים (לפעמים אין אפוטרופוסים ואז הולד באחריות הוריו).
“בינה מלאכותית שתכתוב ספרים, תפיק סרטים” – מכונה בעלת אינטליגנציה מלאכותית תהיה שקולה לעיתים לאופן בו החוק תופס את מושג האם הפונדקאית.
אם מכונה כותבת ספר, שיר או מפיקה סרטים – הבעלות היא של יוצר המכונה בין אם המכונה בעלת האינטליגנציה היא רובוטית או קטין אנושי.
אין פה שום המצאת גלגל, רק צריך למצוא למה להשוות את הסוגיות הללו והכל נפתר !
ממש ילדים קטנים, נתפסו בעבר על 3 החוקים של אסימוב וזהו ?
זה כל מה שהפילוסופיה בת זמננו מסוגלת ?
אין שום דבר חדש בנושא החוק והמוסר כשמדובר במכונות “אינטליגנטיות” – כי החוקים בנושא נכתבו מלכאתחילה לגבי מכונות “אינטליגנטיות” (אנחנו, בני אדם !).
וכשימית מנטויזן רושמת אותך לקבל אנטיוירוס שאתה בכלל לא צריך וגובה על כך 10 שקלים מידי חודש במשך שנים, מי אחראי? וכשמענית מצליחה לשכנע איזו סבתא אנאלפביתית לקנות זוג פאבלטים בחמשת אלפים שקל, ולחתום על חמש תכניות מקבילות לאינטרנט מהיר, מי אחראי? ממי אפשר היום לקבל תשובה? אפשר לדבר בכלל עם איזה מנהל שלא קשור בעבותות לתסריטים המעגליים שיוצרים לימית ודומיתיה? אולי בכלל כדאי לוותר ולהשאיר את סבתא לשלם עבור הפאבלטים ושתוותר על התרופות שאינה יכולה לממן? והאם השופטים בכלל יעניין אותם, אם תגיש תביעה? הם בכלל ישיבו לגנבים כגמולם ויפסקו פיצויים מספיקים על כל הטרטור האינסופי? אולי רק אם אתה מקושר לעיתון ארצי עם אספירציות רובינהודיות תוכל לאלץ מישהו מהנהלת החברה להחזיר את הכסף תוך הבטחה ש”נבדוק איך זה קרה”. אז מה בכלל ההבדל בין מענית שדורסת את סבתא טלפונית בחסות ארגון ענק ובין רובוט שדורס את סבתא פיזית ומותיר אותה להתמודד מול ארגון ענק וחסר פנים לא פחות?
כשלטיעון נכנס מדע בדיוני שכתב סופר מוכשר ככל שיהיה מבינים שאין להם מושג
מה הבעיה שישימו שופטים רובוטים גם כך השופטים בישראל הם רובוטים
מה הבעיה שישימו שופט רובוט והוא יחליט……
הכתבה הנוכחית רק מדגישה עד כמה המערכת המשפטית הופכת להיות מיותרת בעצמה בעידן התקשורת ההמונית. ממש כמו חלבנים שמבינים שאין בהם צורך אמיתי והם רק יוצרים כאוס מיותר ויוצרים חסמים שפוגעים באיכות החיים של כולנו.
ייטב לכולנו עם יקום השופט שיגיע למסקנה שלא הכול שפיט , ובית המשפט יצטמצם לגודל טבעי ומצומצם , גם ככה שהם פועלים במתכונת מלאה , התוצאות לא מדהימות.