לנוכח השגשוג בתחום הטכנולוגי, עולות שאלות רבות בתחום האתיקה והפילוסופיה: איך ניתן להגדיר אישיות טכנולוגית אינטילגנטית? האם לאישיות כזו יכולות להיות רגשות, רצונות ותבונות כמו לבני אנוש?
מאת רועי ויצמן
בעת החדשה, בה הטכנולוגיה היא חלק ניכר מחיינו, אנו מקבלים על עצמנו, בעל כרחנו, שינויים מהותיים ומקיפים בתחומים שונים. השינויים הללו, סביב טכנולוגיות שונות ומשונות, קורים באופן תזזיתי ומואץ, ולעיתים גורמים לחלקנו להתאים את חיינו אליהם.
באופן ניכר ניתן לראות את התפתחות הטכנולוגיה כחלק מתהליך מודרניזציה שראשיתו בתחילת שנות המאה ה-20, והוא איננו עוצר עד היום אלא מתעצם בכל שנה ושנה.
אנו מוצאים את עצמנו, משתמשים באפליקציות ושירותים המבוססים על אלגוריתמים ומודלים מדעיים מסובכים שמטרתם לספק לנו את השירות הנצרך על ידנו באופן היעיל והמיטבי ביותר.
בעשור האחרון, נעשה נסיון לעטוף את הטכנולוגיות החומרתיות והתוכנתיות באיצטלה של ישות אנושית המעניקה שירות באופן מוכוון-לקוח מתוך ההנחה כי “המגע האנושי” יעניק גישה וביטחון למשתמש האנושי בממשק האפליקטיבי. לצורך כך, פותחו – בין השאר – אלגוריתמים מבוססי עצי החלטה שמטרתם לחקות התנהגות אנושית. בכך, התחיל עידן חדש בתחום המחשוב, עידן המתאפיין ביצור טכנולוגיות מבוססות בינה מלאכותית.
לנוכח השגשוג בתחום הטכנולוגי, עולות שאלות רבות בתחום האתיקה והפילוסופיה: איך ניתן להגדיר אישיות טכנולוגית אינטילגנטית? האם לאישיות כזו יכולות להיות רגשות, רצונות ותבונות כמו לבני אנוש?
מהשאלות הללו, נגזרות כמובן, בעיות משפטיות המתבטאות בקושי בהגדרת כשרות משפטית ומתן זכויות. האם בעתיד הלא-רחוק נזכה לראות רובוטים וסוכנים טכנולוגיים אחרים מקבלים זכויות? האם אנו והם נתנהל באותו מרחב? האם רובוט יוכל “לפרוק עולו” מעל האדם שרכש אותו ויוכל להחליט החלטות מהותיות בקשר ל”חייו”?
האדם, הנחשב ליצור התבוני ביותר בשרשרת המזון, זכה לכינון זכויות משפטיות במרוצת ההיסטוריה המתבטאות בחירויות מסויימות, אין רשימה אחת ויחידה של זכויות אדם ויש מחלוקות רבות על אופיה של כל זכות. ישנם מספר זכויות מקובלות (הזכות לחיים, חופש דת ומצפון, חופש התנועה חופש העיסוק ועוד). ישנם קולות הקוראים למתן זכויות אזרחיות גם לישויות שאינן אנושיות, חלקם אף קוראים להשוות את זכויות האדם לזכויות ישויות אלה.
אצל חלק הסוגיה מעוררת לגלוג אצל אחרים דיון עמוק ורציני
שאלת הזכויות מעוררת מצד אחד לגלוג ושחוק ומצד שני דיון עמוק ורציני בקרב חוגים מסויימים. אחד האנשים הראשונים שהתייחס למערכת היחסים האפשרית בין האדם לרובוט הוא פרופ’ אייזק אסימוב. אסימוב, בנוסף לעיסוקו האקדמי בשדה הביולוגי, כתב מאות ספרים בתחום המדע הבדיוני, ובפרט – סדרת ספרים על רובוטים. בסדרה זו הוא אף מתאר בספרו המוכר “אני, רובוט” את הרובוט כישות עצמאית חושבת, הכפופה לחוקי הרובוטיקה של אסימוב.
ג’ניפר רוברטסון פרופ’ לאנתרופולוגיה באנוניברסיטת מישיגן, המתמחה בחקר האינטרקציה בין רובוטים לאנשים בדגש על האומה היפנית, טוענת כי 70% מהרובוטים בעולם מיוצרים ביפן. יתרה מכך, היא מצביעה על סקרים לאומיים המראים כי לאזרחים יפנים נוח יותר לשתף סביבות מגורים ועבודה עם רובוטים מאשר עם מהגרי עבודה.
ואכן, “הניצנים נראו בארץ”. מחד, תעשיית הרובוטיקה המתפתחת כבר הופכת אנשים רבים, ממגוון רחב של עיסוקים, בעיקר עובדי מפעלים, למיותרים. ומאידך יוצרת המון מקומות עבודה. גם בתעשייה המשפטית ניתן לראות את ההשפעה: בעוד שעיסוקים הכרוכים בשיפוט ואינטראקציה אנושית הם ככל הנראה בין האחרונים שהמכונות ישתלטו עליהם, מחקר משמעותי של השפעת הטכנולוגיה על 702 עיסוקים מצא כי עורכי דין ושופטים נמצאים פחות או יותר בנקודת האמצע של משרות שעלולות להיות מוחלפות על ידי טכנולוגיה. בנקודת הזמן הזו, עדיין לא ברור איך מתן זכויות לרובוטים ישפיע על שוק העבודה ואם דיני העבודה יחולו על רובוטים.
חומר מחשבתי רב בנוגע למתן זכויות מגיע גם ממאבקים אחרים. בדומה לדיון על זכויות בע”ח, ד”ר דויד קאלברלי, המתמחה בשילוב של משפט, טכנולוגיה וחדשנות, בחן את האנלוגיה בין הדיון בנושא זכויות רובוטים וזכויות בעלי חיים. הוא דן בקווי הדמיון בין בעלי חיים לאנדרואידים והצביע על סוגיית הקשר בין רעיונות התודעה שלנו לבין מושג הזכויות שלנו.
וכיום, עדיין אין שום מסמך שמעגן את זכויות הרובוטים או התייחסות מצד גורמים ממשלתיים פורמליים ליישויות הללו. סטיב טורנס, פרופסור למדעים קוגנטיביים, בהתייחסותו לכך שהצהרת הזכויות של האו”ם (1948) לא נותנת שום זכויות ליישות לא אנושית (לא לחיות ובפרט לא לרובוטים), מעלה את השאלה החשובה: אם יש נסיבות בהן עשוי להיות ראוי מבחינה מוסרית לשקול להרחיב זכויות כאלה באופן ספציפי לרובוטים שנחשבים נטולי תודעה? והאם כל רשימת זכויות כזו המיועדת לסוכנים מלאכותיים כאלה צריכה להיות מלווה ברשימת החובות להם – כולל, ללא ספק, החובה לכבד את זכויות האדם?
בבואי לנתח שאלות מסוג זה אצטרך לשקול עוד כיצד לחשב את השונות הפוטנציאלית העצומה בסוגי הסוכנים הרובוטיים המלאכותיים הללו – וריאציות במראה, בהתנהגות ובאינטליגנציה.
האם כל הרובוטים יהיו זכאים לזכויות?
סוגיה כזו עשויה להיראות מרוחקת בזמנים שלנו כאשר רובוטים אנושיים כרגע הם רעיון די תאורטי במעבדות מחקר אמריקאיות, אירופיות ויפניות. עם זאת, בתוך עשרות שנים, רובוטים עלולים, להפוך למוצרי צריכה צרכניים רחבים וזמינים, ואולי להתפשט במהירות על פני כדור הארץ ולהביא, כמו כל טכנולוגיות ההמונים, שורה של בעיות מיוחדות (כולל כאלה הנוגעות לתחרות איתנו על אנרגיה ומשאבים אחרים וכן הלאה). אם כן, מעמדם המוסרי של יצורים כאלה יהפוך לעניין של דאגה חברתית ניכרת ואנחנו עתידים להעלות על סדר היום את עניין זכויותיהם, לא רק במעבדות מחשבים ובפקולטות למשפטים ברחבי העולם.
ברם, נראה כי רובוטים בעלי תודעה או יכולת לדרוש את זכויותיהם שייכים לתחום המדע הבדיוני או לפחות לעתיד הרחוק. האם פירוש הדבר שיש לדחוק החוצה את הרובוטים האינטליגנטים הנוכחיים לחלוטין מעולמנו המוסרי? יש אולי דרכים אחרות להעניק להם התחשבות מוסרית?
כיום הרובוטים אינם מודעים ואינם בעלי רגשות. מוטלת בספק אפילו אם מישהו מהם באמת בעל בינה מלאכותית. טיעון זה מעלה שאלות רבות בדבר הרלוונטיות של העלאת השיח להענקת זכויות וייתור הבעיה התיאורטית של הכנסת פן מוסרי בהקשר לרובוטים חכמים הקיימים כיום. כאמור, אין לנו יכולת לדעת כיום, האם בעתיד או בכלל רובוטים יוכלו לרכוש תכונות כנ”ל.
עקב השוני בין רובוטים ובני אדם, בעיה קשה היא בעיית הגדרת התכונות בישות נתונה. “תבונה”, “חיות” ו”רגשות” הן מילים אבסטרקטיות מאוד. עם זאת, בהנחה שהצלחנו להגדיר את אותן התכונות, כיצד נדע שאלו התכונות הרלוונטיות למתן זכויות?
מתן זכויות לרובוטים נתקלות בקיר קשה ויציב, בעיקר בתחום רובוטי הנשק. מרי וורהם, מובילת הקמפיין הבינלאומי נגד “רובוטי ההרג” , טוענת כי מתן זכויות לרובוטים תוביל, למעשה, לכך שנטילת חייו של אדם, תעשה באופן מדאיג, מחושב ורציונלי גרידא ע”י רובוטים, ללא שיקול הדעת הרצוי, במקרים מורכבים מעין אלו. נסיון של מרים, לקיים דיון בנושא מערכות נשק אוטונומיות באו”ם, דיון אשר עשוי להוביל לגיבוש אמנה האוסרת על מערכות מסוג זה, נבלמה ע”י מדינות המעוניינות לאמץ את הגשיה הזהו, ביניהם, ישראל.
אם נתבונן בגישה הרואה הענקת זכויוית לרובוטים באור חיובי עקב שיקול מוסרי נוכל להסיק כי השיח על זכויות רובוטים במראה כללית כבר אינו רציונלי. אופן אנליזה שכז על רובוטים אינטיליגנטיים אינו מטעה רק מכיוון שהוא מכניס את כל הרובוטים לקטגוריה אחת, אלא מכיוון שהוא אינו לוקח בחשבון את המרכיב החשוב ביותר : האינטרקציה בין בן האנוש לרובוט. לכן שימת לב לדמיון ולהבדלים בין סוגים שונים של רובוטים, יכולה לתת מקפצה פרקטית לשיח הזכויות.
בנוסף, בהנחה שיהיו לנו יום אחד רובוטים בעלי מודעות ויכולת חישה, יהיה שלב ארוך בהתפתחות הטכנולוגיה שבמהלכו רובוטים אינטליגנטיים מלאכותיים לא יעמדו עדיין בקריטריונים הנדרשים של קבלת זכויות. מצב זה מותיר בפנינו שתי אפשרויות: הכחשת הגישה המוסרית כלפי זכויות הרובוטים או נתינת זכויות כאמור – על בסיס אחר.
בתחום דיני העבודה, העניין בזכויות רובוטים הוא רב. שוק העבודה עבר תהפוכות רבות הקשורות לפיתוחים טכנולוגיים שונים. כניסה של רובוטים אינטילגנטיים לשוק העבודה כשבאמתחתם זכויות, יכולה לגרום לשוק העבודה לעבור טרנספורמציה שתתאים אותו לצרכי השעה ולעורר שאלות משפטיות מעניינות.
לסיכום, בין אם יהיה מקובל בעתיד להעניק זכויות לרובוטים מסוימים ובין אם לאו, הרהור בהתפתחותם של רובוטים אינטליגנטיים מלאכותיים חושף בעיות משמעותיות בהצדקות הקיימות שלנו למתן זכויות על בסיס שיקול מוסרי. עובדה זו מכריחה תומכים וגם מתנגדים לזכויות הרובוטים לשקול מחדש את המסגרות הרעיוניות שלהם הקשורות לצדק ומוסר.
לטעמי, הנושא עדיין נמצא בחיתוליו. בעתיד הנראה לעין עוד נראה את הנושא נידון רק בפן התאורטי. יציאה מחדר הדיונים לכיוון התעשייה והרגולציה הממשלתית כחקיקה עוד ארוכה, ודורשת צעדים פרקטיים משמעותיים, ניסויים אמפיריים וכן דעת קהל אזרחית התומכת במתן זכויות תוך שימת לב לשוני בין סוגי רובוטים וסוגיות יחודיות וחריגות (כדוגמת רובוטי נשק) ש”יכולות להפיל את המגדל” על תילו.
* רועי ויצמן חקר את הנושא במסגרת עבודת הגמר לתואר שני בבמשפטים וטכנולוגיה באוניברסיטת בר אילן ובעל תואר ראשון במדעי המחשב
עוד בנושא באתר הידען:
3 תגובות
נושא מעניין עם הרבה רובדים בכמות שיכולה למלא ספרים, נגע רק בכמה נושאים שאלה מעניינת היא האם רובוט בעל מראה הומנויד שמתנהג דומה לאדם יכול להיות גם סימבול כמו סמלים כגון דגל כך שפגיעה בו במיוחד לעיני כל עלולה לכרסם גם במעמד האדם?
אנו כמובן מכירים תרבויות\מדינות שלפרט יש מעט זכויות פרט כך שמה הסיכוי לישות אחרת לקבל שם איזה שהוא זכויות ? פה יש נושא נוסף טעון קצת כי אנו מאד שונאים שנכנסים לנו לצלחת לנשום קצת לפני…. זה מועלה כי יש פה קשר להתיחסות שלנו לישויות אחרות אנחנו צאצאים של שושלת שחיה על עולם החי כנראה מיליוני שנים תחתינו יש את עולם החי שמשרת את צרכינו השונים , מסתובבים לנו עם כפות רגלינו בעור של חיה מעיל חגורה יושבים על כורסא מעורה ואוכלים את בשרה ושותים את חלבה ועוד שלל אדיר של מוצרים במיוחד בתחום המזון אנחנו לא בדיוק מתחשבים ברצון והרגשות של יצורים אלו, פיתחנו מנגנונים נפשים שונים כנראה כדי להשקיט את המצפון אצל חלקנו בו אנו מפשיטים מהחיה את רגשותיה ורצונותיה משמע היא מכונה המיועדת לשימוש שלנו, אצל המאמינים כנראה פתרו את הבעיה המצפונית שזה ניתן לנו מהאל כך שזה מוריד את העול המוסרי מהאדם כי בעצם הוא לא אחראי אצל החילונים זה פשוט כי ככה זה הטבע או החיות האלו לא היו חיות בלעדינו או אין להם רגשות אבל אולי עצם זה שזה מועלה מראה שהשאלה הזאת מציקה איך שהוא לאדם, כמובן שפעם למרבית בני האדם שאלה כזאת היתה מותרות כי בקושי שרדתה לא היה לך זמן לשאלות כאלו כאשר החיים הם על חוט השערה, כל זה לא נשמע מבטיח במיוחד לאיזה זכויות עבור אינטליגנציה זרה כאשר אפילו לאדם ולטבע אנו לא תמיד מתנהגים בהתחשבות ואהבה,
נושא נוסף הוא ההגדרה של תודעה אנו עוד רחוקים מהגדרה מדויקת כזאת אצל אדם אפילו דברים בסיסים בתודעה כגון ראיה לדוגמא של צבע אדום אנו יודעים איך אורך גל מעורר קונים בעין שרגישים לתחום הגל הזה וזה מעורר זרם חשמלי שמועבר דרך העצב מהעין למוח לאזורי המוח ששם רואים אבל איך בתודעה אנו חווים את הפירוש המנטלי אדום עבור אורך גל שאנו מכנים אדום עוד לא ידוע יש עוד דוגמא מוזרה הצבע הסגול שבעצם אלו 2 אורכי גל מהקצוות של האור הנראה שאנו רואים יחד עולה לנו תמונה מנטלית של סגול שבעצם לא קיים בטבע אלו 2 אורכי גל שונים שלחוד אנו חווים כאדום או כחול, יש עוד דבר מוזר בכינוי של צבע של אוביקטים שונים לדוגמא צמח מנטלית אחת מתכונות הראשונות של צמח עבורינו הוא הצבע שלהם ירוק אבל מזה אומר שהוא ירוק? זה בעצם הצבע היחיד באור הנראה שהוא לא סופח אלה חוסם וזה מה שאנו רואים ואז אנו מכנים את הצמח כירוק אם הוא היה סופח גם את הצבע הירוק הצמחים היו נראים לנו כשחורים, חוסר הידיעה הזאת כמובן מקשה להבין האם ישות שנמצאת מולינו היא בעלת תודעה, יש נסיון מענין של פרופ’ ג’וליו טונוני להבנת התודעה עם פיתוח של “תיאוריית המידע המשולב” שמנסה לתת לתודעה ביטוי מתמטי שבה תוכל בצורה מתמטית לבדוק מערכת בצורה חיצונית ולקבל תוצאה של מה רמת התודעה\מודעות עצמית שיש לה , במודל שלו אתה לא יכול לחוות את מה שמערכת חווה פנימית זה מובנה מהמודל שלו,
למרות שאצל חלק גדול מהמדענים יש ביטחון שתודעה תוכל להתהוות ברובוט יתכן והתודעה גם קשורה
לחומר הביולוגי שממנו אנו עשוים הכוונה שהיא פוטנציאל שקיים בטבע שיכול להתממש רק על גבי חומר ביולוגי שמחווט בצורה מסוימת ורק אם יבנו רובוט שמבוסס על חומר ביולוגי שבנוי בצורה דומה תתהווה תודעה דומה, כך שיתכן והיהיה לך רובוט שמבצע סימולציה של תודעה שתראה מאד אמינה עבורינו אבל ללא שום הרגשה פנימית, מענין עם לאורך זמן מערכת כזאת תוכל להמשיך לבצע את הסימולציה הזאת בצורה אמינה ללא הבסיס הרגשי הפנימי שהוא סוג של מניע עבורינו,
אצלינו זה כמעט הכרחי אפילו עבור פעולה כמו לכתוב מאמר ללא רגש אתה פשוט תבהה במסך ולא תעשה כלום כמו זומבי זה כמו סוג של יסודות עבורינו כך שזה יהיה מענין איך מערכת שחסר בה את הבסיס הזה תוכל לאורך זמן לשמור על הקו של סימולציה ללא הטיות כיוון שיגלה את טבעה האמיתי של המערכת הזאת, אנו גם יוצאים כמובן בהנחה שמערכת הזאת יובנה בה שקר פנימי שהיא בעצמה לא תדע על המהות שהיא רק מערכת של סימולציה של רגשות כי בלי זה כמו אנשים עם בעיות של חוסר בחלק מהמנעד של הרגשות האנושיים כאשר הם אינטליגנטים מספיק הם מבינים בתצפית על ההתנהגות של האחרים שהם לא חווים את אותם רגשות
את ההבדל הגדול אין לראות בין “אינטליגנטי” ל”בלתי אינטליגנטי” – כי היעלה על דעתכם שאדם שנפגע בתאונה ומוחו אינו מתפקד עוד ברמה אינטליגנטית, אינו ראוי שנשמור על זכויותיו? ואדם שנולד באופן כזה ומוגדר כבעל פיגור עמוק, שאינו יכול לתקשר מיום היוולדו, שאינו יכול לטפל בעצמו מיום היוולדו, האם נתייחס אליו כמכשיר מקולקל ונשליך אותו לאשפה?
ומצד שני, איך יעלה על הדעת לתת זכויות למשהו, אינטליגנטי כאשר יהיה, שאינו קשור לגוף ואינו ניתן למעצר או לכל הגבלה אחרת, אלא יכול להעלות את עצמו לענן ולהשתכפל פיזית בבת אחת ב-30 מקומות שונים על כדור הארץ? הרי אישיות כזו, ואפילו היא ברמת אינטליגנציה של אדם טיפש למדי, תשתלט בתוך ימים על האנושות כולה, מפני שניתן לה החופש להשתמש ביכולות שחברת בני האנוש אין לה גישה אליהן.
לכן הקו המבדיל בין מה שראוי לתת לו זכויות לבין מה שאינו ראוי לכך הוא: הקו בין מה שחי, וכפוף למגבלות החיים, לבין מה שאינו חי.
שמע, הכותרת מבטיחה והמאמר כתוב בשפה יפה ומעניינת (נהנתי לקרוא), אבל ציינת אלגוריתמים מבוססי עצי החלטה כאילו שזאת היא ״בינה מלאכותית״… זה מעיד שאין כאן עומק מדעי ולא התחלה של להבין מה זה רובוט אינטליגנטי.
מציע שתעמיק במחקר בטרם תתיימר להביע דעה מלומדת בנושא.
לדיון הפילוסופי עצמו, אם וכאשר לבינה מלאכותית יהיה פוטנציאל חקיים תודעה, אזי נדרש לדון בזכויותיה.
בינתיים, נסתפק בכללי תחזוקה נאותים על מנת להחזיק את המכשירים מתפקדים ולאפשר אחסון מידע, וביצוע תהליכי חישוב (דטרמיניסטיים או לומדים).