חוקרים מצאו כי פעולה של “נהג” ברכב אוטונומי מתקבלת בסלחנות רבה יותר מאשר פעולה של נהג ברכב רגיל
קבלת החלטות היא תהליך קוגניטיבי שבו אנשים יכולים לבחור מתוך כמה אפשרויות. תהליך זה יכול להיות רציונלי (מבוסס על בדיקה של כל האפשרויות והפעלת שיקול דעת) או לא רציונלי (מבוסס על אינסטינקטים ואינטואיציה). המחקר בתחום בודק כיצד אנשים תופסים ומעבדים את המידע הנתון בפניהם, בוחרים בין האפשרויות ומקבלים החלטה.
פרופ’ סימון מורן מהמחלקה לניהול וד”ר עמוס שור מהמחלקה למינהל עסקים ומהמרכז לקבלת החלטות ופסיכולוגיה כלכלית באוניברסיטת בן גוריון הם חוקרים בתחום שיפוט וקבלת החלטות. מחקריהם מתמקדים בנושאים כגון משא ומתן, שיתוף פעולה, תחרותיות, התנהגות מוסרית, צרכנות, רמייה, אינטראקציות בין-אישיות והתנהלות בין אדם לאדם.
במחקרם האחרון, שזכה במענק מהקרן הלאומית למדע, ביקשו החוקרים לבחון אם וכיצד החלטה שמתקבלת בסביבה אוטומטית משפיעה על האופן שבו אנשים שופטים אותה; וליתר דיוק, אם קיים הבדל באופן שבו אנשים שופטים נהג ברכב אוטונומי לעומת נהג ברכב רגיל שנקלעו לתאונת דרכים שלא באשמתם. כיום ישנם כלי רכב שמצוידים במערכת נהיגה אוטונומית, אך עדיין נדרש להם נהג (בדומה למכשור רובוטי רפואי שעדיין מצריך התערבות ופיקוח של גורם אנושי). כלומר, השימוש בהם מצריך שיתוף פעולה ואינטראקציה בין האדם למכונה.
“כחוקרים בתחום שיפוט וקבלת החלטות, האוטומציה מעניינת אותנו כיוון שהיא מותירה ברירת מחדל. אם האדם לא יחליט ולא יפעל – המכונה תעשה זאת במקומו. והשיפוט של המתבונן מהצד יושפע כפי הנראה מהיחס של האדם לברירת המחדל – אם הוא קיבל אותה או התעלה עליה”, מסבירה פרופ’ מורן.
במסגרת המחקר בחנו החוקרים כ-1,800 נבדקים מהאוכלוסייה הכללית (שמשתייכים לפלטפורמות מחקר של אמזון). הם הציגו להם תרחישים במלל או תרשים המתארים תאונה בלתי נמנעת – למחציתם תרחיש שבו הנהג נוהג ברכב אוטונומי ולמחציתם תרחיש שבו הנהג נוהג ברכב רגיל. באחד התרחישים הנהג נסע ובמעבר החציה שמולו עברו חמישה ילדים. כיוון שכבר לא יכול היה לעצור בזמן בשל עיקול, אפשרויותיו היו להמשיך ישר ולפגוע בכל הילדים (ברירת המחדל) או לסטות ולפגוע בילד אחד (פעולה תועלתנית). לנבדקים נאמר באיזו אפשרות בחר הנהג (המשיך ישר או סטה) ולאחר מכן נשאלו בין השאר עד כמה התנהגותו הייתה מוסרית, עד כמה כוונותיו היו טובות, ואיזה עונש הוא צריך לקבל על זה שפגע בהולך או בהולכי רגל.
נמצא כי הנהג ברכב הרגיל נשפט על ידי הנבדקים לפי הנזק שגרם. ככל שהנזק היה גדול יותר, הנהג נתפס כפחות מוסרי ולהפך. “לא שינה לנבדקים אם הנהג המשיך ישר או סטה אלא כמה ילדים נדרסו. מינימום נזק, ולא פעולת הנהג, היה הקריטריון העיקרי שלפיו הוא נשפט”, מסביר ד”ר שור.
לעומת זאת, הנהג ברכב האוטונומי נשפט לפי פעולתו. אם סטה, לא משנה בכמה ילדים פגע, נתפס כיותר מוסרי. “במקרה זה הנבדקים ציפו מהנהג שיפעל ולא ייתן לרכב להחליט בכוחות עצמו. כלומר, הוא קיבל קרדיט מוסרי מעצם זה שפעל והפעיל שיקול דעת, אפילו אם הפעולה הסתיימה בתוצאה פחות טובה, וכך גם נתפס כבעל כוונות טובות”, מוסיף ד”ר שור.
הנבדקים ציינו גם כי הנהג ברכב האוטונומי זכאי לעונש הקל ביותר אם הסיט את ההגה (כלומר פעל) ולעונש מוגדל אם לא הסיט את ההגה ונתן לרכב להמשיך ישר כיוון שלא החליט דבר (כלומר לא פעל). את הנהג ברכב הרגיל שפטו כאמור לפי רמת הנזק (מספר הנפגעים). וכך, לא משנה כיצד פעל, ציינו שהעונש הקשה ביותר מגיע לנהג שפגע במספר הילדים הרב ביותר, ולהפך.
לפי ממצאים אלו ניתן להבין כי כאשר נתקלים במצב שבו נגרם נזק בלתי נמנע בסביבה אוטומטית, התנהגות אקטיבית של האדם נשפטת בסלחנות רבה יותר. לדברי פרופ’ מורן, “בנוכחות אוטומציה, בפרט בעת פגיעה או תאונה בלתי נמנעת שמציבה בפנינו דילמה מוסרית (במי לפגוע ואת מי להציל), השפיטה המוסרית מתבססת על הכוונה, פעולה / אי-פעולה. ללא אוטומציה, השפיטה המוסרית מתבססת על התוצאה הסופית. הציפייה ממי שנמצא בסביבה אוטומטית היא שיפעל, שיפעיל שיקול דעת מוסרי וייקח אחריות. נראה כי נקיטת פעולה בסביבה זו נתפסת כבעלת כוונה טובה, כניסיון להציל את המצב, ולכן נשפטת פחות בחומרה גם אם היא מובילה לתוצאות פחות טובות. לעומת זאת, אי נקיטת פעולה בסביבה זו והשארת ההחלטה המוסרית בידי המכונה נתפסות כבריחה מאחריות ונשפטות לחומרה. בסביבה הרגילה אדם לא נשפט לפי מעשיו אלא לפי התוצאה (מידת הנזק בפועל)”. לדברי ד”ר שור, “המסקנות הללו יכולות לתרום לקביעת מדיניות שלפיה מערכות אוטונומיות יתוכנתו כך שהגורם האנושי יוכל להתערב בפעולתן ביתר קלות”.
ואכן, בפרויקט ההמשך מתכננים החוקרים לבחון את תכנות המערכות האוטונומיות. “השאלות שיישאלו הן כמה סמכות צריכה להינתן למתכנתים בתכנון רכב אוטונומי, איזה כלל צריך להוביל אותם – שמירה על הנהג או הפחתת נזק (שני כללים אפשריים בייצור כלי רכב אוטונומיים), ואיך ירגישו בעקבות תכנות מזיק”, מסכמת פרופ’ מורן.
החיים עצמם:
פרופ’ סימון מורן, 57, נשואה + שתיים (בנות 27 ו-25, בוגרות לימודי רפואה / ניהול), מתגוררת ביישוב מיתר. עלתה מדרום אפריקה בגיל 10. במהלך הקריירה האקדמית שלה התארחה בבית הספר למינהל עסקים באוניברסיטת הרווארד ובבית הספר למינהל עסקים וורטון של אוניברסיטת פנסילבניה.
ד”ר עמוס שור, 45, נשוי + ארבע בנות (15, 13, 9, 6), מתגורר בירושלים. בקרוב יחל שנת שבתון באוניברסיטת קליפורניה בסן דייגו בארה”ב (UCSD).
עוד בנושא באתר הידען:
