מכוניות ללא נהג עלולות לתת בידי הממשלות שליטה מוגברת, אין פלא שהן נלהבות

ניל מקברייד, מרצה לניהול מערכות מידע, אוניברסיטת דה מונפורט בלסטר, בריטניה חושש מהיכולת של ממשלות, חברות ביטוח ויצרניות רכב לדעת בדיוק היכן נמצאים המכונית ונוסעיה בכל רגע

מאת: ניל מקברייד, מרצה לניהול מערכות מידע, אוניברסיטת דה מונפורט בלסטר, בריטניה. תרגום אבי בליזובסקי

תארו לעצמכם מכונית אוטונומית דוהרת ברחוב ובתוכה נוסע נכה בן 90. המכונית צריכה לקבל החלטה: לנהוג לתוך האם והילד ולהרוג אותם, או לדהור לתוך קיר ולהרוג את הנוסע.

זוהי וריאציה על בעיה ותיקה – דילמת החשמלית. דילמה זו נוסחה בשנת 1967 על ידי פיליפה פוט, והותאמה על ידי ג’ודית’ ג’ארוויס תופסון בשנת 1985. לפי הדילמה נהג חשמלית רואה כי הוא עומד לפגוע בחמישה פועלים שלא מודעים להתקרבות החשמלית, בעוד אם יסיט מנוף ויפנה למסילה צדדית הוא יציל את אותם חמישה פועלים אך עלול לפגוע בפועל אחד אחר. האם היית מושך את הידית, מוביל למוות אחד אבל חוסך חמישה מקרי מוות?

דילמה זו שולטת בחשיבה האקדמית הפופולרית של האתיקה של מכוניות ללא נהג. הבעיה היא שוויכוחים אלה לא רק פותרים את המורכבות של המערכת שבה יפעלו מכוניות ללא נהג אלא הם גם קו אדום מוסרי. הסוגיות האתיות האמיתיות טמונות בפוליטיקה ובכוח של המכוניות ללא נהג.

ממשלות ברחבי העולם מגלות עניין רב במכוניות אוטונומיות. ממשלת גרמניה יצרה הנחיות אתיות למכוניות אוטונומיות. ממשלת בריטניה הבטיחה מכוניות ללא נהג  על הכביש החל משנת 2021, והממשלה הרוסית – עד סוף 2018. לסין יש תכניות שאפתניות לחבר מכוניות אוטונומיות לאינטרנט ולהתקין חיישנים בכבישים וברמזורים עד לשנת 2025.

ניתן היה לראות את הסימנים במאמר של האיחוד האירופי על העתיד של אירופה בשנת 2025, שפורסם במארס 2017.

מחברי המאמר חוזים כיצד  אירופה עשויה להיראות בעתיד שבו מדינות האיחוד האירופי יצטרפו למעשה להיות פדרציה אחת. בתרחיש זה, נכתב במאמר ,מכוניות אוטונומיות ינועו ללא הפרעה מעיר לעיר.

יש סיבה שממשלות להוטות כל כך בנושא) מכוניות אוטונומיות – וזה לא רק בגלל היתרונות הכלכליים הפוטנציאליים. המכוניות הללו תגברנה את היכולת של הממשלותלמעקב ואפילו לשליטה על כל תנועה של האזרחים. המכוניות האוטונומיות מאיימות להוות אמצעי של מעקב ודיכוי על ידי הממשלה במקום לשחרר אותנו מהצורך בנהיגה.

מכונית אוטונומית היא מחשב על גלגלים, המכשיר הנייד האולטימטיבי המחובר לאינטרנט ומלא בחיישנים. היא מספקת זרימה דו-כיוונית קבועה של מידע. המכונית שולחת מידע על הביצועים שלה ליצרן ומקבלת ממנו עדכוני תכנה, אותות בקרה על התאמות להתנהגות הרצויה ועוד. היצרן יודע איפה המכונית, מה תנאי הכביש, הטמפרטורה והמהירות בכל רגע.

המבטח של המכונית עשוי לקבל מידע בכל דקה  על מצב המכונית, המיקום, המהירות ומצב הכביש שבו היא נמצאת, ויכול לשנות את הביטוח בהתאם. המערכת יכולה גם לכבות את המכונית במקרה של אובדן הכיסוי הביטוחי.

בינתיים סביר להניח שלא רק היצרנים אלא גם מסדי נתונים ממשלתיים יוכלו לדעת היכן המכונית, והאם היא אמורה להיות שם. ואפילו, באמצעות אנליזה וניבוי (תבונה מלאכותית), מהו היעד שלה. הכבישים החכמים ינהלו את זרימת התנועה, בהאטת מכוניות אוטונומיות כחלק מזרם של תקשורת בין המכונית לכביש. בערים חכמות, רמזורים ינתבו מכוניות לתוך מעקפים על פי חישובים ותחזיות על פקקי תנועה, עבודות כביש, או דרישות המדינה.

אפשר ליצור שווקים של מסלולים מהירים דרך ערים וליעדים מרכזיים. חברות יכולות לשלם כדי שהעובדים שלהן ישתמשו בנתיבים וירטואליים בעלי עדיפות. יומני נסיעות עשויים לגלות בדיוק לאן נסענו ומתי. את הסיבות לנסיעה ניתן להסיק מראש מהנוף, היעדים והעיתוי.

סוף האוטונומיה

במשך יותר מ-130 שנה, מכוניות ייצגו את מה שאולטימטיבי באוטונומיה, אינדיווידואליות וחופש דמוקרטי. נסיעותינו במכונית שלנו פרטיות ואנונימיות. אנחנו יכולים ללכת לאן שאנחנו רוצים וכאשר אנחנו רוצים. אנחנו לא צריכים לספר לאף אחד. ואנחנו שומרים על אחריות אם אנו מצייתים לחוק. מכוניות אוטונומיות יביאו לזה סוף.

היצרנים, הממשלות ורשויות העיר יידעו לאן אנחנו נוסעים, מה אנחנו עושים ומתי. אם מה שאנחנו עושים לא ימצא חן בעיני מישהו, הן יוכלו לעצור אותנו, לבטל את הכיסוי הטכני וביטוח התאונות, לעצור אותנו בכבישים או ברחובות מסוימים, או פשוט לכבות את המנוע. המכונית לא תהיה אוטונומית, אלא ישלטו על ידי הרשויות והמערכות שמפעילות ומתחזקות את המכונית הזאת, שקיבלו ושלחו מידע אל המכונית וממנה.

מכוניות אוטונומיות יביאו לעידן חדש של שליטה על האזרחים. תחת הרטוריקה של הגברת הבטיחות והפחתת הסיכון, הכוח יילקח מאיתנו ויימסר לרשויות מרכזיות – בין שאלה ערים, ממשלות או חברות פרטיות. כדי להפוך אותנו בטוחים, ממשלות ישאירו אותנו חסרי אונים.

הבקרים יכולים פשוט לשנות את המסלול שלנו למטרות שלהם, אם כדי למנוע פקקי תנועה או לפנות נתיב עבור אורח מכובד. הם יכולים לשלוח אותנו לחנויות מסוימות, או ישירות לתחנת משטרה. בקרים יכולים לנהל ציים של מכוניות כדי שיצייתו למטרות של הממשלה.

במדינה דמוקרטית, הזרימה ההולכת וגדלה של מידע אישי אל הרשות המרכזית תספק את הבסיס להסדרה ולאכיפה. האזרחים המנוהלים יהיו יעד למניפולציות התנהגותיות ולפרסום זורם לתוך המכונית האוטונומית. במדינה דיקטטורית, הרשויות יכולות לעצור אותך אם אתה בדרך להפגנה, או אם אתה הולך למוסד דתי שאינו נושא חן בעיני השלטון.

מערכות כאלה המנוהלות באופן מרכזי, שיהיו חיוניות לבטיחות של מכוניות אוטונומיות, אינן פתוחות רק לכשלים הטכנולוגיים הבלתי נמנעים של מערכות מורכבות, אלא גם לפריצה ולהתקפות של מדינות ויחידים אחרים. למה לפרוץ למכונית אחת, כאשר אתה יכול לפרוץ למערכת העיר כולה ולהביא לעצירת התנועה או להתנגשות של 30 אלף מכוניות זו בזו?

בהרהורים על האתיקה של המכוניות האוטונומיות עלינו לעבור מעבר למגבלות דילמת החשמלית לסדר יום רחב יותר, המטפל במושגים של אוטונומיה, קהילה, שקיפות, זהות, ערך ואמפתיה. הדיון האתי שלנו צריך להתמודד עם רשויות האכיפה, האחריות הפוליטית וזכויות האדם שהחזון שלנו של מכוניות אוטונומיות עלול לדרוש את הקרבתן.

לכתבה המקורית

עוד בנושא באתר הידען:

האתיקה של ה-AI: “להשאיר את האדם בלופ”

“עלינו לחשוב על ההיבטים האתיים של התבונה המלאכותית ושיפור המוח לפני שיהיה מאוחר”

האם רחפן יחליט את מי להרוג?