סיקור מקיף

בינה מלאכותית היא התגשמות החלום הטוטליטרי – כמה דרכים להשיב את השליטה לידינו

מדענים חוששים כי בינה מלאכותית תכיר אותנו טוב מאשר אנחנו מכירים את עצמנו. ממשלה חמושה בבינה מלאכותית תוכל לטעון שהיא יודעת מה אנשים באמת רוצים מה באמת ישמח אותם. במקרה הטוב, היא תשתמש בכך להצדיק פטרנליזם, במקרה הגרוע, טוטליטריות

בינה מלאכותית - ארה"ב נגד סין. איור: shutterstock
בינה מלאכותית – ארה"ב נגד סין. איור: shutterstock

מאת: סיימון מקארטי-ג'ונס, פרופסור חבר בתחום פסיכולוגיה קלינית ונוירופסיכולוגיה, טריניטי קולג', דבלין, The Conversation, 12 באוגוסט 2020

תרגום: זיו עדאקי

חברות מערביות אינדיבידואליסטיות נבנו על הרעיון שאיש אינו יודע את מחשבותינו, תשוקותינו או הנאותינו טוב יותר מאתנו. וכך, אנו שמים עצמנו, ולא את הממשלה, אחראים לחיינו. אנו נוטים להסכים לטענתו של הפילוסוף עמנואל קאנט שלאיש אין זכות לכפות עלינו את תפיסתו שלו לחיים טובים. 

בינה מלאכותית תשנה זאת. היא תכיר אותנו טוב מאשר אנחנו מכירים את עצמנו. ממשלה חמושה בבינה מלאכותית תוכל לטעון שהיא יודעת מה אנשים באמת רוצים מה באמת ישמח אותם. במקרה הטוב, היא תשתמש בכך להצדיק פטרנליזם, במקרה הגרוע, טוטליטריות.

הדרך לגיהינום רצופה כוונות טובות. טוטליטריות בהובלתה של בינה מלאכותית אינה שונה. חירות תהפוך לציות למדינה. הלא-רציונליים, הדווקניים או החתרנים, רק הם עשויים לרצות לבחור את דרכם שלהם.

כדי למנוע דיסטופיה שכזאת, אנו חייבים למנוע מאחרים לדעת עלינו יותר מאשר אנו יודעים על עצמנו. איננו יכולים להרשות פער בידע שלנו על עצמנו.

האחות הגדולה, הבינה המלאכותית

ב-2019 המיליונר המשקיע פיטר תיל (Peter Thiel) טען שבינה מלאכותית היא "קומוניסטית". הוא ציין שהיא מאפשרת ריכוז כוח למעקב אחר אזרחים ויודעת עליהם יותר ממה שהם יודעים על עצמם. סין, אומר תיל, כבר אימצה את הבינה המלאכותית.

אנו יודעים שיש לבינה מלאכותית פוטנציאל לתמוך במשטרים טוטליטריים, שכן היא מספקת מערכת נוסח אורוול לבקרה ולשליטה. אולם נוסף על כך היא נותנת נשק פילוסופי בידי המשטרים הללו. כל זמן שאנחנו מכירים את עצמנו טוב יותר מהממשלות שלנו, ליברליזם משאיר את הטוטליטריזם בעמדת המתנה.

אבל בינה מלאכותית משנה את כללי המשחק. חברות טכנולוגיה גדולות אוספות כמויות עצומות של מידע על ההתנהגות שלנו. אלגוריתמים ללמידת מכונה משתמשים במידע הזה כדי לחשב לא רק מה נעשה, אלא מי אנחנו.

היום, בינה מלאכותית יכולה לחזות איזה סרטים נעדיף, אילו חדשות נרצה לקרוא ומי נרצה שיהיו החברים שלנו בפייסבוק. היא יכולה לחזות אם זוג יישאר יחד ואם ננסה להתאבד. מהחיבובים שלנו בפייסבוק היא יכולה לנחש לאיזה דת אנו שייכים, מהן עמדותינו הפוליטיות, את מאפייני האישיות שלנו, את האינטליגנציה שלנו, את התרופות שאנו צורכים ואת מצב הרוח שלנו.

דיוק התחזיות שמופקות באמצעות בינה מלאכותית רק ילך וישתפר. בעתיד הלא מאוד רחוק, כפי שטען הסופר יובל נח הררי, בינה מלאכותית עשויה לומר לנו מי אנחנו עוד קודם שאנחנו בעצמנו יודעים.

להתפתחויות הללו יש השלכות פוליטיות מרעישות. אם ממשלות יוכלו להכיר אותנו טוב יותר משאנחנו מכירים את עצמנו, נפתחת בפניהם הצדקה חדשה להתערב בחיינו. הם יִרדו בנו בשם טובתנו אנו.

חירות באמצעות רודנות

הפילוסוף ישעיהו ברלין חזה את הדבר עוד בשנת 1958. הוא זיהה שני סוגים של חירות. האחד, הזהיר, יוביל לרודנות.

חירות שלילית, היא "חירות מ…". חירות מהתערבות של הזולת או של הממשלה בענייני שלי. חירות שלילית קובעת שאיש אינו יכול להגביל אותנו, כל עוד אין אנחנו מפרים זכויותיו של אחר.

לעומת זאת, חירות חיובית היא "חירות ל..". חירות להיות אדון לעצמך, חופש להגשים את רצונותיך, חופש לחיות את חייך. מי לא ירצה בכך?

אבל מה אם אדם אחר או גוף כלשהו אומרים שאינך פועל בשם ה"אינטרס האמתי" שלך, ושהם יודעים כיצד אתה יכול לפעול בהתאם לו. אם לא תקשיב, הם עשויים לכפות עליך להיות חופשי – יתקנו אותך "לטובתך שלך". זהו אחד מהרעיונות המסוכנים ביותר שנהגו מעולם. הרעיון הזה כבר הרג רבבות מיליונים של אנשים ברוסיה הסובייטית של סטלין ובסין של מאו.

נטען שלנין, מנהיגה של רוסיה הקומוניסטית, אמר שקפיטליסטים ימכרו לו את החבל שבאמצעותו יתלה אותם. פיטר תיל טוען שבאמצעות בינה מלאכותית חברות טכנולוגיה קפיטליסטיות בעמק הסיליקון מכרו לקומוניזם כלי שמאיים וחותר תחת אושיות החברה הקפיטליסטית הדמוקרטית. בינה מלאכותית היא החבל של לנין.

נלחמים למען עצמנו

אנו יכולים למנוע את הדיסטופיה הזאת רק אם לאיש לא תהיה האפשרות להכיר אותנו טוב מכפי שאנו מכירים את עצמנו. אסור לנו ללקות ברגשנות כלפי מי שמבקש כוח שכזה עלינו, גם עם כוונותיו טובות. ההיסטוריה הוכיחה שזה זה תמיד הוביל לאסון.

אחת הדרכים למנוע פער בידע שלנו על עצמנו הוא להעלות את ההגנה על הפרטיות שלנו. תיל, שתייג את הבינה המלאכותית כקומוניסטית, טען ש"קריפטו הוא ליברטריאני". שיטות הצפנה יכולות לאפשר פרטיות. פרטיות מפחיתה את יכולתם של אחרים להכיר אותנו ולהשתמש בידע הזה כדי לנצל אותנו להפקת רווחיהם.

זווית נוספת לדברים, יכולתנו להכיר את עצמנו טוב יותר באמצעות בינה מלאכותית עשויה להניב לנו גם יתרונות עצומים. אנו עשויים להבין טוב יותר מה יעשה אותנו שמחים יותר, בריאים יותר ועשירים יותר. היא עשויה לכוון אותנו בבחירת קריירה. ובאופן כללי, בינה מלאכותית מבטיחה לייצר צמיחה כלכלית כך שלא נשב זה לזה על הווריד.

הבעיה אינה שבינה מלאכותית משפרת את הידע שלנו על עצמנו. הבעיה היא פערי כוחות במה שידוע על עצמנו. ידע עלינו בבעלותו הבלעדית של גורם כלשהו היא כוח עלינו. אבל ידע עלינו בידינו שלנו הוא כוח בעבורנו.

שומה על כל מי שמעבד את הנתונים שלנו כדי ליצור ידע עלינו להיות מחויב משפטית לתת לנו את המידע. עלינו לעדכן את הרעיון "שום דבר עלינו בלעדינו" ולהתאים אתו לעידן הבינה המלאכותית.

מה שבינה מלאכותית מספרת לנו על עצמנו הוא מידע שאנו צריכים לשקול אם להשתמש בו, ולא סחורה בידי אחרים לנצל להפקת רווחים. צריכה להיות רק יד אחד על ההגה של הנפש שלנו. היד שלנו.

למאמר ב-The Conversation

האם מכוניות אוטונומיות הן בטיחותיות

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

תגובה אחת

כתיבת תגובה

האימייל לא יוצג באתר.

לוגו אתר הידען
דילוג לתוכן