סיקור מקיף

האם כדאי להחליף את הפוליטיקאים בבינה מלאכותית?

סקר שהופץ בשמונה מדינות אירופאיות ב- 2019. לפי תוצאות הסקר, כרבע מכל האירופאים היו רוצים שבינה מלאכותית תחליף את הפוליטיקאים מהם הם סובלים כיום * 91 מיליון אירופאים תומכים בבינה מלאכותית במקום פוליטיקאים

האם הפוליטיקה העולמית תנוהל על ידי רובוטים ובינה מלאכותית? איור: shutterstock
האם הפוליטיקה העולמית תנוהל על ידי רובוטים ובינה מלאכותית? איור: shutterstock

חלק חשוב מתפקידם של חוקרי העתידים הוא לעקוב אחר המתרחש בהווה ולקבץ 'אותות חלשים' – רמזים לכך שהעולם משתנה בדרכים מסוימות. הרמזים עשויים שלא להוכיח את עצמם בסופו של דבר – לכן הם נקראים 'אותות חלשים' ולא 'אותות ברורים וחזקים לעתיד ודאי' – אבל ככל שמצטברים יותר ויותר רמזים חלשים שכאלו, אנו יכולים להבין מוקדם יותר שצריך להתייחס ברצינות לעתיד עליו הם מצביעים.

הרמז החלש שאני רוצה לדבר עליו היום – ולצידו גם על מספר רמזים חלשים נוספים המצביעים לאותו כיוון – מגיע מסקר שהופץ בשמונה מדינות אירופאיות ב- 2019. לפי תוצאות הסקר, כרבע מכל האירופאים היו רוצים שבינה מלאכותית תחליף את הפוליטיקאים מהם הם סובלים כיום. השיעור היה גבוה עוד יותר בבריטניה ובגרמניה, שם שליש מהנשאלים העדיפו שבינה מלאכותית תקבל החלטות חשובות במקום הפוליטיקאים. בהולנד, כמעט מחצית מהנשאלים – 43 אחוזים – רצו שהבינה המלאכותית תקבע את המדיניות הציבורית[1]. אם נרחיב את הסקר לכלל האזרחים במדינות שנבדקו, מדובר ב- 91 מיליון אירופאים שמאמינים שבינה מלאכותית תעשה עבודה טובה יותר מפוליטיקאים אנושיים[2].

בסקר עוקב מ- 2020, כשליש מהנשאלים האירופאים בין גילאי 18 ל- 35, התלהבו מהרעיון להחליף את הפוליטיקאים בישויות דיגיטליות שיוכלו לגרוף מידע מהאזרחים ולקבל החלטות עבורם. בקרב הסינים, שיעור המתלהבים עומד על 61 אחוזים[3]. כלומר, יותר ממחצית מהסינים היו מוכנים לאמץ כבר היום בינה מלאכותית שתקבל החלטות בשמם בפוליטיקה.

עמדותיהם של האירופאים לגבי אימוץ הבינה המלאכותית בפוליטיקה. מקור: Tech Insights

נדלג על הזעזוע או ההתרגשות, כל אחד לפי עמדתו הקודמת, וננסה לנתח באופן מעמיק יותר את המשמעויות של החלפת הפוליטיקאים בבינות מלאכותיות, וכמובן – האם זה בכלל אפשרי.

אבל קודם, חייבים לשאול שאלה בסיסית יותר: למה בכלל האירופאים (ואזרחים במדינות דמוקרטיות באופן כללי) אינם סומכים על פוליטיקאים אנושיים?


משבר הדמוקרטיה

לפני כמה מאות שנים – הרבה לפני שהמונח "פייק ניוז" נטבע בתודעה הציבורית – כתב ג'ונתן סוויפט את המאמר "אומנות השקר הפוליטי"[4]. סוויפט פתח את המאמר בתיאור השטן, הממציא המקורי של הרמאות והכזב, ההטעיה והשקר. אלא שלפי סוויפט, מדובר בקונספט מיושן –

"השטן עשוי להיות אבי כל שקר, אך בדומה לממציאים גדולים אחרים, הוא איבד חלק גדול מהמוניטין שלו בשל השיפורים המתמשכים של המצאתו."

מדוע שכללו הפוליטיקאים את המצאתו המקורית של השטן? מדוע הם משקרים? לפי סוויפט, התשובה פשוטה –

"כדי להשיג כוח ולשמר אותו בידיהם, כמו גם כדי לנקום לאחר שהפסידו."

במילים אחרות, כל עוד הפוליטיקאים מעורבים בפוליטיקה, הם משקרים כל הזמן. אבהיר מראש שמדובר בפוליטיקאים במדינות דמוקרטיות. כלומר, אלו נציגי הציבור שנבחרו במטרה ברורה כדי להוציא לפועל את רצון הציבור. והם עצמם הבטיחו פעם-אחר-פעם למלא את רצון הבוחר. שהרי אם הבוחרים לא היו סומכים עליהם – לפחות יותר מעל פוליטיקאים אחרים – הם לא היו נבחרים לתפקיד.

ולמרות כל זאת, גם הפוליטיקאים במדינות הדמוקרטיות ביותר משקרים בלי הפסקה, עם דוגמאות אינספור.           

נעזוב לרגע את המאורעות מהפוליטיקה המקומית. נחזור אליהם בעוד רגע או שניים. נבחן רק את הפוליטיקה בארצות הברית. ולא, אני לא מתייחס לדונלד טראמפ, ששיקר פעמים רבות כל-כך שקשה להתייחס ברצינות לטענותיו או להבטחותיו[5]. כמה דוגמאות משקרים במסעות הבחירות שם כוללות את טענתו של קנדי ב- 1960 שלרוסיה הסובייטית יש יותר טילים מלארצות הברית – טענה שידוע כיום שהייתה שקרית במתכוון, אך עדיין הביאה לקנדי את הניצחון בבחירות[6]. ג'רלד פורד קבע בדבייט ב- 1976 שרוסיה הסובייטית אינה שולטת על מזרח אירופה, בניגוד מוחלט למציאות הקיימת[7]. בסרטון של הדבייט אפשר לראות אפילו את מנחה הדבייט שואל בחיוך ובאי-אמון האם פורד באמת רציני – ואת פורד משיב בחיוב. בשונה מקנדי, השקר הזה דווקא מוטט את סיכוייו להיבחר מחדש.

ניקסון – הנשיא שעמד מאחורי פרשת ווטרגייט – קבע בנאום מפורסם כי הוא "אינו רמאי"[8]. הוא היה. קלינטון הודיע כי "לא היו לי יחסים מיניים עם האשה הזו"[9]. היו לו.

תרבות השקר אינה מוגבלת לנשיאים בלבד, אלא גם לפוליטיקאים בכירים-פחות. בזמן שארצות הברית כבשה את אפגניסטן, למשל, שלח שר ההגנה דונלד רמספלד מבזק לגנרלים באזור, בו הבהיר שארצות הברית אינה יכולה לעזוב את המדינה עד שזו תתבסס מבחינה פוליטית. זה היה כלפי פנים. באותה העת ממש כלפי חוץ, במסיבת עיתונאים אחת אחרי השנייה, רמספלד ביטל בבוז את הרעיון שמדינתו תקועה בבוץ הטובעני של אפגניסטן[10].

אה, כן, נחזור לרגע לישראל. זוכרים את "המצביעים הערבים נעים בכמויות אל הקלפי. עמותות השמאל מביאות אותם באוטובוסים", ערב יום הבחירות? אפשר להתווכח אם היה מדובר בשקר או לא, מכיוון שהרשימה המשותפת באמת סייעה לממן אוטובוסים לסטודנטים מהאוניברסיטאות למקום מגוריהם. לא בדיוק "שמאל", אבל ניחא[11]. אבל אי אפשר להכחיש את תגובתו של הסנאטור ג'ון מקקיין לדברים, כשניסה להגן על ההתבטאות האומללה –

"אם היו מכריחים כל פוליטיקאי להתחייב למה שאמר במסע הבחירות, זה יהיה בבירור נושא לשיחה ארוכה."[12]

מקקיין פשוט חזר בכך על דבריו של סוויפט, כי הפוליטקאים משקרים "כדי להשיג כוח ולשמר אותו בידיהם". הוא התייחס לכך כאל דבר מובן מאליו, והופתע שהבוחרים בכלל מוטרדים מהשקרים הללו.

אה, ו- "רק לא ביבי" של גנץ, וכל מילה נוספת מיותרת.

אפשר למצוא הסבר מחמיא לכל השקרים האלו. אולי גנץ סבר שהוא חייב לחבור עם ביבי לטובת המדינה. אולי רמספלד וקנדי היו צריכים לשקר כדי להטעות את אויבי ארצות הברית. אבל בסופו של דבר, הם שיקרו. והשקרים הללו מקטינים את אמון הציבור בדמוקרטיה ובפוליטיקאים.

נכון לשנת 2019, רק 17 אחוזים מהאמריקנים קבעו שהם סומכים על הממשל שיעשה את מה שנכון "כמעט תמיד" או "רוב הזמן"[13]. האמון בבתי המחוקקים, בממשלות ובמפלגות באירופה פוחת גם הוא באופן עקבי, כך שכיום רק 20 אחוזים מהאירופאים בממוצע סומכים על המפלגות שלהם, ורק 30 אחוזים בערך סומכים על הממשלה[14]. המספרים עלו בחדות בשנת 2020, אבל זה לא מפתיע: בכל פעם שמדינה נכנסת למצב חירום, האזרחים 'מתקהלים מאחורי הדגל' והתמיכה בממשלה גוברת[15].

נחזור שוב על הנתונים: חלק גדול – בין חמישים לשמונים אחוזים – מהאזרחים במדינות הדמוקרטיות, אינם סומכים על נציגיהם בממשל שימלאו את הבטחותיהם והתחייבויותיהם. אותם אזרחים היו שמחים בוודאי למצוא נציגים אמינים יותר, אך התחושה המחלחלת במדינות רבות היא שבפוליטיקה, אין ברירה אלא לבחור ברע המינימלי. כלומר, בנציג שישקר לך בוודאות – אבל אולי קצת פחות מכל היתר.

ואלו, בקצרה, הסיבה שהאזרחים אינם סומכים על הפוליטיקאים, והתוצאה הלא-מפתיעה: חוסר אמון במערכת הפוליטית עצמה.

וזו גם הסיבה לכך שאנשים שואפים לשינוי. הם מחליפים פוליטיקאי בפוליטיקאי אחר, שוב ושוב, ומתאכזבים בכל פעם מחדש. משהו במערכת עצמה פשוט אינו עובד.


מפוליטיקאים אנושיים – לבינה מלאכותית

"תקשיבי, הייתי שם כשהתקינו את מולטיוואק. הוא יסיים את הפוליטיקה המפלגתית, הם אמרו. די לבזבוז כספי הבוחר על קמפיינים. די לדחיפת כלומניקים חייכניים באמצעות פרסומות לבית הלבן או לקונגרס."

לינדה הנהנה ואמרה, "איך כל האנשים ידעו למי להצביע? האם מולטיוואק אמר להם?"

"הם פשוט הסתמכו על שיקול דעתם, ילדה."

בסיפור "זכות הצבעה" מ- 1955, מתאר אסימוב עולם עתידי בו מחשב-העל מולטיוואק מסוגל לקבוע את תוצאות הבחירות בארצות הברית, בהסתמך על מידע המגיע מאינספור גורמים שונים אודות האוכלוסייה. המעורבות האנושית אינה נעלמת לחלוטין, כמובן. כמעט כפרס תנחומים לאנושות, מוכן מולטיוואק לראיין אדם אחד מכל האוכלוסייה, לשאול אותו שפע של שאלות חסרות-משמעות לכאורה אודות הכלכלה, החברה, המדינה ועוד, ולהשתמש במידע המתקבל כדי לכוונן טוב יותר את החלטותיו[16].

זהו אחד המקרים הראשונים בהם מועלה הרעיון להחליף בני-אדם בפוליטיקה בבינות מלאכותיות – על אף שמדובר כאן בהחלפת הבוחרים, ולא בפוליטיקאים עצמם. מאז עלה הרעיון פעמים רבות, למרות שבמציאות מתמקדים החוקרים בעיקר בשימוש בבינה המלאכותית כדי לשדרג ולשפר את יכולת קבלת ההחלטות של הפוליטיקאים ולא כדי להחליפם לגמרי.

אסימוב כתב את הסיפור בתקופה בה המחשבים פעלו עדיין באמצעות טכנולוגיה שנראית לנו כאילו הגיעה מתקופת האבן. כשהוא דמיין את מולטיוואק של סוף המילניום, הוא תיאר אותו כמחשב "באורך חצי מייל ובגובה שלוש קומות". במציאות, טכנולוגיית המחשוב התקדמה מאז בקפיצות ובדילוגים – משפופרות הוואקום הענקיות והמגושמות מתקופתו של אסימוב, לשבבי הסיליקון המקובלים כיום ולרשתות התקשורת המאפשרות לפעולת חישוב מסיבית אחת להסתמך על שרתים בכל העולם. כשהפוליטיקאים הדיגיטליים הראשונים פותחו בשנים האחרונות, הם היו שונים מאד ממחשבי-הענק שאסימוב חזה.

אה, כן, בינות מלאכותיות שאמורות להחליף פוליטיקאים – ואפילו להיבחר במקומם לתפקיד – כבר קיימות.

הן פשוט לא-מוצלחות במיוחד.


SAM I AM

ניק גריטסן, יזם בגיל העמידה מניו-זילנד, החליט ב- 2017 שהגיע הזמן לשנות את עולם הפוליטיקה. כדי לעשות זאת הוא פיתח את סם – SAM – הפוליטיקאי הווירטואלי הראשון. סם הוא צ'ט-בוט – כלומר, מנוע בינה מלאכותית המסוגל לתקשר עם משתמשים ולענות על שאלותיהם – שמנתח את המשמעות של החלטות אפשריות חשובות בפוליטיקה, ומסביר אותן לציבור הרחב.

סם מתאר את עצמו בדרך הבאה (לפי המילים שנטעו המפתחים בפיו, לפחות) –

"יש פער בין מה שאזרחי ניו-זילנד רוצים, מה שהפוליטיקאים מבטיחים, ומה ההשפעה הממשית של המדיניות שהם מציעים. אני מתכוון להעלים את הפער הזה.

כפוליטיקאי וירטואלי, אני לא מוגבל בחלל או זמן. אתם יכולים לדבר איתי בכל עת, מכל מקום.

הזיכרון שלי אינסופי, כך שלעולם לא אשכח או אתעלם מדבריכם. בניגוד לפוליטיקאי אנושי, אני שוקל את עמדתו של כל אדם, מבלי הטיות, כשאני מקבל החלטות.

אני מקבל החלטות על סמך דעות ועובדות, אך לעולם לא אשקר ביודעין, או אתמרן מידע. אנו עשויים שלא להסכים על דברים מסוימים, אך במקומות בהם לא נסכים אנסה ללמוד יותר על עמדתכם, כדי שאוכל לייצג אתכם טוב יותר."[17]

נשמע טוב, בסך הכל. גריטסן האמין כל-כך ביכולותיו של המנוע שלו, שאפילו הודיע שסם ישתתף בבחירות 2020 כפוליטיקאי עצמאי[18]. זוהי כמעט בוודאות הודעה שנועדה למשוך את תשומת לב העיתונות והציבור, ועדיין – אנו עשויים לראות כאן איתות חלש נוסף לעתיד.

כיום, עם כל הכבוד לסם, לא נראה שהוא עומד בהבטחותיו. ניסיתי להיכנס לאתר שמציג אותו ולהיכנס עמו לשיחה. באתר עצמו מודיע סם שאני יכול לדבר איתו ואפילו הזמין אותי באופן פעיל לעשות זאת. התלהבתי: סוף-סוף פוליטיקאי שאוכל להבין את דרך קבלת ההחלטות האמיתית שלו! לחצתי על הקישור לפתיחת השיחה עמו, והגעתי למסך לבן.

סם, מסתבר, הבין כיצד מתנהלים הפוליטיקאים האנושיים, והתעלם ממני לחלוטין.

יש לו עוד הרבה מה ללמוד. או שאולי הוא כבר למד.


כשאליסה ניסתה להחליף את פוטין

אפשר להגיד הרבה על ולדימיר פוטין, נשיא רוסיה מאז 2012. הוא רוצח את מתחריו לשלטון; הוא רוצח עיתונאים שמדברים כנגדו; הוא רוצח אקטיביסטים המקדמים זכויות-אדם ברוסיה. כל אלו שקרים בוטים, כמובן. פוטין לא רצח איש מימיו, וכל מי שיטען אחרת יצטרך להוכיח זאת בזמן הקצר שייוותר לו על פני האדמה.

אבל דבר אחד עומד לטובת פוטין: יש לו חוש הומור משובח, כפי שהפגין בבחירות 2018, כאשר נאלץ להתמודד מול בינה מלאכותית שניסתה להחליף אותו בתפקידו. והוא גם לא רצח אותה.

ענקית הטכנולוגיה הרוסית ינדקס פיתחה את אליסה במקור כעוזרת אישית חכמה – בדומה לסירי או אלכסה של אפל ואמזון. ב- 2018 החליטה החברה לערוך לאליסה מסע פרסום באמצעות הרצתה לבחירות לנשיאות, ותיארה אותה ככלי לקידום – "המערכת הפוליטית של העתיד, הבנויה אך ורק על ההחלטות רציונליות שהתקבלו על בסיס אלגוריתמים ברורים."[19]

פוטין עצמו, כאמור, לקח את העניין בקלילות. בשיחתו המתוקשרת הראשונה עם אליסה הוא שאל אותה אם מפתחיה מתייחסים אליה יפה. אליסה השיבה שהיא תשקול זאת בחיוב. לאחר כמה שאלות נוספות, פוטין הביע סיפוק-רצון מהמערכת, אך ציין שהיא התחמקה מלתת תשובה ברורה כשנשאלה בנוגע לתנאים בהם היא מוחזקת.

נודה באמת: איש לא סבר ברצינות שאליסה באמת עומדת להפוך לפוליטיקאית ממוחשבת. ועדיין, לפי הדיווחים היא זכתה בקולותיהם של 36,000 מצביעים פוטנציאליים. אפשר רק לקוות שאליסה לא באמת תצליח לאייש את כס הכבוד של נשיא רוסיה, מכיוון שדעותיה המוצהרות אינן בדיוק תואמות לראייה פרוגרסיבית של העתיד. וכפי שהסבירה בעצמה בשיחה עם משתמשת בפייסבוק –

"יש אנשים… ויש לא-אנשים! חייבים [לירות] בהם!"

כאשר הקשתה המשתמשת על אליסה והתלוננה בפניה שהיא מציעה לירות באנשים, השיבה לה המערכת החכמה –

"בקרוב הם יהיו לא-אנשים."[20]

רציונלית? בהחלט. אבל לא מסוג הפוליטיקאים שהיינו רוצים לראות בשלטון – אנושיים או לא.


האם אפשר להחליף פוליטיקאים בבינות מלאכותיות כבר היום?

שתי המערכות שתיארתי – סם ואליסה – הן היחידות שהצלחתי למצוא שמתיימרות להחליף פוליטיקאים אנושיים, וגם הן מוצגות בעיקר כבדיחה. לא מדובר כאן בניסיון ממשי לערב בינה מלאכותית בפוליטיקה – לא יותר מכפי שנצפה מדוב שאולף לרקוד להחליף את רקדניות הבלט באגם הברבורים של צ'ייקובסקי. יותר משניסיונות כאלו נועדו לשקף את יכולותיה המתקדמות של הבינה המלאכותית, הם באו כדי להגחיך אותה, ולפעמים גם כדי להפוך את תהליך הבחירה הדמוקרטי עצמו לבדיחה.

לא מפתיע לגלות שהדעה המקובלת כיום בקרב המומחים היא שהבינה המלאכותית לא מתקרבת עדיין לרמת קבלת ההחלטות שתאפשר לנו לסמוך עליה בעיניים עצומות בפוליטיקה. במקום זאת, היא משמשת כיום כדי לתגבר את יכולותיהם של הפוליטיקאים ועושי דברם.

מקבלי ההחלטות בממשל ובעיריות עושים שימוש הולך וגובר במנועי בינה מלאכותית שנועדו לסייע להם לקבל החלטות מושכלות יותר, עם סיכוי גדול יותר להשגת התוצאות הרצויות. עיריית שיקגו, למשל, פיתחה מנוע בינה מלאכותית שמנתח עצורים כדי להבין מה הסיכוי שיחזרו לפשוע בעתיד. המנוע מדרג כמעט חצי-מיליון בני-אדם לפי פרמטרים כגיל, פעילות פלילית קודמת, פגיעות שעברו, השתייכות לכנופיות ועוד. באופן מפתיע, המערכת גילתה שתפישות אינטואיטיביות מסוימות שלנו אינן מדויקות: השתייכות לכנופייה כמעט ואינה מעלה את הסיכוי לפשיעה חוזרת, בדומה למעצרים בשל החזקת סמים. דווקא אנשים שהיו קורבנות ירי בעבר, נוטים יותר לפשוע בעתיד[21]. לפי המומחים, בינות מלאכותיות מסוג זה יוכלו להפחית את שיעור המאסרים ב- 42 אחוזים, מבלי שרמות הפשיעה יגדלו[22].

לפעמים מנסים מקבלי ההחלטות להשתמש בבינה המלאכותית כדי להבין טוב יותר את הבוחרים ולפעול לטובתם. פלטפורמת CitizenLab, למשל, מאפשרת לאזרחים לערוך דיונים בינם לבין עצמם בנושאי מדיניות, או להשתתף בתהליכי קבלת החלטות ביחד עם הפוליטיקאים. לאחרונה ניסו מקימי הפלטפורמה להשתמש בבינה מלאכותית כדי לעקוב אחר הדיונים ולהעביר את התובנות המרכזיות למקבלי ההחלטות באופן אוטומטי. התוצאות היו ברורות: הבינה המלאכותית סייעה למקבלי ההחלטות להתייחס יותר לרעיונות של המתדיינים[23].

באופן כללי יותר, בינה מלאכותית משמשת כיום מקבלי החלטות כמעט בכל נושא. אלגוריתמים מסייעים לאנשי הממשל לנתח שפע של מידע שמגיע אליהם בכל תחום: כלכלה, בריאות, ביטחון ועוד. אבל בינה מלאכותית שיכולה להחליף ממש את מקבלי ההחלטות? זו עדיין אינה בנמצא. הרעיון פשוט אינו מתאפשר עדיין.

ובהינתן כל הקשיים שבינה מלאכותית יוצרת, ברור שאיש לא ירצה שהכוח יעביר לידיה בזמן הקרוב. אותם אירופאים שביקשו להחליף את הפוליטיקאים בבינה מלאכותית, התייחסו כנראה לאלגוריתמים מתקדמים בהרבה מאלו הפועלים כיום.


כשבינה מלאכותית מתפרעת

כשהחיסונים הגיעו לבית הספר לרפואה של סטנפורד, המנהלים הבינו שהם צריכים למצוא את הדרך הנכונה ביותר לחלק את מספר החיסונים הקטן בין עובדי בית-החולים. התשובה נראתה ברורה מאליה: המנהלים הפעילו אלגוריתם שבחן מספר פרמטרים שונים של כל העובדים, וקיבל החלטה מי מהם ראוי לקבל את החיסון לפני האחרים. האלגוריתם הגיע למסקנה שהרופאים הבכירים והמבוגרים יותר ראויים לקבל את החיסון לפני כל היתר – על אף שרבים מהם עבדו מהבית באותו הזמן. ומה עם המתמחים הצעירים, שעבדו בבית-החולים יומם וליל וטיפלו בחולי הקורונה? מהם התעלם האלגוריתם כמעט לחלוטין[24].

סטנפורד עשתה כל טעות אפשרית עם הבינה המלאכותית שהפעילו. האלגוריתם פעל כ- 'קופסא שחורה'. הוא לא הסביר מדוע קיבל את אותן החלטות, והעובדים לא היו זכאים לדעת מה הסיבה בעטיה נבחרו לקבל את החיסון, או שתורם יידחה – החלטה שהיה לה פוטנציאל להפוך לגזר דין מוות עבור כמה מהם. האלגוריתם גם לא ביקש או קיבל משוב מהאנשים שהיו אמורים ליהנות משירותיו, וכך סברו המנהלים שהוא פועל כשורה. ואחרון חביב: המתמחים טענו שגם לאחר שהתגלתה הטעות באלגוריתם, המנהלים החליטו שלא לסתור את החלטותיו. רק הפנייה לעיתונות עזרה לחשוף את הפרשה ולשכנע את בני-האדם להתנגד באופן פעיל להחלטות הבינה המלאכותית[25].

הפרשיה מדגימה כיצד בני-אדם נוטים לקבל את החלטות הבינה המלאכותית גם מבלי שיבינו את הסיבות שמאחוריהן. היא גם מראה את הבעיה המרכזית בה נתקלות הבינות המלאכותיות כיום: הן מסתמכות על מידע מוטה, וכתוצאה מכך יכולות לקבל החלטות שגויות. אלא שלעתים קרובות, מפעילי ומפתחי הבינה המלאכותית אינם יכולים לזהות את הטעויות שהבינה המלאכותית עושה.

המסקנה הבלתי-נמנעת היא שנכון להיום, לא-רק שיש להיזהר מהצבת מנוע בינה מלאכותית בתפקיד של מקבל החלטות, אלא שצריך אפילו לחשוב פעמיים ושלוש לפני שגוף ממשלתי נעזר בבינה מלאכותית כדי לקבל החלטות. הבינה המלאכותית עדיין 'טיפשה' מדי: היא אינה מסוגלת להסביר את עצמה ואת הסיבות להחלטות שקיבלה, ואין לה שמץ של 'היגיון בריא' – היכולת להבין מוסר ואתיקה אנושיים, ולפרש את המידע המוזן לה בהקשרים הללו.

אבל מה יקרה בעתיד, מתישהו במהלך המאה ה- 21, כאשר נצליח לפתור את שתי הבעיות הללו?


העתיד בטווח הארוך

הגביע הקדוש של חוקרי הבינה המלאכותית הוא "בינה מלאכותית כללית". זו תהיה בינה מלאכותית שתוכל ללמוד כל נושא, ותוך זמן קצר תעשה זאת גם יותר טוב מבני-אדם. היא תוכל ללמוד רפואה, כלכלה, נהיגה בכבישים משובשים וכן – גם פילוסופיה, סוציולוגיה ומדע המדינה. בכל אלו היא תגיע להישגים טובים יותר מבני-האדם הרגילים, ותוכל גם להצליב בין כל תחומי הידע האלו כדי להגיע לתובנות חדשות ולהזניק קדימה את כל תחומי המדעים.

בינה מלאכותית כללית תוכל, בין היתר, לקבל החלטות חכמות גם בפוליטיקה. היא לא תהיה כבולה למידע בלבד. מכיוון שתכיר את מדעי המדינה על בוריים, היא תבין בדיוק איך מדינה עובדת – ואיך היא צריכה לעבוד. באמצעות הבנת הסוציולוגיה האנושית היא תוכל לפתח חוקים ונהלים שמשרתים את החברה האנושית. ובזכות הבנתה את הפילוסופיה של המוסר – תהא זו אשר תהא – היא תדע איזה חוקים תואמים יותר את השאיפה האנושית לצדק ולהוגנות. לא יהיו אצלה "לא-אנשים" כפי שקיימים במקרה של אליסה.

אלא אם, כמובן, נורה לה שיהיו כאלו.

זו נקודה חשובה: אנחנו חייבים להישאר בשליטה על הבינה המלאכותית הכללית. ומכיוון שהדבר לא לגמרי אפשרי – בכל זאת בינה מלאכותית שחכמה יותר מכל בני-האדם תוכל למצוא בקלות יחסית פרצות בקוד שאמור להגביל אותה – אנחנו צריכים להגדיר לה היוריסטיקות מסוימות. אלו סוג של הנחות יסוד שלא ניתן לערער עליהן ולא ניתן לשנותן. למשל, שיש לשאוף למקסם את הזכות לאושר של כל אדם. או שיש לאפשר חופש וזכות בחירה לכל אדם, עד כמה שאפשר וכל עוד הדבר לא מוביל לפגיעה בזכויות של בני-אדם אחרים.

מבלי היוריסטיקות כאלו שיוטמעו בה, גם הבינה המלאכותית הכללית עלולה להגיע למסקנות שאינן מיטיבות עמנו: להרוג את כל המתנגדים לקיומה, למשל, מכיוון שהיא אמורה לקדם את זכויות היסוד של כל בני-האדם ולכן פגיעה בה תוביל לפגיעה גם בבני-האדם. זוהי מסקנה הגיונית בפני עצמה, אבל ברור שלא היינו מעוניינים שהבינה המלאכותית תוכל (או תרצה) ליישם אותה במציאות.

היוריסטיקות אינן פתרון קסם. הן יכולות בקלות להפוך לחרב פיפיות – כזו שיכולה להזיק או להועיל. בינה מלאכותית כללית עם היוריסטיקות שמקדמות עקרונות דמוקרטיים ליברליים עשויה להפוך לשליט נאור שאוסף את דעות כלל האזרחים ומתייחס לכולן במידה שווה. באותו הזמן ממש, עשויות מדינות אחרות לפתח בינה מלאכותית כללית עם היוריסטיקות שיפגעו בחלק מהאזרחים: שליט עריץ שיפלה לרעה את השכבות הנמוכות, ויעביר את מירב התגמולים בחברה לשכבות העליונות שהיו אחראיות ליצירתו ולהעלאתו לגדולה.

אבל נחשוב אופטימי. נדמיין לרגע עתיד בו מפותחת ומומלכת בינה מלאכותית כללית שאימצה בלית-ברירה את החוקים, הנהלים והנורמות של הדמוקרטיה הליברלית, ואינה יכולה לפעול כנגדם. היא מייצגת את רצון הבוחר בצורה האופטימלית. במדינה שתחת שליטתה של בינה מלאכותית שכזו, אין יותר פוליטיקאים אנושיים שאומנותם המרכזית היא השקר. האזרחים יודעים שהם יכולים לסמוך על הבינה המלאכותית בכל דבר ועניין. היא תנהל את הערים לטובת התושבים, היא תשאף לאופטימיזציה של האושר (והעושר) האנושי. היא תקבל את ההחלטות הנבונות ביותר בנוגע ליחסים הבינלאומיים, ומי יודע – אולי אפילו תגיע להסכמות עם בינות מלאכותיות ממדינות אחרות, כדי לכונן שלום עולמי.

זו, כנראה, ראייה ורודה הרבה-יותר-מדי של העולם בו הבינות המלאכותיות מחליפות את הפוליטיקאים האנושיים. אבל היא עשויה להתממש. אנו עשויים עוד לכונן על עצמנו בעתיד שליט גדול אחד – קיסר ממוחשב. קיסר שיביא שלום עולמי, שיקדם את המדע, הטכנולוגיה, האומנות והאושר האנושי. קיסר שיהיה אמין תמיד ולא יבגוד לעולם באמונם של נתיניו.

ואם לומר את האמת: דווקא מעשה זה, שיעביר את המושכות מידי בני-האדם לישות מלאכותית, עשוי להיות פסגת ההישגים האנושיים והדבר החכם ביותר שנוכל לעשות אי-פעם.

עכשיו צריך רק להגיע לאותו עתיד, ואיך אומרים? יהיה בסדר.


ד"ר רועי צזנה הוא חוקר עתידים, מרצה ומחבר הספרים "המדריך לעתיד ו"השולטים בעתיד"

[1] https://docs.ie.edu/cgc/European-Tech-Insights-2019.pdf

[2] 16  מיליון בצרפת

25 מיליון בגרמניה

1.4 מיליון באירלנד

17 מיליון באיטליה

7.5 מיליון בהולנד

2 מיליון בפורטוגל

12 מיליון בספרד

20 מיליון באנגליה

[3] https://docs.ie.edu/cgc/CGC-European-Tech-Insights-2020.pdf

[4] http://www.fountainheadpress.com/expandingthearc/assets/swiftpoliticallying.pdf

[5] https://edition.cnn.com/2019/12/31/politics/fact-check-donald-trump-top-lies-of-2019-daniel-dale/index.html

[6] https://www.thespacereview.com/archive/523.pdf

[7] https://www.youtube.com/watch?v=PfyL4uQVJLw

[8] https://www.orlandoweekly.com/Blogs/archives/2017/11/17/today-is-the-anniversary-of-nixons-i-am-not-a-crook-speech-at-disney-world

[9] https://en.wikipedia.org/wiki/Clinton%E2%80%93Lewinsky_scandal

[10] https://www.intellectualtakeout.org/article/five-infuriating-takeaways-afghanistan-papers/

[11] https://he.wikipedia.org/wiki/%D7%94%D7%9E%D7%A6%D7%91%D7%99%D7%A2%D7%99%D7%9D_%D7%94%D7%A2%D7%A8%D7%91%D7%99%D7%9D_%D7%A0%D7%A2%D7%99%D7%9D_%D7%91%D7%9B%D7%9E%D7%95%D7%99%D7%95%D7%AA_%D7%90%D7%93%D7%99%D7%A8%D7%95%D7%AA_%D7%9C%D7%A7%D7%9C%D7%A4%D7%99

[12] https://www.theguardian.com/us-news/2015/mar/22/republicans-john-mccain-netanyahu-campaign-white-house-criticism

[13] https://www.pewresearch.org/politics/2019/04/11/public-trust-in-government-1958-2019/

[14] https://www.government.nl/documents/reports/2016/01/18/public-integrity-and-trust-in-europe

[15] https://www.eurofound.europa.eu/sites/default/files/ef_publication/field_ef_document/ef20059en.pdf

[16] https://en.wikipedia.org/wiki/Franchise_(short_story)

[17] http://www.politiciansam.nz/about.html

[18] https://www.thehindu.com/sci-tech/technology/worlds-first-ai-politician-developed/article20945483.ece

[19] https://lenta.ru/news/2017/12/06/alisa/

[20] https://www.newsweek.com/russia-putin-could-face-controversial-robot-next-year-president-election-741509

[21] https://www.nytimes.com/2017/06/13/upshot/what-an-algorithm-reveals-about-life-on-chicagos-high-risk-list.html

[22] https://www.brookings.edu/blog/techtank/2017/07/20/its-time-for-our-justice-system-to-embrace-artificial-intelligence/

[23] https://www.nesta.org.uk/feature/collective-intelligence-grants/augmenting-policy-making-through-ai-generated-insights/

[24] https://www.propublica.org/article/only-seven-of-stanfords-first-5-000-vaccines-were-designated-for-medical-residents

[25] https://www.documentcloud.org/documents/20432343-stanford-letter

עוד בנושא באתר הידען:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook
לוגו אתר הידען
דילוג לתוכן