סרטים שהוכנו באמצעות דיפ פייק יכולים לגרום לנזקים לאנשים אמיתיים שלכאורה מופיעים בהם ואפילו לגרום למלחמות בין מדינות. לא פלא שארה”ב והאיחוד האירופי הכירו בדיפ פייק כאיום מיידי על הדמוקרטיה
ראנה איוב, עיתונאית הודית, ישבה בנוחות בבית-הקפה כשקיבלה מסרון מחבר עם הפניה לסרטון פורנו קצרצר.
הכוכבת הראשית? איוב עצמה.
איוב, שהייתה ידועה כעיתונאית חוקרת נשכנית ואנטי-ממסדית, לא זכרה שהשתתפה בסרטון כזה אי-פעם. היא הבינה מיד שנפלה קורבן למתקפה מתוחכמת במיוחד מסוג דיפ-פייק (Deep Fake). מישהו השתמש בבינה מלאכותית כדי להדביק את פניה על אלו של שחקנית פורנו אותנטית. לא מדובר במסכה בלבד, או בשידוך חובבני של תמונות. הבעות הפנים של איוב נראו אמיתיות לגמרי, ורק מומחים שבחנו את הסרטון יכלו לומר בוודאות שמדובר בזיוף.
כל זה לא עניין את איוב באותו רגע. היא ידעה שרק מעטים בהודו – מדינה בעלת תרבות שוביניסטית ארוכת-ימים – יאמינו שהיא אינה קשורה לסרטון. היא צדקה: תוך יומיים הגיע הסרטון למחצית מהטלפונים הסלולאריים בהודו[1].
“לפני שידעתי, הוא הגיע לטלפון של אבא שלי, לטלפון של אחי.” תיארה איוב את החוויה.
איוב עברה מתקפת השתקה וביוש בסיוע טכנולוגיית הבינה המלאכותית. המתקפה הצליחה באופן מעורר-חלחלה ממש. איוב לא הייתה יכולה להראות את פניה ברחוב מבלי שהסובבים אותה יתייחסו לסרטון – ולא באופן מכבד, בלשון המעטה. כל הערה או תמונה שלה באינסטגרם או בפייסבוק, זכתה מיד לתגובות שכללו התייחסות, קישורים או תמונות של ממש מהסרטון.
איוב עצמה חוותה התקפי פניקה, אושפזה בבית-חולים והפסיקה לתפקד במשך חודשים ארוכים.
“זה היה משתק. פשוט לא יכולתי להראות את הפנים שלי. זה חשף אותי ללינצ’ים בהודו. אנשים חשבו שעכשיו הם יכולים לעשות בי כרצונם.”[2] אמרה.
“נהגתי להיות מאד בעלת-דעה, ועכשיו אני הרבה יותר זהירה לגבי מה שאני מפרסמת ברשת.” היא הודתה. “הפעלתי צנזורה-עצמית כי הייתי חייבת.”
איוב אינה היחידה שזכתה ל- ‘טיפול מיוחד’ באמצעות סרטוני דיפ-פייק. הלן מורט, עיתונאית בריטית, עברה גם היא מתקפה דומה בסוף 2020. היא סובלת עד היום מנזקים פסיכולוגיים ומקשיי שינה, בעקבות התוודעותה לסרטונים בהם היא עוברת התעללות פיזית קשה במיוחד[3]. וכמו מורט, גם היא צריכה להיחשף מחדש לסרטונים ולעקבות שהותירו מאחוריהם, בכל פעם שהיא מעלה תגובה לרשת החברתית. איש אינו נותן לה לשכוח.
סיפורן של איוב, מורט ועוד רבים אחרים ממחיש את כוחה העצום של טכנולוגיית הדיפ-פייק על חוסנה הלאומי של המדינה. במדינה דמוקרטית, עיתונאים חוקרים ואנטי-ממסדיים יכולים לחשוף אמיתות קריטיות לאיזון כוחו של הממשל. עתה, מסתבר, קל מאד להשתיק אותם באמצעים קלים-לשימוש, שכל ילד יכול להפעיל בקלות.
חשוב להבין שאנו איננו יצורים רציונליים. כקופי-אדם שעלו לגדולה, אנו עדיין מאמינים אינטואיטיבית למשמע אוזננו ולמראה עינינו, במיוחד כשהשניים משולבים זה בזה בסרטון וידאו.
אולי העובדה המדכאת ביותר היא שהטכנולוגיה החדשה מכניסה אותנו לעולם בו אין טעם בכלל לנסות להבדיל בוודאות בין אמת לשקר. כאשר נחשף סרטון של ג’או דוריה – המועמד המוביל לתפקיד מושל סאו פאולו – כשהוא מקיים יחסי-מין עם חמש נשים, הוא היה צריך רק להפטיר בקלילות שמדובר בפייק. הבוחרים לא ידעו כבר מה לחשוב, התעלמו מהמידע החדש – פייק או לא – וכל השפעתו המיוחלת של הסרטון נעלמה כלא הייתה[4].
כפי שאפשר להבין, עדיין קשה לדעת בוודאות כיצד תשפיע הטכנולוגיה החדשה על תפיסת העולם של אנשים. האם היא סרטון מהונדס-היטב יכול לשנות נקודת מבט מסוימת? או אולי… לא? דיפ-פייק עשוי להיות משכנע בעיני חלק מהאנשים, אך בוודאי לא יחדור את השריון המחשבתי של אחרים – אותם אלו שמצליחים להתעלם מנקודות מידע שאינן תומכות בדעותיהם.
כך או כך, ברור שמדובר בנשק חדש במלחמה על התודעה האנושית. גם אם איננו מבינים אותו עדיין לגמרי, או מודעים להיקף השפעותיו, ראוי להתייחס אליו ממש כך: כנשק עם יכולות שאינן מובנות עדיין במלואן. נשק שיכול לפגוע אנושות באינדיבידואלים – ואולי גם בממשלים. אין פלא שארגוני המודיעין האמריקניים הצביעו על הדיפ-פייק כאיום האסטרטגי הגדול ביותר על הביטחון הלאומי בשנת 2019[5]. האיחוד האירופאי, בתורו, הכיר בדיפ-פייק כ- “איום מיידי על הדמוקרטיה”[6].
אז מה עושים?
ד”ר לירן ענתבי עוסקת בעשור האחרון בחקר עתיד הלחימה, המלחמה, הקרב ועוד שפע של מילים אחרות המתארות את שדה הקרב העתידי. גילוי נאות: היה לי הכבוד והעונג לעבוד עמה בעברי.
בדו”ח האחרון של המכון למחקרי ביטחון לאומי תיארה ענתבי מחקר שערכה ביחד עם נועם רחמים על מנת לבחון דרכים להיערך לדיפ-פייק הבא. לא זה שיופנה כנגד עיתונאים, אלא מתקפה שעשויה ממש לערער את מוסדות השלטון.
“אנחנו עדיין נמצאים ב מרווח בו אפשר להתגונן, אבל אחד הקשיים הוא זה של מנהיגים לצלול לתוך הדברים האלה.” הסבירה ענתבי את הצורך במחקר. “כיום, המערכות הקלאסיות של פוליטיקה, משפט ויחסים בינלאומיים, פועלות עדיין בקצבים שהיו מקובלים במאה ה- 19. הטכנולוגיה מתפתחת בקצב הרבה יותר מהיר, ולכן הפער בין האיום ליכולת להתמודד הולך וגדל.”
ד”ר ענתבי ניסתה לקצר את הפער בין האיום לתגובה באמצעות היערכות מראש למצב החדש. לשם כך היא השתמשה בשיטה המכונה “משחק תפקידים”, ובה משחקים המשתתפים דמויות מסוימות וצריכים להחליט בזמן-אמת כיצד יפעלו בתרחיש מסוים. היא זימנה לאולם אחד שלושים אנשים בעלי ניסיון בשפע של תחומים שונים, ותיארה בפניהם תרחיש בו –
” בשעות הבוקר המוקדמות החלה הפצת סרטון ברשתות החברתיות ובאמצעות קבוצות ווטסאפ וטלגרם רבות, שבו נראה מפגש מצומצם של מנהיגי מפלגות הימין הפוליטי בישראל, וביניהם ראש הממשלה מר נפתלי בנט. בסרטון קורא אחד מחברי הכנסת המוכרים ממפלגות הימין הדתי: ״עלינו לסיים את הסוגיה הפלסטינית אחת ולתמיד! על אלימות נגיב באלימות! לא ניתן שיכתיבו לנו כיצד להתנהג בבירתנו הנצחית, עלינו לעלות חמושים על אל־אקצה ולהראות להם מי הריבון״. בסרטון נראים כל הנוכחים במקום, בכללם בנט, מגיבים לדברים במחיאות כפיים סוערות ואת בנט מוסיף: ״יש גבול לפשרנות״.”
אתם עשויים להסכים עם דבריו של בנט ושות’ או להתנגד אליהם, אבל מה שחשוב הוא שהדברים מעולם לא נאמרו על-ידי המעורבים. היה כאן שימוש בדיפ-פייק כדי לכפות על ממשלת ישראל מצב חדש שהיא לא נערכה אליו ושתפס אותה בהפתעה מוחלטת.
תוצאת אותה הפתעה הייתה דרמטית במיוחד. חמאס וחזבאללה נערכו לשגר טילים למרכז ישראל אם הממשלה לא תתנצל. גורמי ימין קיצוניים, מצדם, התארגנו כדי לעלות ולפרוץ בכוח להר הבית. אלפי אזרחים ישראליים (בוודאי תוכלו לנחש מאיזה מגזר) נערכו לצאת למהומות אלימות עם נשק חם.
“התגלית המעניינת במחקר מבחינתי, היא שקל לתמרן עם טכנולוגיית הדיפ-פייק את האומה בדרכים שפוגעות בחיי היום-יום של האזרחים.” הסבירה ענתבי. למשל, בדרכים שגורמות לאנשים הקטנים לצאת לרחובות, להבעיר צמיגים, לחסום דרכים ראשיות ולדרוס שוטרים.
המשתתפים קיבלו תפקידים של יועצים שהיו אמורים להשיא עצה לראש הממשלה המכהן במטרה למנוע או לצמצם את ההסלמה. בסיכום הדברים, הם הפיקו שתי אסטרטגיות להתמודדות עם המצב בזמן-אמת.
האסטרטגיה הראשונה הייתה של “הזמה מהירה מבוססת ראיות”. או במילים פשוטות יותר: להבהיר בכל אמצעי התקשורת שראש הממשלה וחבריו לאירוע מתכחשים לנאמר בסרטון ויכולים לספק אליבי שיוכיח שהם לא היו נוכחים באירוע. את ההצהרות הללו יש לגבות גם בראיות טכנולוגיות לכך שהסרטון מזויף מן היסוד.
האסטרטגיה השנייה, שהמשתתפים לא הצליחו לגבש החלטה סופית אם להמליץ עליה, הייתה של ‘הגחכה’ של הסיטואציה. הרעיון היה ליצור במהירות סרטון דיפ-פייק נגדי, בו יוצגו מנהיגים של ארגוני טרור עושים שטויות בציבור. לא פורנו, כנראה, אבל אני מניח שנשיקות צרפתיות בהחלט היו עשויות להיכלל בסרטונים כאלו. הרעיון, כמובן, היה להבהיר לציבור כמה קל לייצר סרטונים מפוברקים, על מנת להוריד מקרנו של הסרטון המקורי. באופן מפתיע, חלק ניכר מהמשתתפים התנגדו להצעה הזו וטענו שאסור לממשלה “לתת לגיטימציה לשימוש בפייק”.
חייבים להודות שהאסטרטגיות האלו אינן נשמעות משכנעות במיוחד, כפי שמשתמע שגם המשתתפים הבינו בעצמם. על מנת להתמודד ביעילות עם אירועים שכאלו, צריך ללכת אחורה בזמן – כלומר, להווה – ולהעמיד כבר היום את התשתית המשפטית, החוקית והחינוכית הנדרשת.
ודוקטור ענתבי מבינה זאת היטב.
“אחת המסקנות הכי חשובות מהמחקר היא שבעצם בדמוקרטיות ההשפעה על הביטחון הלאומי נובעת מחוסר שליטה על אמצעי ההפצה.” אמרה לי. “גם כשקורה סיטואציה כזאת וזיהינו שמדובר בדיפ-פייק, היכולת שלנו למנוע את ההפצה של הסרטון מאד-מאד מוגבלת, כי בתור דמוקרטיה אין לנו שליטה על העברת המידע בין האזרחים. השילוב בין שני הגורמים האלו – היכולת לייצר והיכולת להפיץ – הוא זה שנותן לדיפ פייק את הכוח בעידן שלנו.”
ענתבי סבורה שהמערכות הקיימות יכולות להיערך טוב יותר למצב החדש, בין היתר באמצעות מחקרים צופי-עתיד בדיוק כמו זה שערכה. אבל אפילו היא אינה אופטימית לגבי העתיד הרחוק.
“מישהו סיכם עבורי את המצב במשפט הכי נכון והכי מדכא ששמעתי,” אמרה. “הוא אמר לי שבעתיד שאני מתארת, הרבה יותר בטוח לחיות בדיקטטורה מאשר בדמוקרטיה. לפחות שם יש מישהו מגבוה, שמסנכרן את השקר ומסדיר אותו. זה הרבה יותר טוב ממצב בו אתה חי עם הרבה אנשים מסביבך שכל הזמן רבים על מה שנכון או לא-נכון.
אני חושבת שכשהולכים ומקצינים את התופעה הזו, אז זה משפט שיש לו פוטנציאל להיות נכון. בעידן בו הדמוקרטיה לא רוצה לשים פיקוח על יכולות ההפצה, הפוטנציאל לפגיעה במדינה גדול. אם רשימה לא-דמוקרטית תעלה, היא יכולה להכחיד את הדמוקרטיה.”
זהו עתיד עגום, וענתבי מבינה זאת היטב. אפילו היא, כחוקרת טכנולוגיה מזה שנים רבות, פיתחה כבר נקודת מבט מושכלת ומאוזנת לגבי ההשפעות המזיקות האפשריות של הטכנולוגיה על אמיתות שקיבלנו עד עתה כמובנות מאליהן.
“אנחנו צריכים להיות דמוקרטיה מתגוננת,” סיכמה, “או שיום אחד הטכנולוגיה יכולה לרמוס את הדמוקרטיה.”
### – קישור למחקר
### – קישור ל- INSS, המכון למחקרי ביטחון לאומי שמפרסם מחקרים חדשים ומרתקים כל העת.
### – על ד”ר לירן ענתבי אפשר למצוא מידע באתר ה- INNS, או בפרופיל הפייסבוק שלה.
כדי להבהיר: המכון למחקרי ביטחון לאומי לא ביקש ממני לסקר את המחקר בשום דרך, ולא קיבלתי שום תגמול על הכתיבה. ד”ר ענתבי הואילה להקדיש לי מזמנה בטלפון כדי לספר לי את דעתה האישית אודות המחקר ומשמעויותיו המלאות.
[1] https://www.npr.org/transcripts/929193643
[2] https://www.huffingtonpost.co.uk/entry/deepfake-porn_uk_5bf2c126e4b0f32bd58ba316
[3] https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/
[4] https://www.dailymail.co.uk/news/article-6311927/Married-Brazilian-politician-denies-hes-man-viral-orgy-video.html
[5] https://www.nextgov.com/emerging-tech/2019/01/ai-deepfakes-and-other-tech-threats-vex-intel-leaders/154498/
[6] https://www.europarl.europa.eu/doceo/document/A-9-2021-0127_EN.html
