הצהרה פומבית של מנכ"ל אנתרופיק, דריו אמודיי, מציבה שני קווים אדומים: התנגדות למעקב נרחב אחר אזרחים אמריקנים וסירוב לאפשר שימוש במודלים של החברה להפעלת כלי נשק אוטונומיים ללא בקרה אנושית.
קשה לדעת מראש איזה הצהרות ייכנסו לספרי ההיסטוריה, אבל להצהרה האחרונה של אנתרופיק יש סיכוי טוב להופיע בספר דברי-הימים, כאשר זה ייכתב בעתיד על-ידי אדונינו – או משרתינו – הרובוטים. זוהי הצהרה שיוצאת ישירות כנגד ממשלת ארצות-הברית, ועל הדרך גם מספרת לנו איך הממשלה רוצה להשתמש בבינה המלאכותית בדרכים שעלולות להזיק לאזרחי המדינה, לפגוע בדמוקרטיה ולסכן את עתיד האנושות.
אבל כדי להבין את הסיפור הזה, אני צריך קודם לספר לכם סיפור אחר.
הכל החל בוונצואלה
בתחילת השנה – שלושה ימים לתוך השנה החדשה – אזרחי ונצואלה התעוררו וגילו שהמנהיג העליון שלהם נחטף. ממשלת ארצות-הברית שיגרה בין-לילה 150 מטוסים, מסוקים ומגוון רחב של כלי-טיס בלתי-מאוישים כנגד המדינה. חלק מאותם כלי-טיס נשאו חיילים אמריקניים שהיו חמושים בכלי-הנשק המתקדמים ביותר המוכרים לנו. החיילים פלשו למתחם הפרטי של שליט ונצואלה, ניקולס מאדורו, וחטפו אותו ואת אשתו לארצות-הברית, שם הם עומדים כיום למשפט על סחר בסמים.
הציבור האמריקני הריע ברובו לכוחות הביטחון של ארצות-הברית. ברובו, לא כולו. באנתרופיק התחילו להישאל שאלות קשות לגבי המעורבות של הטכנולוגיה של החברה במבצע הזה ספציפית, ובשימוש צבא ארצות-הברית בכלל. לאנתרופיק יש חוזה של מאתיים מיליון דולרים עם משרד המלחמה, אבל היא גם בנתה לעצמה מוניטין שלם על ההתחייבות לקדם "בטיחות בינה מלאכותית". ובלשון יותר ברורה: היא רוצה לוודא שהבינה המלאכותית תשרת את טובת האנושות.
לפי דיווחים בעיתונות, משרד המלחמה השתמש בבינה המלאכותית של אנתרופיק כדי להוציא לפועל את הפלישה לוונצואלה. איך בדיוק? את זה אנחנו לא יודעים, אבל ההנחה הסבירה ביותר היא שהבינה המלאכותית של אנתרופיק עזרה לנתח מודיעין מתקדם שהגיע מוונצואלה, ולהפעיל כלי-טיס אוטונומיים בשדה הקרב.
אנתרופיק, שכאמור מנסים לוודא שבינה מלאכותית לא תשמש כנגד בני-אדם, לא היו מרוצים מהעניין. הם לא מתנגדים למלחמה באופן עקרוני – הם לא היפים יפי-נפש כמו שמנסים לצבוע אותם – אבל הם גם לא מוכנים להפוך כלי-נשק לאוטונומיים לגמרי בלי הרבה מאד מקדמי ביטחון. אפשר להבין אותם בנקודה זו, כי הבינה המלאכותית עדיין רחוקה מלהיות מושלמת, ולא קל לדעת איך רובוטים כאלו יתנהלו בשדה הקרב. טעות אחת של הבינה המלאכותית יכולה לעלות בחייהם של חפים מפשע בשני הצדדים.
אנתרופיק הביעו את ההתנגדות שלהם במייל שקט למשרד המלחמה. העניין התפוצץ והגיע לעיתונות, וזמן קצר לאחר מכן הגיע דריו אמודיי, מנכ"ל אנתרופיק, לביקור בפנטגון כדי ליישר את ההדורים. כדי לקצר סיפור ארוך, הוא נתקל שם בשר המלחמה שאמר לו באופן שאינו משתמע לשני פנים שאנתרופיק צריכה לסתום את הפה, להצדיע ולעשות את כל מה שמשרד המלחמה אומר לה לעשות. ואם היא לא תציית? אז החברה תוגדר כ- "סכנה לשרשרת האספקה", והממשלה עדיין תכפה על אנתרופיק לעבוד עבורה באמצעות הפעלת "חוק הייצור לצורכי ביטחון".
הנשיא טראמפ לא חיכה יותר מדיי לפני ששחרר סדרה של הצהרות משלו ברשת החברתית. הוא האשים את אנתרופיק בהיותה "ווקית", וגם "חברה שמאלנית-קיצונית שיצאה משליטה". בקיצור, הוא השתמש בכל המילים הרגילות שלו על אנשים שהוא לא אוהב. הוא המשיך והצהיר שאם החברה לא תשתף פעולה, הוא "ישתמש בכוח המלא של הנשיאות כדי להכריח אותם לציית, עם השלכות אזרחיות ופליליות גדולות שעוד יגיעו."
ההצהרה של אנתרופיק
התשובה של אמודיי לא איחרה להגיע, בהצהרה פומבית ששחרר ב- 26 לפברואר. הצהרה שכפי שכתבתי בתחילת המאמר, עשויה עוד להיכנס להיסטוריה כנקודה בה לפחות חברת בינה מלאכותית אחת סירבה לפעול לצד הממשל וכנגד האזרחים.
"אני מאמין מעומק-הלב שיש חשיבות קיומית לשימוש בבינה המלאכותית להגנה על ארצות-הברית והדמוקרטיות האחרות, ועל מנת להביס את אויבינו האוטוקרטים." כתב אמודיי באותה הצהרה. הוא המשיך והצביע על כך שאנתרופיק הייתה חברת הבינה המלאכותית המובילה הראשונה שהרשתה לממשלה להשתמש בשירותיה ברשתות המסווגות, והראשונה שהתאימה מודלים ספציפית לצרכים הבטחוניים של אמריקה. במקביל, החברה סירבה לאפשר ללקוחות שקשורים לממשלה הסינית להשתמש במוצרים שלה.
עד כאן הכל טוב, אבל אמודיי הבהיר שגם לאנתרופיק יש את הקווים האדומים שלה. וכפי הנראה, ממשלת ארצות-הברית עברה את הקווים האלו.
"במספר מקרים מצומצם, אנו מאמינים שהבינה המלאכותית יכולה לחתור תחת הערכים הדמוקרטיים, במקום להגן עליהם." אמר אמודיי. "שני מקרים כאלו לא נכללו מעולם בחוזים שלנו עם משרד המלחמה, ואנו מאמינים שהם לא צריכים להיכלל גם עכשיו."
קו אדום ראשון – מעקב נרחב אחר אזרחים
הקו האדום הראשון הוא זה של מעקב רחב אחר אזרחי ארצות-הברית. אמודיי הסביר שתחת החוק הנוכחי, הממשלה יכולה לרכוש מידע נרחב ומפורט על הפעולות של אזרחים אמריקניים בעולם הדיגיטלי (כמו גלישה ברשת) ובעולם הפיזי. הבינה המלאכותית של אנתרופיק יכולה לעזור לממשלה לקבץ את כל פיסות המידע המפוזרות וה- 'תמימות' הללו, ולהפיק באמצעותן פרופיל מקיף של כל אדם. והיא יכולה לעשות זאת באופן אוטומטי ונרחב. כל אזרח אמריקני, למעשה, מקבל קצין מודיעין פרטי שבוחן אותו כל יום, כל היום. ולפעמים גם בלילה.
"… מעקב נרחב כזה חוקי כרגע," קבע אמודיי, "רק מכיוון שהחוק עדיין לא הספיק לתפוס את היכולות הגדלות במהירות של הבינה המלאכותית."
אפשר להבין את עמדתו של אמודיי. אנחנו כבר יודעים היטב ש- "כוח נוטה להשחית, וכוח מוחלט משחית בצורה מוחלטת." יש סיבה טובה לכך שכוחה של הממשלה בדמוקרטיה מוגבל ומפוצל בין שלוש רשויות. ממשלה שיכולה לדעת הכל על אזרחיה, ונטולת עכבות מוסריות, יכולה לדכא את המתנגדים לה בשלל דרכים. היא יכולה להפיץ את הרגלי הגלישה הבעייתיים שלהם, למצוא עבירות קטנות ושוליות שכל אחד מאיתנו (חוץ מכם, כמובן) ביצע בעברו, לעקוב אחריהם כדי לשחרר תמונות מכפישות, ועוד ועוד. במקרים הקיצוניים יותר, היא יכולה פשוט לאתר את המתנגדים ולשלוח אליהם אנשים משכנעים מאד, שיגרמו להם לקפוץ מהחלון מרצונם החופשי. כך קורה ברוסיה כבר שנים רבות, כמו גם בכל המדינות הטוטליטריות.
כך שאני מבין היטב את הזהירות של אמודיי בנקודה זו. וזה רק הקו האדום הראשון.
קו אדום שני – רובוטים אוטונומיים ללא-שליטה
הקו האדום השני שמתואר במסמך הוא השימוש בבינה המלאכותית לשליטה מלאה בכלי נשק. אמודיי התייחס כאן לכלי-נשק אוטונומיים לגמרי, מהסוג שיכולים לבחור במי לירות וגם ללחוץ על ההדק, ללא מעורבות אנושית.
כאן התמונה מורכבת יותר, ואמודיי מכיר בכך. הוא אינו טוען שנשקים אוטונומיים אינם חשובים, אבל הוא אומר שעדיין לא הגענו לזמן בו הם בטוחים מספיק לשימוש.
"נשקים אוטונומיים-חלקית, כמו אלו בהם נעשה שימוש באוקראינה כיום, חיוניים להגנת הדמוקרטיה." הוא פתח. "אפילו נשקים אוטונומיים לגמרי עשויים להיות קריטיים להגנה הלאומית שלנו. אבל היום, מערכות בינה מלאכותית מתקדמות פשוט אינן אמינות מספיק עבור נשקים אוטונומיים לגמרי. לא נספק ביודעין מוצר שיכול להעמיד את לוחמיה ואזרחיה של אמריקה בסכנה. … [נשקים אוטונומיים לגמרי] צריך להשיק עם מגבלות ראויות, שאינן קיימות כיום."
כמובן, נשאלת השאלה איך אנתרופיק יכולה בכלל לדעת האם הנשקים האוטונומיים המתקדמים ביותר באמת אמינים מספיק לשימוש. ומי קובע מהי אותה רמה "אמינה מספיק"? כל מה שאפשר לומר הוא שאנתרופיק – שעבדה בצמוד למשרד המלחמה – סבורה שהנשקים האלו אינם בטוחים מספיק כיום.
וכך אמודיי מתח קו בחול ואמר – "עד כאן".
והממשלה? היא לא טרחה עם קווים בחול. היא שרפה את הגשר.
"אנחנו לא צריכים אותה [את אנתרופיק], אנחנו לא רוצים אותה, ואנחנו לא נעשה איתם עסקים שוב!" כתב טראמפ ברשת החברתית שלו. שר המלחמה הורה לחברות שעובדות עם הפנטגון – כמו לוקהיד מרטין ובואינג – לבחון עד כמה הן נסמכות על אנתרופיק, והכוונה ברורה. ממשלת ארצות-הברית באמת מתכוונת להתנתק לגמרי מאנתרופיק, וגם תחייב את כל החברות שעובדות עם הממשל להתנתק מאנתרופיק.
המשמעויות לעתיד
מה המשמעות המלאה של המלחמה הזו? אף אחד לא בטוח עדיין. אנתרופיק מנסה כרגע את כוחה כנגד ממשלת ארצות-הברית הכל-יכולה. בזמנים רגועים יותר זה אולי היה מצליח לה. אבל בתקופה המתוחה הנוכחית, כשהעולם במלחמה או נערך למלחמה, וטראמפ מקבל יותר-ויותר כוח בארצות-הברית, לא ברור אם הוא יחליק על העלבון. או שכן או שלא, ומה שבטוח – אולי.
בתרחיש האופטימי מבחינתי, אנתרופיק תוביל עכשיו גל של חברות בינה מלאכותית שידגישו את ערכי הדמוקרטיה והזהירות-המונעת, ויסרבו לתת לידי הממשלות כוח גדול מדיי. זה לא מופרך לגמרי. סם אלטמן, מנכ"ל ומייסד OpenAI, כבר הודיע שהוא תומך לגמרי בקווים האדומים שאנתרופיק הגדירה. הצהרה שכזו אינה דבר של מה בכך, בימים אלו בהם מילים יכולות לחרוץ גורלות. מאות עובדים בגוגל וב- OpenAI שחררו מכתב שקורא לחברות שלהם להיצמד לקו דומה. מי יודע? אולי יצטרפו לתנועה הזו עוד חברות בינה מלאכותית שיסרבו לעזור לממשלה דמוקרטית לעקוב אחר אזרחיה באופן נרחב, או לשחרר רובוטים אוטונומיים לשדה הקרב לפני שנבחנו היטב.
אבל לצערי, זה כנראה לא יהיה המצב.
בתרחיש הסביר יותר, אנתרופיק תספוג מכה קשה על הנכונות שלה לדבוק בעקרונותיה. החוזה מול משרד ההגנה הוא רק מכה קלה בכנף עבורם, בשווי של מאתיים מיליון דולרים בערך. המכה הגדולה באמת תגיע כשכל החברות שעובדות עבור משרדי הממשלה, יצטרכו להפסיק לרכוש שירותים מאנתרופיק. הנזק המצטבר יכול להגיע בקלות למיליארדי דולרים.
ואפילו אם אנתרופיק לא ייכנעו בנקודה זו, חברות בינה מלאכותית אחרות ישתפו פעולה עם הממשל. למעשה, זה כמעט בוודאות מה שיקרה, מכיוון שאילון מאסק – בעלי xAI, שעומדת מאחורי "גרוק" – כבר הצהיר על אנתרפיק שהיא "שונאת את הציביליזציה המערבית". וכמובן שהוא מוכן לעבוד עם משרד המלחמה האמריקני. מה שירצו – הוא יעשה.
זה לא אומר שסוף הדמוקרטיה בדרך, או שסוף העולם מתקרב. אבל, ובכן, זה בהחלט מצביע על עתיד מאתגר יותר עבור הדמוקרטיות הליברליות. ממשלות דמוקרטיות לא נועדו לקבל כוח גדול כל-כך על אזרחיהן. מישהו צריך לרסן אותן, ולא ברור שאנתרופיק יצליחו בכך. וכן, יש מקום לחשוש גם מסקיינט, או מבינה מלאכותית שיכולה להשמיד את העולם. כי כשנותנים לבינה מלאכותית שליטה מלאה בכלי-נשק מתקדמים, מכלי-טיס ועד טילים בליסטיים, הסיכוי לטעות קטסטרופלית גדל משמעותית.
אבל בינתיים, לפחות, נריע לאנתרופיק שמותחים קו בחול, ועומדים על העקרונות שלהם בכל מחיר – גם אם זה יעלה להם בכל הקשרים שלהם עם ממשלת ארצות-הברית. זה מסוג הרגעים בהיסטוריה בהם חברה מעדיפה עקרונות על פני רווח, ואם היא תראה שזה אפשרי, אולי שאר העולם ילך אחריה.
עוד בנושא באתר הידען:
