ניסוי מבוקר הדגים כיצד מודלים פתוחים יכולים לעקוף סינון רצפי DNA — והוביל לעדכון תוכנות הסינון בתעשייה; המטרה: לסכל טרור ביולוגי לפני שיתחיל
מיקרוסופט הודיעה לאחרונה שהיא השתמשה בבינה מלאכותית כדי לפתח 75,000 גרסאות חדשות של רעלנים – חלבונים שמזיקים לגוף. אם זה מפחיד אתכם, כדאי שתדעו שמיקרוסופט דווקא טוענת שמדובר בהתפתחות חיובית. ואני מסכים איתה. אבל כדי להבין למה, ואיך החידוש הזה עשוי להציל אותנו מפיגוע טרור מסיבי מעשה ידי-אדם, צריך לרדת לפרטים הקטנים. ואולי גם לחזור קצת להיסטוריה.
הפיגוע הביולוגי בבית הלבן
בסוף 2023 התקבלה מעטפה יוצאת-דופן בבית הלבן. יוצאת-דופן במובן שהיא הייתה יכולה להרוג הרבה מאד אנשים. בתוך המעטפה היה מכתב אנונימי קצר, ולצידו מבחנה קטנה. המכתב הציב אולטימטום למחלקת התחבורה של ארצות הברית, וקבע שאם תנאי העבודה של נהגי משאיות יורעו – הכותב "יהפוך את עיר הבירה לעיר רפאים."
איומים מהסוג הזה אינם נדירים כפי שהיינו רוצים לחשוב, אבל המבחנה הבהירה שלכותב עשוי להיות הכוח להוציא את האיום לפועל. הכלי הזעיר הכיל אבקה לבנה בשם ריצין: חלבון רעיל שמופק מצמחים. גרם אחד של החומר מספיק כדי להרוג בערך ארבעת-אלפים בני-אדם, אם הוא מצליח להגיע לדרכי הנשימה שלהם. נכון להיום, אין נוגדנים או תרופה לרעל, ואפילו השורדים נותרים לעיתים קרובות עם נזק ארוך-טווח לאיבריהם הפנימיים.
אפשר להבין למה השירות הסודי של ארצות הברית נכנס ללחץ קל עקב המכתב. גופי הבריאות נערכו להרעלות ריצין ברחבי ארצות הברית, והחשש רק גבר ככל שקרב יום הדין – המועד בו ייכנסו חוקי התעבורה החדשים לתוקפם – מבלי ששולח המכתב זוהה או נתפס עדיין.
ברביעי לינואר, 2024, עברו החוקים החדשים. אנשי הממשל עצרו את נשימתם – מילולית, כי ריצין רעיל במיוחד בשאיפה – אבל לא נרשמו הרעלות המוניות בריצין באותה שנה. וושינגטון לא הפכה לעיר רפאים, לפחות נכון לכתיבת שורות אלו.
אבל אנשי השירותים הבטחוניים יודעים שזה רק עניין של זמן.
האמת הלא-נעימה היא שאנחנו מוקפים ביצורים שמסוגלים לייצר רעלים: מחיידקים ועד לצמחים. למעשה, חלבון הריצין מיוצר בזרעי הצמח "קיקיון מצוי" הנפוץ בכל העולם, ושגרעין אחד שלו יכול להרוג ילד. מהנדס גנטי מוכשר היה יכול בקלות-יחסית להחדיר את הרצף הגנטי שמורה על ייצור ריצין לצמחים אחרים, או אולי אפילו לחיידקים, ולהפיק מכולות שלמות של ריצין לכל מטרה. ואם הוא היה שאפתן עוד יותר, הוא היה יכול להתרחב גם לרעלנים אחרים מעולם החי.
מפחיד? בהחלט. אבל האנשים שאחראים על בטחוננו אינם נטולי-יכולות, ברובם. ממשלות הבינו את גודל האיום כבר בשנות התשעים, ופעלו כדי לצמצם את הסכנה.
מה הן עשו? הן שמו את עצמן בנעליו של המהנדס הגנטי הרצחני המצוי, והבינו שהוא ינסה להזמין רצפי דנ"א מהחברות שמייצרות כאלו. איזה רצפים? כמובן – את אלו שכאשר ישולבו בצמחים, יובילו לייצור ריצין בכמויות גדולות.
למזלנו, מכיוון שהמבנה של ריצין מאד מובהק ומדויק, אפשר לזהות את רצפי הדנ"א הרלוונטיים בקלות. וכך, כל חברה שמייצרת כיום דנ"א, בודקת אוטומטית את הרצפים שמוזמנים ממנה, כדי לוודא שהם אינם יכולים לשמש לייצור ריצין, או שפע של רעלים וגורמי סיכון אחרים.
ואז נכנסה הבינה המלאכותית לעסק.
מנוע החלבונים
חלבונים מורכבים משרשרת של חומצות אמינו. אם המילים לא מוכרות לכם, פשוט תחשבו על כל חלבון כאילו היה עשוי משרשרת של חרוזים. חלק מהחרוזים מגנטיים, ונמשכים זה לזה. אחרים דוחים אחד את השני. יש כאלו שיכולים לשבת בנוחות רק על כמה חרוזים אחרים. יש חרוזים חזקים ויציבים, שיכולים לשאת את כוח המשיכה של רבים אחרים, ויש חרוזים חלשים שיתפוררו תחת הלחץ. חלק מהחלבונים בנויים רק מכמה עשרות חרוזים כאלו. אחרים בנויים משרשראות של עשרות-אלפי חרוזים.
כשלוקחים את השרשרת הזו ושמים אותה בתא, נוצר מעשה קסמים: החרוזים מושכים ודוחפים זה את זה, מתחברים ומתנתקים ומתחברים מחדש. תוך זמן קצר, השרשרת מתקרזלת ומתקפלת על עצמה, ויוצרת מבנה תלת-ממדי. זהו החלבון המוגמר – מכונה זעירה – שיכול עכשיו לבצע פעולות בתא.
חלבון הריצין בנוי מ- 529 חרוזים שכאלו. כל חרוז חייב להיות במקומו המדויק בשרשרת כדי שהיא תתקפל בצורה הנכונה, וכך יתקבל החלבון הרעיל הסופי.
אבל מה אם היינו מחליפים אחד מהחרוזים בשרשרת המקורית?
אם הייתם שואלים את השאלה הזו לפני חמש שנים, כנראה שהתשובה מצד הקהילה המדעית הייתה משיכת כתפיים קולקטיבית. היה קשה מאד – ובמקרים רבים בלתי-אפשרי – לפענח איך שינויים בשרשרת החרוזים ישפיעו על המבנה הסופי של החלבון.
ואז הגיע תור הבינה המלאכותית.
בשנת 2021 הודגם מנוע הבינה המלאכותית AlphaFold-2, שתואר כ- "מהפכני", ובצדק. יוצריו, אגב, זכו בפרס הנובל לכימיה ב- 2024. שוב, בצדק. המנוע הזה איפשר למדענים בכל העולם להבין כיצד שינויים בשרשראות החרוזים יכולים ליצור חלבונים חדשים. או במילים אחרות, איך לבנות מכונות זעירות שיכולות להשפיע על התאים מבפנים.
כבר כש- AlphaFold הודגם לראשונה, כתבתי על המנוע החדש הזה וכיצד הוא ישנה את העולם. התנבאתי שהוא יאפשר למדענים לפתח תרופות חדשות בקלות וביעילות, ובאותה נשימה הזהרתי שהוא גם יספק לטרוריסטים כלים לפתח חומרים מזיקים חדשים.
חוקרי מיקרוסופט מודעים גם הם לסיכונים, והחליטו לאחרונה לבחון עד כמה החברה האנושית מוכנה לקראתם. איך? פשוט: הם השתמשו בבינה המלאכותית כדי לייצר אלפי וריאציות של ריצין – כל אחת עם שינוי מזערי בשרשרת החרוזים של החלבון, אבל מסוג שאמור להשאיר את המבנה הכללי של החלבון כפי שהיה במקור. ואז הם פענחו איזה רצפי דנ"א צריך להזמין מחברות, כדי לייצר את החלבונים החדשים האלו, ובדקו האם החברות יאסרו עליהם להזמין את רצפי הדנ"א המסוכנים.
התשובה? אנחנו לא מוכנים בכלל. החברות אסרו בעיקר על מכירת רצפי הדנ"א המדויקים שמובילים לייצור ריצין במבנה המקורי שלו. הן לא הצליחו להתמודד עם הרצפים המאולתרים, שהיו מייצרים ריצין-מאולתר.
אבל זו לא רק בעיה של ריצין. חוקרי מיקרוסופט המשיכו וחקרו 71 רעלנים נוספים, והפיקו 75,000 וריאציות שלהם. הם השתמשו לטובת העניין במנועי בינה מלאכותית פתוחים – מהסוג שכל טרוריסט חובב היה יכול להריץ בעצמו. ושוב הם ראו שהחברות שאמורות להגן עלינו מפני רצפי הדנ"א שיפיקו את הווריאציות האלו, פשוט לא מסוגלות לעשות זאת.
הצד החיובי הוא שהחוקרים התריעו על הפרצה הזו בפני החברות הרלוונטיות והממשל.
"יצרנו קשר עם הגופים הרלוונטיים בנוגע לנקודת התורפה הפוטנציאלית הזו… כולל מגעים במדיניות משרד המדע והטכנולוגיה, המכון הלאומי לתקנים וטכנולוגיות, מחלקת בטחון הפנים והמשרד למוכנות ותגובה למגפות בארצות הברית," הם כתבו. "הפרטים נשמרו בסודיות עד שניתן היה לבצע מחקר מקיף יותר… לפיתוח ויישום עדכונים לתוכנות."
התוכנות המעודכנות מסוגלות לגלות עכשיו את רוב רצפי הדנ"א שיובילו ליצירת הרעלנים החדשים. הן עדיין לא מצליחות להתמודד היטב עם בערך שלושה אחוזים מכל הרצפים החדשים, אבל זה כנראה מספיק כדי להציב מכשול משמעותי בדרכו של כל ביו-טרוריסט בתחילת הדרך. סביר להניח שאם אותו ביו-טרוריסט ינסה להזמין עשרות וריאציות של חלבונים רעילים, וייתקל בסירוב פעם-אחר-פעם-אחר-פעם, הרי שהמערכות הממוחשבות יתריעו ש- "משהו מוזר קורה כאן", וישלחו צוות של סוכני FBI לפתח דלתו. לפחות כך אפשר לקוות.
נקודה חשובה אחרת היא שהחוקרים של מיקרוסופט לא באמת ייצרו 75,000 "רעלנים", אלא "חומרים שדומים לרעלנים". כלומר, וריאציות שדומות לרעלנים, וכנראה שחלקן מזיקות לפחות כמו הרעלנים המקוריים, אבל שחלקן אינן מזיקות כלל. הם לא בחנו את כל עשרות-אלפי הרעלנים האלו במעבדה, כך שקשה לומר מראש איזה מהם מזיק יותר או פחות. ועדיין, סביר להניח שרבים מאד מהרעלנים-החדשים האלו באמת מסוכנים, ואפילו יותר מהחלבונים המקוריים. המשמעות היא שגם אם הביו-טרוריסטים יצליחו להזמין את הדנ"א הנדרש, הם יצטרכו להתנסות עם הגרסאות השונות כדי לקבוע סופית איזו מהן מוצלחת מספיק לפיגוע-העל שלהם.
מנחם אתכם? אולי קצת. אבל ברור שהסכנה עדיין קיימת. ככה זה.
סיכום
מבחינתי, המחקר של מיקרוסופט מראה שאפשר להשתמש בבינה המלאכותית ככלי חיובי: כדי לזהות מקומות בהם ההגנה שלנו אינה חזקה עדיין, ולתגבר אותה מראש. אני לא עומד להמתיק את הגלולה יותר מדיי. עומד להיות כאן מרוץ חימוש, מכיוון שהטרוריסטים ילמדו להשתמש בכלים האלו כדי לתכנן איומים זדוניים יותר. אבל גם גופי הביון והממשל אינם שוטים מוחלטים, ואפשר להיות בטוחים שהם מודעים לסכנות האלו, ופועלים כדי למנוע מביו-טרוריסטים להצית מגפה עולמית חדשה, או להפוך את וושינגטון או תל-אביב לעיר רפאים.
מי ינצח במרוץ החימוש החדש? מי שתהיה ברשותו הבינה המלאכותית החזקה והיצירתית יותר, ויידע להשתמש בה טוב יותר. והנה לכם עוד סיבה טובה לכך שהמעצמות נלחמות כיום זו בזו כדי לקדם את יכולות הבינה המלאכותית שלהן.
עכשיו רק נותר לקוות שהטובים ינצחו.
עוד בנושא באתר הידען:
