# אם אנחנו מתכוונים לתייג את הבינה המלאכותית כגורמת לסכנת הכחדה, צריכים להבהיר כיצד זה יקרה

> לצד יתרונות רבים, הטכנולוגיה הזו מגיעה עם סיכונים שאנחנו צריכים לקחת ברצינות. אבל נראה שאף אחד מהתרחישים הנ"ל אינו מספק מתווה מסלול ספציפי להכחדה טוען חוקר בינה מלאכותית מבריטניה

- Canonical: https://www.hayadan.org.il/%d7%90%d7%9d-%d7%90%d7%a0%d7%97%d7%a0%d7%95-%d7%9e%d7%aa%d7%9b%d7%95%d7%95%d7%a0%d7%99%d7%9d-%d7%9c%d7%aa%d7%99%d7%99%d7%92-%d7%90%d7%aa-%d7%94%d7%91%d7%99%d7%a0%d7%94-%d7%94%d7%9e%d7%9c%d7%90%d7%9b
- Author: אתר המדע The Conversation
- Published: 2023-06-04T08:20:00+03:00
- Modified: 2023-06-03T20:52:47+03:00
- Sections: בינה מלאכותית
- Topics: בטיחות AI, בינה מלאכותית, חברה וטכנולוגיה, כלי נשק אוטונומיים, מגפות, מלחמה גרעינית, סיכונים חברתיים של בינה מלאכותית, שימוש צבאי בבינה מלאכותית

## Article

לצד יתרונות רבים, הטכנולוגיה הזו מגיעה עם סיכונים שאנחנו צריכים לקחת ברצינות. אבל נראה שאף אחד מהתרחישים הנ"ל אינו מספק מתווה מסלול ספציפי להכחדה טוען חוקר בינה מלאכותית מבריטניה מאת נלו כריסטיאניני' פרופסור לבינה מלאכותית, אוניברסיטת באת'. נלו כריסטיאניני הוא מחבר הספר "קיצור הדרך: מדוע מכונות אינטליגנטיות לא חושבות כמונו", שפורסם על ידי CRC Press, 2023. האם הבינה המלאכותית תגרום להכחדת המין האנושי? איור באמצעות DALEE 2. הגדרות: אבי בליזובסקי השבוע חתמה קבוצה של [חוקרי בינה מלאכותית ידועים ובעלי מוניטין](https://www.hayadan.org.il/%d7%a1%d7%9d-%d7%90%d7%9c%d7%98%d7%9e%d7%9f-%d7%9e%d7%a0%d7%9b%d7%9c-openai-%d7%94%d7%9e%d7%a4%d7%aa%d7%97-%d7%a9%d7%9c-chatgpt-%d7%97%d7%aa%d7%9d-%d7%a2%d7%9c-%d7%9e%d7%9b%d7%aa%d7%91) על הצהרה בת 22 מילים (באנגלית – בעברית 18 א.ב.): "הפחתת סכנת ההכחדה מבינה מלאכותית צריכה להיות בעדיפות עולמית לצד סיכונים אחרים בקנה מידה חברתי כגון מגפות ומלחמה גרעינית." כפרופסור לבינה מלאכותית, גם אני בעד הפחתת כל סיכון, ומוכן לעבוד לשם כך באופן אישי. אבל כל הצהרה המנוסחת בצורה כזו חייבת ליצור בהלה, ולכן מחבריה צריכים כנראה להיות ספציפיים יותר ולהבהיר את חששותיהם. כפי שהוגדר באנציקלופדיה בריטניקה, הכחדה היא "גסיסה או השמדה של מין". פגשתי רבים מהחותמים על ההצהרה, שהם מהמדענים המכובדים והמוצקים ביותר בתחום – וכוונתם בהחלט טובה. עם זאת, הם לא סיפקו לנו תרחיש מוחשי כיצד אירוע קיצוני כזה עלול להתרחש." זו לא הפעם הראשונה. ב-22 במרץ השנה, עצומה שנחתמה על ידי קבוצה אחרת של יזמים וחוקרים ביקשה להשהות את פריסת הבינה המלאכותית למשך שישה חודשים. במכתב שפורסם באתר האינטרנט של המכון לעתיד החיים, הם פירטו את נימוקיהם: "סיכונים עמוקים לחברה ולאנושות, כפי שעולה ממחקר מקיף ומוכרים על ידי מעבדות AI מובילות" – וצירפו לבקשתם רשימת שאלות רטוריות: האם עלינו לתת למכונות להציף את ערוצי המידע שלנו בתעמולה ובשקר? האם עלינו להפוך את כל המשרות לאוטומטיות? האם עלינו לפתח מוחות לא-אנושיים שבסופו של דבר עשויים לעלות במספרנו, להערים עלינו, לגרום לנו להתיישן ולהחליף אותנו? האם עלינו להסתכן באובדן שליטה על הציוויליזציה שלנו? ## תחושת אזעקה גנרית בהחלט נכון שלצד יתרונות רבים, הטכנולוגיה הזו מגיעה עם סיכונים שאנחנו צריכים לקחת ברצינות. אבל נראה שאף אחד מהתרחישים הנ"ל אינו מספק מתווה מסלול ספציפי להכחדה. משמעות הדבר היא שאנו נותרים עם תחושה כללית של אזעקה, ללא כל פעולה אפשרית שנוכל לנקוט. אתר האינטרנט של המרכז לבטיחות AI, שבו הופיעה ההצהרה האחרונה, מתאר בסעיף נפרד שמונה קטגוריות סיכון רחבות. אלה כוללים נשק מבוסס של AI, השימוש בו כדי לתמרן את מערכת החדשות, את האפשרות של בני אדם בסופו של דבר להיות מסוגל לשלוט בעצמם, סיוע למשטרים מדכאים, וכן הלאה. פרט להתחמשות, לא ברור כיצד הסיכונים האחרים – עדיין איומים – עלולים להוביל להכחדת המין שלנו, והנטל לענות על כך הוא על הטוענים לכך. נשק AI הוא חשש אמיתי, כמובן, אבל מה הכוונה בזה צריך גם להיות מובהר. נראה כי הדאגה העיקרית של המרכז לבטיחות AI היא השימוש במערכות AI לתכנון נשק כימי. צריך למנוע את זה בכל מחיר – אבל נשק כימי כבר אסור. הכחדה היא אירוע מאוד ספציפי שדורש הסברים מאוד ספציפיים. ב-16 במאי, בשימוע שלו בסנאט התבקש סם אלטמן, מנכ"ל OpenAI – שפיתחה את הצ'אטבוט ChatGPT AI – התבקש פעמיים לפרט את התרחיש הגרוע ביותר שלו. לבסוף השיב: "הפחד הכי גדול שלי הוא שאנחנו – התחום, הטכנולוגיה, התעשייה – גורמים נזק משמעותי לעולם... זו הסיבה שהקמנו את החברה [כדי למנוע את העתיד הזה]... אני חושב שאם הטכנולוגיה הזו משתבשת, היא יכולה להשתבש." אבל בעוד אני מסכים שצריכים להיות זהירים ככל האפשר, ואני אומר זאת בפומבי בעשר השנים האחרונות, חשוב לשמור על פרופורציה – במיוחד כאשר דנים בהכחדת מין המונה שמונה מיליארד פרטים. בינה מלאכותית עלולה ליצור בעיות חברתיות שאותן צריך למנוע. כמדענים, מוטלת עלינו החובה להבין אותם ואז לעשות כמיטב יכולתנו לפתור אותם. אבל הצעד הראשון הוא לתת להם שם ולתאר אותם – ולהיות ספציפיים. [למאמר ב-THE CONVERSATION](https://theconversation.com/if-were-going-to-label-ai-an-extinction-risk-we-need-to-clarify-how-it-could-happen-206738)