אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות ואבטחה, כמו גם את הצורך בשיתוף פעולה בינלאומי כדי להתמודד עם האתגרים הגלובליים שמציבה AI
יזם הטכנולוגיה ומנכ”ל OpenAI, סם אלטמן, אימץ לאחרונה מכתב פתוח חדש בנוגע לסכנות הקשורות לבינה מלאכותית (AI). המכתב מייחד את עצמו בכך שהוא מציג נקודת מבט ייחודית על סיכוני ההכחדה הפוטנציאליים שמציבה טכנולוגיית הבינה המלאכותית.
אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות ואבטחה, כמו גם את הצורך בשיתוף פעולה בינלאומי כדי להתמודד עם האתגרים הגלובליים שמציבה AI.
מדובר בהודעה קצרה מאוד – בת 22 מילים (באנגלית) בסך הכול, שיצאה מהמרכז לבטיחות הבינה המלאכותית. הקוצר שלה נועד במטרה להביא להסכמה כמה שיותר רחבה על תוכנה. לשונה הוא: “הפחתת סכנת ההכחדה שיש בבינה המלאכותית צריכה להיות בראש סדר העדיפויות העולמי, לצד סיכונים אחרים לחברה כמגפות ומלחמה גרעינית”.
בהקדמה לעצומה נכתב: “מומחי בינה מלאכותית, עיתונאים, קובעי מדיניות והציבור דנים יותר ויותר בטווח הרחב של הסיכונים החשובים והדחופים שה-AI מביא אתו. אף על פי כן, קשה להביע דאגות מכמה מהסיכונים החמורים ביותר של כלי ה-AI המתקדמים. מטרתה של הצהרה זו היא להתגבר על המכשול הזה ולפתוח דיון. עוד מטרה שלה היא להביא לידיעת הציבור שמספר הולך וגדל של מומחים ודמויות ציבוריות לוקחים את הסיכונים החמורים ביותר של כלי ה-AI המתקדמים ברצינות”.
בנוסף לאלטמן חתמו על העצומה מומחים רבים בתחו ובהם דמיס הסאביס, מנכ”ל דיפמיינד, מעבדת ה-AI של גוגל; ושניים משלושת הזוכים בפרס טיורינג ב-2018 על גילוייהם בתחום הבינה המלאכותית – ג’פרי הינטון ויהושע בנג’יו. עמיתם לזכייה, יאן לקון, שכיום משמש המדען הראשי לעולמות הבינה המלאכותית במטא, לא חתם על העצומה.
המכתב מדגיש גם שלושה היבטים מרכזיים המבדילים אותו מאזהרות קודמות: תחושת דחיפות רבה יותר, התמקדות במדיניות וברגולציה ודגש על שיתופי פעולה. החותמים מאמינים כי בינה מלאכותית מציבה סיכונים משמעותיים הדורשים תשומת לב ופעולה מיידית, ואינה נתפסת כדאגה רחוקה.
במונחים של מדיניות ורגולציה, המכתב קורא לצעדים פרואקטיביים כדי להפחית את הסכנות של AI. היא מדגישה את הצורך בשיתוף פעולה בינלאומי כדי להקים מסגרת המבטיחה פיתוח, פריסה וממשל אחראיים ואתיים של טכנולוגיית AI.
הגישה השיתופית המוצגת במכתב נועדה לטפח שיתוף פעולה בין מדינות, חוקרים ומנהיגים בתעשייה. על ידי שיתוף ידע ומשאבים, החותמים מבקשים להתמודד עם ההשפעה הגלובלית של AI ולעבוד יחד לקראת פיתוח AI אחראי.
תמיכתו של אלטמן במכתב פתוח זה מוסיפה משקל לקבוצה ההולכת וגדלה של קולות הקוראים לתעדף את בטיחות הבינה המלאכותית על פני מהירות יישומה. כדמות משפיעה בתעשיית הטכנולוגיה, התמיכה של אלטמן צפויה להעיר עוד יותר את הדיונים המתמשכים סביב הסיכונים הפוטנציאליים של בינה מלאכותית והצורך בצעדים מקיפים למניעת תוצאות קטסטרופליות.
עוד בנושא באתר הידען:
2 תגובות
הוא חכם. הוא רוצה שירדו מימנו עם ההחלטות של מדינות לאסור את GPT.
מאוד סרטי מדע בידיוני מדברים על הבעיה של אינטליגנציה מלאכותית כבר משנות ה80 אבל הנרדים חשוכי המין האלה היו חייבים לעשות כל הדרך הדרך לפיתוח המוצר הזה רק כדי להזהיר אותנו. ממש קדושים מעונים. רוצים להיות כמו אינשטיין, שיהיו חתומים רק על הרעיון ולהיות נקיים מאשמה. בדיחה מהלכת. חושבים שרק למוצר שלהם יש אינטליגנציה ולבני אדם אין. האמת שהם קצת צודקים