מנכ”ל OPEN AI סם אלטמן והמדען הראשי איליה סוצקובר השתתפו באירוע בהנחית ד”ר נדב כהן מאוניברסיטת תל אביב. הם התייחסו לסוגית השימוש ב-AI כנשק, ההשפעה על שוק העבודה והחשש מתבונה מלאכותית שתצא משליטה או שייעשה בה שימוש לפיתוח נשק
“צריך לבנות מנגנון בקרה על הבינה המלאכותית כמו הסוכנות הבינלאומית לאנרגיה אטומית. כך אומרים מנכ”ל OPEN AI סם אלטמן והמדען הראשי של החברה, הישראלי איליה סוצקובר. השניים השתתפו באירוע בהנחית ד”ר נדב כהן מאוניברסיטת תל אביב. הם התייחסו לסוגית השימוש ב-AI כנשק, ההשפעה על שוק העבודה והחשש מתבונה מלאכותית שתצא משליטה או שייעשה בה שימוש לפיתוח נשק מסוכן.
בנוסף, המנגנון שיוקם יצטרך לבקר את היכולות של מודלים הבינה המלאכותית הגדולים כדי “ליישר” אותם עם דרישות הבטיחות, כך שיתרונות הכוח והיכולות שלהם ישמשו את האנושות. עם זאת, אלטמן לא סבור שיש צורך כבר עכשיו להטיל רגולציה כבדה על הבינה המלאכותית, שעלולה לעצור את ההתפתחות המהירה.
פרופסור נדב כהן, מומחה לבינה מלאכותית מאוניברסיטת תל אביב, אומר כי הוא יכול לחשוב על שלושה איומים מצד הבינה המלאכותית: הראשון הוא הפיכת משרות רבות למיותרות, השני הוא שימוש כנשק כגון האקר אחד שיוכל לבצע פעולות שעד כה דרשו מספר רב של האקרים, והתרחיש השלישי הוא פיתוח בינה מלאכותית שתצא משליטה ותגרום, אולי, להכחדת המין האנושי.
סוצקובר מגיב כי נדרש חוזה סוציו-כלכלי חדש כדי להתגבר על אי ודאות ה-AI, אך בטווח הארוך יווצרו משרות חדשות. הם משוכנעים כי בטווח הקצר יש צורך לסייע לאלה שיאבדו את פרנסתם באמצעות סיוע ממשלתי וכן להקנות להם ידע שיאפשר להם להשתלב מחדש. מתכנתים כבר לא כותבים פונקציות ואמנים גם נפגעים מכיוון שפרנסתם נלקחה על ידי מנועי התמונה.
נדב כהן מציין כי במקביל יווצרו מקומות עבודה חדשים, אך אנו עומדים בפני תקופה ארוכה של אי ודאות. “נצטרך לבנות מנגנונים שיאפשרו לנו לרכך את המכה ולאפשר מעבר חלק יותר למקצועות קיימים או למקצועות חדשים לגמרי שיהיו קיימים. במידה והדבר לא אפשרי, הממשלה והמערכות החברתיות יצטרכו להתגייס.
לגבי האפשרות של האקרים לגרום לנזקים גדולים או של גופים אחרים לפתח נשק בלתי קונבנציונלי בעזרת הבינה המלאכותית, עדיין אין לבינה המלאכותית יכולות כאלה. היא תתקדם ועשוייה להגיע לנקודה זו בעתיד, אך זו טכנולוגיה מאוד חזקה. הרעיון שאלטמן הציע הוא להקים מנגנון כמו הסוכנות הבינלאומית לאנרגיה אטומית לתחום הבינה המלאכותית.
“באשר לבינה מלאכותית שתצא משליטה, כן, זה יהיה די גרוע. זו תהיה טעות גדולה לבנות בינה מלאכותית שאנחנו לא מכירים ולא יודעים כיצד היא פועלת”, הוסיף אלטמן.
בנוגע לשוק העבודה, אלטמן מציין שבטווח הקצר התמונה נראית די טובה, והוא צפוי לראות צמיחה דרמטית בפריון. המתכנתים יהיו פרודוקטיביים פי שניים וכיום כבר קיים מחסור בהם. בטווח הארוך, יתפתחו קטגוריות חדשות של משרות כך שנדרשים בני אדם בתפקידים שעדיין לא יכולים לצפות בהם.
“כמו שאף אחד לא הפסיק לשחק שחמט אחרי שדיפ בלו ניצח את קספרוב, לכל היותר נעזרים במחשבים כדי לתכנן מהלכים. השחמט לא היה מעולם פופולרי יותר מאשר כיום”, הבהיר אלטמן. כלי היצירה החדשים, כמו DALEE (של OPEN AI), מסוגלים ליצור אמנות נהדרת, אך אנשים עדיין מכניסים ללב שלהם את האדם שמאחורי היצירה ורוצים ללמוד ממנו. קשה לחזות את הרצון האנושי להבחין בעצמו, ליצור דברים חדשים ולהשפיע, אך זה עשוי להיראות משונה לחלוטין. “האם בעוד 100 שנה לא נראה כמעט כמו העבודות של היום?”, שואל אלטמן. “אני מסכים עם דבריו של איליה שלא משנה מה יקרה, אנחנו נצטרך איזשהו חוזה סוציו-אקונומי שונה כאשר האוטומציה מגיעה למשרות חדשות שקודם לא היו מאוימות”, הוסיף אלטמן.
“הדבר שאני הכי מתרגש ממנו באופן אישי הוא שיש דברים נפלאים אדירים שהולכים לקרות בכל מקום, יתרונות כלכליים עצומים, יתרונות עצומים בתחום הבריאות, ואפילו זירוז של תגליות מדעיות”, סיכם אלטמן.
עוד בנושא באתר הידען:
- סם אלטמן, מנכ”ל OpenAI – המפתח של ChatGPT חתם על מכתב פתוח חדש המתריע מפני סכנות הבינה המלאכותית
- אם אנחנו מתכוונים לתייג את הבינה המלאכותית כגורמת לסכנת הכחדה, צריכים להבהיר כיצד זה יקרה
- איך תשפיע הבינה המלאכותית על העבודות בהייטק?
- אילון מאסק, סטיב ווזניאק ורבים נוספים במכתב פתוח: בינה מלאכותית חזקה מסוכנת לדמוקרטיה
- מדען AI הצליח לשחזר תגליות זוכות נובל ללא הכוונה
