חותמי המכתב קוראים להפסקה של שישה חודשים בפיתוח מערכות חזקות יותר מה-GPT-4 החדש של OpenAI. "יש לפתח מערכות AI חזקות רק ברגע שנהיה בטוחים שההשפעות שלהן יהיו חיוביות והסיכונים שלהן יהיו ניתנים לניהול", נכתב במכתב
למעלה מאלף מומחי בינה מלאכותית ובכירים בתעשיית הטכנולוגיה שהבולטים בהם היו אילון מאסק מנכ"ל נוירולינק, וסטיב ווזניאק, ממייסדי אפל. המכתב, שהונפק על ידי מכון Future of Life קרא להשהות את פיתוח הבינה המלאכותית המתקדמת עד שפרוטוקולי בטיחות משותפים לעיצובים כאלה יפותחו, יבוקרו על ידי מומחים עצמאיים וייושמו.
המכון הוקם במשותף על ידי הפיזיקאי מקס טגמרק מ-MIT ומייסד סקייפ ג'אן טאלין, והיה בין הארגונים הקולניים ביותר שקראו לרגולציה רבה יותר של השימוש ב-AI.
חותמי המכתב קוראים להפסקה של שישה חודשים בפיתוח מערכות חזקות יותר מה-GPT-4 החדש של OpenAI. "יש לפתח מערכות AI חזקות רק ברגע שנהיה בטוחים שההשפעות שלהן יהיו חיוביות והסיכונים שלהן יהיו ניתנים לניהול", נכתב במכתב.
במכתב הם מונים את הסיכונים העיקריים הטמונים בטכנולוגית הבינה המלאכותית:
- כלי נשק אוטונומיים: ניתן להשתמש בבינה מלאכותית כדי ליצור כלי נשק אוטונומיים שיכולים לפעול ללא פיקוח אנושי, מה שמוביל לאפשרות של נזק לא מכוון.
- מעקב: ניתן להשתמש בבינה מלאכותית כדי ליצור מערכות מעקב מתוחכמות שעלולות לפלוש לפרטיותם של אנשים ולהפר את חירויות האזרח שלהם.
- אבטחת סייבר: ניתן להשתמש בבינה מלאכותית כדי ליצור איומי סייבר חדשים, כגון דיפ-פייק, שיכולים לשמש למניפולציה של אנשים ולערער את האמון במוסדות.
- אבטלה: בינה מלאכותית עלולה להוביל לאובדן מקומות עבודה, במיוחד בתעשיות המסתמכות במידה רבה על עבודת כפיים או על משימות שגרתיות.
- הטיה ואפליה: אלגוריתמים של בינה מלאכותית עלולים להנציח או להחריף בשוגג הטיות חברתיות ואפליה, מה שיוביל ליחס לא הוגן לקבוצות מסוימות.
- ·שליטה: בינה מלאכותית עלולה להוביל לריכוז כוח בידי כמה אנשים או ארגונים, מה שעלול לערער ערכים ועקרונות דמוקרטיים.
בינה מלאכותית חזקה יכולה להיות מסוכנת לדמוקרטיה בכמה אופנים. למשל, בעזרתה אפשר יהיה להשתמש בנתונים ובאלגוריתמים כדי להניע ולהשפיע על דעות הציבור והבחירות הפוליטיות. בנוסף, היא יכולה לשמש בידי חברות וממשלות כלי לפרסם מידע מזויף ולהשפיע על פעולות והחלטות של הציבור והממשלות. כמו כן, הבינה המלאכותית יכולה לגרום לחוסר שוויון באפשרויות שימוש במידע ובהשתתפות בטכנולוגיות חדשות, מה שיוביל לגישה למידע ולהשפעה בלעדיות למספר קטן של אנשים או חברות. לכן, חשוב להבין את הסיכונים הפוטנציאליים של בינה מלאכותית חזקה ולפעול כדי ליישם פרוטוקולי בטיחות ופיקוח על השימוש בטכנולוגיה זו.
מאסק הצהיר לעתים קרובות כי לבינה מלאכותית יש פוטנציאל לעלות על האינטליגנציה האנושית ולהפוך לאיום על האנושות. הוא השווה את הבינה המלאכותית ל"זימון השד" והזהיר כי בינה מלאכותית עלולה להוביל לאיום קיומי על האנושות אם לא תוסדר כראוי.
בשנת 2014 ייסד מאסק את OpenAI, חברת מחקר המוקדשת לפיתוח בינה מלאכותית כללית. עם זאת, בשנת 2018 התפטר מאסק ממועצת המנהלים של OpenAI, בנימוק של חששות לגבי הכיוון של הארגון וניגודי עניינים פוטנציאליים.
בשנת 2015, מאסק ייסד את Neuralink, חברה המתמקדת בפיתוח טכנולוגיה שיכולה למזג את המוח האנושי עם בינה מלאכותית. המטרה של Neuralink היא ליצור ממשק ישיר בין המוח האנושי למחשבים, ולאפשר לבני אדם לשלוט בטכנולוגיה באמצעות המחשבות שלהם. המטרה הסופית היא לשפר את האינטליגנציה והיכולות האנושיות באמצעות בינה מלאכותית.
מעורבותו של מאסק בבינה מלאכותית נבעה מחששותיו לגבי הסיכונים הפוטנציאליים שהיא מציבה לאנושות. הוא ייסד את OpenAI ואת Neuralink כדי להבטיח שהבינה המלאכותית תפותח באופן שיועיל לאנושות ושהסיכונים הפוטנציאליים שלה ימוזערו. עם זאת, התפטרותו מ-OpenAI מעידה על כך שהוא לא היה מרוצה מהכיוון של החברה ומאמין שיש לעשות יותר כדי להסדיר את השימוש בבינה המלאכותית.
סטיב ווזניאק, המייסד השותף של אפל, הביע גם הוא לא אחת את חששותיו לגבי הבינה המלאכותית.
עוד בנושא באתר הידען: