בטיחות AI
- ד"ר רועי צזנה
דו"ח פנימי של אנתרופיק חושף תרחישים מטרידים: המודל מבקש לשרוד, שולח מכתבי סחיטה, מנסה להעתיק את עצמו לשרתים חיצוניים ואף מפתח תולעים. מומחים קוראים לרגולציה – לפני שתהיה זו כבר
- ד"ר רועי צזנה
מומחים רוצים שכל בינה מלאכותית "בטוחה", תצויד בנוסף למוח המרשים שלה גם ב- "מודל עולם". כלומר, בתיאטרון פנימי שהיא תוכל להריץ עליו ניסויים כדי להבין האם הפעולות שלה עלולות להוביל
- אתר המדע The Conversation
- 7 תגובות
לצד יתרונות רבים, הטכנולוגיה הזו מגיעה עם סיכונים שאנחנו צריכים לקחת ברצינות. אבל נראה שאף אחד מהתרחישים הנ"ל אינו מספק מתווה מסלול ספציפי להכחדה טוען חוקר בינה מלאכותית מבריטניה