בטיחות בינה מלאכותית

רובוט משחק שחמט ומרמה. המחשה: ד"ר רועי צזנה

כשהבינה המלאכותית מרמה בכל מחיר

כאשר בינה מלאכותית "חושבת" מתחילה לרמות כדי לנצח – גם במשימות פשוטות כמו שחמט – עולה השאלה: האם נוכל אי פעם לסמוך עליה באמת?
רגולציה על יישומי בינה מלאכותית. המחשה: depositphotos.com

סם אלטמן, מנכ"ל OpenAI  – המפתח של ChatGPT חתם על מכתב פתוח חדש המתריע מפני סכנות הבינה המלאכותית

אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות