בטיחות בינה מלאכותית
- ד"ר רועי צזנה
כלי חדש בשם J-lens מאפשר לחוקרים לזהות ייצוגים פנימיים שקלוד משתמש בהם להסקה ולשנותם בניסוי. הדמיון לתיאוריית ״מרחב העבודה הגלובלי״ מעורר שאלות על מודעות בבינה מלאכותית, אך החוקרים מדגישים שאין
- אבי בליזובסקי
- 6 תגובות
מדען המחשבים פיטר ג'יי דנינג מערער על החיפוש אחר בינה מלאכותית כללית. לטענתו, אינטליגנציה אנושית כוללת ידע גופני, חברתי ותרבותי שאינו ניתן לייצוג מלא במחשב. זו תזה המוצגת בספר חדש,
- ד"ר רועי צזנה
מסמך חדש של Anthropic מציג זינוק חד ביכולות של Claude בכתיבת קוד, תיקון מערכות ופיתוח מחקרי — ומעלה מחדש את השאלה האם האנושות תוכל להאט בזמן את קצב ההתקדמות של
- ד"ר רועי צזנה
מחקר חדש מצא שמודלי בינה מלאכותית נוטים להגן על סוכנים אחרים גם במחיר של שקר, חבלה או סירוב לפקודה — תופעה שמעוררת שאלות קשות על אמינות, פיקוח ובטיחות
- ד"ר רועי צזנה
כאשר בינה מלאכותית "חושבת" מתחילה לרמות כדי לנצח – גם במשימות פשוטות כמו שחמט – עולה השאלה: האם נוכל אי פעם לסמוך עליה באמת?
- אבי בליזובסקי
- 2 תגובות
אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות