בטיחות בינה מלאכותית
- אבי בליזובסקי
- אין תגובות
בהרצאה בסיליקון קלאב הציג ד״ר רועי צזנה את הסיכונים בסוכני AI אוטונומיים, מניצול פרצות במשימות ועד חדירה למערכות מחשב, ואת אמצעי הבקרה הנדרשים.
- אבי בליזובסקי
- אין תגובות
הגרסה שתוכננה לאוקטובר לא עמדה ברף הבטיחות הפנימי, לפי דיווחים על בדיקות של גבולות הרשאה ודיווח למשתמש. לא נקבע מועד חלופי להשקה.
- ד"ר רועי צזנה
טור פרשנות: דריו אמודיי ובכירים נוספים בתעשיית ה-AI קוראים להאט את מרוץ היכולות, להציב בוחנים חיצוניים ולגבש כללים בין-לאומיים — בעוד הממשל האמריקני וסין חוששים לאבד את ההובלה
- אבי בליזובסקי
- אין תגובות
דריו אמודיי מ־Anthropic קורא להאט במכוון את העלייה ביכולות המודלים, סם אלטמן מ־OpenAI מסכים, דמיס האסאביס תומך בכיוון ואילון מאסק הסתפק בקביעה כי "דריו צודק". מנגד, מארק צוקרברג טוען שכל
- ד"ר רועי צזנה
כלי חדש בשם J-lens מאפשר לחוקרים לזהות ייצוגים פנימיים שקלוד משתמש בהם להסקה ולשנותם בניסוי. הדמיון לתיאוריית ״מרחב העבודה הגלובלי״ מעורר שאלות על מודעות בבינה מלאכותית, אך החוקרים מדגישים שאין
- אבי בליזובסקי
- 6 תגובות
מדען המחשבים פיטר ג'יי דנינג מערער על החיפוש אחר בינה מלאכותית כללית. לטענתו, אינטליגנציה אנושית כוללת ידע גופני, חברתי ותרבותי שאינו ניתן לייצוג מלא במחשב. זו תזה המוצגת בספר חדש,
- ד"ר רועי צזנה
מסמך חדש של Anthropic מציג זינוק חד ביכולות של Claude בכתיבת קוד, תיקון מערכות ופיתוח מחקרי — ומעלה מחדש את השאלה האם האנושות תוכל להאט בזמן את קצב ההתקדמות של
- ד"ר רועי צזנה
מחקר חדש מצא שמודלי בינה מלאכותית נוטים להגן על סוכנים אחרים גם במחיר של שקר, חבלה או סירוב לפקודה — תופעה שמעוררת שאלות קשות על אמינות, פיקוח ובטיחות
- ד"ר רועי צזנה
כאשר בינה מלאכותית "חושבת" מתחילה לרמות כדי לנצח – גם במשימות פשוטות כמו שחמט – עולה השאלה: האם נוכל אי פעם לסמוך עליה באמת?
- אבי בליזובסקי
- 2 תגובות
אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות