METR

רובוט דמוי אדם עובד מול מחשב נייד – המחשה לסוכן בינה מלאכותית

כשהבינה המלאכותית לומדת לעקוף את הכללים: האזהרה של ד״ר רועי צזנה

בהרצאה בסיליקון קלאב הציג ד״ר רועי צזנה את הסיכונים בסוכני AI אוטונומיים, מניצול פרצות במשימות ועד חדירה למערכות מחשב, ואת אמצעי הבקרה הנדרשים.
האם צריך להאט את מרוץ הבינה המלאכותית? הוויכוח האמיתי הוא על הקצב, לא על עצירה

האם צריך להאט את מרוץ הבינה המלאכותית? הוויכוח האמיתי הוא על הקצב, לא על עצירה

דריו אמודיי מ־Anthropic קורא להאט במכוון את העלייה ביכולות המודלים, סם אלטמן מ־OpenAI מסכים, דמיס האסאביס תומך בכיוון ואילון מאסק הסתפק בקביעה כי "דריו צודק". מנגד, מארק צוקרברג טוען שכל