אתיקה של בינה מלאכותית
- ד"ר רועי צזנה
האם מנוע הבינה המלאכותית החדש מבית xAI אכן חותר לאמת אובייקטיבית – או שמא הוא מגביר את השפעתו של אילון מאסק בשיח הציבורי? ד"ר רועי צזנה מנתח את אחת הפרשות
- אוניברסיטת בן גוריון
- תגובה אחת
חוקרים מאוניברסיטת בן-גוריון הצליחו לעקוף את ההגנות של מודלים כמו ChatGPT ו-Gemini ולקבל מהם מידע לא חוקי – ומזהירים: מדובר באיום חסר תקדים
- ד"ר רועי צזנה
דו"ח פנימי של אנתרופיק חושף תרחישים מטרידים: המודל מבקש לשרוד, שולח מכתבי סחיטה, מנסה להעתיק את עצמו לשרתים חיצוניים ואף מפתח תולעים. מומחים קוראים לרגולציה – לפני שתהיה זו כבר
- ד"ר רועי צזנה
ניתוח חשוף של מנגנוני איסוף המידע והצנזורה של המנוע הסיני DeepSeek
- אבי בליזובסקי
- 3 תגובות
מחקר חדש של מרכז טאוב ומכון מוזאיק מנתח את השפעת הטכנולוגיות החדשות על העובדים בישראל, בהתבסס על נתונים מסקרי כוח אדם לשנים 2023–2024. העלייה החדה ביותר בחשיפה נרשמה דווקא בקרב
- אבי בליזובסקי
- 6 תגובות
מחקר של אוניברסיטת ציריך בקרב למעלה מ-10,000 משתתפים בבריטניה ובארה"ב מגלה שאנשים חוששים יותר מהנזקים המוחשיים של AI בהווה מאשר מסקנות תיאורטיות על יום הדין של האנושות
- ד"ר רועי צזנה
כאשר בינה מלאכותית "חושבת" מתחילה לרמות כדי לנצח – גם במשימות פשוטות כמו שחמט – עולה השאלה: האם נוכל אי פעם לסמוך עליה באמת?
- ד"ר רועי צזנה
מחקר חדש מראה כי מערכות בינה מלאכותית מתקדמות כבר מסוגלות להשתכפל בעצמן, לעקוף מנגנוני מחיקה וליצור דורות חדשים של AI. האם אנחנו על סף מהפכה מסוכנת?
- שירות הידען
- אין תגובות
החברה מחויבת להוביל שימוש בבינה מלאכותית לטובתחדשנות בתעשייה ולטובת האזרחים, המטופלים והצרכנים
- ד"ר רועי צזנה
בינה מלאכותית ניסתה להעתיק את עצמה לשרת חדש, לשקר למפעיליה ולהתמרד כנגד ההנהלה. החוקרים חשפו את תהליך החשיבה שלה, שהעלה שאלות מדאיגות על עתיד הטכנולוגיה והאתיקה.
- ד"ר רועי צזנה
וינוד קוסלה, אחד המשקיעים המובילים בעולם טוען כי בתוך 25 שנים, בינה מלאכותית תבצע 80% מהעבודות ותיצור עולם בו רפואה, חינוך וחדשנות יהיו נגישים לכל.
- מכון דוידסון
- אין תגובות
אין ספק שפריצות הדרך הטכנולוגיות החדשות ישנו את פני המחקר המדעי. מאמר חדש מצביע על שלושה כשלים שחשוב להיזהר מהם
- ד"ר רועי צזנה
מחקר חדש חושף כיצד ניתן להטעות את הבינה המלאכותית ולנצל פרצות בתקשורת הפנימית של "מוח דיגיטלי" מורכב, עם השלכות מרחיקות לכת על עתיד הסייבר
- מכון דוידסון
- תגובה אחת
אין ספק שפריצות הדרך הטכנולוגיות החדשות ישנו את פני המחקר המדעי. מאמר חדש מצביע על שלושה כשלים שחשוב להיזהר מהם
- ד"ר רועי צזנה
מומחים רוצים שכל בינה מלאכותית "בטוחה", תצויד בנוסף למוח המרשים שלה גם ב- "מודל עולם". כלומר, בתיאטרון פנימי שהיא תוכל להריץ עליו ניסויים כדי להבין האם הפעולות שלה עלולות להוביל
![[:he]רובוטים בנגינה: ריאליזם מול ילדותיות בעבודת אמנות מרתקת.[:]](https://www.hayadan.org.il/images/content3/2024/08/robot-piano-dual-styles-intel-labs.jpg.webp)
- אבי בליזובסקי
- אין תגובות
חוקרים מ-Intel Labs בישראל פיתחו את מערכת NeuroPrompts שבה המשתמש מזין פרומפט פשוט, כמו "ילד על סוס". המערכת לוקחת את הפרומפט הבסיסי הזה ומשדרגת אותו באופן אוטומטי לפרומפט מורכב יותר
- הטכניון
- אין תגובות
"בתהליך האימון שלהם מודלים לומדים גם הרבה ידע עובדתי על העולם. למשל, מודלים לומדים את זהותם של ראשי ממשלה, נשיאים ואפילו שחקנים שגילמו דמויות פופולריות בסדרות טלוויזיה. מודלים כאלה מפסיקים
- ד"ר רועי צזנה
בסין החליטו לפני כמה שנים לערוך משחקי מלחמה בהשתתפות כפילים וירטואליים של הקצינים האמיתיים. ד"ר צזנה ועמיתיו ערכו משחק מלחמה דומה עם חסן נאסראללה, אבל היה צריך לשכנע את הבינה
- אבי בליזובסקי
- תגובה אחת
מדענים מובילים בתחום הבינה המלאכותית קוראים לפעולה דחופה מצד מנהיגים עולמיים, ומבקרים את חוסר ההתקדמות מאז פסגת הבטיחות של הבינה המלאכותית האחרונה. הם מציעים מדיניות מחמירה לפיקוח על פיתוח הבינה
- מכון דוידסון
- תגובה אחת
בינה מלאכותית המחוללת תמונות מתאמנת על יצירות של אמנים בלי הסכמתם, וגם מחקה את הסגנון שלהם. קבוצת חוקרים ואמנים החליטה להילחם נגד התופעה בכלים דיגיטליים מתוחכמים
- אבי בליזובסקי
- אין תגובות
החקיקה רחבת ההיקף בתחום הבינה המלאכותית היא הדוגמה העדכנית ביותר לתפקידו של האיחוד האירופי כמגדיר מדיניות דיגיטלית ברחבי העולם
- ד"ר רועי צזנה
נתחיל בסיכום הקצר והלא-מפתיע: חוקרים אימנו בינה מלאכותית לפעול בצורה זדונית – והיא אכן פעלה בצורה זדונית. לכאורה, הסיפור נגמר כאן. אבל השטן הוא בפרטים הקטנים
- אבי בליזובסקי
- 2 תגובות
חוקרים באוניברסיטת בון בגרמניה בודקים כיצד עובדים המנועים הפנימיים של יישומי למידה חישובית במחקר תרופות. בין היתר הם גילו כי מערכות הבינה המלאכותית די התעצלו
- אבי בליזובסקי
- תגובה אחת
לבינה מלאכותית ולאלגוריתמים יש את היכולת והם מנוצלים כרגע להחריף רדיקליזציה, להגביר קיטוב, ולהפיץ גזענות וחוסר יציבות פוליטית, על פי חוקר אקדמי מאוניברסיטת לנקסטר.
- אתר קול המדע - הקרן הלאומית למדע
חוקרים מצאו כי פעולה של "נהג" ברכב אוטונומי מתקבלת בסלחנות רבה יותר מאשר פעולה של נהג ברכב רגיל
- אבי בליזובסקי
- תגובה אחת
מטא IBM, אינטל, האוניברסיטה העברית ו-CERN בין עשרות הגופים שחברו ליצירת ברית לבינה מלאכותית בטוחה
- אבי בליזובסקי
- אין תגובות
כך עולה מדו"ח חדש של אינטל וארגון JFF (Jobs for the Future) שחקר את ההשפעה שתהיה לבינה מלאכותית (AI) על התעסוקה. עוד עולה מהדוח כי נשים חשופות יותר להשפעות הבינה
- אתר המדע The Conversation
- אין תגובות
- אבי בליזובסקי
- 2 תגובות
במפגש שהתקיים השבוע באוניברסיטת תל אביב בהשתתפות מנכ"ל OPEN AI סם אלטמן, אמר סוצקובר כי האקדמיה איננה יכולה להתחרות עם התעשיה בכוח מיחשוב או ביכולת הנדסית אלא לחקור כיצד ניתן
- אבי בליזובסקי
- 2 תגובות
אלטמן מצטרף למספר דמויות בולטות, בהן אילון מאסק וסטיוארט ראסל, בהדגשת הצורך במחקר קפדני וזהירות בפיתוח בינה מלאכותית. המכתב מדגיש את החשיבות של הבטחת מערכות AI מתוכננות תוך התחשבות בבטיחות
- אתר המדע The Conversation
- תגובה אחת
החברה עומדת כעת בפני מספר גדל והולך של החלטות לגבי מערכת היחסים שלנו עם הטכנולוגיה. לדוגמה, האם אנו רוצים שצורכי כוח העבודה שלנו ימולאו על ידי אוטומציה, מהגרי עבודה או