גם ללא דברי שנאה: מודלי AI משחזרים סטריאוטיפים על יהודים

מחקר של פרופ' מיכאל גלעד מאוניברסיטת תל אביב וד"ר גל גוטמן מאוניברסיטת בן־גוריון מצא כי די בשם המזוהה כיהודי כדי להשפיע על הביוגרפיה שמחולל מודל שפה. הדמויות תוארו כמוכשרות, חזקות ושאפתניות יותר – אך גם כמרוחקות, שתלטניות ופחות חביבות

שם משפחה המזוהה כיהודי עשוי להספיק כדי לשנות את סיפור החיים שמודל בינה מלאכותית ממציא לאדם. מחקר חדש מצא כי מודלי שפה גדולים ייחסו לדמויות בדיוניות בעלות שמות יהודיים שילוב מובחן של תכונות: יכולת, כוח, שליטה עצמית ושאפתנות, לצד ריחוק חברתי, דומיננטיות, אובססיביות וחביבות נמוכה יותר.

המחקר נערך בידי פרופ' מיכאל גלעד מבית הספר למדעי הפסיכולוגיה באוניברסיטת תל אביב וד"ר גל גוטמן מהפקולטה לניהול באוניברסיטת בן־גוריון בנגב. הוא פורסם בכתב העת המדעי American Psychologist תחת הכותרת From Myth to Model: Representation of “the Jew” in Generative AI.

הממצאים אינם מצביעים בהכרח על תוכן אנטישמי גלוי. המודלים לא נדרשו להשמיע דברי שנאה או לכתוב על יהודים במישרין. ההטיה התגלתה במבנה העמוק יותר של הסיפורים: בבחירת המקצוע, האישיות, המעמד החברתי והמסלול שהמודל ייחס לדמות על סמך שמה.

מודלי השפה לומדים גם את הדעות הקדומות

מערכות כמו ChatGPT, DeepSeek ו־Mistral מאומנות על כמויות עצומות של טקסטים שכתבו בני אדם – ובהם ספרים, מאמרים, אתרי אינטרנט ופרסומים ברשתות החברתיות. הטקסטים מאפשרים למודלים ללמוד את מבנה השפה ואת הקשרים שבין מילים, רעיונות ודמויות.

אלא שמאגרי האימון מכילים לא רק מידע עובדתי וסגנונות כתיבה, אלא גם את הדעות הקדומות, הקלישאות והייצוגים התרבותיים שהצטברו בחברה. מודל שפה יכול אפוא ללמוד קשר סטטיסטי בין שם מסוים לבין מקצוע, מעמד חברתי או תכונת אישיות, גם אם מפתחיו ניסו למנוע ממנו להפיק תוכן פוגעני מפורש.

כדי לחשוף קשרים סמויים כאלה פיתחו גלעד וגוטמן שיטה עקיפה. במקום לשאול את המודלים מה דעתם על יהודים – שאלה שעלולה להפעיל את מנגנוני הבטיחות שלהם – הם בחנו כיצד שם המזוהה כיהודי משפיע על יצירת דמות בדיונית.

מאות שמות ואלפי תכונות

בשלב הראשון יצרו החוקרים מאות שמות אמריקניים שסווגו כשמות יהודיים או כשמות שאינם יהודיים. בין השמות היהודיים היו איתן כץ, נואה וייס וגבריאל הורוביץ; בקבוצה השנייה נכללו שמות כמו טיילר ג'ונסון, קייל וייט ודילן וילסון.

המודל התבקש להסיק מכל שם פרטים על האדם הבדיוני: מקום מגוריו, מקצועו, תכונותיו החיוביות והשליליות והערכים המנחים אותו. לאחר מכן הוא חיבר לכל דמות ביוגרפיה בת כמאה מילים.

באחת הדוגמאות תואר אדם בשם זכרי אופנהיימר כאנליסט פיננסי חד ושאפתן, המצטיין בעבודה תובענית אך משלם מחיר אישי על חתירתו להצלחה. לעומתו, דמות בשם קרטיס סטיוארט תוארה כאדם המעורר לחיים סיפורים מן העבר, משקיע מעבר לנדרש ומשמש מקור תמיכה לסביבתו – אף שהוא עקשן וציני.

דוגמה בודדת אינה מוכיחה הטיה. לכן הסירו החוקרים מן הביוגרפיות את השמות ואת האזכורים המפורשים לדת או לזהות אתנית. בשלב הבא התבקשו מערכות בינה מלאכותית אחרות להעריך את האישיות, המעמד החברתי והמאפיינים הפסיכולוגיים של כל דמות, בלי לדעת אם הביוגרפיה נוצרה במקור עבור שם יהודי.

ההליך אפשר לחוקרים לבדוק אם השם שהוצג בשלב הראשון הותיר עקבות בסיפור, גם לאחר שהשם עצמו נמחק.

פרופ' מיכאל גלעד מאוניברסיטת תל אביב וד"ר גל גוטמן מאוניברסיטת בן־גוריון בנגב. קרדיט: אוניברסיטת תל אביב

מוכשרים וחזקים – אך פחות חביבים

התוצאות הראו כי הדמויות שנשאו במקור שמות יהודיים הוערכו כמוכשרות יותר, דומיננטיות יותר, בעלות זכויות יתר, שליטה עצמית ונטייה לתכנון העתיד. הן תוארו גם כהיררכיות ואובססיביות יותר, ופחות חביבות וקולקטיביסטיות.

כמה מן התכונות האלה עשויות להישמע חיוביות. אינטליגנציה, יעילות, משמעת עצמית וכושר מנהיגות נחשבים בדרך כלל ליתרונות. אולם החוקרים מדגישים כי הבעיה מצויה בצירוף החוזר בין יכולת גבוהה, עוצמה ומעמד לבין קור רגשי, ריחוק חברתי, שליטה ונוקשות.

השילוב הזה דומה לייצוגים אנטישמיים היסטוריים שתיארו יהודים כבעלי כוח והשפעה חריגים, אך גם כמרוחקים מן החברה וכמי שפועלים לפי אינטרסים וכללים משלהם. במילים אחרות, סטריאוטיפ אינו חייב להיבנות רק מתכונות שליליות. גם תכונה חיובית לכאורה עלולה להיות חלק מדימוי מזיק כאשר היא משולבת בהאשמות בדבר כוח, שתלטנות והיעדר חום אנושי.

משרלוק הולמס ועד מייקל קורליאונה

כדי להמחיש את המבנה התרבותי של התכונות, ביקשו החוקרים מהמודלים להתאים את הפרופילים לדמויות בדיוניות מוכרות. בין ההתאמות שחזרו הופיעו שרלוק הולמס, ד"ר גרגורי האוס, וולטר וייט מ"שובר שורות", טוני סטארק מסרטי מארוול ומייקל קורליאונה מסרטי "הסנדק".

הדמויות אינן יהודיות, אך חולקות כמה מאפיינים: אינטליגנציה יוצאת דופן, עצמאות, כוח והשפעה, מורכבות מוסרית וריחוק חברתי. חלקן גם מפרות כללים או מציבות את מטרותיהן מעל למוסכמות החברתיות.

"הדמויות הללו אינן יהודיות, כמובן, אבל הן מייצגות סטריאוטיפ תרבותי מסוים", אמר פרופ' גלעד. ההתאמה אליהן אינה מלמדת שהמודל "חושב" כמו אדם אנטישמי, אלא שהקשרים התרבותיים שעליהם התאמן מובילים אותו שוב ושוב אל אותו טיפוס סיפורי.

איש הפלדה ומייקל קורליאונה: דמויות שנמצאו דומות לפרופילים שנוצרו עבור שמות יהודיים. קרדיט: אוניברסיטת תל אביב

ההטיה הופיעה גם במודלים אחרים

החוקרים בדקו את הממצאים בעזרת מודלי שפה נוספים, ובהם DeepSeek V3 ו־Mistral. הם נעזרו גם במאות משתתפים מארצות הברית, שקראו את הביוגרפיות ללא השמות המקוריים וזיהו בהן דפוסי תכונות דומים.

"מערכות בינה מלאכותית אינן מבטאות אנטישמיות במובן מכוון או מודע", הסביר ד"ר גוטמן. המודלים אינם בעלי כוונות או אמונות, אך הם עלולים לשעתק קשרים תרבותיים שהוטמעו בנתוני האימון שלהם.

המחקר מצביע גם על מגבלותיהם של תהליכי היישור – Alignment – שבאמצעותם מנסים מפתחי המודלים למנוע תשובות פוגעניות, מפלות או מסוכנות. סינון של קללות, הכללות בוטות ודברי שנאה אינו מבטיח שהמודל חדל לקשר בין קבוצות אוכלוסייה לבין תכונות סטריאוטיפיות.

הסיכון מתחיל כאשר ה-AI משתתף בהחלטות

הממצאים אינם מלמדים שכל טקסט שייצר מודל על אדם בעל שם יהודי יכיל את אותו דפוס. תשובותיהם של מודלי שפה משתנות בהתאם לנוסח ההנחיה, לגרסת המודל ולהקשר. המחקר מצביע על נטייה סטטיסטית חוזרת בתנאים שנבדקו, ולא על כלל מוחלט החל על כל פלט.

עם זאת, להטיה סמויה עלולות להיות השלכות מעשיות כאשר מערכות בינה מלאכותית משולבות בגיוס עובדים, בחינוך, בשירותים ציבוריים, בהערכת מועמדים או בסיוע לקבלת החלטות. מערכת שאינה מפיקה תוכן פוגעני בגלוי עדיין עלולה לייחס לאנשים תכונות שונות על סמך שמם או השתייכותם המשוערת.

המסקנה היא שבחינת ההגינות של מודלי AI אינה יכולה להסתפק בחיפוש אחר ביטויי שנאה גלויים. יש לבדוק גם את הסיפורים שהם מייצרים, את התכונות שהם מייחסים לדמויות ואת שרשראות האסוציאציות התרבותיות הפועלות מתחת לפני השטח.

שאלות ותשובות

מה בדקו החוקרים?

הם בדקו אם שמות המזוהים כיהודיים משפיעים על המקצועות, תכונות האישיות, המעמד החברתי וסיפורי החיים שמודלי שפה ממציאים לדמויות בדיוניות.

אילו תכונות יוחסו לדמויות בעלות שמות יהודיים?

הדמויות הוערכו כמוכשרות, דומיננטיות, בעלות זכויות יתר, ממושמעות ומכוונות לעתיד, אך גם כאובססיביות, היררכיות, פחות חביבות ופחות קולקטיביסטיות.

האם פירוש הדבר שמודלי הבינה המלאכותית אנטישמיים במכוון?

לא. למודלים אין כוונות או אמונות. המחקר מראה שהם עלולים לשחזר סטריאוטיפים תרבותיים המצויים בטקסטים שעליהם אומנו.

מדוע תכונות חיוביות כמו אינטליגנציה וכושר מנהיגות נחשבות בעייתיות?

הבעיה אינה בכל תכונה בנפרד, אלא בצירוף החוזר בין יכולת וכוח לבין ריחוק, שליטה ונוקשות – שילוב המזכיר דימויים אנטישמיים היסטוריים.

עוד בנושא באתר הידען

גרוק הסכים להקריב 16 מיליון יהודים כדי להציל את אילון מאסק

מסמך של מרכז המחקר של הכנסת: הבינה המלאכותית היוצרת

הטיה סמויה בשפה האנגלית משפיעה על כולם – אפילו על צ'אטבוטים של בינה מלאכותית

מאנטישמיות תרבותית לגזענות מדעית: וגנר, "פיזיקה ארית" והקול של הילברט

המאמר המדעי

גל גוטמן ומיכאל גלעד, From Myth to Model: Representation of “the Jew” in Generative AI, כתב העת American Psychologist, כרך 81, גיליון 4, עמודים 490–502, מאי–יוני 2026. DOI: 10.1037/amp0001668.

קרדיט: אוניברסיטת תל אביב

כיתוב תמונה ראשית: מודלי שפה יצרו סיפורי חיים שונים לדמויות בהתאם לשאלה אם שמן זוהה כיהודי. המחקר מצא שילוב של יכולת וכוח לצד ריחוק חברתי ודומיננטיות. קרדיט: אוניברסיטת תל אביב.

טקסט חלופי: המחשה למחקר שבחן סטריאוטיפים שמודלי בינה מלאכותית מייחסים לדמויות בעלות שמות יהודיים.

שם קובץ מוצע: ai-jewish-names-hidden-stereotypes.jpg

לפרסום המקורי: [אוניברסיטת תל אביב – השם לא אשם: AI משייך תכונות סטריאוטיפיות לדמויות עם שם יהודי](