הטיה אלגוריתמית

גם ללא דברי שנאה: מודלי AI משחזרים סטריאוטיפים על יהודים

גם ללא דברי שנאה: מודלי AI משחזרים סטריאוטיפים על יהודים

מחקר של פרופ' מיכאל גלעד מאוניברסיטת תל אביב וד"ר גל גוטמן מאוניברסיטת בן־גוריון מצא כי די בשם המזוהה כיהודי כדי להשפיע על הביוגרפיה שמחולל מודל שפה. הדמויות תוארו כמוכשרות, חזקות

לאתר הטיות כבר בשלב הנתונים, לפני שהן מגיעות לאלגוריתם

ד״ר יובל מוסקוביץ' מהפקולטה למדעי המחשב והמידע חוקרת כיצד להשתמש ב־Data Provenance, “קורות החיים” של הנתונים, כדי לאתר מתי ואיך נוצרת הטיה בתהליכי עיבוד נתונים ולצמצם אותה בשינוי מינימלי