פרופ’ יאיר נוימן מאוניברסיטת בן גוריון נענה לאתגר של DARPA והצליח לפתח בינה מלאכותית שתזהה נורמות חברתיות והפרתן. ממצאי המחקר פורסמו בכתב העת היוקרתי Scientific Reports
כאשר מזכיר המדינה האמריקאי, אנתוני בלינקן, נפגש ב-2021 עם עמיתו הסיני באלסקה, שררה במקום אווירה מתוחה. מתיחות זו ניתן לייחס הן לעימות האסטרטגי בין המעצמות, אך גם לפערים התרבותיים והבנת הנורמות החברתיות. בממשל האמריקאי התגבשה ההכרה שכשלים בתקשורת בין תרבותית מהווים מכשול להשגת מטרותיה של ארה”ב ואף עלולים להגיע לכדי איום במלחמה.
לשם כך, הושק במסגרת סוכנות המחקר האמריקאית לנושאי ביטחון (DARPA), פרויקט שמטרתו פיתוח כלים אוטומטים להבנה תרבותית. פרופ’ יאיר נוימן מהאוניברסיטה נענה לאתגר והצליח לפתח בינה מלאכותית שתזהה נורמות חברתיות והפרתן. ממצאי המחקר פורסמו בכתב העת היוקרתי Scientific Reports.
נורמות חברתיות מגדירות סטנדרטים של התנהגות חברתית ואלו משתנים כפונקציה של תרבות והקשר. כך למשל, בתרבות הסינית מצפים לענווה באינטראקציות בין אישיות, מה שעלול להיתפס בתרבותיות אחרות כחוסר ביטחון עצמי ואף הפרה של נורמה חברתית ראויה.
כדי ללמד את המחשב לזהות נורמות חברתיות והפרתן, הציג פרופ’ יאיר נוימן מהמחלקה למדעי הקוגניציה והמוח באוניברסיטה, כ-5000 סיטואציות חברתיות בפני הבינה המלאכותית וביקש ממנה להסביר איזו נורמה הופרה ומדוע. הסברי הבינה המלאכותית נותחו והתובנות הוזנו למערכת בינה מלאכותית אחרת באמצעותה נעשה זיהוי אוטומטי של חוקים (automatic rule discovery) המאפשרים להבחין בין סיטואציות של הפרת נורמה ואישושה.
לב המערכת הוא בזיהוי אוטומטי של רגשות חברתיים. פרופ’ נוימן שער שאף על פי שקיים מספר עצום של נורמות ושהן משתנות בתרבויות שונות, הפרה של נורמה חברתית קשורה לרגשות של בושה, אשמה ומבוכה, ואילו ציות לנורמה חברתית קשורה לרגש גאווה והכרת תודה. לפיכך, המערכת מסתמכת על זיהוי אוטומטי של רגשות חברתיים הקשורים להפרה של נורמות חברתיות או לאישושן.
המערכת נבחנה על 24,000 מקרים שחציים עסקו בהפרה של נורמה חברתית. כאשר נבדקה יכולת הסיווג של מערכת הבינה המלאכותית התברר שהיא זיהתה בהצלחה 82% ממקרי הפרת הנורמה. בניסוי שני נבדקה המערכת על קובץ נתונים אחר, קרוב ל-12,000 סיטואציות, שמחציתן מערבות פעילות לא נורמטיבית. במקרה זה המערכת הצליחה לזהות ב- 89% של הצלחה באיזה סוג של סיטואציה מדובר.
“האלגוריתם שפיתחנו יודע לגזור רגשות בתוך סיטואציות באמצעות שימוש במודלים חדשים של עיבוד שפה. הבינה המלאכותית יודעת כיום לנתח דברים בצורה מהירה ואפקטיבית שביצועיה אינן נופלים מביצועי מבני אדם. הכלים החדשים הללו כל כך חזקים שאנחנו לא יודעים להעריך מספיק את גודל המהפכה”, סיכם פרופ’ נוימן.
קבוצת המחקר כללה את: פרופ’ יאיר נוימן והמהנדס יוחאי כהן.
המחקר נתמך על ידי Defense Advanced Research Projects Agency (DARPA). למממנים לא היה תפקיד בתכנון המחקר, איסוף נתונים וניתוח, החלטה לפרסם או הכנת כתב היד.
עוד בנושא באתר הידען:
