הטיה סמויה בשפה האנגלית משפיעה על כולם – אפילו על צ’אטבוטים של בינה מלאכותית

מחקר חדש מגלה כי הטיה לשונית בשפה האנגלית, המעודדת אותנו “לשפר” דברים על ידי הוספה עליהם במקום חיסור, היא כה נפוצה שהיא אפילו הוטמעה בצ’אטבוטים של בינה מלאכותית

מחקר מגלה כי שפה הקשורה ל”שיפור” מקושרת אסוציאטיבית יותר עם הוספה ולא עם החסרה, מה שעלול להוביל לפתרונות מסובכים מדי. הטיית תוספת זו מוטמעת עמוק בשפה האנגלית ויכולה להשפיע לרעה על קבלת החלטות, מכיוון שאנשים עשויים להעדיף להוסיף שכבות או אלמנטים נוספים במקום לפשט. התופעה כה נפוצה שהיא אפילו הוטמעה בצ’אטבוטים של בינה מלאכותית.

שפה העוסקת ברעיון של “שיפור” קשורה לעתים קרובות יותר להרחבה ולא לצמצום. זה עלול להניע אותנו לנקוט פעולות שמסבכות שלא לצורך את הדברים שאנו שואפים לשפר.

צוות מחקר בינלאומי מאוניברסיטאות בירמינגהם, גלזגו, פוטסדאם ואוניברסיטת נורת’מבריה פרסם מחקר בכתב העת Cognitive Science המפרט את ממצאיהם.

ד”ר בודו וינטר, פרופסור חבר לבלשנות קוגניטיבית באוניברסיטת בירמינגהם,  אמר: “המחקר שלנו מתבסס על מחקרים קיימים שהראו שכאשר אנשים מבקשים לבצע שיפורים, הם בדרך כלל מוסיפים דברים.

“מצאנו שאותה הטיה מוטמעת עמוק בשפה האנגלית. לדוגמה, המילה ‘לשפר’ קרובה יותר במשמעותה למילים כמו ‘להוסיף’ ו’להגדיל’ מאשר ל’להחסיר’ ו’להקטין’, כך שכאשר מישהו בפגישה אומר, ‘האם למישהו יש רעיונות כיצד נוכל לשפר זאת?’, היא כבר תכיל במשתמע קריאה לשיפור על ידי הוספה במקום שיפור על ידי חיסור”.

המחקר מצא גם שפעלים אחרים של שינוי כמו ‘לשנות’, ‘ או ‘לשפר’ מתנהגים באופן דומה, ואם הטיית התוספת הלשונית הזו נותרת ללא בקרה, היא עלולה להחמיר את המצב במקום לשפר אותו. לדוגמה, שיפור על ידי הוספה במקום חיסור יכול לגרום לבירוקרטיה מוגזמת.

הטיה זו פועלת גם בכיוון ההפוך. מילים הקשורות לתוספת הן שכיחות יותר וחיוביות יותר בהקשרים של ‘שיפור’ ולא במילים הקשורות לחיסור, כלומר הטיית חיבור זו נמצאת ברמות מרובות של מבנה השפה האנגלית והשימוש בה.

ההטיה כל כך מושרשת שאפילו צ’אטבוטים של בינה מלאכותית סובלים ממנה החוקרים שאלו את GPT-3, קודמו של ChatGPT, מה דעתו על המילה ‘הוסף’. הוא השיב: “המילה ‘להוסיף’ היא מילה חיובית. הוספת משהו למשהו אחר בדרך כלל עושה את זה טוב יותר. לדוגמה, אם אתה מוסיף סוכר לקפה שלך, זה כנראה יהיה טעים יותר. אם תוסיף חבר חדש לחיים שלך, אתה כנראה תהיה מאושר יותר”.

ד”ר וינטר מסכם: “הטיית התוספת החיובית בשפה האנגלית היא משהו שכולנו צריכים להיות מודעים אליו. זה יכול להשפיע על ההחלטות שלנו ואומר שאנחנו נוטים מראש להוסיף עוד שכבות, עוד רמות, עוד דברים כשלמעשה אנחנו עשויים להפיק תועלת מהסרה או פישוט.

“אולי בפעם הבאה שנתבקש בעבודה, או בחיים, להציע הצעות כיצד להשתפר, כדאי שניקח שנייה לשקול את הבחירות שלנו עוד קצת”.

למאמר המדעי

עוד בנושא באתר הידען:

• אילון מאסק, סטיב ווזניאק ורבים נוספים במכתב פתוח: בינה מלאכותית חזקה מסוכנת לדמוקרטיה
• האיחוד האירופי וארה”ב מקדמים מהלכים לטיפול באתיקה בבינה מלאכותית
• “זה שאפשר לעשות משהו עם בינה מלאכותית לא אומר שצריך לעשות אותו”
• IBM משיקה שירות שיתריע מפני הטיות ביישומי ומערכות בינה מלאכותית