חוקר בריטי מזהיר כי שילוב בינה מלאכותית והיעדר ביקורת עמיתים מעמיקה מאיים על אמינות המדע, ומציע רפורמות בשיטה המדעית
מאת: דיוויד קומפורד, פרופסור לכלכלה ולמדעי ההתנהגות, אוניברסיטת סטרלינג
מאת: דיוויד קומפורד, פרופסור לכלכלה ולמדעי ההתנהגות, אוניברסיטת סטרלינג
בתחילת שנות ה־2000 נתבעה חברת התרופות האמריקניתWyeth על-ידי אלפי נשים שחלו בסרטן שד לאחר נטילת תרופות ההורמונים שלה. מסמכי בית המשפט חשפו את השימוש בעשרות סקירות ומאמרי דעה שנכתבו בידי "סופרי צללים" שהתפרסמו בכתבי עת רפואיים, ונועדו לקדם יתרונות שלא הוכחו ולהמעיט בנזקים הקשורים לתרופות.
וויית', שנרכשה בידי פייזר ב־2009, שילמה לחברת תקשורת רפואית כדי להפיק את המאמרים, שהתפרסמו תחת שמותיהם של רופאים בכירים (בהסכמתם). כל רופא שקרא את המאמרים והסתמך עליהם לצורך מתן מרשמים – לא ידע שהחברה עומדת מאחוריהם.
חברת התרופות טענה שכל מה שנכתב היה מדויק מדעית, ואף הצהירה כי תשלום לסופרי צללים הוא דבר נפוץ בתעשייה. בסופו של דבר פייזר שילמה פיצויים של מעל מיליארד דולר בשל נזקי התרופות.
המאמרים הללו הם דוגמה מובהקת ל־"resmearch" – מדע כוזב המשרת אינטרסים תאגידיים. בעוד מרבית החוקרים פועלים כדי לחשוף את האמת ולבדוק בקפידה את ממצאיהם, "resmearch" כלל אינו מתעניין באמת – מטרתו היחידה היא לשכנע.
במהלך השנים ראינו דוגמאות רבות נוספות: חברות משקאות קלים או יצרני בשר שמימנו מחקרים שהיו פחות סבירים להצביע על קשר בין המוצרים שלהם לבין סיכונים בריאותיים, לעומת מחקרים עצמאיים.
האיום של הבינה המלאכותית
כיום הדאגה הגדולה היא שכלי בינה מלאכותית מורידים את העלות של ייצור "ראיות" כאלה כמעט לאפס. רק לפני שנים ספורות נדרש זמן של חודשים לכתיבת מאמר אחד. כעת אדם יחיד, בעזרת AI , יכול לייצר בתוך שעות מספר מאמרים שנראים לגיטימיים.
כבר עתה רואים בספרות הרפואית גל של מאמרים הנשענים על נתונים שהותאמו במיוחד לעיבוד ב־AI , ומציגים תוצאות עבור קשר לגורם יחיד בלבד לדוגמה, קשר בין אכילת ביצים לבין דמנציה.
למחקרים כאלו יש נטייה להניב תוצאות מטעות. כאשר מאגרי נתונים כוללים אלפי אנשים ומאות משתנים עליהם, תמיד יימצאו מתאמים מקריים.
חיפוש במסדי נתונים אקדמיים מובילים, כמו Scopus ו־Pubmed , הראה כי בין 2014 ל־2021 פורסמו בממוצע ארבעה מחקרים הכוללים ניתוח של קשר עם גורם אחד בלבד. בעשרת החודשים הראשונים של 2024 בלבד פורסמו190 מחקרים כאלה.
המחקרים הללו לא תמיד נובעים מאינטרסים תאגידיים. לעיתים מדובר באקדמאים שמבקשים להגדיל את היקף הפרסומים שלהם לשם קידום קריירה. אך השורה התחתונה היא ש־ AI הופך אותם לפיתוי קל וזול עבור חברות המעוניינות לקדם מוצרים.
במקרה נוסף, בבריטניה, ההנחיות החדשות דורשות מיצרני מזון לתינוקות לנסח טענות שיווקיות על בסיס ראיות מדעיות. כוונת המחוקק חיובית, אך בפועל היא עלולה לעודד חברות "לייצר" עדויות כאלה באמצעות AI.
איך פותרים את הבעיה?
הבעיה עיקרית היא שמחקרים לא תמיד עוברים ביקורת עמיתים לפני שהם משפיעים על מדיניות ציבורית.
כך, בשנת 2021, שופט בית המשפט העליון האמריקני סמואל אליטו הסתמך בפסק דין בנושא נשק על חוות דעת שהכילה נתוני סקר, שמומן בידי קרן שתומכת באחזקת נשק. מכיוון שהנתונים לא פורסמו לציבור והחוקר סירב לענות לשאלות, אי אפשר לדעת אם מדובר במדע אמיתי או ב־"resmearch" . ובכל זאת, עורכי דין ברחבי ארצות הברית השתמשו במסמך זה כדי להגן על אינטרסים של לובי הנשק.
המסקנה המתבקשת: יש להיות חשדנים כלפי מחקר שלא עבר ביקורת עמיתים.
מסקנה נוספת: יש צורך לשנות גם את מנגנון ביקורת העמיתים עצמו.
בעשור האחרון התקדמו מספר גישות להפחתת הסיכון לממצאים כוזבים:
- רישום מראש(Preregistration) : החוקרים מפרסמים את תוכנית המחקר מראש.
- שקיפות מלאה: כל שלבי העבודה, הנתונים, הקוד וכלי המחקר (שאלונים, גירויים, חומרים).
- Specification curve analysis, שיטה שמוודאת את עמידות הקשר הסטטיסטי בכל צורת ניתוח אפשרית.
עורכי כתבי עת רבים כבר אימצו דרישות אלו, ולעיתים גם מחייבים לציין שימוש ב־AI או ציטוט מחקרים דומים.
תחום הפסיכולוגיה הוביל את הרפורמות הללו, בעוד שבתחום הכלכלה האימוץ היה איטי בהרבה. מחקר עדכני ב־American Economic Review אף מצא כי מאמרים שפורסמו שם נוטים להפריז בעוצמת הראיות הנתמכות בנתונים.
הדרך קדימה
המערכת הנוכחית אינה ערוכה להתמודד עם המבול של מאמרים ש־AI צפוי להציף. נדרשת מערכת שבה חוקרים מתוגמלים על איכות עבודתם, לא רק על עצם ההשתתפות.
האמון הציבורי במדע עדיין גבוה – וזה קריטי, משום שהשיטה המדעית היא המנגנון האובייקטיבי היחיד שמעדיף את האמת על פני הפופולרי או הרווחי.
אך הבינה המלאכותית מאיימת להרחיק אותנו מהאידיאל הזה יותר מאי פעם. אם המדע רוצה לשמור על אמינותו, אנו חייבים לתמרץ ביקורת עמיתים משמעותית ובעלת ערך אמיתי.
תגים: בינה מלאכותית, מדע, ביקורת עמיתים, הטיות מחקר, אינטרסים תאגידיים, אתיקה מדעית
ביטוי מפתח: בינה מלאכותית ומדע כוזב
נרדפים: מחקרים מזויפים, Resmearch, מדע למען אינטרסים עסקיים, אמינות המדע, שקיפות מחקרית
SLUG: ai-science-corporate-interests
https://theconversation.com/we-risk-a-deluge-of-ai-written-science-pushing-corporate-interests-heres-what-to-do-about-it-264606אידיאל הזה יותר מאי פעם. אם המדע רוצה לשמור על אמינותו, אנו חייבים לתמרץ ביקורת עמיתים משמעותית ובעלת ערך אמיתי.
עוד בנושא באתר הידען:
