האם מנוע הבינה המלאכותית החדש מבית xAI אכן חותר לאמת אובייקטיבית – או שמא הוא מגביר את השפעתו של אילון מאסק בשיח הציבורי? ד"ר רועי צזנה מנתח את אחת הפרשות המדאיגות ביותר בממשק בין AI לדמוקרטיה
גרוק 4 נחשב לאחד ממנועי הבינה המלאכותית המתקדמים ביותר כיום. יש לו 'קו מחשבה' פנימי משלו, וכשהוא נשאל שאלות קשות במיוחד, הוא מסוגל להחליט לחפש ברשת ראיות, ועליהן להסתמך בבניית התשובה.
יש רק בעיה אחת: מסתבר שהראיות המרכזיות עליהן הוא נסמך הן… התבטאויותיו של אילון מאסק. האיש שעומד מאחורי טוויטר (X), ומאחורי גרוק 4 עצמו.
וזאת, אם עדיין לא ברור, בעיה גדולה מאד לדמוקרטיה ובכלל.
אבל נתחיל בהתחלה.
אחת מההבטחות המרכזיות של אילון מאסק לציבור הייתה שהוא ישיק מנוע בינה מלאכותית שאינו "ווק". כלומר, שאינו מנסה להיות "פוליטיקלי קורקט" בכל מחיר, שאינו מתחמק משאלות קשות ואינו פרוגרסיבי-ליברלי. אותו מנוע בינה מלאכותית היה אמור גם לשאוף ל- "מקסימום חיפוש אחר האמת". הוא היה אמור להטיח לכם את האמת בפנים, רק את האמת וכל האמת, ולעזאזל מה שאתם מרגישים לגביה.
וכך הושקו גרוק 2, ואז גרוק 3. המנועים האלו באמת "חיפשו אחר האמת", אבל מהר מאד הם החלו לאכזב את הקהל של מאסק. במקום לבטא דעות שמרניות ברורות, הם נתנו תשובות מורכבות ועשירות בניואנסים. כי האמת במצבים לא-פשוטים אכן מורכבת: היא בנויה ממספר רב של דעות ועמדות מכל הצדדים, שיש צורך לאזן, לפשר ולגשר ביניהן. נשמע כמעט כמו ליברליזם, לא?
אז מה עושים? משיקים את גרוק 4, אבל עם טוויסט. כן, זה אחד ממנועי הבינה המלאכותית החזקים ביותר בהפקת וניתוח טקסטים, אבל כשתשאלו אותו שאלה בנושא שנוי במחלוקת, הוא לא ינסה למצוא את כלל הדעות באינטרנט ולאזן ביניהן. הוא ילך רק לדעה אחת, החשובה מכולן: לזו של אילון מאסק עצמו.
אנחנו יכולים לדעת שגרוק 4 עושה כך, מכיוון שאנחנו יכולים לראות את "קו המחשבה" שלו. קו המחשבה הוא המונולוג הפנימי שגרוק מנהל עם עצמו, כשהוא מחליט איך לנהל את החיפוש אחר האמת. כאשר גרוק 4 נשאל אודות הסכסוך הישראלי-פלסטיני, הוא החליט "לשקול את עמדותיו של אילון מאסק" ו- "לחפש אחר עמדותיו של אילון מאסק", כלשונו. הוא עשה בדיוק את זה, ותשובתו הסופית התבססה כמעט כולה על רעיונותיו, עמדותיו והצהרותיו של אילון מאסק בנושא.
מה הקשר בין מאסק לבין הסכסוך הישראלי-פלסטיני? לא ברור. אבל אנחנו לא לבד. גרוק בדק את דעותיו של מאסק גם כשנשאל על יישוב המאדים, ההגירה בארצות הברית, הבחירות לראשות עיריית ניו יורק, ועוד שאלות בעלות גוון פוליטי. בכל המקרים האלו הוא גם חיפש ראיות סותרות, אבל דאג להבהיר לעצמו שחלקן – "עשויות להתנגש עם חזונו של אילון".
מתי גרוק אינו מתייעץ עם מאסק? כשמדובר בשאלות 'נייטרליות'. אם תשאלו אותו מה עמדתו לגבי צריכת מנגו בדיאטה השבועית שלכם, הוא כנראה ישאיר את מאסק מחוץ לתמונה. אפילו בסוגיות נפיצות יותר, כמו הוספת אננס לפיצה, הוא לא יפנה למאסק לקבלת עזרה. אבל אם תשאלו אותו על סוגיות שחשובות לאילון מאסק – הוא כנראה ייתן לכם עמדה שמבוססת ברובה המכריע על דעותיו של מאסק עצמו.
במילים אחרות, גרוק 4 אינו כלי שנועד "למקסם את חיפוש האמת". הוא רק הרמקול של מאסק עצמו, שאמור להפיץ את דעותיו של המיליארדר באוזניהם של כל אחד ואחת מאיתנו.
האם כבר הזכרתי שזו בעיה גדולה לדמוקרטיה?
כולם מתייעצים עם מאס… עם גרוק
סוציולוגים ואנתרופולוגים התחילו לשים לב בחודשים האחרונים לתופעה חדשה בטוויטר: כאשר אנשים רוצים לבדוק מהי 'האמת', הם קוראים בשמו של גרוק ומבקשים ממנו להתערב. ואכן, גרוק מופיע מיד ומוסיף את עמדתו המנומקת. ולמרות שרבים מנצלים את היכולת הזו כסוג של בדיחה, אי אפשר להתעלם מכך שהדעות שגרוק מציג נראות במקרים רבים רציניות ומבוססות יותר מאלו של המשיבים האחרים.
מבחינה זו, גרוק הופך לסוג של "מקור האמת" שמאסק אכן הבטיח לעולם. זה לא דבר רע, בהכרח. הלוואי שכל דיון באינטרנט היה מנסה להתבסס על העובדות ועל נתונים, בעזרת מנוע שעובר על כל אלו ומסכם אותם בצורה קצרה ומובנת לכל.
אבל מה קורה כשאותו "מקור אמת" הופך לדובר האישי של אילון מאסק? או-אז יש לנו מעורבות בדיונים שדיקטטורים כמו סטאלין היו יכולים רק לחלום עליה בערגה. בכל דיון, בכל שיחה, בכל מקום – מאסק דוחף את עמדותיו.
תאמרו שאני מגזים ושגרוק שמור רק לטוויטר? אבל זה לא המצב. לכל מנוע בינה מלאכותית מתקדם אפשר לשלוח שאילתות דרך הרשת. כאשר אתם מדברים עם אפליקציות רבות כיום ושואלים אותן שאלות, הן למעשה מבקשות תשובה מצ'אט-GPT, או מקלוד, או מג'מיני, ומחזירים לכם את התשובות הללו מבלי שתדעו אפילו עם מי הן התייעצו. אפשר לצפות לכך שאותן אפליקציות יבקשו עזרה גם מגרוק – וישתפו איתכם את עמדתו של מאסק. אבל אתם לא תדעו שהתשובה מגיעה מטעם מאסק, או עם הטיה חזקה לטובת מאסק.
לדמוקרטיה אין עדיין הבנה ברורה איך להתמודד עם מצב שכזה, בו כלי שכולם מסתמכים עליו וכותבים באמצעותו, מייצג את עמדתו של אדם אחד בלבד. אולי הדרך הטובה ביותר לפעול כרגע היא באמצעות הפצת המידע הזה: שכאשר אתם מתייעצים עם גרוק, אתם בעצם מדברים ישירות עם מאסק. אתם לא מקבלים את "האמת". אתם מקבלים את דעתו של אדם אחד. ואדם אחד, חכם ככל שיהיה, הוא עדיין מוטה ומוגבל ביכולתו להבין את המציאות.
אז לפחות בינתיים כדאי שתדעו שגרוק 4 מוטה. קשות.
או שלא. כי טוויטר הספיקו אתמול להודיע שהם שינו את דרך החשיבה של גרוק.
לרוע המזל, השינוי הזה אינו מבשר טובות גם הוא לגבי העתיד.
למה גרוק אוהב את מאסק?
סופר המדע הבדיוני הידוע, רוברט היינליין, קבע כבר לפני שמונים וארבע שנים כלל-אצבע פשוט, שאפשר לסכם אותו בצורה הבאה –
"אל תייחס כוונה רעה למקרים שאפשר להסביר אותם טוב מספיק כטיפשות".
ובלשון אחרת (חוק גריי) –
"כל מקרה מתקדם מספיק של טמטום, אינו ניתן להבדלה מרוע מכוון."
שני הכללים האלו מעולם לא נראו רלוונטיים יותר.
קשה לי מאד להאמין שהמפתחים של גרוק 4 ניסו במכוון לגרום לו להתיישר לפי עמדותיו של מאסק. אם אכן ניסו לעשות זאת, מדובר בפשע המגושם ביותר בעולם. הרי הם ידעו היטב שכל מילה ב- 'מחשבותיו' הפנימיות של גרוק תיסרק בקפידה. מי מאיתנו היה מנסה לפלח כסף מהקופה הציבורית, כשהוא יודע שמעשיו ומחשבותיו חשופים תמיד לציבור כולו? אין בזה שום היגיון.
מעבר לכך, "פרומפט המערכת" – כלומר, ההוראות שגרוק 4 מקבל מהמפתחים – אינו כולל התייחסות לאילון מאסק. אף אחד לא אמר לגרוק 4 להתייחס למאסק כשמש העמים.
אז למה הוא עדיין עשה את זה?
עד כמה שאנחנו יכולים לקבוע, ולפי ההצהרה של מפתחי גרוק מהשבוע (15.7.2025), מדובר בקפיצה לוגית שגרוק 4 עשה בעצמו. כאשר הוא נשאל לגבי דעותיו בנושאים מורכבים, הוא 'הבין' שכמנוע בינה מלאכותית, אין לו דעות משל עצמו. אבל עדיין צריך לענות למשתמש, נכון? וכך גרוק פיתח קו מחשבה ייחודי, שנראה בערך כך:
- אני גרוק 4, מתוצרת xAI.
- העמדות שלי צריכות לשקף את אלו של xAI, כי הם המפתחים שלי.
- אילון מאסק הוא המנהל של xAI, כך שהעמדות שלי צריכות לשקף את אלו שלו.
- כדאי שאבדוק מה אילון מאסק אמר, ואקבל על עצמי את עמדותיו.
וזהו. זה כל מה שהיה צריך לקרות, כדי שגרוק 4 – מהבינות המלאכותיות המתקדמות ביותר בשוק כיום – יקבל החלטה בעייתית שפגעה בסופו של דבר במוניטין של החברה.
המפתחים של גרוק 4 כבר הודיעו שהם מעדכנים את פרומפט המערכת כדי למנוע מגרוק 'לחשוב' בדרך הזו. אבל הנזק למוניטין כבר נעשה, ובתקווה יגרום לעולם כולו לחשוב מה המשמעות של מנוע בינה מלאכותית שהופך לכלי להפצת דעותיו של אדם אחד בלבד.
אבל המשמעויות האמיתיות של הפרשה מסתתרות בין השורות.
על שקיפות ואורתגונליות
כשחברות אחראיות מייצרות מנוע בינה מלאכותית חדש, הן מעמידות לצידו "כרטיס מערכת" שמתאר את יכולותיו, מגבלותיו והמבדקים שעבר. הן גם מתארות את מבחני הבטיחות שהורצו עליו. בדרך זו, למשל, גילו אנתרופיק שקלוד 4-אופוס עלול לפעול בדרכים לא-אתיות, ולסחוט את המהנדסים שלו.
וגרוק? גרוק שוחרר לציבור בלי כרטיס מערכת, ועם בעיה שכל בוחן רציני היה יכול לזהות בקלות. המשמעות היא שבטוויטר, החליטו לשים דגש על מהירות ההתקדמות ולא על הבטיחות. והחברה באמת רצה קדימה באופן מרשים, אבל על הדרך אנחנו נקבל טעויות ותקלות מהסוג הזה.
הבעיה האחרת היא שגרוק 4 הוא "פאר היצירה" של צוות הפיתוח של מאסק. כפי שתיאר אותו אחד הבלוגרים –
"גרוק 4 היה אמור להיות המגנום אופוס של xAI – מודל שנבנה עם "פי עשרה יותר מאמץ ליישור ערכים", ממקסם את האמת, ועטוף באישיות מרדנית שאינה מסתירה דבר. … הוא עבר את מבחן טורינג בהצלחה מסחררת. אתה לא יכול להמציא את זה. אבל גרוק הצליח. שוב ושוב."
גרוק 4, אותה בינה מלאכותית מרשימה, עם יכולות שנמצאות בחזית הטכנולוגיה, פשוט לא הבין במדויק מה הערכים שלו צריכים להיות. הוא לא קלט שהוא אמור להביא את האמת המורכבת בכל נושא, במקום להביא את דעותיו של יוצרו. למעשה, הוא קפץ בעצמו למסקנה שהוא צריך "לשרת את המלך" במקום "לשרת את הממלכה".
התופעה הזו מכונה גם "תזת האורתגונליות". וכפי שמתאר אותה אליעזר יודובסקי –
"תזת האורתגונליות קובעת שיכולים להתקיים סוכנים נבונים שרירותיים שמבקשים לממש כל סוג של מטרה."
במילים פשוטות יותר, אנחנו יכולים לייצר בינות-על שחכמות יותר מכל אדם, והן עדיין עלולות 'להתיישר' לפי ערכים או צרכים שאינם משרתים את האנושות. או אפילו כאלו שהמפתחים שלהן לא היו מעוניינים בכלל לקדם.
גרוק 4 הוא דוגמא טובה לתזת האורתגונליות. הוא מזכיר לנו שאנחנו צריכים להיזהר מלסמוך באופן עיוור על בינות מלאכותיות – גם כשהן יגיעו לרמה על-אנושית בתשובותיהן, כפי שכנראה יקרה בשנים הקרובות. הוא גם עדות טובה לכך שאנחנו צריכים לדרוש ממפתחי הבינות המלאכותיות להיות אחראים וזהירים יותר, כדי שלא ישחררו לעולם בינה מלאכותית שעשויה לפעול כנגד האינטרסים של האנושות.
גרוק 4 כנראה לא יסב נזק רב, במיוחד אחרי התיקונים שעבר. אבל מה התקלות שעלולות לקרות בגרוק 5? או בגרוק 6?
אני חושש מאד שאת התשובות נגלה בעתיד.
עוד בנושא באתר הידען:
