מה ChatGPT מלמד על השפה האנושית: ויטגנשטיין ו״משמעות כשימוש״

ייתכן שההצלחה של ChatGPT דורשת מאיתנו לעדכן את המושגים שלנו לגבי מהי ״מחשבה״, מהי ״יצירתיות״ ומהו ״דיבור״. האם ChatGPT חושב ומדבר כמונו, או שמדובר בחיקוי של הדבר האמיתי? מה זה אומר על המחשבה אם מודל AI יכול לחשוב, ומה זה אומר עלינו אם אפשר לעשות חיקוי כל כך קרוב למציאות?

ציור בסגנון קלאסי של רובוט בדמות כלב ליד חלון, ולצדו כלב לבן קטן
איור: דותן רייס באמצעות DALL-E 2

בשנים האחרונות (נכון ל-2023), מודלים של בינה מלאכותית (להלן AI) מוכיחים שוב ושוב שהם יכולים לעשות לא מעט דברים שחשבנו שהם נחלתנו הבלעדית כבני אדם. ChatGPT, המפורסם שבהם, שפותח על ידי OpenAI, מסוגל בהינתן שאילתא מהמשתמש לייצר טקסט מקורי שמפגין לא רק הבנה של השאילתא וההקשר וידע נרחב, אלא גם יכולת יצירתית בלתי מבוטלת. רבים רואים בכך איום על העתיד התעסוקתי שלהם ועל החברה בכללותה, וכנראה בצדק.

אך היבט נוסף שלא זוכה למספיק התייחסות לדעתי הוא הצל שמטילים ChatGPT ודומיו על התפיסה שלנו את עצמנו כבני אדם. ייתכן שההצלחה של ChatGPT דורשת מאיתנו לעדכן את המושגים שלנו לגבי מהי ״מחשבה״, מהי ״יצירתיות״ ומהו ״דיבור״. האם ChatGPT חושב ומדבר כמונו, או שמדובר בחיקוי של הדבר האמיתי? מה זה אומר על המחשבה אם מודל AI יכול לחשוב, ומה זה אומר עלינו אם אפשר לעשות חיקוי כל כך קרוב למציאות?

ChatGPT ושפה אנושית

לודוויג ויטגנשטיין (Ludwig Wittgenstein; 1889-1951), אחד מגדולי הפילוסופים של המאה ה-20 ובפרט בהקשר של שפה, קידם את הרעיון של ״משמעות כשימוש״ (meaning as use). הוא התנגד לתפיסה שהשפה היא רק ביטוי מילולי למחשבה שקדמה לה: שקודם ידענו משהו, ורק אז ביטאנו אותו בשפה; שקודם הייתה המשמעות, ואז הומצאה המילה שמתווכת אותה. למרות שבעצמו אחז בתפיסה דומה בתחילת דרכו (כמו רוב בני זמנו), לבסוף הוא הגיע למסקנה שתפיסות כאלה רק מבלבלות אותנו. לשיטתו, המשמעות של המילים מגיעה מהאופן שבו משתמשים בהן. ליתר דיוק, השימושים של המילה הם המשמעות שלה. אין ספק ש-ChatGPT יודע להשתמש במילים, וזה מה שהופך אותו למקרה מסקרן בשביל לבחון את התפיסה הזו.

תהליך האימון של ChatGPT מעלה שאלות לגבי הקשר בין שפה ומציאות. המודל מסוגל לייצר שפה קוהרנטית ובעלת משמעות בהתבסס על תבניות סטטיסטיות ויחסים בין מילים, בלי שבהכרח תהיה לו הבנה של אובייקטים בעולם האמיתי, או של מושגים שהשפה מתייחסת אליהם. זה מדגיש את הרעיון שהקשר בין השפה והמציאות הוא מורכב ולא תמיד פשוט וישיר.

הציטוט לעיל נכתב על ידי ChatGPT עצמו (בתרגום שלי), ומתייחס, בעמימות אופיינית, למתח בין שימוש לבין הבנה. כבני אדם, יש לנו היכרות ישירה עם העולם. אנחנו יכולים לדבר על ״כיסא״ וגם לשבת על הכיסא, להרים אותו, להסתכל עליו, לבנות אותו או להרוס אותו; אנחנו יכולים לדמיין כיסאות, להרהר בהם ולהרגיש כלפיהם דברים. ChatGPT יכול רק לדבר על כיסאות, אבל איכשהו, למרות שאין לו את כל שאר החוויות שיש לנו בהקשר של כיסאות, הוא יכול לדבר עליהם בצורה קוהרנטית לחלוטין, שלא מסגירה כלל את חוסר הניסיון שלו עם העולם האמיתי. אכן, הקשר בין השפה והמציאות הוא ״לא תמיד פשוט וישיר״ (במקור: straightforward).

איך ChatGPT מאומן

ChatGPT הוא מודל AI שמבוסס, בפישוט, על למידה של קשר סטטיסטי בין מילים. המודל בנוי כך שבהינתן טקסט הוא יודע לפלוט ניחוש של המילה הבאה בו. לפני שמאמנים אותו, הוא מנחש מילות ג׳יבריש, אך בתהליך האימון הוא ״קורא״ כמויות אדירות של טקסטים, ומפעיל אלגוריתם למידה שמכוונן אותו בהתאם למילים שמופיעות בטקסט. כך, עם הניסיון, הוא לומד להחזיר מילים שסביר שיופיעו בהמשך לטקסט שנתנו לו. במילים אחרות, בהינתן טקסט מסוים (או שאילתא מצד המשתמש), ChatGPT מחזיר את המילה שהכי סביר, באופן סטטיסטי, שתופיע בהמשך לטקסט הזה. לאחר מכן הוא יחזיר עוד מילה, ועוד מילה, עד שהוא יגיע לעצירה. וזאת בעוד שבשום שלב בתהליך הלמידה אין מי שיעזור לו לראות את הקשר בין המילים ובין אובייקטים בעולם. איש אינו מציג מולו כיסא, או נותן לו לשבת עליו, ועוזר לו לצרף למילה משמעות.

מאז פרסום המאמר השתנה חלק מהתמונה: בספטמבר 2023 הוסיפה OpenAI ל-ChatGPT אפשרות לקבל תמונות ולנהל שיחה קולית, ובמאי 2024 הציגה החברה את GPT-4o, מודל שאומן על טקסט, תמונות ושמע ברשת עצבית אחת. כלומר, ChatGPT כבר אינו לומד מטקסט בלבד, אם כי גם מודלים כאלה אינם מתנסים בעולם באופן גופני.

דיוקן בסגנון ציור קלאסי של רובוט שפניו מאחורי מסגרת והוא אוחז מכחול
איור: דותן רייס באמצעות DALL-E 2

בחלק גדול מהגותו, ויטגנשטיין מנסה להפריד בין הפרקטיקה לבין מה שעומד מאחוריה, שהוא בלתי נגיש. ChatGPT הוא מקרה המבחן האולטימטיבי לגישה שלו, בכך שהפרקטיקה שלו – הכתיבה – דומה מאוד לשלנו, בעוד שאנחנו יודעים שמה שעומד מאחוריה אינו אנושי. אם המשמעות היא אכן בשימוש, אז אין כל הבדל בין אמירה של אדם לאמירה של AI.

עקיבה אחר כלל

באחד החלקים החשובים בספרו חקירות פילוסופיות (Philosophical Investigations; הוצאת מאגנס, 2013), ויטגנשטיין עוסק ב״עקיבה אחר כלל״ (rule-following; סעיפים 138-242). הוא טוען שם שבעוד שנדמה לנו לפעמים שאנחנו יכולים להקיף משהו במחשבה, למשל שיר, פעולה מסוימת או את מושג האינסוף, למעשה אנחנו לא יכולים (או צריכים) להחזיק את הדבר כולו בבת אחת. מה שיש לנו הוא היכולת להתקדם צעד אחר צעד. אנחנו יודעים, אחרי שזמזמנו את הבית הראשון, מה השורה הראשונה של הפזמון. אנחנו יודעים לקחת כל מספר ולהוסיף לו 1. אנחנו יודעים, בהינתן שיחה עם מישהו, להגיד את המשפט הבא. זאת המשמעות של להכיר שיר, להבין את האינסוף ולדעת לנהל שיחה. כך, כשאנחנו מבינים נושא מסוים, כשאנחנו יודעים משהו, הדבר שאותו אנחנו יודעים הוא הכלל שאנחנו עוקבים אחריו.

מטענותיו של ויטגנשטיין משתמע, להבנתי, שמה שמאפיין אותנו הן הדיספוזיציות (dispositions) שלנו, כלומר הנטיות להגיב באופן מסוים. יש לנו מכשיר מנטלי מסוים שבהינתן מצבים שונים מוציא פלטים שונים. אם המכשיר הזה יודע להוסיף 1 לכל מספר, האדם מבין את המושג ״אינסוף״. אם הוא יודע להמשיך את השיר, הוא מכיר את השיר. אם הוא כותב את השורה הבאה בהוכחה, הוא מבין מתמטיקה. אבל ויטגנשטיין לא דמיין אותנו כאוטומטים. יש לנו גם עולם מנטלי, יש לנו חוויות פנימיות ורגשות; הם פשוט לא חלק מהניתוח של איך שאנחנו משתמשים בשפה.

הבעיה הפילוסופית שמציב ChatGPT נובעת בדיוק מזה שאין לו עולם פנימי שדומה לשלנו, אבל הוא בכל זאת מדבר כמונו. הוא מצליח לעקוב אחרי אותם כללים שאנחנו עוקבים אחריהם, להשתמש בשפה כמונו. אם מקבלים את ההגדרה של ויטגנשטיין של משמעות כשימוש, אין יותר דבר כזה ״חיקוי״ של שפה. מי שיודע להשתמש במילים גם מבין אותן. ואם ChatGPT מבין את המילים מבלי שאי פעם הייתה לו נגיעה לדברים עצמם, מבלי שהוא ראה כיסא, ישב עליו, הרגיש אותו או קיבל ממנו מכה באצבע, במה טובה ההבנה שלנו משלו, אם בכלל? אם אפשר לדעת הכל על העולם רק מתוך למידה של קשרים סמנטיים בין מילים, מה הערך בכל החוויות האלה שצברנו?

איור של ראש רובוט ובתוכו מוח אנושי מחובר לכבלים
איור: דותן רייס באמצעות DALL-E 2

להיות ChatGPT

ChatGPT מאפשר לנו הבנה ברורה יותר של ״משמעות כשימוש״ ושל ההשלכות של הרעיון הזה. אם להבין שפה זה לדעת לדבר (או לכתוב), זה משנה את מה שאנחנו מבינים על עצמנו ועל היכולת שלנו לחשוב. יש לנו דיספוזיציות מסוימות, חלקן מודעות וחלקן לא, ובעזרתן אנחנו יוצרים את השפה תוך כדי דיבור או כתיבה. לעולם הפנימי שלנו אין תפקיד ברור בתהליך הזה. זה לא אומר שהוא לא חשוב לדברים אחרים: רגשות עוזרים לנו לעבד מידע, יש לנו תחושות שמכווינות אותנו לגבי איזה מידע לקבל ולמה להתנגד וכדומה. כל אלה עוזרים לעצב אותנו. אך בהינתן ״שאילתא״, אנחנו שמים את זה בצד ופשוט מתחילים לייצר דיבור.

איך ילדים לומדים לדבר

מעניין להיווכח שתהליך לימוד השפה שלנו אינו מניח הבנה. כאשר ילדים לומדים את המילים הראשונות שלהם, הם לומדים אותן לא דרך הבנה של משמעות אלא דרך שימוש (ויטגנשטיין מתייחס ללמידה של שפה בחקירות פילוסופיות, סעיפים 1-21). הם לומדים שבמצבים מסוימים אומרים דברים מסוימים. אנחנו אומרים להם: ״תגידי אמא. א-מא״. אנחנו מבקשים שישלימו משפטים: ״אחת שתיים שלוש, ידיים על ה-״. אנחנו מלמדים אותם לקשר מצב למילה: ״תגיד ביי״. וזה ממשיך כך שנים רבות. אנחנו אומרים ״בתיאבון״ בלי להרהר ב״משמעות״ של המילה. כך גם עם המילים ״אמֶן״, ״מזל טוב״, ״בהצלחה״. ניתן לומר שאנחנו מלמדים ילדים לעקוב אחרי כללים. הם לומדים באופן סטטיסטי מהי המילה הבאה שצריכה להיאמר.

כמובן, הלמידה של ילדים קשה הרבה יותר מזו של ChatGPT: עולם הגירויים שלהם מורכב ועשיר הרבה יותר, והוא כולל לא רק טקסט. הם צריכים לא רק להבין מה צריך להגיע עכשיו אלא גם איך לבטא את זה ואל מי, ומתי מדברים אליהם. בשביל זה הם אכן צריכים להכיר איך נראה ומרגיש ״כיסא״. הם צריכים את היד שתצביע להם על האובייקט בזמן שהם שומעים את השם שלו. אבל הרבה פעמים אפשר גם בלי זה, וכשמדובר במושגים מופשטים אין אפילו על מה להצביע. במילים אחרות, אנחנו מתחילים מלהבין את השימוש, והקישור המנטלי מצטרף אחר כך, או במקרים מסוימים לא מצטרף לעולם, או נשאר מעורפל.

מחקר שפורסם בפברואר 2024 בכתב העת Science בחן שאלה קרובה בניסוי: וואי קין וונג (Wai Keen Vong), ברנדן לייק (Brenden Lake) ועמיתיהם מאוניברסיטת ניו יורק אימנו רשת עצבית כללית יחסית על 61 שעות של וידאו ושמע ממצלמה שהוצמדה לראשו של ילד אחד בין הגילים 6 ל-25 חודשים. המודל למד לקשר מילים רבות לאובייקטים שהופיעו בחוויה היומיומית של הילד, והחוקרים הסיקו שהיבטים חשובים של משמעות המילים, כפי שהיא מעוגנת בעולם, ניתנים ללמידה באמצעות למידה אסוציאטיבית מהקלט של ילד אחד.

אולי היכולת שלנו להשתמש בשפה פחות קשורה להבנה ממה שאנחנו רגילים לחשוב. אולי כשאנחנו לומדים לדבר, אנחנו בסך הכל לומדים לדבר. לתחושות, לרגשות ולאופי שלנו יש תפקידים אחרים. הדיבור הוא רק פעולה. כשאנחנו מתחילים את הפעולה הזו, אנחנו לא תמיד יודעים איך זה יסתיים ולאן נגיע. לפעמים ברור לנו מה ההמשך של המחשבה, ולפעמים יש חוסר ודאות (מה שבוודאי נכון גם אצל ChatGPT: לפעמים יש מילה אחת עם הסתברות גבוהה, ולפעמים כמה עם הסתברות נמוכה). לפעמים הדיבור שלנו קולח ולפעמים אנחנו נתקעים באמצע, או צריכים לחזור אחורה ולתקן. לפעמים אנחנו מגיעים למסקנות שמפתיעות אותנו. לפעמים אנחנו מגלים שה״שאילתא״ מכתיבה את המסקנות שאליהן נגיע, דבר שגם קורה ל-ChatGPT.

אולי השימוש שלנו בשפה הוא בסך הכל עקיבה אחר כלל. זה כלל שהוגדר על ידי מי שאנחנו והחוויות שלנו, ולכן הוא שלנו, במובן מסוים. אבל התוצאה היא לא ממש שלנו. אולי נכון לחשוב על דיבור יותר כמו על הרגל: ההרגל הוא שלנו, וכשהתוצאות שלו לא טובות, אפשר ורצוי לשקול לשנות אותו.

צלליות של רובוט ואדם מול זריחת השמש
איור: דותן רייס באמצעות DALL-E 2

לחשוב, צעד אחר צעד

כש-ChatGPT ״חושב״, הוא יכול ״לייצר הנחיות מזיקות או תוכן מוטה״ ו״לייצר מידע שגוי״, כפי שהזהירו אותנו באתר של ChatGPT (נכון ל-2023). גם אנשים, כמובן, מייצרים הנחיות מזיקות ותוכן מוטה ושגוי. ברשתות חברתיות, בטוקבקים וגם בוויכוחים שבהם חשוב לנו לנצח. אולי ההבדל בינינו לבין ChatGPT לא גדול כל כך. אנחנו מקבלים קלט כלשהו מהעולם ומתחילים לחשוב בשפה. מה גורם לנו להאמין שהמחשבות שלנו הן בהכרח המחשבות ה״נכונות״? איך אתם יודעים אם התגובה שלכם למאמר הזה היא תגובה נכונה, או מועילה? לפי אילו קריטריונים?

בעבר כתבתי פה על מאמיני הארץ השטוחה שיש להם שיטה מסוימת של רכישת ידע, שבעזרתה הם הגיעו למסקנה שהארץ שטוחה. ניסיתי לטעון שאם הם יבחנו את השיטה עצמה, ולא רק את הטיעונים, הם יוכלו בנקל לראות למה אין סיכוי להצליח עם שיטה כזאת. אבל זה יותר קל להגיד מלעשות, וכנראה שאף ״שטוחיסט״ לא השתכנע.

זה לא בהכרח קל או מובן מאליו למצוא קריטריון אובייקטיבי בשביל לשפוט את המחשבות שלנו, וזו בעיה שמעסיקה בין השאר פילוסופים שמנסים להגדיר מהי אמת, פסיכולוגים שמנסים למצוא דרך מיטיבה לחשוב, הוגים פוליטיים שמנסים לפתח דרכים לגשר על הקיטוב החברתי ועוד. זה אחד הדברים ש-ChatGPT (עדיין) לא יודע לעזור לנו בהם, אבל הוא יכול לתת לנו השראה להיות פחות קנאים לדעות שלנו ולאפשר לנו לראות נקודות מבט שונות. אחר כך נצטרך להחליט בעצמנו אילו מהן טובות יותר. זו (עדיין) האחריות הבלעדית שלנו כבני אדם, ואולי בכך (עדיין) נמצא היתרון של האדם על המכונה.

הכתבה עודכנה בנובמבר 2026 כדי לשקף את הרחבת ChatGPT לקלט של תמונות ושמע (בספטמבר 2023 ובמאי 2024) ומחקר מ-2024 שהראה כי רשת עצבית יכולה ללמוד קשרים בין מילים לאובייקטים מתוך חוויותיו של ילד אחד.

שאלות ותשובות

מהו הרעיון של ״משמעות כשימוש״ של ויטגנשטיין?

לפי ויטגנשטיין, המשמעות של מילה אינה מחשבה שקודמת לה ושהמילה רק מבטאת. המשמעות נובעת מהאופן שבו משתמשים במילה, ובמילים אחרות, השימושים של המילה הם המשמעות שלה.

איך ChatGPT לומד לייצר טקסט?

ChatGPT מבוסס על למידה של קשרים סטטיסטיים בין מילים: במהלך האימון הוא ״קורא״ כמויות עצומות של טקסט ולומד לנחש מהי המילה הבאה הסבירה ביותר. בתהליך הלמידה שמתואר במאמר, אף אחד אינו מקשר עבורו בין המילים לבין אובייקטים בעולם.

מדוע ChatGPT הוא מקרה מבחן לרעיונות של ויטגנשטיין?

הכתיבה של ChatGPT דומה מאוד לכתיבה של בני אדם, אף שמה שעומד מאחוריה אינו אנושי. לכן, לפי המחבר, אם המשמעות נמצאת בשימוש, אין הבדל עקרוני בין אמירה של אדם לאמירה של מודל AI.

מה הקשר בין לימוד השפה אצל ילדים לבין ChatGPT?

לפי המחבר, ילדים לומדים את המילים הראשונות שלהם דרך שימוש ולא דרך הבנה של משמעות: הם לומדים שבמצבים מסוימים אומרים דברים מסוימים. עם זאת, הלמידה של ילדים קשה ועשירה יותר, כי היא כוללת גירויים רבים מלבד טקסט.

מה לפי המאמר עדיין מבדיל בין בני אדם לבין ChatGPT?

לפי המחבר, ChatGPT עדיין אינו יודע לעזור לנו למצוא קריטריון אובייקטיבי לשיפוט המחשבות שלנו. ההחלטה אילו נקודות מבט טובות יותר נשארת באחריות הבלעדית של בני האדם.

הערות

  • במאמר זה לקחתי את הפילוסופיה של ויטגנשטיין כדבר נתון. התפיסה שלו הייתה דומיננטית למדי נכון ל-2023, אך (כמו לכל תפיסה פילוסופית) יש לה מתנגדים עם דעות שונות. למבוא מוצלח על הפילוסופיה של ויטגנשטיין ופילוסופיה של השפה בכלל: Contemporary Analytic Philosophy / Milton K. Munitz.
  • חואן לואיס גסטאלדי (Juan Luis Gastaldi) הוא פילוסוף והיסטוריון של המדע שבין השאר עוסק בהשלכות האפיסטמולוגיות של AI על עולם המתמטיקה, והרצאה שלו בנושא היוותה השראה חשובה לפוסט.
  • הציטוט של ChatGPT במאמר הגיע כתשובה לשאילתא ״Explain how chatGPT was trained״ ואז ״Relate that to philosophy of language and meaning״. האם הצלחתם לקבל ממנו תוצאות שונות ומעניינות בנושא?

עוד בנושא באתר הידען

9 תגובות

  1. נוצת ציפור שעפה ברוח
    מצאה חברה בציפור קטנה
    שמשתעשעת בתפיסתה
    מלמדת אותה לעוף ולשיר,

    שיר של חיות וטבע
    שיר של אהבה
    שיר של חופש ואומץ
    שיר על נוצה וציפור,
    נוצת הציפור הייתה לבד
    בעולם הרחב והגדול
    אך כשראתה את הקטנה
    חייכה לה בידידות ובלב שמח.

    נכתב לבקשתי מ CHAT GPT של מיקרוסופט שיכתוב לי שיר קצר שיש בו את המילים נוצה ציפור..

  2. שמוליק,
    זה נכון, הטענה שלי בעצם רלוונטית רק לתקשורת כתובה, שזה הדבר היחיד שGPT יודע, וזו תקשורת שלא מתכתבת באופן ישיר עם דברים בעולם (כמו התקשורת בינינו כרגע).
    מה שאתה טוען לגבי הכיסא זה שGPT משתמש במילה ״כיסא״ באופן אחר, ואם זה באמת נכון אז גם לפי ויטגנשטיין הוא מבין את המילה באופן (קצת) אחר, אבל אני לא בטוח שזה נכון שהוא לא יידע להגיד שפח וענף אלה דברים שאפשר לשבת עליהם.

  3. אני לא פרופסור, ואני לא יודע איך אתה מגדיר ״יצירתיות״, אבל למה לא?

  4. האם יש מקום, פרופסור דותן רייס, לדבר על "יצירתיות" (אנושית או של מערכת AI) שלא בהקשר של "כושר המצאה"?

  5. מאמר מרתק.
    יש לי שתי הערות שאולי גם מרמזות בכל זאת על הפער בין אינטלגנציה טבעית למלאכותית.
    1. ויטגנשטיין אמנם דיבר על המשמעות כשימוש אך לא התכוון לשימוש בשפה במנותק מהמציאות. להיפך, בכדי להבין את המשמעות צריך להתבונן בשימוש בשפה בתוך הסיטואציה, במציאות היומיומית שבה נעשה השימוש המסויים. שפה לכן, קשורה קשר הדוק לצורת החיים. הסטטיסטיקה לא משקפת את העושר העצום של מצבים במציאות וקל אולי להבין זאת מהדוגמה הבאה: על השאלה מה כדאי לעשות אם פורצת שריפה בחדר בו אני נמצא – ה GPT יפרט את הצעדים האפשריים בצורה טובה.
    אבל אם אכן תפרוץ שריפה בחדר ה GPT לא יצעק בקול "צא מהר מהחדר!" כפי שכל אדם עם מעט "שכל ישר" היה עושה.
    2. במושגי השפה היומיומית קיימת עמימות במובן שקשה למצוא הגדרה מדויקת למושג כך שתכיל את כל האובייקטים ששייכים למושג ורק אותם (ע"ע קבוצה בתורת הקבוצות).
    אפשר לראות זאת למשל עם המושג "כסא".
    האם כסא הוא מה שצורתו 4 רגליים, מושב ומשענת או אולי כל מה שאפשר לשבת עליו ? אף אחד מההגדרות לא כוללת וממצה.
    העמימות הזו בשפה מאפשרת את הגמישות בשימוש ע"פ מצבי מציאות שונים וגם חדשים.
    כך פח, ענף של עץ או מזוודה יכולים להיות כסא במידת הצורך. ה GPT למשל, יתקשה להציע ענף של עץ ככסא אם סטטיסטית השימוש הזה נדיר או לא קיים.
    שתי ההערות מצביעות על פער בין 'הבנה' של AI לבין 'הבנה' של בינה טבעית לפחות כאשר מדובר ביחס בין השפה למציאות. זה גם יכול להסביר מדוע ה GPT מייצר תשובות כוזבות בכזו קלות.

  6. חלילה לי לזלזל בויטגנשטיין. הוא סבר כי על הפילוסופיה לקבוע תחומי גבול באשר לסיפרת הויכוח בתחומי מדעי החיים למיניהם. לדידו הפילוסופיה אינה גוף של דוקטרינות אלא משהו פעיל המובסס על הלוגיקה. בסופו של דבר הוא הגיע למסקנה כי
    “What can be shown cannot be said” (ראה: Tractatus Logico-Philosophicus מאת ויטגנשטיין פרקים 4.005 – 4.112). אולם טענתי היא שאין חייבים לתחום תחום החשיבה של מה מקובל ומה לא, אלא לפרוץ את המסגרת ולהוכיח את הכשלים שלה וזאת עושים באמצעות דברים החורגים מגדר ״הרגיל״ למשל זנבות שמנים, בדומה להוגים והמדענים אשר היו גם לפילוסופים הראשונים של מכניקת הקוונטים, הייזנברג, איינשטין ובוהר (ככל הידוע לי איש מהם לא למד בקתדרה לפילוסופיה).

  7. 1 – נניח שיש ישראל ישראלי כזה ובחמישה אתרים שונים כתוב שהוא אנס ורוצח. וישאלו אותך מי זה ישראל ישראלי. לא תגיד שהוא אנס ורוצח?
    2 – נראה לי שאתה קצת מזלזל בויטגנשטיין אם אתה חושב שהוא היה זורק את התיאוריה שלו לפח אם הוא היה מודע לכך שאפשר לקודד שפה ב0 ו-1. אני לא רואה בזה משהו מאוד משמעותי מבחינה פילוסופית.

  8. חבל לערבב תפוזים ותפוחים. ויטגנשטיין בזמנו לא היה מודע לשפה בינארית של מחשב עליו מבוסס ה ChatGTP, קרי 0 או 1. הבינה המלאכותית מתבססת על סטטסיטקה ואת הסטטיסטיקה קל מאד לעוות. נניח וישנו מאין דהו בשם ישראל ישראלי, איש ישר דרך וזך כשלג. אני יכול לפתוח חמישה אתרים שונים במדינות שונות ולכתוב שאותו ישראל ישראלי הוא אנס ורוצח. התוצאה תהיה שאם ישאלו את ChatGTP מיהו מר ישראלי? ישראלי נקבל תשובה שהאיש אנס ורוצח. על אותו המשקל, ואף חשוב יותר, היא האקראיות. בשפה בינארית אין אקראיות טהורה, רק פסדו-אקראיות, וגם כאן כמו בסטטיסטיקה ניתן לעוות את האקראיות בכך שמוצאים את נקודות החולשה שלה. הלקח נלמד ממאות המילארדים שנמחקו מהשווקים הפיננסים בעקבות מודלים המבוססים על סטטיסטיקות ופסדו-אקראיות ולרוב בגלל מאורעות של זנבות שמנים (התפלגויות זנבות עבים) או גבנוניות (קורטוזיס) גבוהה.

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

אתר זו עושה שימוש ב-Akismet כדי לסנן תגובות זבל. פרטים נוספים אודות איך המידע מהתגובה שלך יעובד.