מ״התיק השחור הקטן״ של סיריל קורנבלות ועד אזהרותיו של קארל סייגן: הטכנולוגיה יכולה להרחיב את יכולותינו, אך כאשר החינוך והתקשורת מוותרים על ידע, הקשר וחשיבה ביקורתית, אנחנו נשארים עם תשובות בלי יכולת להבין אותן * אורן נהרי היה מהמגינים הבולטים של ההשכלה
בהלווייתו של אורן נהרי, שבה נכחתי, שמעתי משפט שנחרת בזיכרוני: אנחנו חיים בעולם שבו המכונות נעשות חכמות יותר והאנשים טיפשים יותר. אני כותב זאת מהזכרון, ואם טעיתי אשמח אם תתקנו אותי.
כשאני כותב ״טיפשים יותר״, איני מתכוון לירידה ביולוגית באינטליגנציה האנושית. הסכנה היא אחרת: אובדן הדרגתי של ידע, מיומנויות, עצמאות ושיקול דעת, משום שהמערכות הסובבות אותנו אינן דורשות עוד שנפעיל אותם. אנחנו יודעים להפעיל יותר מכשירים, אבל מבינים פחות ופחות את העולם שהם יוצרים בעבורנו.
נהרי הקדיש את חייו המקצועיים למאבק באותה הטפשה. הוא לא עשה זאת באמצעות הטפות על טיפשותו של הציבור, אלא בדרך ההפוכה: הוא כיבד את הציבור והניח שהוא מסוגל להבין עולם מורכב.
בתוכניתו האחרונה אמר כי ניסה תמיד להתייחס למאזיניו כאל קהל הראוי לעומק ולא רק לכותרות. זו לא הייתה רק הצהרה על סגנון עיתונאי. זו הייתה עמדה חינוכית ודמוקרטית: בני אדם יכולים להבין, אם מסבירים להם; הם יכולים לשפוט, אם נותנים להם ידע והקשר; והם יכולים להשתתף בשיחה הציבורית, אם לא מרגילים אותם להסתפק בסיסמאות.
המכונה יודעת לענות. אורן נהרי לימד אותנו לשאול.
אורן אהב עובדות, אבל אהב לא פחות סיפורים. הוא התעניין בקומיקס ובקולנוע, קרא ספרים ללא הרף, ובתוך עולמו התרבותי הרחב היה למדע הבדיוני מקום מיוחד. התחומים האלה לא היו מבחינתו מפלט מן המציאות, אלא דרכים נוספות להתבונן בה: לבחון את טבע האדם, את השימוש בכוח ואת המחיר שאנו עלולים לשלם על הטכנולוגיות ועל ההחלטות של ההווה.
במיטבו, המדע הבדיוני עושה דבר דומה לעבודתו של עיתונאי והיסטוריון: הוא מזהה מגמה שכבר קיימת, ממשיך אותה אל העתיד ושואל לאן היא עלולה להוביל. גם משום כך נדמה לי שסיפור מדע בדיוני שנכתב לפני יותר מ־75 שנה מתאים כל כך לדיון במורשתו.
התיק שמחליף את הרופא
המשפט ששמעתי בהלוויה החזיר אותי לסיפור המדע הבדיוני ״התיק השחור הקטן״ מאת סיריל קורנבלות, שפורסם לראשונה ב־1950 ותורגם לעברית בקובץ ״חדירת זמן״.
בעתיד שמתאר קורנבלות הידרדרה רמתה של מרבית האוכלוסייה, ורק מיעוט קטן של אנשים מוכשרים ממשיך לקיים את הציוויליזציה. כדי שגם אנשים שאינם מבינים רפואה יוכלו לשמש רופאים, המיעוט החכם מפתח תיק רפואי שמכשיריו מאבחנים, מחליטים ומבצעים את ההתערבויות בעצמם. הרופא אינו צריך להבין מה הוא עושה. די שיפעיל את המכשיר הנכון.
התיק מגיע בטעות אל העבר ונופל לידיו של רופא שאיבד את מעמדו. בידיו, הכלים העתידיים מחוללים פלאים. אבל האימה האמיתית בסיפור אינה טמונה בטכנולוגיה. להפך, הטכנולוגיה מצוינת. האימה היא בחברה שנעשתה תלויה במכשירים מפני שבני האדם איבדו את הידע ואת שיקול הדעת הדרושים לביצוע עבודתם.
כבר ב־2009 הזכרתי את הסיפור בכתבה ״עידן הבורות – ספר חובה״. כתבתי אז כי המדענים בסיפור נאלצים לפתח מערכות עצמאיות, כדי שגם רופא שאינו מבין דבר ברפואה יוכל להצליח משום שהמכשירים שבתיק עושים בעבורו את העבודה. סיימתי את הפסקה במילים: ״אם תשאלו אותי, אנחנו כמעט בעידן הזה״.
שבע־עשרה שנים לאחר מכן, נדמה שאפשר למחוק את המילה ״כמעט״.
מערכת חינוך של מפעילי מכשירים
״התיק השחור הקטן״ הוא לא רק משל על בינה מלאכותית ורפואה. הוא גם משל על הידרדרותה האפשרית של מערכת החינוך.
מערכת חינוך טובה אמורה להקנות ידע, אך גם ללמד כיצד הידע נוצר, כיצד בודקים אותו, מתי מטילים בו ספק וכיצד מתמודדים עם מצב חדש. מערכת חינוך גרועה מסתפקת בתוצאה הנראית לעין: התלמיד הגיש עבודה, פתר תרגיל, עבר בחינה וקיבל תעודה.
בעידן הבינה המלאכותית אפשר לייצר תוצאה מרשימה בלי לעבור את תהליך הלמידה שהוביל אליה. תלמיד יכול להגיש חיבור רהוט בלי שגיבש טיעון; לפתור בעיה בלי להבין את דרך הפתרון; ולסכם מחקר בלי שקרא אותו. התוצר עשוי להיות מצוין, אבל הידע אינו נמצא אצל התלמיד. הוא נמצא בתוך התיק השחור.
זו אינה עוד נבואה ספרותית בלבד. דוח החינוך הדיגיטלי של ה־OECD לשנת 2026 קובע כי בינה מלאכותית יוצרת עשויה לשפר את ביצועי התלמידים במשימה בלי להביא ללמידה ממשית. תלמידים נעזרים בכלי ומפיקים תוצרים טובים יותר, אך כאשר הכלי נלקח מהם, היתרון נעלם ולעיתים אף מתהפך. הדוח מזהיר מפני העברת המאמץ הקוגניטיבי למכונה, התנתקות מתהליך הלמידה ופגיעה ברכישת מיומנויות.
הבעיה אינה עצם השימוש בבינה מלאכותית. גם מחשבון, מנוע חיפוש וספר לימוד הם כלים המרחיבים את יכולתנו. השאלה היא אם הכלי מסייע לאדם לחשוב או פוטר אותו מן הצורך לחשוב.
בית הספר אינו צריך להכשיר ילדים היודעים להפעיל את התיק השחור הקטן. הוא צריך להכשיר בני אדם שיודעים מתי התיק טועה, מדוע הוא טועה ומה לעשות כשהוא מפסיק לעבוד.
החשש של סייגן
קארל סייגן הזהיר מפני אותה תהום בספרו ״עולם רדוף שדים – המדע כנר בעלטה״. הוא לא התנגד לטכנולוגיה; הוא היה אחד ממנגישי המדע והקדמה הגדולים בדורו. חששו היה מפני ציוויליזציה שכל מערכותיה החיוניות תלויות במדע ובטכנולוגיה, בעוד שרוב אזרחיה ומנהיגיה אינם מבינים אותן.
״המדע איננו רק מצבור של ידע; המדע הוא גם אורח מחשבה״, כתב סייגן. כאשר הציבור מאבד את היכולת להבין ראיות ולהציג שאלות מושכלות לבעלי השררה, העוצמה הטכנולוגית והפוליטית מתרכזת בידי מעטים.
כבר בפרק הראשון בסדרה ״מדינה רדופת שדים״, שפרסמתי ב־2004, קשרתי בין אזהרתו של סייגן לבין הידרדרות החינוך המדעי. ב־2025 חזרתי לנושא במאמר ״נבואתו של קארל סייגן: כשהמדע מתקפל בפני הפופוליזם״. הפער בין כוחה הגובר של הטכנולוגיה לבין היחלשות ההבנה המדעית כבר אינו איום עתידי. הוא נעשה אחד הכוחות המעצבים את הפוליטיקה, הכלכלה והתקשורת.
מי שאינו מבין כיצד פועל האלגוריתם הממיין בעבורו את המציאות מתקשה לדעת מה הוסתר ממנו. מי שאינו מבין כיצד פועל המדע עלול לחשוב שחוות דעת של מומחה היא רק עוד דעה. מי שאינו יודע להבחין בין ראיה לבין טענה נעשה טרף קל למכחישי אקלים, למתנגדי חיסונים, למפיצי קונספירציות ולפוליטיקאים הממציאים עובדות המתאימות לצורכיהם.
במאמר ״ההטפשה ניצחה את הדמוקרטיה״ טענתי שהטפשה אינה רק כישלון חינוכי. היא גם כלי פוליטי. ציבור המתקשה לבדוק מידע ולהבין מערכות מורכבות תלוי יותר במי שמספק לו תשובות פשוטות, אויבים ברורים ומציאות חלופית.
לא ירידה באינטליגנציה, אלא אובדן כשירות
אין צורך לקבל את ההנחה הביולוגית והבעייתית של קורנבלות, שלפיה המין האנושי נעשה פחות אינטליגנטי. הבעיה בת זמננו היא תהליך של הטפשה תפקודית: אובדן הדרגתי של ידע, מיומנויות, עצמאות ושיקול דעת משום שהמערכות סביבנו אינן דורשות עוד שנפעיל אותם.
מחקר שהוצג בכנס CHI ב־2025 ובחן 319 עובדי ידע מצא שככל שהמשתמשים בטחו יותר בתשובות הבינה המלאכותית, כך הפעילו פחות חשיבה ביקורתית. החוקרים מצאו גם שהבינה המלאכותית אינה מבטלת לחלוטין את החשיבה, אלא משנה את תפקידה: במקום ליצור ולנתח מאפס, המשתמש נדרש לבדוק את התשובה, לשלב אותה בעבודתו ולפקח על התהליך.
אבל כדי לבדוק תשובה צריך ידע קודם. אדם שאינו מכיר את התחום אינו יודע מה עליו לבדוק.
בתחום הרפואה, מאמר שפורסם ב־2026 בכתב העת The British Journal of Psychiatry מזהיר מפני אובדן מיומנויות של רופאים שיתרגלו לקבל המלצות ממערכות בינה מלאכותית לפני שפיתחו ניסיון קליני המאפשר להם לזהות מתי המערכת טועה. החשש חמור במיוחד במצבי חירום, כאשר הכלי אינו זמין או נתקל במקרה שלא הופיע בנתוני האימון שלו.
זהו ״התיק השחור הקטן״ במובנו המילולי ביותר: מערכת המסייעת לרופא, אך עלולה למנוע ממנו להפוך לרופא המסוגל לפעול גם בלעדיה.
עם זאת, גם כאן אסור לגלוש לפחד עיוור מן הטכנולוגיה. בכתבה על ״מערכת 0״ – תהליך חשיבה חיצוני למוחנו כתבתי שבינה מלאכותית עשויה להרחיב את יכולת החשיבה האנושית. התנאי הוא שהיא תשפר את האוטונומיה הקוגניטיבית שלנו ולא תפגע בה.
האיום אינו מכונה היודעת יותר מאיתנו. האיום הוא חברה המחליטה שמשום שהמכונה יודעת, בני האדם אינם צריכים עוד ללמוד.
הציוויליזציה השברירית של אורן נהרי
נהרי עצמו כתב לא פעם על שבריריותה של הציוויליזציה. בטור שפרסם ב־2017, ״בסוף כולנו רחוקים רק שש ארוחות חמות מלאכול אחד את השני״, הוא תיאר עולם שבו המערכות המאפשרות את חיי היום־יום קורסות. בתוך הדיון הזה שאל שאלה פשוטה ומטרידה: ״יש פה מישהו שיודע במקרה איך לזקק דלק?״
כולנו משתמשים בדלק, בתרופות, בחשמל, בתקשורת ובמחשבים. מעטים מאיתנו יודעים לייצר אותם, לתקן אותם או אפילו להבין עד הסוף כיצד הם פועלים. זו חלוקת עבודה הכרחית שאפשרה את הציוויליזציה המודרנית, אבל היא גם יוצרת תלות עצומה במערכות ובמומחים. כאשר גם החינוך, התקשורת והשלטון חדלים להעניק לציבור את הכלים להבין את המומחים ולפקח עליהם, התלות הופכת לחוסר אונים.
נהרי חשש גם ממשבר האקלים, מקריסת הסדר הבינלאומי ומשובן של האוטוקרטיות. אבל נדמה שהחוט המקשר בין דאגותיו היה הזיכרון ההיסטורי. הוא ידע שהקדמה אינה מובטחת, שהדמוקרטיה אינה מצב טבעי ושחברה שאינה לומדת מן ההיסטוריה עלולה לחזור על אסונותיה.
זו הסיבה שעבודתו הייתה חשובה כל כך. אורן לא היה רק מאגר של פרטים, אף שידע כמות עצומה של פרטים. הוא ידע לחבר אותם. הוא לקח אירוע שהתרחש היום והראה את השורשים ההיסטוריים, המדעיים והתרבותיים שלו. הוא לא סיפק לקהל תיק שחור ובו תשובה מוכנה; הוא פתח את התיק, פרש את הכלים והסביר כיצד משתמשים בהם.
להמשיך לשאול
המכונות אכן נעשות חכמות יותר. הן כותבות, מאבחנות, מתרגמות, מתכנתות ומייעצות. הן עשויות לשפר את הרפואה, המחקר והחינוך ולהנגיש ידע שהיה שמור בעבר למעטים.
אבל אם במקביל נחליש את בתי הספר, נחליף לימוד בהפקת תוצרים, נוותר על הוראת מדעים וחשיבה ביקורתית ונרגיל את הציבור לקבל תשובות בלי לבדוק מי ניסח אותן ועל סמך אילו ראיות – נגשים את נבואותיהם של קורנבלות וסייגן.
האנשים לא יהיו בהכרח פחות אינטליגנטים. הם פשוט יחיו בתוך עולם שהם מסוגלים להפעיל אך אינם מסוגלים להבין.
בדבריו האחרונים למאזיניו ביקש אורן נהרי להמשיך להסתכל, להקשיב, לשאול שאלות ולא לקחת דברים כמובנים מאליהם. בכך נתן לנו את התרופה לתיק השחור הקטן.
המכונה מבטיחה שלא נצטרך לדעת. מורשתו של אורן נהרי דורשת מאיתנו להמשיך ללמוד.
שאלות ותשובות
מהו ״התיק השחור הקטן״?
זהו סיפור מדע בדיוני שפרסם סיריל קורנבלות ב־1950. הוא מתאר תיק רפואי עתידני שמכשיריו מסוגלים לאבחן ולטפל בחולים, כדי שגם אנשים שאינם מבינים רפואה יוכלו לתפקד כרופאים.
כיצד הסיפור קשור לבינה מלאכותית?
בשני המקרים מערכת טכנולוגית מבצעת משימות שבעבר דרשו ידע ומיומנות אנושיים. הסכנה אינה בעצם הסיוע, אלא במצב שבו בני האדם חדלים לרכוש את הידע הדרוש לבדיקת המערכת ולפעולה בלעדיה.
האם בינה מלאכותית בהכרח פוגעת בלמידה?
לא. מחקרים ודוח ה־OECD מראים ששימוש פדגוגי מתוכנן יכול לשפר למידה, יצירתיות וחשיבה ביקורתית. הפגיעה מתרחשת כאשר הבינה המלאכותית מחליפה את המאמץ הקוגניטיבי במקום לתמוך בו.
מה הקשר בין הנושא למורשתו של אורן נהרי?
נהרי התעקש על ידע, הקשר היסטורי, מורכבות ושאלת שאלות. בשידורו האחרון ביקש מן המאזינים להמשיך להסתכל, להקשיב ולא לקבל דברים כמובנים מאליהם – בדיוק הכישורים הנחוצים מול מערכות המספקות תשובות מהירות.
לפרסום המקורי: פתיחת הפרסום המקורי
