כיצד סימני כביש עתיקים ועקרונות מודרניים של בינה מלאכותית פוגשים זה את זה בכביש ובעולם העבודה
המכונית האוטונומית עומדת ובוחנת את סביבתה. המנוע פועל. היא מתקדמת סנטימטר או שניים, ועוצרת. היא עושה רברס, שוב לסנטימטרים בודדים, ומפסיקה מיד. אילו לא היינו יודעים שהיא אוטונומית – מכונה ללא-נהג, ובוודאי ללא-רגש – היינו כמעט אומרים עליה שהיא מפחדת מדבר-מה. מגורם נסתר מעין, שרק היא מודעת לקיומו.
רק במבט מקרוב אפשר לראות את הסיבה לחששותיה-לכאורה של המכונית: מישהו שרטט מסביבה מעגל קסמים ממלח ים. זוהי מסורת קדומה ומוכרת היטב. כבר לפני יותר מחמשת-אלפים שנים אפשר היה למצוא עושי-נפלאות בשומר ובאשור, שפיזרו קמח או מלח על האדמה כדרך לעצור מפלצות ואת כוחות האופל.
היום, אותה טכניקה משמשת לעצירת רכבים אוטונומיים.
זה, לפחות, הסיפור שמופץ כרגע ברשת החברתית. האמת, כרגיל, פשוטה יותר – אבל פותחת צוהר לעולם מעניין עוד יותר. כזה בו אנו צריכים לעבוד עם כוחות שאיננו מבינים לגמרי, ונאלצים לדבר אליהם בשפה שהם מבינים, במקום שהם יתגמשו לכיווננו.
הסיפור מאחורי מעגל הקסמים
האומן ג'יימס בריידל יצר את מעגל הקסמים המלוח בשנת 2017, כשהוא חמוש בכוח-על: הבנת הפסיכולוגיה של הבינה המלאכותית. הוא ידע שהרכבים האוטונומיים 'חונכו' לציית לחוקי התנועה במדינה הרלוונטית, שקובעים שנהג יכול לחצות פס אחיד על הכביש, אך רק כשאותו פס אחיד מלווה בפס מקווקו מהצד הקרוב לנהג. ומה אם הפס המקווקו מופיע מהצד המרוחק מהנהג? במקרה זה, הנהג יעבור על החוק. וכך, כשהרכב האוטונומי מוצא עצמו מוקף במעגל עם פס אחיד ופס מקווקו מצידו השני, הוא נשאר במקום. הוא כלוא, לכוד.
כמובן, אדם שלא היה מכיר את חוקי התנועה הללו, לא היה מבין מדוע הרכב מגיב דווקא לצורה שרירותית זו של המעגל. מדוע פס מקווקו חיצוני עוצר את הרכב, ופס מקווקו פנימי מאפשר לו לנסוע? ככה. קסם.
הסיפור הזה עשוי להישמע מצחיק, אבל כדאי שנהיה מודעים אליו מכיוון שכולנו מתחילים לעבוד כיום עם טכנולוגיה 'קסומה'. כלומר, כזו שאיננו מבינים עד הסוף. וההשלכות, כפי שאנו מתחילים לגלות יכולות להתפוצץ בפנינו.
הבינה המלאכותית שפיטרה את מחלקת ה- HR
סיפור שהתפרסם בשנה האחרונה במגזין Economic Times מדגים את הסכנה בהסתמכות נטולת-בינה על בינה מלאכותית. אחד המנהלים בחברה עלומת-שם לא הצליח להבין מדוע מחלקת משאבי האנוש אינה מסוגלת למצוא מועמד הולם למשרה שנפתחה. הוא חיכה חודש, חודשיים, שלושה – ולבסוף החליט לעשות מעשה: הוא הגיש את קורות החיים של עצמו כמועמד המושלם, עם שם מזויף.
וגם הוא נדחה. בצורה אוטומטית.
"[הם] אפילו לא הסתכלו בקורות החיים שלי." קבע בכאב.
הסיבה? כפי שאתם יכולים לנחש – בינה מלאכותית. מחלקת משאבי אנוש באותה חברה בחרה להסתמך על בינה מלאכותית שתערוך עבורה את הסינון הראשוני. לרוע מזלם, הם עשו שגיאה קלה בהגדרת המיומנויות הנדרשות מצד העובדים, כך שעובדים עם מיומנויות מתאימות – סוננו החוצה עוד בשלב הראשון בתהליך.
הטעות, יש לציין, הייתה מטופשת. מאד. המנהל רצה עובדים בעלי ניסיון ב- Angular, שהיא תשתית לפיתוח אפליקציות רשת. ברם, מחלקת משאבי אנוש הגדירה שלמועמדים צריך להיות ניסיון ב- AngularJS – גרסה קדומה יותר של אותה התשתית, שמעטים מאד משתמשים בה. הבינה המלאכותית, נטולת ההיגיון וההבנה, לא 'חשבה' פעמיים לפני שפסלה מועמד-אחר-מועמד, חודש-אחר-חודש. אנשי משאבי האנוש, שהיו אמורים להיות בעלי ההיגיון הבריא, לא טרחו להפעיל אותו. קשה למצוא הסבר אחר למחדל. העובדים האנושיים סמכו על הבינה המלאכותית, והלכו לשחק מטקות על החוף.
ואז גילה המנהל את מה שקרה, ובני-האדם באו על עונשם.
"חצי ממחלקת משאבי אנוש פוטרה בשבועות שלאחר מכן." שיתף המנהל. ולמרות שברור שצריך ללמד עובדים לעבוד עם ולצד בינה מלאכותית, קשה לחשוב על פיטורים ראויים יותר. בני-האדם במקרה זה ויתרו לגמרי על שיקול דעתם העצמאי ובחרו להעביר את האחריות המלאה לידי הבינה המלאכותית, מבלי שערערו עליה ולו לרגע.
הצרה היא שמקרים כמו זה צפויים להתרחש יותר ויותר.
המנהלים מאמצים בשמחה
דו"ח חדש של ה- OECD שיצא בפברואר 2025 סקר את דפוסי השימוש בבינה המלאכותית בקרב מנהלים, ובמיוחד את הדרך בה השתמשו בה כדי לקבל החלטות. מסתבר שמדובר בפרקטיקה נפוצה: תשעים אחוזים מכלל המנהלים שנסקרו בארצות הברית, משתמשים בבינה המלאכותית בעבודתם. באירופה מספר המשתמשים יורד 'רק' ל- 79 אחוזים. תשעים אחוזים מהמנהלים בארצות הברית, אגב, נעזרים בכלים אוטומטיים לביצוע הערכות עובדים. יותר ממחצית מהמנהלים מנטרים את התוכן וטון הדיבור של המשתתפים בשיחות, ישיבות ואימיילים.
על פניו, הבינה המלאכותית הופכת את עבודת הניהול לקלה ויעילה יותר. רוב המנהלים (כמעט תשעים אחוזים מהמנהלים בארצות הברית!) קבעו שהיא משפרת את רמת קבלת ההחלטות שלהם, ועל הדרך גם מגדילה את הסיפוק שהם חווים מעבודתם. הקוץ שבאליה הוא שכמעט שני-שליש מהמנהלים אינם בטוחים עד כמה הם יכולים לסמוך על הבינה המלאכותית שלא תעשה טעויות. בארצות הברית, חמישים ושמונה אחוזים מהמנהלים נתקלו בעצמם במקרים בהם סברו שהבינה המלאכותית אינה מתייחסת כראוי לעובדים ואינה לוקחת בחשבון את בריאותם הנפשית והגופנית.
אחת המסקנות המדאיגות ביותר מהסקר היא שרוב המנהלים מסכימים שהשימוש בכלי הבינה המלאכותית החדשים מחייבים אותם לרכוש כישורים חדשים מסוימים. אלו כוללים, למשל, מיומנויות דיגיטליות, יכולות ניתוח מידע מתקדמות, ויכולות פתרון בעיות. בלי המיומנויות האלו, המנהל כפוף לחסדיה של הבינה המלאכותית.
מנהל שאינו חמוש ביכולות האלו, ומקבל לידיו כלי בינה מלאכותית מתקדמים, דומה לילד עם אקדח טעון, או לשוליית קוסם עם המטאטא-המונפש הראשון שלו. הוא אינו יודע למה הבינה המלאכותית מגיבה בדרך אחת לפס אחיד, ובדרך אחרת לפס מקווקו. הוא משתמש בכלי שניתן לו, ומקווה לטוב. בטווח הקצר, זה יכול לעבוד. בטווח הבינוני והארוך – זה מתכון לאסון.
אז מה עושים?
הצד החיובי הוא שחברות רבות מבינות שהן נותנות למנהלים שלהן טכנולוגיה שמשולה לקסם, ושאותו קסם יכול להועיל ולהזיק במידה שווה. סקר ה- OECD מראה שכמעט כל החברות – 89 אחוזים מתוכן – פיתחו מנגנונים שאמורים לקדם את השימוש החיובי, הבטוח והאמין בכלי הבינה המלאכותית.
נכון, במקרים רבים אותם "מנגנונים" הם בעצם guidelines, או הנחיות כלליות לגבי השימוש בבינה המלאכותית. זה, כמובן, לא מספיק בפני עצמו. אבל זוהי רק ההתחלה. בחלק מהחברות מקובל לבצע ביקורות שגרתיות כדי לוודא שנעשה שימוש נכון בבינה המלאכותית. ב- 35 אחוזים מהחברות אפשר למצוא גם "מנהל או ועד אתיקה", שיוודא שהבינה המלאכותית לא תסית מנהלים אל הצד הרע של הכוח. ביותר ממחצית מהחברות קיימים מנגנונים שמאפשרים לעובדים לדווח או להתלונן על שימוש לרעה בבינה המלאכותית.
וכל זה נפלא ונהדר. באמת. המנגנונים האלו יצמצמו את הסיכון לקבלת החלטות שגויה מצד הבינה המלאכותית, ומה שחשוב יותר – את הסכנה שמנהל כלשהו יסתמך עליה בלי לחשוב.
אבל מה נעשה כשהמנהלים האנושיים עצמם יצאו מהאירוע?
בואם הקרב של הארגונים האוטונומיים
בשנים הקרובות אנו יכולים לצפות להגחתו של סוג חדש של ארגון: הארגון האוטונומי. ארגון שכזה יופעל רובו ככולו על-ידי בינה מלאכותית. המנכ"ל? בינה מלאכותית. הסמנכ"לים? בינה מלאכותית. מנהלי דרג הביניים? בינה מלאכותית. והעובדים על הקרקע? טוב, אולי שם עוד נמצא בני-אדם. שינוהלו, כמובן, על-ידי בינה מלאכותית.
ארגונים שכאלו יוכלו להתחרות בחברות הקיימות כיום, לפעמים בהצלחה כמעט-מביכה עבור בני-האדם. המנכ"לים שלהם יוכלו לקבל החלטות אסטרטגיות מוצלחות יותר מאלו של מנכ"לים אנושיים. מנהלי הביניים שלהם יוכלו להיות קשובים יותר, רגישים יותר ומודעים יותר למצבם הרגשי של העובדים האנושיים, מכל מנהל אנושי. ואין צורך אפילו להסביר שעלות הפעלת הבינות המלאכותיות הללו תהיה נמוכה הרבה יותר מזו של השכר הרגיל למנהלים.
כל זה נשמע טוב ויפה, אבל קשה שלא לתהות: מי ערב לנו שאותם מנהלים מלאכותיים יקבלו החלטות שישרתו את החברה האנושית בכללותה?
יש הטוענים שמטרתה של חברה מסחרית בשוק קפיטליסטי היא רק להעשיר את כיסיהם של המשקיעים ובעלי המניות. נודה באמת: יש בכך מן הצדק. חברות מסחריות פועלות לעיתים כנגד האינטרס הציבורי הרחב יותר, רק כדי להכניס עוד כסף לכיסיהם של המנהלים, הבעלים והמשקיעים. סביר להניח שכך יפעלו גם המנכ"לים המלאכותיים במקרים רבים. ואם הם יהיו באמת יעילים ומוצלחים יותר מעמיתיהם האנושיים – הרי שהם עלולים להסב נזק גדול, בלי שמץ של פיקוח אנושי.
איך מתמודדים עם הצרה העתידית הזו? שאלה טובה. קשה למצוא מראש פתרון לבעיות שעדיין אינן כאן. די לומר שהוגי דעות בתחום הבינה המלאכותית מנסים למצוא תשובות לשאלות הללו, אך איש אינו בטוח עדיין מה יעבוד ומה לא.
בינתיים, נמשיך לעקוב אחר המתרחש בתחום הבינה המלאכותית, ונקפיד על עקרון אחד: לא להוריד ממנה את העיניים לרגע. לא להניח שמדובר בקסם שאין לנו סיכוי להבינו, אלא להמשיך לדרוש מהמנהלים האנושיים לעבוד איתו בזהירות ובחשש מתמיד.
ואם הם לא יודעים איך לעשות את זה?
במקרה זה, אולי עדיף שלא לתת להם אקדח טעון בידיים.
עוד בנושא באתר הידען:
