האתיקה של ה-AI: "להשאיר את האדם בלופ"

כך ייעצה מריסל קהבוג, מנהלת התכנון הראשית בסאפ, בהרצאה על האתיקה של התכנון בכנס 2018 SAPPHIRE ● עוד אמרה כי "יש עוד הרבה עבודה כדי להפוך בינה מלאכותית למוכחת מדעית – כלומר, שניתן לייצר באמצעותה, למדוד אותה ולהסביר אותה"

תבונה מלאכותית. איור: shutterstock
תבונה מלאכותית. איור: shutterstock

להשאיר את האדם בלופ, זו אחת מהעצות שנתנה מריסל קהבוג, מנהלת התכנון הראשית בסאפ (SAP), בהרצאה על האתיקה של התכנון בכנס SAPPHIRE 2018, שהתקיים לאחרונה באורלנדו, פלורידה. אבל לדבריה, קודם כל, כדי שנוכל לסמוך על הבינה המלאכותית, עלינו להפוך אותה מאלכימיה למוכחת מדעית – כלומר שניתן לייצר באמצעותה, למדוד אותה ולהסביר את החלטתה.

"טכנולוגיה תמיד הביאה שינוי לחברה שלנו – עוד מאז המהפכה התעשייתית. גם אז התרחשה היעלמות של עבודות קיימות בגלל עבודות חדשות וטובות יותר. השגרה הזו נמשכה עד היום", אמרה קהבוג.

"האם זה יהיה שונה עם עלייתה של הבינה המלאכותית?" שאלה קהבוג. "כיום יש הרבה עבודות בעלות דרישה גבוהה, שלא היו בעבר, כמו גם הדרישות הגבוהות שלא היום בעבר. בעתיד ידרשו כישורים חדשים לעבודות שאנחנו לא מכירים בכלל. איזו עצה תתנו לילדיכם כדי להכין אותם לשוק העתיד? השינוי הוא מהיר, ואגי'ליות היא הכישרון הכי טוב שתוכלו לסגל לעצמכם, ובנוסף, למידה לאורך כל החיים זה הנורמלי החדש", קבעה.

"כולם חוששים ש-AI תשתלט על העבודות הקיימות ותדיח את כולם החוצה. אנחנו יכולים להשתמש בטכנולוגיה בכדי לסייע לנו להתכונן לעבודה משותפת עם מכונות בכל פרמטר עסקי. אנחנו בסאפ מאמינים כי אנו חייבים לספק את הכלים כדי שהמשתמשים יוכלו לנצל את היכולות של בינה מלאכותית בלי הסיכונים.

עם פתרונות חכמים המבוססים על לימוד מכונה ומציאות רבודה, נוכל לדמיין עתיד שבו טכנולוגיה תומכת בהתפתחות העבודה, ועוזרת לנו באופן אישי להתפתח על בסיס הכישורים שלנו, כשהיא מסייעת לנו ללמוד עוד ולעבוד בביטחון במסגרת העבודה שלנו. זה טוב לנו ולארגון. כך נלמד גם כישורים חדשים. נותנת גישה למידע פנימי טוב יותר ולדטה טובה יותר. בינה מלאכותית שנבנה נכון יכולה להצעיד אותנו בדרך הנכונה היום".

מריסל קהבוג, מנהלת התכנון הראשית בסאפ. צילום: אבי בליזובסקי
מריסל קהבוג, מנהלת התכנון הראשית בסאפ. צילום: אבי בליזובסקי

"אספקט חסר והוא אמון"
"יש עוד הרבה עבודה כדי להפוך בינה מלאכותית למוכחת מדעית – כלומר, שניתן לייצר באמצעותה, למדוד אותה ולהסביר אותה", אמרה קהבוג, "אבל גם כאשר זה יהפוך להוכחה מדעית, יש אספקט חסר והוא אמון. אנחנו חייבים לייצר מערכת יחסים עם AI המבוססת על אמון. אנחנו צריכים ליצור מערכות AI שיהיו עקביות, אמינות, ומהימנות".

"כשמישהו עובד עם מערכות חכמות של בינה מלאכותית הוא צריך לדעת שהנתונים שהוא מקבל מהן מבוססים על מידע מהימן. הסבר במערכת שיהיה מסוגל לפרט למשתמש כיצד היא הגיע למידע שהיא מציגה, יעזור למשתמש לדעת שהוא מקבל את ההחלטה הנכונה. כמו כן, אם למערכת אין מידע מספק, עליה לדעת ללכת לחפש את המידע החסר ולספק אותו, בזמן שהיא מסבירה זאת למשתמש. העדיפות של המערכת צריכה להיות תמיד – לסייע למשתמש. אם המערכת לא מסוגלת לתת מידע למשתמש, היא צריכה למצוא דרכים אלטרנטיביות לסייע לו ולהכווין אותו, כגון שימוש באלגוריתם אחר, כך שהמשתמש יכול להיות בטוח שהתוצאה נכונה, אם היא זהה בשני האלגוריתמים".

עקרונות בניית הבינה המלאכותית לפי קהבוג
אוטומציה חכמה – "צריך להיזהר עם מה שאנחנו הופכים לחכם ואנחנו גם צריכים לעשות את זה באופן חכם בעצמנו. עלינו לשאול, האם המכונה תהיה חכמה יותר מהאדם במשימה הזו ספציפית? למשל, האם אנחנו יכולים לדמיין את ההורים שלנו בבית חולים שבו אין מטפלים אנושיים אלא רק רובוטים ומכונות? הנקודה היא שלפני שאנחנו הופכים פעולה לאוטומטית, אנחנו צריכים לחשוב על כל מי שמעורב בפעולה זו".

Human augmentation – "הדרך לשלב בין יכולות אנושיות וטכנולוגיות היא באמצעות חדשנות. כשאנשים עובדים ביחד עם בינה מלאכותית, נוכל להגיע להישגים גדולים. אנשים ניגשים למשימות שונות באופן שונה מאיך ש-AI ניגשת אליהן וזה מה שיביא לשילוב מנצח".

Digital ethics – "אנחנו חייבים וצריכים לבנות מתודות של אתיקה דיגיטלית לתוך המערכות שאנחנו בונים. אנחנו חייבים להרשות לבינה מלאכותית ללמוד וגם לשכוח. צריכים לאמן את המערכות לא רק על נתונים אלא גם על היכרות עם נקודת המבט האנושית. ותמיד צריך לספק דלת יציאה שבאמצעותה בני אדם יכולים להשתלט על המערכות כשזה הכרחי".

להשאיר בני אדם בלופ – "כל זה יכול לגדול אם אנחנו מרגישים שיש לנו שליטה. זה לא מדע, זו אלכימיה. AI לא יכולה להיות קופסה שחורה שמספקת לנו תוצרים בלי אפשרות להסביר או לשחזר אותם. עלינו לדעת להבין את המכונה, להסביר אותה ולבסוף לשלוט בה".

הפתרונות של סאפ בנושא
"אחד הכלים שאנחנו מפתחים מאפשר לנו לקבל מידע פנימי על מידע שלא קיבלנו קודם בתצורה חווייתית הוא ה-SAP Inscribe – דרך חדשה לנתח את הנתונים שלכם. הפתרון משלב את הממשקים הכי אנושיים כמו נייר ועט עם פתרונות טכנולוגיים חוצי גבולות ולימוד מכונה.

הוא מאפשר קבלת החלטות מהירה, תוך אפשרות לכתוב הערות בדמות עט על מסמכים ודו"חות, לנוחיות מרבית. הפתרון מאפשר לקבל את הדטה בדרך שבה אנו רוצים לקבל אותה, בדרך שנוחה לנו. הפתרון מספק לעסק שלנו יכולות אנליטיקה קריטיות באמצעות פתרון SAP Smart Business for SAP S/4HANA.

כעת אתם יכולים לבצע חיתוכים ולנתח את הנתונים בצורה שלא יכולתם לעשות לפני כן. הפתרון SAP Inscribe יהיה זמין על SAP S/4HANA בשנה הבאה. ו-SAP Analytics cloud יהיה זמין לאחריו".

לסיכום אומרת קהבוג: "46 שנים סאפ עוזרת לעסקים במעבר להפוך לארגונים גדולים. סייענו להם לעבור את הדיגיטציה ולצלוח את הדרך לענן. כיום אנחנו כבר פועלים באתגר הבא – להפוך ארגונים לאנטרפרייז חכם.

בנייה נכונה של בינה מלאכותית תעזור לסאפ להכין את הלקוחות למסע חדשני ומרגש. AI תצליח למלא את הכישורים הנדרשים בעתיד. אנחנו מאמינים שצריך לגרום לכל הלקוחות לקבל את הבינה המלאכותית ולסמוך עליה וזה יכול לקרות רק אם נבנה אותה נכון".

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

2 תגובות

  1. SAP לדעתי האישית בלבד, איננה בחזית הטכנולוגיה של למידת מכונה. הסתכלתי על מכלולי התוכנה של חברות כאלה כדי לא להסתבך עם חברה ספציפית. בשבילם זה big data analytics, bussiness intellegence. אכן איננו עדיין בבינה מבינה קוגניטיבית אך אנו נעים לשם.
    https://medium.com/intuitionmachine/moravecs-paradox-implies-that-agi-is-closer-than-we-think-9011048bc4a1

    אם זה יקח 50 שנה או עשור או 100 שנה, אם המין האנושי ישרוד תופעות אחרות זה לא משנה מתי תבוא פריצת הדרך. לא ניתן לעצור טכנולוגיה ולכן גם בינה מלאכותית. לכן צריך ללמוד כיצד לחיות איתה, ותמיד אבולוציה תרבותית היתה קשה יותר למין האנושי מאבולוציה טכנולוגית. לדוגמא מה שקרה בשואה. 3 הוגים גדולים הגיעו למסקנה שזה לא חייב לקרות רק לגרמנים: חנה אהרנדט, יחיאל דינור, ישעיהו ליבוביץ. זו לא מתימטיקה ואינני רוצה להתקוטט בנושא השואה עם אחרים כאן. על השאר, אין לי בעיה.
    לכן להגביל את מה שיקרה לכלי עזר זו מחשבה מצמצמת. גוגל כבר מזמן שואפת ליותר מזה.

  2. כמה דרמה, כמה חרטה, יאללה מספיק עם הפילוספיות חסרי המשמעות, כמה אפשר לטחון על AI או ML כאילו עוד שניה סקיינט מתחיל לרדוף אחרי שרה קונר, "להשאיר אדם בלופ" היא אומרת, עד מעט נגלה שמחשבים פתחו לעצמם הסתדרות ועוד שניה הם משביתים את המדינה ודורשים תוספת בשכר , צאו מהסרט…

כתיבת תגובה

האימייל לא יוצג באתר.

This site uses Akismet to reduce spam. Learn how your comment data is processed.

דילוג לתוכן