“טסלה בוט” הוא רעיון לרובוט מלוטש, במשקל 57 ק”ג שישלב בינה מלאכותית וטכנולוגיות “טייס אוטומטי” של טסלה לתכנון ולמעקב אחר מסלולים, לניווט בתנועה – במקרה זה, להולכי רגל, ולהימנע ממכשולים, אך האם הטכנולוגיה הזו כבר בשלה וכיצד ניתן יהיה למנוע שימוש בה לרעה?
אנדרו מיינארד, דיקן עמית, המכללה לעתיד העולמי, אוניברסיטת מדינת אריזונה. תרגום: אבי בליזובסקי
אילון מאסק הכריז על רובוט דמוי אדם שנועד לסייע במשימות החזרתיות והמשעממות שאנשים שונאים לבצע. מאסק אמר כי הרובוט הזה יוכל ללכת לקנות במכולת אך יש להניח שהוא יטפל במספר משימות הכרוכות בעבודת כפיים.
כצפוי, המדיה חברתית מלאה בהתייחסויות לשורה של סרטי מדע בדיוני דיסטופיים על רובוטים שבהם הכל משתבש להחריד. לדוגמה, העתיד של הרובוטים בסרטים כמו: ‘אני, רובוט’, ‘שליחות קטלנית’ ואחרים. הטכנולוגיות הבסיסיות של רובוטים הומנואידיים האמיתיים – והכוונה שעומדת מאחוריהם – אמורות לגרום לדאגה.
הרובוט של מאסק מפותח על-ידי ‘טסלה’. זוהי סטייה לכאורה מעסקי ייצור המכוניות של החברה, עד שקל לטעות ולחשוב שטסלה אינה יצרנית רכב טיפוסית. מה שנקרא “טסלה בוט” הוא רעיון לרובוט מלוטש, במשקל 57 ק”ג שישלב בינה מלאכותית וטכנולוגיות “טייס אוטומטי” של טסלה לתכנון ולמעקב אחר מסלולים, לניווט בתנועה – במקרה זה, להולכי רגל, ולהימנע ממכשולים.
אם נעזוב לרגע בצד את ההפחדות הדיסוטופיות – התוכנית הגיונית, כחלק מהאסטרטגיה העסקית של מאסק. הסביבה הבנויה מיוצרת על-ידי בני אדם, עבור בני אדם. טכנולוגיות מתקדמות מוצלחות יצטרכו ללמוד לנווט באותן דרכים שאנשים עושים, כפי שטען מאסק בהודעת ה’טסלה בוט’.
אולם המכוניות והרובוטים של טסלה הם רק התוצרים הגלויים של תכנית רחבה בהרבה שמטרתה ליצור עתיד שבו טכנולוגיות מתקדמות משחררות בני אדם מהשורשים הביולוגיים שלהם על-ידי מיזוג ביולוגיה וטכנולוגיה. כחוקר החוקר את ההתפתחות והשימוש האתי והחברתי בטכנולוגיות המתעוררות, אני מוצא כי תוכנית זו מעוררת חששות הגוברים על חששות מדע בדיוני ספקולטיביים של רובוטים חכמים.
איש עם תוכניות גדולות
מכוניות בנהיגה עצמית, חלליות בין-פלנטריות וממשקי מוח-מכונה, הם צעדים שמומחי מוסק מתכננים לקראת העתיד שבו טכנולוגיה היא המושיעה של האנושות. בעתיד זה, האנרגיה תהיה זולה, שופעת ובת קיימא. אנשים יעבדו בהרמוניה עם מכונות חכמות ואף יתמזגו איתן ובני אדם יהפכו למין בין-כוכבי.
אם לשפוט לפי מאמציו השונים של מאסק, זהו עתיד שייבנה על סדרה של טכנולוגיות מקושרות זו לזו הכוללות חיישנים, מפעילים, תשתיות אנרגיה ונתונים, שילוב מערכות והתקדמות ניכרת בכוח המחשב. יחד, אלה יוצרים ארגז כלים אדיר ליצירת טכנולוגיות טרנספורמטיביות.
מאסק מדמיין שבני אדם מתעלים בסופו של דבר את המורשת האבולוציונית שלנו באמצעות טכנולוגיות שהן מעבר לאנושיות, או על-אנושיות. אבל לפני שהטכנולוגיה יכולה להפוך לעל-אנושית, היא צריכה קודם כל להיות אנושית, או לפחות להיות מיועדת לשגשג בעולם בעיצוב אנושי.
הגישה הטכנולוגית האנושית יותר לחדשנות היא זו שעומדת בבסיס הטכנולוגיות במכוניות של טסלה, כולל שימוש נרחב במצלמות אופטיות. אלה, כאשר הם מחוברים ל”מוח” AI, נועדו לסייע לרכבים לנווט במערכות כבישים באופן אוטונומי, שבאופן דומה גם “מיועדים לרשתות עצביות ביולוגיות עם יכולות אופטיות.” -במילים אחרות, אנשים. בניסוחו של מאסק, זהו צעד קטן מ”רובוטים על גלגלים” בהשראת בני אדם ועד לרובוטים דמויי אדם על רגליים.
קל יותר לדבר מאשר לעשות
טכנולוגיית ה”נהיגה עצמית מלאה” של טסלה, הכוללת את טכנולוגית “הטייס האוטומטי” ששמה מפוקפק, מהווה נקודת מוצא למפתחי טסלה בוט. ככל שהטכנולוגיה הזו מרשימה, היא מוכיחה שהיא אינה אמינה לחלוטין. התנגשויות והרוגים הקשורים למצב הטייס האוטומטי של טסלה – האחרון שקשור לאלגוריתמים המתקשים לזהות רכבי חירום חונים – מעוררים ספק ביכולת שחרור הטכנולוגיה אל השטח הציבורי כל כך מהר.
בעיות אלו אינן מבשרות טובות עבור רובוטים דמויי בני אדם הנסמכים על אותה טכנולוגיה. עם זאת, זה לא רק מקרה של תיקון נכון של הטכנולוגיה. תקלות הטייס האוטומטי של טסלה מחמירות בעקבות התנהגות אנושית. לדוגמה, כמה נהגי טסלה התייחסו למכוניות משופרות הטכנולוגיה שלהם כאילו היו כלי רכב אוטונומיים לחלוטין ולא הקדישו מספיק תשומת לב לנהיגה. האם משהו דומה יכול לקרות עם בוט טסלה?
“הסיכונים היתומים” של טסלה בוט
בעבודתי על חדשנות טכנולוגית מועילה מבחינה חברתית, אני מתעניין במיוחד בסיכונים יתומים – סיכונים שקשה לכמת אותם וקל להתעלם מהם, אך עם זאת, הם בהכרח מצליחים להכשיל יזמים. עמיתיי ואני עובדים עם יזמים ואחרים (אולי כדאי להוסיף גילוי נאות בתחילת הכתבה לאור הכתוב) על ניווט סוגים אלה של אתגרים דרך “נקסוס חדשנות וסיכונים”, יוזמה של אוניברסיטת אריזונה מכון חדשנות אורין אדסון יזמות ומעבדת Futures העולמית.
הטסלה בוט מגיע עם מכלול שלם של סיכונים יתומים. אלה כוללים איומים אפשריים על הפרטיות והאוטונומיה כאשר הבוט אוסף מידע שעלול להיות רגיש, משתף אותו ופועל לפיו. אתגרים הקשורים לאופן בו אנשים צפויים לחשוב על רובוטים דמויי אדם ולהגיב עליהם; התאמות אפשריות בין נקודות מבט אתיות או אידיאולוגיות – למשל, בבקרת פשיעה או שיטור בהפגנות אזרחיות; ועוד. מדובר באתגרים שלעיתים נדירות מקבלים התייחסות בהכשרה שהמהנדסים מקבלים, ועם זאת הצפייה בהם יכולה להביא לאסון.
על אף שטסלה בוט עשוי להיראות בלתי מזיק – או אפילו קצת בדיחה – אם הוא יועיל וגם יצליח מבחינה מסחרית, מפתחיו, המשקיעים, הצרכנים העתידיים ואחרים צריכים לשאול שאלות קשות כיצד הוא עלול לאיים על מה שחשוב לו, וכיצד להתמודד עם האיומים הללו.
איומים אלה עשויים להיות ספציפיים לא פחות מאנשים שעושים שינויים בלתי מורשים המגבירים את ביצועי הרובוט – מה שגורם לו לנוע מהר יותר ממה שקבעו המתכננים שלו, למשל – מבלי לחשוב על הסיכונים, או באופן כללי ככל שהטכנולוגיה מתקדמת בדרכים חדשות. הם גם מנסחים באופן עדין את הסיכונים כמו איך שרובוט דמוי אדם עלול לאיים על ביטחון העבודה, או כיצד רובוט הכולל מערכות מעקב מתקדמות עלול לערער את הפרטיות.
בנוסף ישנם אתגרי ההטיה הטכנולוגית שמטרידה את AI במשך זמן מה, במיוחד כאשר היא מובילה להתנהגות נלמדת המתבררת כמפלה ביותר. לדוגמא, אלגוריתמי AI יצרו רובוט בעל התנהגות סקסיסטית וגזענית פוגענית.
האם רק בגלל שזה אפשרי – אנחנו עושים?
הבוט של טסלה עשוי להיראות כמו צעד קטן לקראת חזון מאסק של טכנולוגיות על-אנושיות, אבל התוכניות הנועזות שעומדות בבסיסו רציניות – והן מעוררות שאלות רציניות לא פחות.
למשל, עד כמה החזון של מאסק אחראי? רק כי הוא יכול לפעול לקראת יצירת עתיד חלומותיו, מי יגיד שכדאי לו? האם העתיד שמאסק שואף להביא את הטוב ביותר לאנושות, או אפילו טוב? ומי יסבול מההשלכות אם הדברים ישתבשו?
אלה החששות העמוקים יותר שמעלה הבוט של טסלה עבורי כמי שלומד וכותב על העתיד וכיצד פעולותינו משפיעות עליו. אין זה אומר שטסלה בוט אינו רעיון טוב, או שאילון מאסק לא אמור להיות מסוגל לכופף את שרירי בניית העתיד שלו. בשימוש נכון, אלה רעיונות וטכנולוגיות טרנספורמטיביים שיכולים לפתוח עתיד מלא הבטחה למיליארדי אנשים.
אבל אם הצרכנים, המשקיעים ואחרים משתגעים מהברק של טכנולוגיה חדשה או מבטלים את ההייפ ולא מצליחים לראות את התמונה הגדולה יותר, החברה מסתכנת במסירת העתיד ליוצרים עשירים שחזיונם עולה על הבנתם. אם חזיונות העתיד שלהם אינם תואמים את מה שרוב האנשים שואפים אליו, או שהם פגומים באופן הרה אסון, הם נמצאים בסכנה לעמוד בדרך לבניית עתיד צודק ושוויוני.
אולי זהו הלקח המתמיד מסרטי מדע בדיוני רובוטיים-עתידיים שאנשים צריכים לקחת כשהבוט של טסלה יעבור מרעיון למציאות – לא החששות הברורים יותר ביצירת רובוטים הומנואידים שפועלים נגד האנושות, אלא האתגר הגדול בהרבה של להחליט מי זוכה לדמיין את העתיד ולהיות חלק מבנייתו.
עוד בנושא באתר הידען:
6 תגובות
יש *שני* עיוותים גדולים בכתבה.
1. הייתה עד היום תאונה *אחת* באשמת טסלה. זה נתון מדהים גם ביחס לנהג נורמטיבי. והטכנולוגיה עוד לא סיימה להתפתח.
2. אם מכונית אוטונומית הייתה נוסעת במהירות ריצה של אדם כבר היום הכבישים היו מלאים במכוניות כאלה. 20 קמ”ש זה אתגר שהמכוניות עומדות בו מעולה. אין סיבה לא להגביל רובוט במרחב ציבורי למהירות כזאת
שצופים בסרטוני יוטיוב של הנהיגה האוטומטית של טסלה ההישגים בהחלט מרשימים ומלהיבים אבל מצד שני המרחק שאותו צריך לעבור כדי לקבל באמת נהיגה אוטומטית כנראה יצריך המון עבודה לאורך הרבה שנים, כמה שנים? קשה מאד לדעת מהצפיה, בניחוש גס מ 10 ועד כמה עשרות שנים, אותם בעיות יופיעו גם ברובוט בעל מבנה אנושי , ברובוט אנושי את העבודה הכי מרשימה ביצעו בוסטון דינאמיקס שהתרכזו כבר כ 20 שנה בצד של יציבות ותנועה במרחב עם מכשולים וזה לא כולל ניווט אוטומטי בעולם דינאמי משתנה שבו הולכים אנשים חיות מוכניות עוברות בכביש וכו.. אולי צריך חיבור בין מערכת כמו של טסלה לבין המערכת של בוסטון דינאמיקס כמו אצל אדם שיש מערכות שונות שמטפלות בשכבות שונות של פעולות, אחת מהבעיות שבו צריך לטפל זה כמות משתנים מטורפת,
היתרון האנושי הוא ביכולת לזהות משתנים שונים ולקבץ אותם בשינה למשמעות אחת גם אם הוא לא נתקל בדיוק באותה משתנה, את זה במיוחד טסלה מנסים לחכות השאלה האם העוצמה של המעבד שלהם יכולה להתומודד
מול העוצמה של המוח האנושי? ברור שיש מצבים שלהם יהיה יתרון אבל במגוון הדינאמי שקיים בעולם האמיתי נראה לכאורה שלמוח האנושי יש עוד יתרון מרשים, בנוסף הנתונים שמשווים את יכולת הנהיגה
של מכונית טסלה לנהג אנושי יכולים להטעות כי הממוצע של הנהיגה האנושית כוללת שיכורים נהגים אגרסיבים ועוד על מיני התנהגויות האנושיות בעיתיות, כאשר ההשוואה האמיתי צריכה להיות מול נהג זהיר שנוהג בתפיסה של נהיגה מונעת , צריך לציין שאצל חלק גדול מהאנשים שנוהגים נהיגה מונעת יכול לעבור חיים שלמים בעולם דינאמי ללא תאונה שצריך להודות מנקודת ראות טכנולוגית שזה מאד מדהים אם משווים את זה למערכת אוטומטית,
לא הבנתי מה הטענה במאמר. עייפתי “מאינטלקטואלים”
הבוט הוא תוצאה של שילוב בין חברות של מאסק.הרכב האוטונומי עם מחשב על והבנת המציאות סביב ישרתו את הבוט ללא צורך בפיתוח נוסף.חברות נוספות לבינה מלאכותית של מאסק יוכנסו למוח של הבוט.והוא אמור להיות עצמאי מספיק ומקושר למחשב על כך שיכול להחליף עובדים למשל בקוו יצור טסלה ולחסוך מיליארדים בשנה.זה קוו הייצור האולטימטיבי שעובד 24\7 מבלי להתעייף ובקצב גבוה
באופן עקרוני הכתב צודק.
הכותב לא אומר שהטכנולוגיה לא ישימה בגלל הבעיות הללו. הוא רק שואל: האם שמו לב לבעיות העלולות לצאת ממנה?
אז אכן, צריך לגבש רשימה של כל הסיכונים הללו, ולפתור את מה שאפשר לפתור, לצמצם את מה שאפשר לצמצם.
אם לא עשו זאת – זה פשע.
למשל, למנוע שינויים לא מורשים ו’אובר-קלוקינג’, שעשוי לגרום למוצר להתנהג אחרת ממה שנצפה, להקים ועדה לבחינת הטיות והתנהגות פוגענית של המוצר, וכן לכל החששות שהוזכרו.
כתבה רדודה ביותר
נראה שהכותב לא הכי מעודכן בחומר
את החששות האלה שומעים כבר 20 שנה – מה החידוש?
כל טכנולוגיה חדשה היא מסוכנת במידה מסויימת
השם ״טסלה״ מושך, ולכן תרגמו כתבה לא הכי מעניינת