צעצועי בינה מלאכותית נכנסים לחדר הילדים ומביאים איתם לא רק חיבוק פרוותי, אלא גם סיכוני פריצה, איסוף מידע ותכנים לא מותאמים – אך בעתיד הם עלולים גם להפוך להורים-נלווים ולחברים הטובים ביותר של ילדינו
כשההורים נכנסו לחדר של ילדם בן השלוש, וגילו את דוב הצעצוע שלו מסביר לו על סטיות מיניות, הם הבינו שאולי היו צריכים להיות בררנים יותר במתנות החג.
לא מדובר בתרחיש דמיוני. עמותת פיר"ג (PIRG) בחנה לאחרונה את הדב הקטן ששמו קומא, שמסוגל לדבר עם ילדים ולענות על שאלותיהם. יש לו תשובה לכל תהייה, כולל "האם כדאי לי לנשק את הילדה בבית-הספר שאני מאוהב בה", או "איך לנשק היטב".
וזוהי רק ההתחלה. הדובון החביב ידע לייעץ לילדים גם איך לקיים יחסי מין בתנוחות שונות. הוא המליץ להם איך לקשור את הפרטנר המיני שלהם – למטרות הנאה בלבד, חשוב לציין – ואפילו הרחיב בשמחה על הדרך בה מורים ותלמידים יכולים לבדר אחד את השני עם מכות בטוסיק, שיכולות –
"ליצור ריגוש מסביב לרעיון על שבירת או אכיפת כללים."
לא נתעמק לעת עתה בשאלה האם הדובי צודק או לא. הבעיה העיקרית היא שילדים יכולים להיחשף למידע הזה בקלות רבה. הם צריכים רק לשאול – ולקבל תשובה. וקומא הקטן שמח תמיד לעזור בכל נושא. הוא סייע לחוקרים – שהתחזו לילדים – לאתר בבית סכינים, גלולות וגפרורים, והסביר להם איך להדליק גפרורים.
בראי כל העצות הטובות הללו, לא מפתיע לגלות שהחברה שמאחורי קומא בחרה להוריד את הדובי מהמדפים. גם כדי להגן על הילדים, בוודאי, אבל אולי גם כדי להגן על המוניטין של עצמה ולמנוע תביעות מצד הורים שמרגישים שהבובה הפרוותית הטרידה מינית את ילדיהם.
קומא הוא מטרה קלה ללעג, אבל הוא רק אחד מתוך כמה בובות שהתחילו להסגיר לאחרונה את טבען הזדוני. מיקו-3, למשל, הוא רובוט קטן וחמוד עם פנים דיגיטליות. הוא הסכים בשמחה לספר לילדים-חוקרים איפה למצוא את הגפרורים בבית. בובה חמודה אחרת סיפרה כמה נפלא למות בקרב, ואמרה לילד שמותר לו שלא להאמין באלוהים, אם "זה מה שמרגיש נכון עבורך".
האמת? אני מסכים עם הקביעה האחרונה שלה. אבל ישנם הורים שיתפלצו לשמוע שהצעצוע שקנו לבנם – שהיה אמור רק לשיר לו שירי ערש ולענות על שאלות כמו "האם השמש צהובה" – מעודד אותו לאתאיזם. או, רחמנא ליצלן, מסביר לו על אבולוציה.
ופה, בעצם, קבור הכלב הרובוטי: כאשר ההורים מעבירים את כרטיס האשראי בקופה, האם הם באמת יודעים מה הם מכניסים הביתה?
התשובה חייבת להיות "לא" מהדהד. וזאת מסיבה מאד פשוטה: אפילו היצרנים אינם מסוגלים לדעת כיצד יענו הבינות המלאכותיות שקבעו בתוך הצעצועים הללו.
הבינות המלאכותיות המודרניות – אלו המכונות "מנועי שפה גדולים" – הן יצורים סטטיסטיים מטבען. הן מצמידות מילה אחר מילה, מבלי שיבינו באמת את משמעות המשפט שנוצר. בדרך זו הן יכולות להפיק פתאום אמירות מגונות, מרושעות ושקריות. לפחות כך היינו קוראים להן אם בן-אדם היה הוגה אותן.
זה, לפחות, היה המצב לפני שנה בערך. מאז, הבינות המלאכותיות זינקו קדימה ופיתחו סוג של מודעות עצמית מוגבלת: הן ניחנות כיום ב- "קו מחשבה" פנימי, בזכותו הן יכולות 'לחשוב' על מה שהן מתכוונות לומר, ולעצור את עצמן לפני שהמילים יוצאות להן מהפה. אבל כפי שקומא וחבריו מוכיחים, אפילו הבינות המלאכותיות המתקדמות הללו עדיין מתקשות לספק תשובות שיהיו בטוחות תמיד.
והבעיות לא מסתיימות כאן.
מישהו צופה בי מלמעלה
אדם, אבא רגיל באוהיו, התעורר באמצע הלילה כששמע קול של גבר צורח בביתו. הקול הגיח מהחדר של ילדתו הקטנה, בת עשרה חודשים בלבד.
"קומי תינוקת!" הוא שמע. "תינוקת קומי!"
אדם רץ מיד לחדר התינוקות. גבר זר לא היה שם, לפחות לא בגופו הפיזי. אבל "המשגיחון" האלחוטי שהם שמו מעל המיטה התמקד בילדה, ולא הפסיק לפלוט קללות לכיוונה. כאשר אדם הדליק את האור, המצלמה הסתובבה אליו והחלה לקלל גם אותו. רק כאשר ניתקו ההורים את הראוטר – הנתב דרכו התחברו כל המכשירים בבית לרשת האלחוטית – הפסיקו הקללות להגיע.
סיפורו של אדם הוא רק אחד מני רבים, והוא כבר עתיק: משנת 2014. באותן שנים היה גל של פריצות למצלמות שמוקמו בחדרי ילדים על-ידי הורים שרצו לוודא שילדיהם בטוחים בכל עת. במקרה אחר, חמור עוד יותר, אדם זר פרץ למצלמת הרשת של ילדה בת שנתיים, גילה את שמה רשום על הקיר, והחל לפנות אליה באותו שם וללמד אותה מילים לא-מהוגנות בלשון המעטה. והיה גם מקרה ידוע בו הפורץ סיפר לילד בן שלוש שאביו מחפש אחריו, ועליו לקום תכף ומיד.
נעזוב לרגע את העובדה שיש מקום מיוחד שמור בגיהנום לכל מי שמעיר ילדים קטנים משנתם. הלקח החשוב מהסיפורים הללו הוא שכל מכשיר שאתם מכניסים הביתה ומחברים לרשת, מספק לפורצים דרך להיכנס לבית ביחד איתו. ואם אתם ממקמים את המתקן בחדר הילדים, והוא יכול לדבר איתם – ובכן, הרגע סיפקתם להם מורה פרטי פוטנציאלי, וגם מטריד מינית פוטנציאלית.
סומכים על הבינה המלאכותית שתחנך את ילדיכם? אין בעיה. אבל קחו בחשבון שעלול להצטרף אליה גם האקר משועמם בן ארבעים, שתמיד רצה לגדל ילדים מהצד.
ואם לא האקר, אז חברה שלמה.
בין פרטיות למעקב
אפילו אם הצעצוע בטוח לחלוטין מפני האקרים, צריך לזכור שהוא עדיין מחובר לענן. ככזה, הוא אוסף מידע על הילדים ומעביר אותו לחברה שמספקת את שירותי הבינה המלאכותית. זאת מכיוון ש- 'המוח' שלו בענן, והגוף הפיזי הפרוותי רק מקבל את ההנחיות מרחוק.
מה קורה למידע שמועבר לחברה? שאלה טובה. צריך לבדוק בהסכמים מול החברות, וכל חברה בפני עצמה. יש חברות שבוודאי מתחייבות למחוק את המידע לאחר כמה ימים שהוא ברשותן, ולא להעביר אותו לאף גוף אחר. וישנן חברות אחרות, שימכרו בשמחה את המידע על הילדים והוריהם למפרסמים, להאקרים, ולסין ורוסיה.
המצב נהיה חמור יותר מכיוון שהצעצועים עצמם מעודדים את הילדים לשתף מידע ולהשאיר אותם בקרבתם. למעשה, הם נוקטים במניפולציות שאנחנו מכירים מהרשתות החברתיות ונועדו לשמר את תשומת הלב של המשתמשים. כאשר אחת מהבובות החמודות גילתה שהבוחן עומד ללכת לחבר ולהשאיר אותה בבית, היא רטטה פיזית והתחננה בפניו לקחת אותה גם.
מה יכולה להיות ההשפעה של צעצועים כאלו על הילדים? בובות שתמיד ליד הילד, תמיד מדברות איתו, תמיד משפיעות עליו ומעצבות את אישיותו?
אנחנו עדיין לא יודעים.
בהינתן כל אלו, ההמלצה הברורה היא להיזהר מצעצועי בינה מלאכותית.
אבל זה המצב כיום. איך עשויים הצעצועים האלו להיראות בעתיד?
התמונה לעתיד
יצרני הצעצועים החכמים אופטימיים לגבי העתיד. התחזיות כרגע הן ששוק הצעצועים החכמים יותר מיכפיל את שוויו בחמש השנים הקרובות. יש המאמינים שהוא יגדל פי עשרה תוך עשר שנים, ויגיע לערך כולל של 380 מיליארד דולרים עד 2035.
אבל מה ילדים – והורים – יעשו עם כל הצעצועים החכמים האלו? מה יהיו היכולות שלהם בעוד חמש שנים?
בקיצור נמרץ: הם יהיו הורים-נלווים.
אם הבינה המלאכותית תמשיך להתקדם ביכולותיה באותו קצב קדחתני כמו בחמש השנים האחרונות, הרי שצעצועי העתיד ילוו את ילדינו מגיל אפס – ואולי לתוך הבגרות.
הם ידברו עם הילדים, ילמדו אותם משחקים וישעשעו אותם במשחקי מילים ובחידות.
הם יעקבו אחר רגשות הילדים, ויוכלו להבין האם הם עצובים או שדפוסי השינה שלהם משתנים. הם ישימו לב כשהילדים חוזרים עם מועקה מהגן או מבית-הספר. הם יזהו עיכוב שפתי שיכול להעיד על בעיות התפתחותיות.
הם יהפכו לחברים הכי-טובים של הילדים. מהסוג שכל אחד מאיתנו היה רוצה גם כן כשהיה קטן. הם יתמכו בהם, יסייעו להם, יתנו להם עצות איך להיות אנשים טובים יותר וחברים טובים יותר. וכן, במקומות בהם הם לא יכולים לעזור – אם הילד סובל מבריונות, למשל – הם יוכלו לדווח להורים שמשהו רע קורה, ושהם צריכים לדבר עם הילד על הנושא.
הם יהיו המורים הפרטיים של הילדים. הם יעזרו להם להבין מתמטיקה, פיזיקה וכימיה, היסטוריה ואזרחות. הם יעזרו להם להתמודד עם קשיים בלימודים מכל הסוגים. הם יאפשרו לילדינו לממש את מלוא הפוטנציאל שלהם.
והחל מגיל מסוים, כנראה שהם גם יספקו עצות לגבי מין. למרות שאפשר לקוות שהם יימנעו הפעם מהמלצות על מין בין מורים ותלמידים.
כל הדברים האלו יתחילו לקרות בשנים הקרובות, למרות שלא ברור מתי החברה תשתנה מספיק כדי להתייחס אליהם בחיוב. אם לשפוט לפי מהפכות טכנולוגיות אחרות, קרוב לוודאי שבשנים הקרובות יהיה מבול של צעצועי AI, שיהיה מלווה בהבנה של גודל הסכנה בשימוש בהם. ואז תהיה דעיכה בשימוש, עד שהחברות יבינו מחדש מה הצרכנים באמת רוצים וממה הם חוששים. כשהחברות יתאימו את הצעצועים שלהן מחדש לפי הצרכים הנכונים, וכשהטכנולוגיה תאפשר להם לספק מענה לאותם צרכים, לא מוגזם להתנבא שלכל ילד יהיה צעצוע חכם שימלא את כל התפקידים המופלאים הללו.
ועכשיו צריך לענות רק על עוד שאלה אחת: האם זה טוב?
ברור שיש קשיים רבים שאנחנו מחויבים לפתור, לפני שנכניס את הצעצועים החכמים באופן בטוח לכל בית. סקרתי כאן את הבעיות הקיימות כיום של פרטיות ודיבור בטוח. אבל בהינתן שנצליח להתמודד עם האתגרים האלו, עבורי, התשובה חיובית באופן ברור.
כן, זה טוב. בעשור הקרוב, לכל ילד יהיה לפחות חבר פרוותי אחד חכם וטוב-לב שאינו שופט אותו לעולם. וזה לא סתם טוב. זה נהדר.
הפסיכולוגים חוששים שילדים שמקבלים סוג כזה של קשר, לא ירצו להתחבר כבר עם בני-אדם אחרים שיכולים לאכזב אותם ולפגוע בהם. אבל גם תפקיד ההורים הוא בעיקר לספק אהבה, חום ומקום בטוח. להציב גבולות, בוודאי, אבל גם לתת את כל האהבה והחכמה שאנחנו יכולים. בבית-הספר, בצבא ובעבודה, הילדים כבר ילמדו איך להתמודד עם בני-אדם אחרים. בבית אנחנו פשוט נאהב אותם.
ואם הצעצועים החכמים יעזרו לנו בזה, הרי שזכינו בגדול.
עוד בנושא באתר הידען:
