וינוד קוסלה, אחד המשקיעים המובילים בעולם טוען כי בתוך 25 שנים, בינה מלאכותית תבצע 80% מהעבודות ותיצור עולם בו רפואה, חינוך וחדשנות יהיו נגישים לכל.
וינוד קוסלה הוא אחד המשקיעים הגדולים, המשפיעים והמצליחים ביותר של זמננו. כשהוא מדבר, הוא עושה זאת מתוך ידע ומחשבה עמוקים, ואחרים שותקים ומקשיבים. וכשהוא מפרסם מניפסטו שלם על עתיד הבינה המלאכותית – אנחנו עוצרים הכל וקוראים אותו, כדי להבין מה אחד האנשים המובילים בתעשייה חושב על הנושא.
בקיצור נמרץ, קוסלה מאד, מאד אופטימי לגבי הבינה המלאכותית. אבל הוא לא מהסס לומר מה דעתו על חוזי-השחורות כיום.
"חלק מהסיבה שכתבתי את המאמר הזה, היא כדי לבטל את הראייה הדיסטופית [רואת שחורות] של עולם של בינה מלאכותית. ראשית כל ומעל הכל, זה חזון עצל מבחינה קוגניטיבית – קל ליפול לתוכו, והוא נטול כל דמיון: אובדן עבודה נרחב, העשירים מתעשרים עוד יותר, מומחיות אינטלקטואלית ועבודה פיזית הופכות לנטולות ערך, ואובדן היצירתיות האנושית בשירות אדונינו המלאכותיים."
משם הוא רק מחריף את הטון עוד יותר.
"לנו במערב יש ראייה מאד מעוותת של מהי דיסטופיה. רוב כותבי הדיסטופיה נהנו מהזכות לחשוב עליה ממגדלי השנהב הבוהקים שלהם, כשהם כבר מבודדים מהעול ומהלחצים הקיומיים שרוב האמריקנים מתמודדים עמם כיום, שלא לדבר על מיליארדי אנשים דומים בכל העולם שמסתכנים במוות מדי יום…"
האם הבינה המלאכותית יכולה גם להזיק לנו? בוודאי, וגם קוסלה מכיר בכך. אכסה כמה מהנקודות שלו על כך בהמשך. אבל קודם, איך הוא חוזה שהבינה המלאכותית תוכל לעזור לנו?
הבסיס להכל
אפשר לסכם שכל תחזיותיו של קוסלה מבוססות על הנחה קריטית אחת: בעשרים וחמש השנים הקרובות, בינה מלאכותית תוכל לבצע שמונים אחוזים מכל העבודות.
"רופאים, פסיכיאטרים, אנשי מכירות, אונקולוגים, עובדי חווה או פועלים בפס ייצור, מהנדסי מבנים, מתכנני שבבים, מה שתרצו." הוא כותב, ומוסיף, "והחשוב מכל: בינה מלאכותית תעשה את העבודה טוב יותר בהתמדה!"
בשנים הראשונות נראה את שיתוף הפעולה בין בני-אדם לבינה מלאכותית בצורה של ניהול 'מתמחים' או 'שוליות'. העובד האנושי יפקח על מספר עוזרים מלאכותיים, וכך יכפיל את התפוקה שלו. בעשור הקרוב נראה את תפוקת העובדים האנושיים גדלה פי חמישה כתוצאה מהתהליך הזה. כאשר יכולות הבינה המלאכותית יגדלו, נצטרך להחליט אלו עבודות להפקיד בידיה לגמרי, ואלו נמשיך לעשות בעצמנו.
"בכל מקום בו המומחיות קשורה בתוצרים… הבינה המלאכותית יכולה ותצליח לבצע ברמה גבוהה יותר מבני-אדם, במחירים שקרובים לאפס."
איך ייראו חיינו בעולם בו הבינה המלאכותית יכולה לעשות כל זאת?
בריאות לכולם
בעתיד שקוסלה חוזה, לא תצטרכו לראות רופא אנושי כדי לזכות בבריאות ארוכת-שנים. אלא אם תרצו, כמובן. הבינה המלאכותית תגלה ותזהה מחלות כבר בשלבים המוקדמים ביותר, במקרים רבים עוד לפני שהסימפטומים בכלל מופיעים לראשונה. כיום, אנחנו מטפלים במחלות כמו סרטן, טרשת עורקים וסוכרת, רק אחרי שהן כבר התפתחו וגרמו נזק ניכר לגוף – ואז קשה לעצור אותן. אבל כשבינה מלאכותית קשובה לכל אדם, לכל גוף, ברמה האינטימית ביותר דרך המחשוב הלביש? אז אפשר לגלות את המחלות האלו עוד כשהן רק מתחילות, ולטפל בהן בצורה מוצלחת בהרבה.
"האיכות, העקביות והזמינות של שירותים רפואיים ישתפרו, תוך כדי שהם הופכים לכמעט חינמיים." כותב קוסלה. לא רק זאת, אלא שהבינה המלאכותית תעצים גם את יכולותינו לתכנת מחדש את הביולוגיה, ו – "ליצור תרופות מדויקות שאפקטיביות, מצמצמות תופעות לוואי, וזולות מספיק כדי להגיע לכל העולם."
קוסלה מאמין שבזכות הבינה המלאכותית, נוכל להמציא מחדש את המערכות החברתיות, ונאפשר לכל אוכלוסיית כדור-הארץ לחיות ברמה שמקבילה לזו של העשירון העליון כיום. כל ילד ייהנה מרפואה ברמה הגבוהה ביותר, 24 שעות ביממה, שבעה ימים בשבוע.
ההתפתחות הזו תעזור במיוחד, ואולי לפני כולם, למדינות המתפתחות. שני-שליש מכל מקרי המוות של ילדים במדינות מתפתחות, היו יכולים להימנע בזכות רפואה יעילה יותר. במספרים, המשמעות היא ששישה מיליון ילדים מתים מדי שנה במדינות מתפתחות, פשוט מכיוון שאינם רואים רופא בזמן, או שהרפואה שהם מקבלים לוקה בחסר. קוסלה מאמין שאם נאמץ את הבינה המלאכותית באופן נרחב, הרי שאפילו תושבי הכפרים הנידחים ביותר בהודו ייהנו מרמת רפואה גבוהה יותר מזו שבארצות-הברית כיום – פשוט מכיוון שאותו הכפר ייאמץ את הבינה המלאכותית מהר יותר.
חינוך לכל
אם הבנתם למה קוסלה מאמין שכולנו ניהנה מטיפולים רפואיים זולים ויעילים, לא קשה לפענח גם מה יקרה בתחום החינוך. המורים האנושיים יישארו, בוודאי, אבל לצידם ייהנה כל ילד ממורים פרטיים כמעט-חינמיים, בכל תחום, ובכל מקום בעולם. כל ילד יוכל לקבל הנחיה וסיוע בדרכים שמתאימות לו ביותר, מאווטארים שיודעים בדיוק איך לפנות אליו ולדבר איתו.
לא "מחשב לכל ילד". מורה לכל ילד. זהו החזון האמיתי של קוסלה.
"קשה להגזים בהשפעה שתהיה לזה על פתיחת הזדמנויות והאצלת סוכנות, מסוגלות-עצמית, תשוקה, תקווה, מוטיבציה ושוויון מגדרי…" הוא כותב.
בחזונו של קוסלה לעתיד, ילדינו יבואו לבית הספר כדי לקבל הנחיה והדרכה מהמורים האנושיים. אבל כדי להבין באמת את החומר – הם יפנו למורים המלאכותיים. מהראשונים הם ירכשו ערכים, מוסר, חברותיות והערכה לזולת. הם יקבלו דוגמא מהמורים האנושיים, ויבינו על חשיבותה של הסקרנות, על הצורך בשימור המוטיבציה, ואיך לא לוותר לעצמך גם כשקשה ורע.
ומהבינה המלאכותית? ממנה הם ילמדו פיזיקה ומתמטיקה, כימיה וביולוגיה, ברמה הגבוהה ביותר.
נשמעת לי כמו עסקה טובה לכל הצדדים: לילדים, וגם למורים.
בינה מלאכותית למען הציבור
קוסלה חוזה שלכל אדם יהיה "סוכן AI פרטי" משלו, שידאג אך ורק לאותו האדם. הוא מאמין שמיליארדי סוכנים כאלו, שכל אחד מהם מייצג את הלקוח האישי שלו, יפעלו ברחבי האינטרנט. הם יתמקחו מטעמנו עם החברות הגדולות על תנאי שימוש ומחירי מוצרים, ובכך ישמשו בתור "המאזנים הגדולים": אלו שיוכלו סוף-סוף להשוות בין כוחם של האזרחים הקטנים לבין זה של החברות הגדולות. הם יגנו על הפרטיות שלנו מפני החברות שרוצות להפר אותה.
הסוכנים שיעבדו בשבילנו לא יהיו 'סתם' בעלי היגיון בריא. הם גם יהיו חמושים במיטב הידע המשפטי מאלפי השנים האחרונות. למעשה, יהיו לנו עורכי-דין נונסטופ, סוכני ביטוח, סוכנים פיננסיים, ועוד ועוד.
במקביל, יהיו סוכנים שלא ישרתו את האינדיבידואל ישירות, אלא את החברה. אפשר לצפות לשופטים אוטונומיים שיתווכו בין כל הצדדים בסכסוך, תוך שהם מקבלים את כל המידע שהם צריכים לקבלת ההחלטה, מהסוכנים של האינדיבידואל (ברשותו, כמובן). צפו גם לפקידים ממשלתיים מלאכותיים, שיתעלו בעשרות מונים על יכולותיהם של הפקידים האנושיים. וגם בתודעת השירות שלהם.
שיפור היכולות האנושיות
הבינה המלאכותית תוכל לשפר את היכולות האנושיות. היא תשמש כשותף היצירתי של כל אדם: היא תעזור לאמנים, למעצבים, למהנדסים וליוצרים לחקור רעיונות חדשים ולהתקדם מעבר לגבולות שקיימים עבורם כיום. לא רק באומנות. גם במדע, בטכנולוגיה, בהנדסה – בהכל!
"אינדיבידואלים יוכלו להיות האמן, המלחין, המפיק, הכותב והצרכן באותו הזמן." מתנבא קוסלה. סליחה, לא מתנבא אלא מתאר את ההווה, כי זה מה שמתחיל לקרות כבר היום. "מוזיקה, למשל, עשויה להפוך אינטראקטיבית כמו משחקים, ופורמטים חדשים צפויים להתגלות ולהתאפשר. מדיה כזו מתחילה להופיע כבר היום, ובמקרים מסוימים מגיעה להצלחה גדולה יותר מיצירות אנושיות."
קוסלה מבין שבעבר, האמנות הייתה שמורה רק לבעלי הכשרון האינהרנטי, או לאנשים שהיו מוכנים לעבוד קשה כדי לפתח את אותו כשרון בעלות ניכרת. עכשיו, פתאום, האמנות פתוחה לכולם. הוא מאמין שהיוצרים 'הסלבריטאים' ימשיכו להצליח, אבל לצידם נראה אמנות מתוצרת בינה מלאכותית, שתציע מורכבויות ועומקים דומים.
"חלק יאהבו אותה ואחרים ישנאו אותה." אומר קוסלה. "וזה נכון גם עבור ג'נרים מוזיקליים כיום, מהמוזיקה הקלאסית ועד הרוק הכבד."
ומה יעשו כל האמנים נטולי העבודה? הם ימצאו עבודות חדשות – וכאלו יימצאו בשפע.
"לפני מצלמת הווידאו, לא הייתה עבודה למפיק סרטים." כותב קוסלה. "תעשיות שלמות הגיחו. … פלטפורמות כמו Etsy ו- eBay פרנסו יוצרים ויזמים בכל העולם, וטכנולוגיות חדשות יתמכו בעולם חדש לגמרי של מקצועות."
ומי שלא ימצא עבודה? קוסלה מאמין שהבינה המלאכותית תפיק מספיק משאבים – מזון מהשדות, בתים שייבנו במהירות, תחבורה ושירותים רפואיים-משפטיים-פיננסיים במחיר אפסי – שרוב האנשים פשוט לא יצטרכו להוציא כסף רב כדי להתקיים בכבוד.
"אני מדמיין שנוכל להגיע לשבוע עבודה של שלושה ימים תוך 10-20 שנים," הוא כותב, "… עם תפוקה מוגברת באופן מסיבי. אני, למשל, אשמח לעבוד בגינה שלי יום אחד בשבוע, ולבלות את שאר הזמן בלמידה, אפילו בגיל 69. סוף סוף יהיה לי מספיק זמן לסקי, לטיולים או לממש את תחומי העניין האחרים שלי."
"הזדמנות זו בדיוק, להגדיר מחדש את החוויה האנושית, מערערת את הטיעון הפסימי ש- "האנושיות" בחיינו תיעלם." הוא ממשיך. "הבינה המלאכותית תסלק את עומסי ההישרדות הבסיסית, ובכך תציע לנו את הסיכוי לבנות עולם בו אנשים חופשיים לבחור במה שבאמת חשוב להם. התחומים המרכזיים של העיסוק האנושי עשויים להפוך לתרבות, אמנות, מדעים, יצירתיות, פילוסופיה, ניסוי, חקר, הרפתקאות ותחרויות מכל סוג. השאלה האמיתית היא האם כולם יוכלו להשתתף."
בינה מלאכותית – עם גוף פיזי
קוסלה מאמין שעד 2050 נראה מיליארד רובוטים הומנואידיים – כלומר, בעלי צורת אדם – בכל מקום. הם יבצעו את עבודות החווה, יתקנו בתים, יעבדו במפעלים ויטפלו בקשישים.
"מעטים נערכים לדרך הקיצונית בה התפתחות זו תשנה את התל"ג, התפוקה והאושר האנושי, ותשחרר אנשים שכבולים למטלות האלו שאנו קוראים להן עבודות. … נוכל לשחרר אנשים מהעבדות של המחצית התחתונה של העבודות הלא-נחשקות, כמו עבודה בפס הייצור או בחווה. זו יכולה להיות תעשייה גדולה יותר מתעשיית הרכבים."
מה יעשו האנשים שכבר אינם נחוצים בשוק העבודה? לפי קוסלה, הרובוטים ייצרו מספיק ערך כדי לתמוך באנשים שהם מחליפים. כלומר, הם יעבדו כל-כך בזול, וייצרו מוצרים – כולל מזון ודיור – בעלויות נמוכות כל-כך, שאנשים יוכלו להתקיים כמעט בלי להוציא כסף מכיסיהם.
הרובוטים של העתיד לא חייבים להיות דו-רגליים. הם יכולים גם לשלוט ברכבים, כפי שמתחיל לקרות כבר עכשיו. קוסלה מאמין שבאמצעות החלפת רוב הרכבים בערים בתחבורה אוטונומית, אפשר יהיה להגדיל את תפוסת הכבישים פי עשרה. זאת במקביל לצמצום דרמטי של תעשיית הרכבים – והפיכת התחבורה לנוחה, מהירה וזולה הרבה יותר.
משאבים, אנרגיה וסביבה
כל ההתפתחויות האלו יידרשו השקעת משאבים לא-קטנה, כמובן. בינות מלאכותיות לא מורצות על קרני שמש ומים.
בעצם, אולי הן כן.
קוסלה מצפה שהבינה המלאכותית תזניק קדימה את המדע והטכנולוגיה, ותאפשר לנו להפיק אנרגיה בדרכים יעילות ונקיות יותר. נשפר, כמובן, את יכולות קצירת האנרגיה מהשמש, מהרוח ומגלי הים. זה ברור מאליו. אבל קוסלה מוכן להסתכן עוד יותר בתחזיות שלו. הוא מאמין שבתנאים הפוליטיים הנכונים, נוכל להחליף את כל תחנות הפחם והגז הטבעי עד 2050, בתחנות כוח שמתבססות על היתוך גרעיני. לפני שאתם נבהלים, לא מדובר בביקוע גרעיני – שזו הריאקציה עליה מתבססות תחנות הכוח הגרעיניות של היום. היתוך גרעיני אמור להיות נקי לסביבה ובטוח לשימוש בתחנות כוח. הטכנולוגיה אמנם עדיין לא הוכחה בקנה מידה נרחב, אבל ההתפתחויות המדעיות מאד מבטיחות. וכאמור, המדע רק ינוע מהר יותר בזכות הבינה המלאכותית.
ומה לגבי המשאבים החומריים עצמם? פלדה, נחושת, ליתיום, בטון ועוד שפע של מתכות ויסודות אחרים שנדרשים כדי ליצור את השבבים, השרתים, הנתבים ויתר התשתיות? כן, בינה מלאכותית תעזור גם כאן.
"האתגר הנוכחי אינו מחסור במשאבים, אלא הגבלה ביכולתנו למצוא אותם – מחסום שבינה מלאכותית מוכנה לעזור לפרוץ." הוא טוען. "היא תוכל גם לבצע אופטימיזציה של השימוש במשאבים, להפחית בזבוז ולשפר את יעילות תעשיות החקלאות, הייצור והאנרגיה."
מהעולם הישן – לעולם החדש
עד עתה תיארתי בעיקר את החזון האוטופי של קוסלה, אבל לא את הצעדים שיובילו אליו. כיצד עשויים להיראות חיינו בשנים הקרובות, כאשר אנו מתקדמים למימוש החזון? קוסלה מציע מספר כיווני חשיבה.
ראשית, הוא מבהיר שבחמש השנים הקרובות לא נראה שינוי דרמטי בחיינו. השינויים יהיו הדרגתיים ו- 'הגיוניים'. קצב השינויים יגדל דרמטית לאחר מכן, ויכלול את החברה והתרבות. אפילו אמונות מקובלות ברבים יתערערו. למשל, קפיטליזם.
קוסלה מאמין שגם הקפיטליזם יצטרך להשתנות בעתיד. מכיוון שהבינה המלאכותית תוכל להפיק עבורנו מוצרים, שירותים ומשאבים בעלות נמוכה מאי-פעם, הדגש יהיה פחות על יעילות ויותר על יציבות. אין טעם במערכת שתספק ערך בעיקר לעשירים, אם התוצאה תהיה שהרוב העני יתמרד כנגדם.
אל תטעו לרגע: קוסלה "מאמין באי-שוויון מסוים, שמוגדר גם כתמריצים לעבוד קשה יותר, בתנאי שישנן הזדמנויות גדולות למוביליות חברתית". יש שיאמרו שזוהי נשמת הקפיטליזם. הוא רוצה לבסס חברה בה הקפיטליזם הזה יהיה אפשרי אפילו ביתר שאת, בזכות דאגה לרווחת האינדיבידואל. הוא מכנה את הרעיון הזה – "קפיטליזם אמפטתי", מלשון אמפתיה. קפיטליזם שדואג לאנשים, כדי שהם יוכלו להמשיך ולקדם את עצמם, וכתוצאה מכך את הכלכלה ואת הכלל.
קוסלה אומר במפורש שאסור לנו להאט את קצב ההתקדמות של הבינה המלאכותית רק מכיוון שאנו חוששים מאובדן עבודה. אבל אנחנו לא יכולים להתעלם ממשמעות אובדן העבודה הזה. הוא יהיה הרסני במיוחד מכיוון שהוא צפוי לקרות תוך דור אחד.
אז מה נעשה?
כאן מסתיימות הבשורות הטובות של קוסלה, ומתחילות הספקולציות הכלכליות. הוא מודה שיהיה קשה לשכנע את האוכלוסיה בתועלת הגדולה שהבינה המלאכותית תביא לחברה בכללותה, אם היא פוגעת ביכולת ההשתכרות של רבים באותו הזמן ממש. הוא סבור שיש סיכוי שהכלכלה תגדל, כי כאשר השירותים יעלו פחות – אנו נרכוש יותר מהם. מכיוון שמקצועות חדשים יתפתחו מסביב לשירותים הללו, אנשים עדיין ימצאו עבודה. אלא שהוא מודה שהוא אינו בטוח בעצמו שהעתיד יתפתח בצורה זו.
קוסלה מקדם – בזהירות – את רעיון ההכנסה הכללית הבסיסית (Universal Basic Income). כלומר, את העיקרון לפיו כל אזרח מקבל הכנסה מסוימת שמספיקה בדיוק כדי לתת מענה לצרכיו הבסיסיים, ואולי חשוב יותר – כדי לשמר את הכלכלה. הוא מזהיר שאם נאמץ אסטרטגיה שכזו, הרי שלא נוכל לקבל מדדים שונים כמו התוצר הלאומי הגולמי (תל"ג) כמובנים מאליהם. הם פשוט לא יהיו רלוונטיים באותה המידה, מכיוון שהערך של כל הסחורות והשירותים ידהר מטה, ביחד עם המשכורות, ועדיין – אנשים ייהנו מאיכות חיים גבוהה הרבה יותר.
זו, אם כך, האוטופיה של קוסלה. הוא מתאר אותה באופטימיות ברורה כ- "אוטופיה של צרכנים".
"כולם נהנים מסטנדרט מחיה שרק מלכים ואפיפיורים יכלו לחלום עליו. אני חושד שעלות המחיה בסטנדרט מסוים בחברה האוטופית העתידית שלנו תרד עוד יותר, כך שהאינדיבידואל שמרוויח כיום 40,000 דולרים בשנה, יוכל לקנות הרבה יותר ממישהו שמרוויח 400,000 דולרים בשנה. … אך תקוותי האמיתית תהיה שעם השפע של מוצרים ושירותים, האזרחים יתחילו להתרכז במה שמביא להם אושר, במקום שיתרכזו בצריכת יתר. צריכה תהיה פחות סמל סטטוס."
אבל יש גם איומים בדרך. ובניגוד למה שאתם עשויים לחשוב, החשש המרכזי של קוסלה אינו מבינה מלאכותית זדונית. הפחד האמיתי שלו הוא מבינה מלאכותית סינית.
הסינים באים
מי יוביל את העולם במאה ה- 21? מי שיזכה בכוח. ומה ייתן במאה הזו את הכוח הגדול ביותר? הבינה המלאכותית, כמובן. מדינות קמות או נופלות על הטכנולוגיה שלהם במלחמה ובכלכלה. כדי לכונן טכנולוגיה מתקדמת, יש צורך במדענים ובמהנדסים אנושיים. אבל מה קורה כאשר הבינה המלאכותית יכולה להחליף אותם? בכמה כוח יכולה לזכות מדינה עם מיליוני מדענים ומהנדסים – מהטובים ביותר שחיו אי-פעם?
זוהי הסיבה האמיתית לכך שכל המדינות המתקדמות נמצאות כרגע במירוץ החימוש של הבינה המלאכותית. כולן מנסות להגיע לנקודה בה יוכלו להשתמש בבינה המלאכותית לטובת המהנדסים והמדענים שלהן: לתגבר אותם בתחילה, ולהחליף אותם בהמשך.
למדינות דיקטטוריות יכולה להיות מטלה נוספת שיפקידו בידי הבינות המלאכותיות: שימור הממשל.
בינות מלאכותיות שיכולות לנתח ולהבין חוקי טבע, אמורות להיות מסוגלות גם לעבור על תגובות ברשת ולהבין אלו מהן מתנגדות לממשל, ואלו בעדו. הן יוכלו לנתח מיליוני פוסטים ולזהות מגמות מדאיגות שעלולות להביא לתסיסה פנימית ולמרידה ממש – ולהמליץ מתי ואת מי צריך לעצור. והן יוכלו, כמובן, להתחזות לבני-אדם ברשתות החברתיות ולשכנע את הנתינים שבעצם מצבם אינם גרוע כל-כך. או שאם כן, הרי שאין הרבה טעם שיעשו משהו בנידון.
קוסלה משתמש בסין כנייר הלקמוס שלו להתפתחויות מהסוג הזה. הוא סבור שהמפלגה הסינית מבינה היטב שהבינה המלאכותית תוכל להנציח את שלטון המפלגה. זו הסיבה שסין הכריזה כבר בתכנית החומש האחרונה שלה, שהיא מתכננת לנצח במרוץ לבינה מלאכותית ולהטמעת רשת 5G.
"הטכנולוגיה הראשונה תספק לסין כוח כלכלי," הוא כותב, "בעוד שהשנייה תאפשר לה לנטר אחר כל האזרחים ב- 100-פלוס מדינות, באמצעות שליטה ברשתות התקשורת שלהם ובטיקטוק. … דמיינו את הבוטים של שי [נשיא סין] משפיעים בשקט על מצביעים מערביים בשיחות פרטיות, כשהם נטולי כל "מגבלות ערכיות" שמטרידות המוני אקדמאים ופילוסופים אמריקניים."
בסופו של דבר, הנקודה של קוסלה פשוטה וברורה: אם מפחידה אתכם המחשבה על בינה מלאכותית שתשתלט על העולם, ובכן, המחשבה על בינה מלאכותית סינית שתשתלט על העולם צריכה להפחיד אתכם הרבה יותר.
אז מה עושים? משקיעים במחקר ופיתוח עוד יותר מאי-פעם, ולא עוצרים בשום פנים ואופן.
"אסור לנו להיות נתונים לחסדיהם, בזמן שאנו מתדיינים על תרחישים היפותטיים ומאיטים את הקדמה בשל רגולציה שאינה מתועדפת היטב." הוא מסכם. "ייתכן שעלינו לחשוש מבינה מלאכותית תבונית שתשמיד את האנושות, אך הסיכון של אסטרואיד שיפגע בכדור-הארץ או מגיפה קיים גם הוא. עם זאת, הסיכון שסין תחריב את המערכת שלנו גדול יותר משמעותית לדעתי."
"חוזי האבדון מתרכזים כרגע בסיכונים הקטנים, ולא בסכנה הגדולה ביותר: הבינה המלאכותית תהפוך להיות מסוכנת למערב, אם נפסיד במירוץ לשחקנים מרושעים. אירוני להבין שדווקא האנשים שחוששים מבינה מלאכותית ומיכולתה לפגוע בדמוקרטיה ולתמרן חברות, הם אלו שאמורים לחשוש במידה הרבה ביותר מהסכנה הזו!"
ומה לגבי הכרישים?
באחד מספריי האחרונים – "השולטים לעתיד" – חילקתי את העולם בצורה גסה ללווייתנים, כרישים וסרדינים. כלומר, ממשלות, חברות-ענק והציבור בכללותו. טענתי שהבינה המלאכותית, לצד טכנולוגיות אחרות, יכולה להעניק כוח עצום לכל אחת מהישויות הללו. כוח זה עלול להתגלות כמשחית במיוחד עבור הלווייתנים. קוסלה, כפי הנראה, מסכים איתי בנקודה זו.
אבל מה לגבי הכרישים? מה עם גוגל, אמזון, מטא וכל היתר?
קוסלה, כאיש עמק הסיליקון, פחות מוטרד מהדרך בה החברות ישתמשו בבינה המלאכותית. הוא מודה שהבינה המלאכותית יכולה לחזק את החברות הללו: הן יכולות להשתמש בה כדי להשפיע על השיח ברשתות החברתיות ולהשפיע על הבחירות. ובכל זאת, הוא סבור שהאיום הזה אפסי בהשוואה לאיום שמגיע מלווייתנים שמצוידים בבינה מלאכותית ומרשים לעצמם להשתמש בה בלי מגבלות.
"למה שנהיה פחות רגועים מההשפעה הגלובלית של מנכ"לי טכנולוגיה, בהשוואה להשפעה הגלובלית של מנהיגים לא-נבחרים כמו שי ז'ינגפינג?" הוא שואל. "מנכ"לי טכנולוגיה, על כל פגמיהם, עומדים בסופו של דבר למבחן על התמיכה המתמשכת והעניין של המשתמשים שלהם, הלקוחות, הוועדים ובעלי-המניות. הם חייבים, במידה מסוימת, להגיב לכוחות השוק ולדעת הקהל כדי לשמור על העמדות שלהם – אפילו אם הם עצמם בעלי כוונות רעות. לשם השוואה, מנהיגים אוטוריטריים כמו שי מתעלמים מהסנטימנט הציבורי ומסתמכים על מוסדות המדינה לדיכוי תסיסה ולשמירה על שליטה."
אני מסכים עם קוסלה בנקודה זו, אבל גם מכיר בכך שהוא עושה לעצמו חיים קלים. צריך לבחון גם את התועלות שהכרישים – החברות הגדולות – מקבלים מהבינה המלאכותית, ולהבין איך לבקר את השימוש בה. גם הכרישים יכולים להשתמש בבינה המלאכותית כדי לנטר ולהכווין את השיח הציבורי, וזהו כוח גדול ומשמעותי – גם אם הוא לא מלווה ביכולתה של המדינה לשלוח חיילים ושוטרים ממש כדי לעצור את המתדיינים. ולפחות עבור אדם אחד – אילון מאסק – נראה שהוועדים ובעלי המניות כבר אינם יכולים להפעיל עליו כוח של ממש.
הדעה המדויקת יותר היא הנכונה: משטרים דיקטטוריים קטנים אינם צריכים להטריד אותנו מאד, מכיוון שאין להם את חברות-הענק, או כלכלה שתומכת בחדשנות. אלו הגורמים שמקדמים כיום את המחקר, הפיתוח וההטמעה של הבינה המלאכותית. המשטרים הדיקטטוריים הגדולים – ספציפית, סין – הם אלו שאנו צריכים לחשוש מפניהם, אבל דווקא מכיוון שהם יכולים לנצל את שליטתם בחברות הגדולות. הם יכולים לגרום לכרישים לעבוד עבורם, ולהפיק עבורם בינות מלאכותיות שישרתו את הלווייתנים.
אולי.
בעולם שמשתנה מהר כל-כך, מעטים הדברים שאפשר להיות בטוחים בהם. אולי דווקא מהמשטרים הדיקטטוריים קטנים, תגיח בסוף הבינה המלאכותית שתשתלט על העולם. אחרי הכל, כשאפשר להשתמש בבינה מלאכותית כדי להחליף מדענים ומהנדסים, מי ערב לנו שמדינה קטנה עם שאיפות גדולות, לא תוכל להעמיד "חיל מדענים מלאכותיים" שכל מטרתו להניע את המדע והטכנולוגיה קדימה בכל מחיר? אבל זה תרחיש היפותטי, ולפחות כרגע אני מקבל את עמדתו של קוסלה: הדיקטטורות הגדולות והמתקדמות ביותר, הן אלו שמפניהן עלינו לחשוש.
סיכום
זה היה מאמר ארוך, אני יודע, אבל אני מקווה שהצלחתי לתת לכם הצצה ראויה למחשבותיו של אחד מהאנשים שמכתיבים ומשקפים את השיח – ואת ההשקעות – בעמק הסיליקון. דעותיו של קוסלה מדגישות בבירור נקודה אחת גדולה: העולם המערבי חייב להמשיך קדימה, בכל הכוח, כדי לוודא שסין לא תעקוף אותו במירוץ הבינה המלאכותית. סיכונים ואיומים קיימים בשפע, כולל תרחישי אימים של בינה מלאכותית שמשתלטת על העולם. הסיכון ההיפותטי הזה מחוויר לעומת הסכנה הגדולה האמיתית: שסין הטוטליטרית תשתמש בבינה מלאכותית כדי לכבוש את העולם המערבי ולהחריב את הדמוקרטיה.
ואם נצליח למנוע מסין לעשות זאת, ונמשיך לקדם את הבינה המלאכותית? אם נעשה זאת בחכמה ובזהירות, נוכל להגיע ל- "אוטופיה של צרכנים", כדבריו של קוסלה. לעולם בו כל אדם יוכל לחיות כמו מלך, עם בינה מלאכותית שעוזרת לו בכל דבר ועניין ומרחיבה את יכולותיו.
"בינה מלאכותית היא כלי רב-עוצמה." מסכם קוסלה. "כמו כל טכנולוגיה רבת-עוצמה קודמת כמו גרעין או ביו-טכנולוגיה, גם בה אפשר להשתמש לטוב או לרע. אנחנו חייבים לבחור בזהירות, ולהשתמש בה כדי להעמיד את העולם "האפשרי", כשהדאגות החברתיות הן אלו שמנחות אותנו. אסור לנו לזנוח את היתרונות רק בשל הפחד מהלא-נודע."
עוד בנושא באתר הידען:
