האם הפיתוחים הטכנולוגיים בתחומים שונים המובילים ליכולת שלנו להעצים את עצמנו יביאו אותנו לסינגולריות? הפרק האחרון בסדרה יתאר את ההשלכות האתיות של ההעצמה האנושית
לחלק הראשון של המאמר - היכן נמצאת הטכנולוגיה
לחלק השני של המאמר - ממשק אדם מכונה
אם כשקראתם את חלק א' וב' של המאמר התעוררה בכם תחושה של חוסר נוחות ביחס לאפשרויות ולתחזיות על שיפור היכולת האנושית, אתם לא היחידים. בסקר שנערך בארצות הברית התברר שכשני שליש מהאמריקאים לא רוצים שישתילו בהם שבב שישפר את יכולותיהם הקוגנטיביות או יחבר אותם לאינטרנט ומוטרדים מהאפשרות שיהיה ניתן להנדס גנטית ילדים. הממצא הזה מגיע מהמדינה הכי טכנולוגית וקפיטליסטית בעולם, המקדשת את ההצטיינות.
הסקר מבטא במידה רבה גם את היחס הקיים של המוסדות בארצות הברית ואולי בעולם כולו כלפי מחקר העוסק בשיפור יכולותיהם של הבריאים. מנגנוני המימון למחקר בתחומים כאלו בנויים בעיקר ממענקים ציבוריים ומהשקעות של חברות תרופות שהמוצרים שלהן מפוקחים ומסובסדים ע"י רשויות ממשלתיות. כל המנגנון הזה פועל מתוך רציונל של פיתוח תרופות למחלות, ואין לו עניין במימון העצמה אנושית. כך, למשל, מודיפיניל התפתחה כתרופה לנרקולפסיה והפרעות שינה וניתן להשיגה במרשם רופא בלבד (או בשוק שחור משגשג מאוד באוניברסיטאות היוקרתיות של ארצות הברית). הגבול הזה שבין טיפול בבעיות, ליקויים ומחלות לבין פיתוח טכנולוגיות להעצמה אנושית מלווה את תחום ההעצמה האנושית באופן קבוע. חלק מהתחזיות הקיימות על העצמה אנושית, כגון זו של ריי קורצוויל שהוזכרה במאמר הקודם או זו של מיצ'יו קאקו, נשענות על התקדמויות שהתרחשו בתחום הרפואי והשיקומי ומניחות שיהיה ניתן להרחיבן.
המדיניות בפועל מבטאת את תפיסתו של ההוגה הכלכלי-מדיני פרנסיס פוקויאמה. בספרו "Our Posthuman future" הוא הביע דאגה עמוקה לגורל האנושות אם שורה של טכנולוגיות, ובראשן הנדסה גנטית, יתפתחו באופן שיכניס אותנו לשלב של "ברירה לא טבעית" (המשך האבולוציה של האדם לא בשל תהליכים גנטיים ארוכי טווח, אלא מתוך תכנון ובחירה מודעת). לטענת פוקויאמה שינוי גנטי עלול ליצור שינויים קטנים באינסטינקטים בסיסיים המגדירים את היותנו אנושיים, כמו סף הכאב או האופן בו אנו תופסים את הזמן בהינתן כ-80 שנות חיים. על אינסטינקטים אלו והשלכותיהם בנויה כל התרבות ההומניסטית, מערכת המוסר והמשפט. אם הם ישתנו, אפילו שינוי קטן, ההצטברות של השינויים הקטנים בקרב הרבה אנשים תהווה את סוף עידן ההומניזם. פוקויאמה קורא למדינות להפעיל רגולציה מוגברת והדוקה שתגביל את פיתוח הטכנולוגיה וההנדסה הגנטית ליישומים שהם מעבר להקלת סבל וטיפול רפואי. כפי שראינו, במידה מסוימת זה אכן מה שקורה. עם זאת נראה שלמדינה יש יכולת מוגבלת למנוע מאנשים פרטיים או חברות לפתח טכנולוגיות כאלו אם יש להן אינטרס בכך.
לצד פוקויאמה ניצב גם הפילוסוף ניקולס אגאר. בספרו "Humanity's End: Why we should reject radical enhancement" הוא מונה עוד סכנות חמורות הטמונות בהעצמה האנושית, בהן השימוש הצבאי ביכולות אלו, כפי שניתן לשער מהמשאבים הגדולים המוזרמים לתחום ע"י הסוכנות למחקר מתקדם של משרד ההגנה האמריקני - DARPA. סכנה נוספת היא החיבור בין קפיטליזם להעצמה אנושית: רוב ההתקדמויות הרפואיות (וגם טכנולוגיות אחרות) בתחילת דרכן הן יקרות מאוד וזמינות לקבוצה מצומצמת של אנשים בעלי אמצעים, ולוקח מספר שנים משמעותי עד שניתן לייצרן ולהפיצן בעלויות ההופכות אותן נגישות יחסית לחלק גדול מהאוכלוסייה. מה יקרה אם היכולת "להנדס" תינוק עם איי קיו של 250, ביטחון עצמי ויכולות פיזיות של יוסיין בולט יעלה מיליון וחצי דולר? שטיפול גנטי שמבטיח נעורי נצח יעלה 20 מיליון דולר? שבב מושתל שיהפוך אותך למי שמסוגל לחשב את תנודות השוק בחלקיק שנייה יעלה 8 מיליון דולר? האפשרות שקבוצה קטנה של אנשים ישיגו את הטכנולוגיה הזו, יהפכו את עצמם ל"אנשי על" ויהפכו את כל שאר האנושות לאנשים מסוג ב', היא אפשרות קיימת. גם יובל נח הררי תאר תרחיש דומה בספרו "ההיסטוריה של המחר". הוא ציין שקבוצה זו עשויה להשיג שליטה מוחלטת בעולם האנושי ואפילו החומרי, שכוח רצונם יהפוך לכוח המניע של הקיום. זו יכולת שעד היום יוחסה בעיקר לאלים. נח הררי טוען שזה המשכו של ההומניזם, בתור האידיאולוגיה השמה את רצונו של האדם במרכז, ומכנה זאת "הומניזם אבולוציוני". מה יקרה לנו, לבני האדם ה"רגילים", עם התממשות תרחיש שכזה? נח הררי מזכיר שהאידאולוגיה ההומניסטית האבולוציונית האחרונה הבולטת היתה הנאציזם. כלומר, אם נמצא את עצמנו כזן הנחות יותר, ייתכן שניתפס ע"י הזן החזק יותר של בני האדם כלא נחוצים, אולי אפילו כמטרד. במקרה הטוב נהיה חיות מחמד, במקרה הרע נושמד כמו שעשינו לזנים רבים אחרים ובהם האדם הניאנדרטלי שהיה "קצת פחות" מאתנו (בעיקר מבחינה קוגנטיבית).
אגאר, למרות כותרת ספרו הנחרצת, אומר שלמעשה אנו כבר לא יכולים לשאול את עצמנו האם להיכנס לעידן של העצמה אנושית, כיוון שאנחנו כבר בתוכו. אישית, כפי שגם כתבתי בחלק הקודם של המאמר, אני סבור שעוד לא הגענו לקפיצת הדרך האמיתית, אך מסכים שהיא בעיקר שאלה של זמן.
מול פוקויאמה יש אסכולה שלמה שטוענת שהעצמה אנושית אינה רק לגיטימית, ייתכן שהיא אף הכרחית. אסכולה זו מונה אנשים כמו אלון מאסק, ריי קורצוויל ופילוסופים כמו ניק בוסטרום (מנהל המכון לעתיד האנושות באוקספורד) וג'וליאן סאוולסקו (מנהל המרכז לאתיקה יישומית באוקספורד). אנשי אסכולה זו, המעודדים את מגמת ההעצמה האנושית, מכונים "טרנסהומניסטים". הטענה הכללית שלהם היא שהטכנולוגיה הביאה לאורך ההיסטוריה באופן עקבי לירידה במאבקים האלימים והפחתה של אי השוויון, ושטכנולוגיות העצמה אנושית לא יהיו שונות. הבחירה אם להשתמש בטכנולוגיה כזו, לכשתהיה קיימת, צריכה להיות חופשית ומושכלת. סאוולסקו, למשל, אומר שאם אם יודעת שהעובר בבטנה נושא גן אנטי-סוציאלי (זה המגדיל את סיכויי המחזיק בו להיות פושע ורוצח, או מנכ"ל...), יש לה הזכות המלאה לבחור האם להולידו או לא. ברירת עוברים היא צורה בסיסית מאוד של העצמה אנושית, אך על פי סאוולסקו העיקרון האתי שבבסיסו נכון גם לצורות אחרות של הנדסה גנטית.
מעבר לרעיון הבחירה החופשית ישנם גם טיעונים לפיהם העצמה אנושית הכרחית להישרדותו של המין האנושי. ההנחה היא שהמין האנושי פגיע ויכול להתקיים רק בתנאים מאוד ספציפיים ונדירים ביקום. כל "תקלה", כמו זו שקרתה לדינוזאורים ועוד רבות אחרות, וקיומנו יימחה. אלון מאסק צופה ש"תקלה" כזו תקרה לנו בקרוב למדי עם עלייתה של האינטליגנציה המלאכותית. אם כך כדאי מאוד שנעסוק בהשבחתנו הלא טבעית כמין, נהפוך את עצמנו לחכמים יותר וחזקים יותר, על מנת למצוא את הפתרונות לסכנות הקיומיות הצפויות לנו.
עם זאת גם סאוולסקו ובוסטרום מודעים לאפשרות שהאדם עלול לנצל לרעה את הטכנולוגיות, כפי שעשה גם בעבר, ובעיקר לתרחיש בו קבוצה קטנה תנצל את האפשרות שלה להשתמש בטכנולוגיה באופן שייצור אי שוויון בלתי הפיך ואפילו "התפצלות" של המין האנושי. הם קוראים ליצירת מנגנונים וחוקים שיכוונו את ההעצמה האנושית כך שתקדם את המין האנושי, את איכות החיים ולא תפגע באופן מהותי בהתפלגות שוויון ההזדמנויות הקיימת כיום (לטענתם פערי הזדמנויות הנובעים מאמצעים וגם מרקע גנטי ממילא קיימים).
לפני כשנה רואיינו פוקויאמה וסאוולסקו והמראיין ביקש מהם לפתוח קופסא קטנה. בקופסא היתה גלולה. המראיין אמר להם שהגלולה תיתן להם כוחות על, תעניק להם יכולות מנטליות וגופניות בלתי נגמרות. האם תיקחו את הגלולה, הוא שאל. פוקויאמה אמר שלא. הוא אמר גם שהוא חרד כיוון שברמה הפרטית האינטרס של כל אחד יהיה בסופו של דבר לקחת את הגלולה ולשפר את מצבו. עם זאת "שיפור המצב" ייעשה מתוך הנחה שהעולם ימשיך להתנהל כפי שהוא כיום, אך כל מי שייקח את הגלולה יתרום לכך שהעולם ישתנה. סאוולסקו אמר שהיה לוקח אותה ומעודד אחרים גם לעשות זאת, כל עוד ניתן היה להבטיח שהגלולה תהיה זמינה גם לאנשים אחרים ושלא תשמש באופן מידי לקידום רוע.
האם אתם הייתם לוקחים את הגלולה? האם תתנו אותה לילדיכם? סביר להניח שזו לא תהיה גלולה אלא משהו אחר, אך ככל הנראה כבר נולדו האנשים שיעמדו בפני החלטה שכזו.