"עלינו לחשוב על ההיבטים האתיים של התבונה המלאכותית ושיפור המוח לפני שיהיה מאוחר"

כך אומר בראיון לאתר הידען, פרופ' ג'ונתן גלובר, מקינגס קולג' בלונדון, אחד מתשעה זוכי פרס דן דוד, ואחד מהשלושה שזכו בפרס בממד זמן ההווה שניתן השנה לחוקרים בתחום הביואתיקה. טקס הענקת הפרסים התקיים ביום ראשון באוניברסיטת תל אביב

פרופ' ג'ונתן קלובר מקבל את פרס דן דוד לממד זמן הווה, על מחקריו בתחום הביואתיקה מידיהם של גבריאלה דוד, אשתו של דן דוד ז"ל, ויו"ר ועדת הפרס, פרופ' איתמר רבינוביץ'. צילום: ישראל הדרי, עבור פרס דן דוד
פרופ' ג'ונתן קלובר מקבל את פרס דן דוד לממד זמן הווה, על מחקריו בתחום הביואתיקה מידיהם של גבריאלה דוד, אשתו של דן דוד ז"ל, ויו"ר ועדת הפרס, פרופ' איתמר רבינוביץ'. צילום: ישראל הדרי, עבור קרן פרס דן דוד

"עלינו לחשוב על ההיבטים האתיים של התבונה המלאכותית ושיפור המוח לפני שיהיה מאוחר". כך אומר בראיון לאתר הידען, פרופ' ג'ונתן גלובר (Jonathan Glover) , מקינגס קולג' בלונדון, אחד מתשעה זוכי פרס דן דוד, ואחד מהשלושה שזכו בפרס בממד זמן ההווה שניתן השנה לחוקרים בתחום הביואתיקה.

טקס הענקת פרסי דן דוד התקיים ביום ראשון השבוע, 6/5/18  בפעם ה-17 באוניברסיטת תל אביב במעמד משפחתו של איש העסקים דן דוד שהקים את הקרן והשתתף בעשרת הטקסים הראשונים – רעייתו גבריאלה ובנו אריאל.

פרופ׳ גלובר קיבל את פרס דן דוד על תרומתו המקורית להיבטים התאורטיים של הביואתיקה: על הובלת סדר היום המחקרי בנושאים רבים, ובמיוחד בתחוםHuman Enhancement והאתיקה של הפוריות. מחקרו המקורי מקיף נושאים שונים ומגוונים, ביניהם טבע האדם, מלחמה ושואה, אתיקה בגנטיקה, נוירואתיקה וסוגיות פסיכיאטריות. פרופ' גלובר חלק את הפרס על תחום הביואתיקה עם שני חוקרים נוספים, פרופ' יחזקאל עמנואל מאוניברסיטת פנסילבניה והברונית מארי וורנוק.
תחילה התייחס לכך פרופ' גלובר בדברי התודה שנשא בשם בזוכי קטגורית הביואתיקה. "בחרתם לתת את הכבוד לתחום הביואתיקה. זה נושא מעניין, אך איננו קבוצה אחידה – יש בינינו מדענים, רופאים, תיאולוגים, משפטנים ופילוסופים. אומרים שהתחום הוא קן של ציפורי שיר. לפעמים הייתי אומר, זה יותר קן של ציפורים עצבניות."

"הביואתיקה היא רגולציה שנועדה למנוע נזקים, קודים של אתיקה רפואית, חוקים המסדירים תחומים כמו הפלות. ואולם אנו גם מקיימים דיונים פתוחים המיועדים לעתיד, תכנון כיצד להתמודד עם פיתוחים מדעיים עתידיים אפשריים לפני שיהיה מאוחר מדי, כמו בתחום הנשק הגרעיני בו נזכרו לטפל אחרי שנשק פותח. בזמן הפיתוח עצמו לא התקיימו דיונים ציבוריים. "

שני דברים שאנו זקוקים להתחיל לחשוב עליהם כבר כעת. הראשון הוא קריאת מחשבותיהם מתוך פעילות מוחם (צפיה בסרט שבתוך ראשנו). ג'ורג' אורוול כתב בספרו 1984: "כמה סנטימטרים בתלוך הגולגולת שלנו הם המרחב הפרטי היחיד שנשאר". כעת גם מרחב זה מאויים. התחום השני הוא תבונה מלאכותית שתעבור את המגבלות הביולוגיות שלנו. בנושא זה אני מצטט את ריי קורצווייל בספרו "הסינגולריות" מוחות ביולוגים יוחלפו על ידי מוחות לא ביולוגים שיגיעו מהמחשבים העתידיים. האם נו נוכל להיות בטוחים שמוחות מלאכותיים אלה יהיו בעלי מודעות? המוח הטבעי התפתח כדרך של היקום להיות מודע לעצמו. "

תצלום קבוצתי של זוכי פרס דן דוד לשנת 2018. צילום: ישראל הדרי, עבור קרן פרס דן דוד
תצלום קבוצתי של זוכי פרס דן דוד לשנת 2018. צילום: ישראל הדרי, עבור קרן פרס דן דוד

פרופ' גלובר עוסק שנים רבות בתחום הביואתיקה, בראיון לאתר הידען למחרת הטקס בו נשא את הדברים הללו, הוא מסביר כיצד הוא מלווה את התחום מראשיתו. "בחמישים השנים האחרונות היו התפתחויות רבות בתחום הרפואה שהביאו לשיפור בתחומי תחילת החיים, סוף החיים ואיכות החיים בין לבין, כאשר תוחלת החיים עולה. לכל הסוגיות הללו יש הביטים מוסריים, לפני 35 שנים כתבתי ספר שבו ניתחתי מה אנו צריכים לעשות במקרה שבחירה גנטית תהיה אפשרית (כפי שבאה לידי ביטוי בתחום הפריות המבחנה שהיה אז עדיין בשלב נסיוני א.ב.). במיוחד התעניינתי בשאלה הזו משום שיש לנו פה מצד אחד שהורים שרוצים ילד בריא שתהיה לו התחלה טובה לחיים. מצד שני, ריחף מעל הצל של האאוגניקה הנאצית, והרעיון של יצירת גזע עליון. ההבדל הגדול הוא יכולת הבחירה. באנגליה וגם בישראל, כאשר מתגלה עובר עם תסמונת דאון, הרופאים ממליצים על הספקת ההריון, וההורים הם אלו שצריכים להחליט. יש הורים שיגידו שהם רוצים לגדל את הילד, גם אם הוא לוקה בתסמונת דאון ולא מוכנים לעשות הפלה. זה שונה לחלוטין ממה שהנאצים עשו משום שלנאצים היתה אידאולוגיה שהתבססה על הרעיון השגוי של הדארוויניזם החברתי. לפי האידאולוגיה הזו, אומות או גזעים נמצאים במאבק אבולוציוני או דארוויניסטי שניתן לנצח בו רק אם יש לך מאגר גנים טובים. הנאצים טעו בכך שהם חשבו שהם נמצאים במירוץ עם הסלאבים ברוסיה או עם האנגלים והצרפתים. היום אנו מאפשרים להורים בחירה. זה לא מה שהנאצים עשו. הם החליטו שהמדינה היא זו שצריכה להחליט ושהמדינה לא רוצה אנשים עם מוגבלויות. הדבר הוביל מאוחר יותר לרצח של חולים פסיכיאטריים בבתי חולים. אותה אידאולוגיה היא שהובילה לרצח העם בידי הנאצים."

מדוע אתה מודאג מההתפתחות במדעי המחשב שתביא לפיתוח התבונה המלאכותית ולשיפור המוח האנושי?

התבונה המלאכותית מתפתחת בתקופה שבה המין האנושי עדיין לא בוגר מוסרית. לדעתי זה כמו נשק גרעיני. לא קיימנו דיון לפני שנעשה שימוש בפועל בנשק גרעיני. אני לא חושב שנגיע כל כך מהר לסינגולריות אבל בכל זאת אנו צריכים כעת להתחיל לדבר איתם. נכון שהתבונה המלאכותית תסייע לפתח דברים שיעזרו לנו וישפרו את איכות חיינו אבל מצד שני, קשה מאוד לבקר את ההתפתחות, וסיבה טובה למנוע את הפיתוח.

במילים אחרות, אנו חיים בעולם שיש בו מאבקים אלימים בכל העולם, באוקראינה, בקרים, סרי לנקה, צפון ודרום קוריאה, הישראלים והפלשתינים, ולכן אני מאמין שכל מדינה תרצה לפתח נשק מבוסס תבונה מלאכותית, כמו שהתחיל מירוץ גרעיני. אני מניח שיהיה קשה לפנטגון לסרב להצעה לפיתוךח נשק כזה. נוכל לפתח מכונות מבוססות תבונה מלאכותי שיוכלו לחסל באופן פתאומי את צבא האויב. אני מניח שיהיה קשה לפנטגון לסרב להצעה לפיתוח נשק כזה. אינני רואה את פוטין אומר לא. לכן אני חושש משום שהם נמשיך במסלול, גם אם הישראלים והפלשתינים יחיו בשלום ובשלווה, ייפתרו המשברים באוקראינה ובקרים, חצי הקוריאני יאוחד ויפורק מנשק גרעיני, אם המשבר בסרי לנקה יפתר, אולי במצב כזה לא נצטרך לפחד מהתבונה המלאכותית. אך אין סימן שמשברים אלה עומדים להיפתר ולכן אני גם מודאג מהתבונה המלאכותית.

ומדוע אתה חושש משיפור המוח האנושי באמצעות ממשק עם מחשבים?
אני מודאג מכך שתהיה לאחרים גישה למוח ולאישיות שלנו. אני חושש שהדבר יתפתח בהדרגה, כמו שפיתחו שתל שמאפשר לנכים לשלוט על תנועת כסא הגלגלים בכוח המחשבה, לא משהו שמישהו יכול להתנגד אליו, גם לא תהיה התנגדות לפיתוח שתל מוחי שיאפשר הפסקת התמכרות, אבל כשיש שתל אחד ואחריו עוד אחד ואוד אחד, נוכל להחליף את המוח כולו ולדעת מה קורה בתוכו לפני שנבין מה קרה. במיוחד איננו רוצים לתת לממשלה לדעת על מה אנו חושבים, וזו הסיבה לקישור שעשיתי לספרו של אורוול 1984. האם כבר הגענו לעידן האורווליאני, לדעתי עדיין לא, אבל שוב, צריך לחשוב על כך מראש.

עוד בנושא באתר הידען:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

7 תגובות

  1. נניח שישנה חיה כלשהי. לדוגמא: לטאה, זבוב, וכל כיו"ב..
    מה מעניין אותה בחיים?
    1]. להישמר מטורפים.
    2]. להישמר מתנאי מזג אויר קיצוניים.
    3]. לאכול ולשתות.
    4]. להתרבות.
    5]. לנוח במקום בטוח ולאגור כוח.
    כל חייה היא עסוקה ב-5 המשימות הללו של חיה.
    כל מחשבותיה נתונות כל הזמן לתכנון וביצוע 5 משימות אלה.
    שאלה:
    האם ניתן להגדיר בבירור כי לחיה הזאת ישנה מודעות ?
    התשובה :
    כן, בוודאי.
    וזו מודעות המורכבת מ-5 משתנים בלבד.
    האם המודעות של האדם מורכבת ממספר רב יותר של משתנים ?
    אנו מאמינים שכן, ולכן, לתפיסתנו, המודעות שלנו מורכבת הרבה יותר. מורכבת לא רק מ-5 משתנים אלא מהרבה יותר.
    מכמה משתנים מורכבת המודעות שלנו ?
    במחשבה ראשונה אנו נוטים לחשוב כי המודעות שלנו מורכבת מאלפי ואולי עשרות אלפי משתנים.
    אני משער כי, מחקר ובירור מדעי של הסוגיה יעלה כי מספר המשתנים המרכיבים את המודעות של האדם (הממוצע), אמנם רב יותר מזה של הזבוב, אבל לא בהרבה, אולי ב-10%, אולי ב-25% ? בוודאי לא ב-100-200%
    בערך בדומה להבדל בכמות המטען הגנטי בין הזבוב לאדם.

  2. ספקן
    אתה מניח שיש כזה דבר מודעות, ואתה מניח מעל זה, שהוא חייב להיות מרוכז באיזור קטן. קיומו של מודעות מותנית בהגדרה שלו, ואני לא מכיר הגדרה אחת שמקובלת על כולם. לפי דעתי, גם

  3. בהנחה שבכלל ניתן לייצר מודעות במערכת שלא על בסיס ביולוגי אין הבטחה שהמודעות תעשה את
    את המערכת הזאת לטובה או גרועה יותר ממערכת חסרת מודעות,
    וגם מי אמור להחליט מזה מוסרי כי אין סרגל מוסרי מוסכם אצל המין האנושי , לכל אידאולוגיה אם דתית או חילונית יש את הסרגל המוסרי שלה , אנחנו רואים את זה אצל בני אדם עם מערכת מודעות
    שלא מפריעה להם להרוג אחד את השני, אנשי דעא"ש בעלי המודעות משוכנעים שהפרופסור הנכבד הוא כופר לכל דבר שיש לחסלו ואצלם יש את בשורת המוסר הטהורה ביותר, כך שהקנית מודעות למכונה לא תבטיח שהיא תהיה נחמדה יותר אנחנו ההוכחה לזה,
    בנוסף המודעות היא מערכת שנוצרה תוך כדי האבולוציה ואיפשר לפרטים בעלי המודעות לשרוד,
    היא לא נוצרה עבור היקום כדי שהוא יוכל להתבונן בעצמו הכי רחוק שניתן לומר שאנו חלק מהיקום וכתוצאה מזה כאשר אנו מתבוננים ביקום זה חלק מהיקום שמתבונן בעצמו אבל אין ממצע מדעי שליקום כמערכת כללית
    יש מודעות אינטגרטיבית שמחברת אותו למערכת אחת חושבת , גם מהירות הולכת המידע המכסימלית הידועה לנו כיום מוגבלת ביקום למהירות האור זה לא בדיוק אינדיקציה ליצור תבוני שכל מחשבה לוקחת עשרות מיליארדי שנים לעבור מצד לצד,

  4. אתם יכולים לשכוח מזה – לא יהיה לפחות לא במאה הזאת שום מכשיר שיכול לחקות שלא נגיד להתעלות על האינטלגנציה האנושית …. ואני מתכוון ברמת התחכום כמו דיבור, יצירתיות , ניהול משימות וכדומה . ..

    מקק יותר חכם מהרובוט הכי מתוחכם …

  5. להשקפתי, כל הלך המחשבה והלוגיקה שמבטא פרופ' ג'ונתן גלובר בראיון שלעיל, נראים בעיני ולהפתעתי, מיושנים ופשטניים. אנסה להנמק זאת בפשטות בשלוש נקודות :
    א]. דברים ואזהרות הפחדה מאין אלה, נאמרו לאורך כל ההיסטוריה של ההתפתחות המדעית. אם זה הפלות מלאכותיות או ניתוחי לב ומוח או חקר החלל או כל חידוש מדעי-טכנולוגי, קמים מנבעי השחורות ומזהירים מפני התערבות האדם במעשה הבריאה.
    ב]. בדיוק כשם שלאף אחד אין כיום מושג לגבי טווח היכולות וההתפתחות של האינטיליגנציה המלאכותית, גם לאף אחד אין מושג לגבי טווח היכולות וההתפתחות של המוח האנושי. מאד יתכן כי המוח האנושי עוד לא מיצה ולו 10% מפוטנציאל היכולות שלו.
    ג]. לאף אחד בעולם אין כל מושג, מהו כיוון ההתפתחות של המחקר המדעי, לא רק בתחום האינטיליגנציה המלאכותית, אלא בכל תחומי המחקר המדעי. זה טיבו של המחקר המדעי, התגליות העתידיות עדיין אינן ידועות. לפיכך גם אין לדעת מפני מה להיזהר. כל היתר הוא בבחינת ניחוש שמן הסתם יתברר בעתיד כטעות.

  6. זה מאוד מסובך, אחשוב על זה ואגיע למסקנות אחרי שדרוג המוח שלי.

    אבל גם במצב הלא משודרג, אפשר לבחין כי "המוח הטבעי התפתח כדרך של היקום להיות מודע לעצמו" היא אמירה חסרת שחר, ולחילופין אפשר לטעון שהבינה המלאכותית ותבונת העל היא הדרך של היקום להיות מודע לעצמו ביתר שאת.

  7. הנושא מרתק, תודה על המאמר.
    שתי פסקאות צדו את עיני:
    1. "האם נוכל להיות בטוחים שמוחות מלאכותיים אלה יהיו בעלי מודעות? המוח הטבעי התפתח כדרך של היקום להיות מודע לעצמו. "
    2. " התבונה המלאכותית מתפתחת בתקופה שבה המין האנושי עדיין לא בוגר מוסרית…קשה מאוד לבקר את ההתפתחות, וסיבה טובה למנוע את הפיתוח ".
    לגבי 1: קשה להבין מדוע גלובר מעונין בהקנית מודעות למכונות. בהינתן שאנו יודעים להגדיר מודעות ושאפשר בכלל להקנות מודעות למכונה, פוטנציאל הסכנה, ככל שהוא קיים – דוקא גדל בחלופה כזו.
    לגבי 2: אפשר להסכים עם הפתיח, למרבה הצער, וגם די ברור שהבקרה תהיה קשה. אבל האמת היא שבקרה מוסדית רגילה לא יתכן שתהיה הרמטית, ומכאן דוקא נובעת מסקנה הפוכה מזו שהגיע אליה גלובר: יש לשאוף לפיתוח, לרבות פיתוח מקביל של אמצעי ניטרול והגנה מובנות בתוך המערכות והמוטמעות בהליכי היצור. זה גם מה שיקרה: כל מה שניתן לפיתוח בצד אחד ניתן לפתח מולו בצד השני את הפיתוח הנגדי – המגביל והמנטרל. ברמת המדיניות הלאומית/גלובלית – המדיניות שתאומץ היא במישור התקציבי וההשקעתי לא פחות מאשר מקצועית: מדובר במדיניות כלכלית שתהיה דיפרנציאלית בין התחומים, ביחד עם רגולציות וכן אסטרטגיות בקרה נקודתיות.

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן