ידענים: עתידנות טכנולוגית

מאת 27 באוגוסט 2015 8 תגובות

ה"מרכז לחקר סכנות קיומיות" (CSER) של אוניברסיטת קיימברידג' נוסד ב-2012. הוא מפתח שיטות מדעיות להערכת גורמי סיכון עולמיים . הארגון בוחן איומים הנובעים מטכנולוגיות מתפתחות, סכנות שעדיין איש לא נתן עליהן את הדעת.

"שעון יום הדין" נע השנה קדימה בפעם הראשונה מאז 2012. את הספירה התיאורטית הזאת לאחור עד הקטסטרופה המציאו לפני 67 שנים חברי "ביטאון מדעני האטום", קבוצה שהתאגדה ב-1945 כדי לעמוד על המשמר וכללה מדענים שהשתתפו ב"פרויקט מנהטן". חבריה הנוכחיים הזיזו את מחוגי השעון הזה שלוש דקות קדימה בשל סכנת שינוי האקלים והאטת ההתפרקות מנשק גרעיני בעולם.

אבל ההתחממות הגלובלית וצרת הגרעין הן לא הסכנות היחידות הנשקפות לאנושות. יש ארגון שבוחן איומים הנובעים מטכנולוגיות מתפתחות, סכנות שעדיין איש לא נתן עליהן את הדעת. ה"מרכז לחקר סכנות קיומיות" (CSER) של אוניברסיטת קיימברידג' נוסד ב-2012. הוא מפתח שיטות מדעיות להערכת גורמי סיכון עולמיים במטרה לברר, לדוגמה, אם תרחיש שבו רובוטים משתלטים על כדור הארץ הוא נושא למדע בדיוני בלבד או שאכן יש אפשרות כזאת בחיים האמיתיים. מקצת המוחות הגדולים בעולם, ובהם סטיבן הוקינג, יאן טאלין (מן המהנדסים המייסדים של סקייפ) והפילוסוף יו פרייס, תורמים את דעותיהם.
נציגת סיינטיפיק אמריקן, ארין ביבה, ישבה עם אחד ממייסדי המרכז, האסטרופיזיקאי לורד מרטין ריס, לשיחה על האפשרויות לאחרית החיים המוכרים לנו. הנה קטעים ערוכים ממנה.

מדוע צריך להקים קבוצה המתעמקת בסכנות הכרוכות בטכנולוגיות חדשות?
בכל תולדות האנושות התמודדו אבותינו עם סכנות: מגפות, סערות, רעידות אדמה ואסונות מעשה ידי אדם. אבל המאה הזאת שונה. היא המאה הראשונה שבה מין אחד, המין שלנו, יכול לקבוע את גורל כוכב הלכת, לאיים על הציביליזציה ולסכן את קיומם של הדורות הבאים.

איזה סוג של תרחישים אתם בוחנים?
כרגע יש דעות שונות מאוד בקרב המומחים גם באשר לסבירויות וגם באשר להשפעות. מדעני האקלים חלוקים בשאלה אם יש נקודות אל-חזור שמעבר להן עלולה להתרחש שואה. יש מגוון עצום של דעות בקרב מומחים בבינה מלאכותית: יש הסבורים שבינה מלאכותית ברמה של אדם בעל רצון משלו (ומטרות שאינן תלויות במטרותיהם של בני אדם) יכולה להתפתח עד אמצע המאה. אחרים סבורים שהסיכוי לכך קלוש מאוד. הם טוענים שעלינו לרכז את החששות באתיקה ובבטיחות של אוטומטים רובוטיים טיפשים (כמו מזל"טים צבאיים). ויש כבר ויכוח ערני בנושאים שבחזית הביוטכנולוגיה. אני מקווה ש-CSER יעזור לגבש הסכמה כללית מהודקת יותר סביב השאלה מהן הסכנות הממשיות ביותר ויעזור להעלות אותן על סדר היום.

מהן הסכנות העיקריות שנשקפות לאנושות לדעתך ומה חומרתן?
אני באופן אישי פסימי באשר ליכולתה של הקהילה להתמודד עם התפתחויות ביוטכנולוגיות. כידוע, בוועידת אַסילוֹמַר, שנערכה בשנות ה-70 של המאה ה-20, ניסחו חלוצי הביולוגיה המולקולרית הנחיות לדנ"א הֶצְרֵפִי (רקומביננטי). אבל סוגיות מסוג זה מתעוררות היום אפילו ביתר חדות. יש היום ויכוח וחששות באשר לאתיקה ולזהירות שיש לנקוט בטכניקות חדשות: ניסויים ל"שיפור התפקוד" של נגיפים ושימוש בטכנולוגית לעריכה גנטית המכונה CRISPR. לעומת שנות ה-70, היום קהילת המדענים בתחום יותר גלובלית, יותר תחרותית, ונתונה יותר ללחצים מסחריים. אני חושש שכל דבר בר ביצוע יבוצע בסופו של דבר בידי מישהו במקום כלשהו. אפילו אם יהיו פרוטוקולים ותקנות רשמיים ומוסכמים, יהיה קשה לאכוף אותם כמו שקשה לאכוף חוקים האוסרים על שימוש בסמים. טעויות ביוטכנולוגיות וטרור ביוטכנולוגי מדורגים במקום הראשון ברשימת הסכנות האישית שלי לטווח הבינוני (10 עד 20 השנים הבאות).

יש משהו שאנשים חוששים ממנו שלא בצדק?

רבים מתושבי העולם המפותח דואגים יותר מדי מסכנות משניות (חומרים מסרטנים במזון, חשיפה לא גבוהה לקרינה, התרסקויות מטוסים ועוד). יש המפחדים יותר מדי מפגיעת אסטרואידים, שהיא מן הסכנות הטבעיות המובנות לנו ביותר ושהכי קל לאמוד אותן. ייותר מזה, בקרוב נוכל להפחית את הסיכון לכך על ידי הסטת אסטרואידים ממסלולי התנגשות עם כדור הארץ. זאת הסיבה שאני בעד פרויקט B612 Sentinel.

מה שצריך להדאיג אותנו יותר הוא איומים חדשים. אלה בוודאי טעונים תשומת לב רבה יותר, ואותם מבקש ה-CSER לחקור. כלל חשוב הוא שהבלתי מוכר איננו בלתי סביר. מה שעומד על הכף חשוב כל כך, שאפילו אם נשכיל להקטין את הסיכוי לאסון בחלק אחד למיליון, הרי שעשינו את שלנו.

 

עוד בנושא באתר הידען:

 

הכתבה התפרסמה באישור סיינטיפיק אמריקן ישראל

עוד באתר הידען

8 תגובות ל “צוות חשיבה לאחרית הימים”

  1. קורא

    חיים, ישנה כיום מגמה חזקה של בניית רובוטים ומערכות ממוחשבות הבנויים על בסיס מערכות לומדות ובינה מלאכותית. החוקרים עצמם מודים פעמים רבות שהם לא יודעים מראש מה יהיו התוצאות ורק לאחר שהמערכת עברה תהליך לימוד הם רואים כיצד היא מגיבה, והרבה פעמים היא מפתיעה אותם בתגובותיה.

    ראה לדוגמה את הרשת העצבית שדווח עליה רק לפני מספר חודשים שלמה באופן עצמאי כיצד לשחק במיגוון רחב של משחקי מחשב, ובהם היא היתה צריכה בין היתר לתקוף מטרות ואף להגן על עצמה מפני טילים/פצצות על מנת שהיא לא תושמד (תיפסל) בדיוק מה שאתה טוען שהוא בלתי אפשרי.

    נראה אותך מנסה "לכבות את המתח" לרובוט שעומד מולך והוא פי כמה יותר גדול וחזק ממך וכנראה גם לא פחות אינטיליגנט, ומנסה להגן על קיומו. אני לא חושב שזה יהיה קל כל כך…

    אני חושב שמערכת בינה מלאכותית שתיבנה על בסיס פעולת המוח שלנו (רשתות נוירונים) תוכל להבין, להיות אינטיליגנטית ואף לפעול נגד מי שהיא חושבת שעשוי להפריע לה או לאיים על קיומה.

  2. חיים

    קורא
    יכולות אלה של הרובוטים הם תוצאה מהתוכנות שבונים עבורם. מה ששמים זה מה שמקבלים לתזכורת תיזכר בסרטו הבלתי נשכח של צ'אפלין "זמנים מודרניים" בסצנה בה המכונה מאכילה את העובד. בשל תקלה במכונה המהנדסים של מכונת ההזנה שמים בצלחת ברגים והמכונה מזינה את העובד האומלל בברגים. כוונתי היא לכך שהמחשב פרי החלטה עצמאית שלו וללא תוכנות יאמר "לא רוצה" או "לא בא לי".האם הוא מסוגל לכך? קח מחשב או רובוט מתוחכם ביותר, נתק אותו מהחשמל ומה קורה לו? קח בעל חיים ותאיים עליו. הוא יתגונן- יברח או יתקיף. ושוב בלי תוכנות שהכנת האם המחשב יבין שהוא בסכנה קיומית? זכור לי שלפני שנים היה בשימוש הביטוי Garbage In Garbage Out . תחשוב על זה ותבין למה אני מתכוון. תנסה לחשוב בכיוון נוסף הפעלת מערכות הגנה. החלטתה שבאמצעות מערכות אלה תשמיד עיר של האויב. האם המחשב מטעמים של שיקולים הומניטריים יסרב פקודה? ואם תאיים עליו בטופס 630 (תיזכר בשירות הסדיר שלך) האם יבין במה מדובר? מסופקני.
    קורא,
    לא תמיד צריך לבוא עם הסבר כה מפורט. צריך גם לדעת לקרוא בין השורות כדי להבין את כוונת הכותב. כמי שמבין קצת במדעים ובהנדסה (אינני מהנדס) אני מרשה לעצמי לומר שלא הכול טכנולוגיה.
    . .

  3. קורא

    חיים, כבר היום ישנם רובוטים המקבלים החלטות באופן עצמאי לחלוטין, אפילו בתחום ההפעלה של נשק טילים ומערכות הגנה, כך שההערה שלך לגמרי לא ברורה.

  4. חיים

    להגיד שרובוטים ישתלטו על העולם, נו. כל זמן שרובוט לא יכול להגיד לא רוצה,חזות קודרת כזו לא תהיה ואף פעם לא תתממש. שאלות כמו התפרצות געשית כה עזה שהאפר שלה יכסה את כדור הארץ על כך יש לחשוב. דוגמה אחרת קצת מתחום המדע הבדיוני אך בעלת סבירות. צוות בינלאומי טס למאדים ובחזרתו ארצה נושא איתו חיידקים לא מוכרים. החיידקים נפוצים במהירות ועשרות מליונים נספים. מה עושים? הדוגמה האפוקליפטית המוכרת היא סיפור המבול שנמצא בכל מיתולוגיה שהיא מה שנותן לכך אמינות היסטורית. נתאר לעצמו שישנן עדויות שהקרח בקטבים יפשיר תוך חצי שנה, מה זה אומר לגבי קו החוף איך מפנים בצורה מסודרת מליוני אנשים פנימה לתוך היבשת ולמקומות גבוהים? להתכונן כן, אבל לכיוון האפוקליפטי עלול להביא לחשיבה בתחום המדע הבדיוני.

הוספת תגובה

  • (will not be published)