בינה מלאכותית – האירוע הנורא ביותר בהיסטוריית האנושות?

"איננו יכולים לדעת אם לנצח הבינה המלאכותית תעזור לנו – או אולי היא תתעלם מאיתנו ותדחק אותנו הצידה – או חלילה תשמיד אותנו", כך אמר סטיבן הוקינג בפני משתתפי ועידת Web Summit 2017 שהתקיימה בליסבון

סטיבן הוקינג. צילום: NASA/Paul E. Alers.
סטיבן הוקינג. צילום: NASA/Paul E. Alers.

"אני רוצה לדבר על תבונה מלאכותית, הדבר חשוב לכם, אנשי תעשיית התרופות באופן מקצועי, ולחברה (Society) בכללה", כך אמר סטיבן הוקינג בנאום מוקלט בפני משתתפי ועידת Web Summit 2017 שהתקיימה בליסבון בתחילת נובמבר.

"יש המון אתגרים והזדמנויות שאנו עומדים בפניהם ברגע זה, ואני מאמין שאחד האתגרים החשובים – דבר שישפיע על חיי היומיום של האנושות, הוא שכל דבר שניתן להשיג באמצעות מחשוב, ניתן להשיגו גם באמצעות מוח ביולוגי, ולהיפך".

עם זאת, אמר, "יש פונציאל סופי להתפתחות מוח האדם. מחשבים יוכלו בתיאוריה לחקות את המוח האנושי ולהשיג אותו. איננו יכולים לחזות מה אנו עשויים להשיג אם כל הזכויות שלנו יוחזקו בידי תבונה מלאכותית. יתכן שעם החוקים של המהפכה הטכנולוגית החדשה אנו עשויים לתקן משהו מהנזק שנעשה לעולם הטבע בידי האדם באמצעות התיעוש. נוכל לבטל את המחלות והעוני".

"כל היבט בחיינו יעבור שינוי. בטווח הקצר שיפור איכות החיים הוא האירוע הגדול ביותר בהסטוריה האנושית, או אולי הגרוע ביותר. פשוט איננו יודעים, לפיכך איננו יכולים לדעת אם לנצח הבינה המלאכותית תעזור לנו – או אולי היא תתעלם מאיתנו ותדחוק אותנו הצידה או חלילה תשמיד אותנו".

לדברי הוקינג, "אם לא נתכונן לאיום הפוטנציאלי, התפתחות הבינה המלאכותית עשויה להיות האירוע הנורא ביותר בהיסטוריה של התרבות האנושית. הבינה המלאכותית מביאה איתה סכנות כדוגמת כלי נשק אוטונומיים רבי-עוצמה וגם בטווח הקצר יותר, הם עלולים לגרום להרס הכלכלה".

כבר היום, הסביר, "אנו מודאגים מכך שמכונות חכמות תוכלנה להחליף עבודות שהיום נעשות בידי בני אדם ולהרוס את חייהם של מיליוני אנשים. הבינה המלאכותית עלולה להחליט להילחם באנושות ולהרוס אותנו".

מה התשובה? לדברי הוקינג, "יש לשלוט על התבונה המלאכותית ולגרום לה לעבוד עבורנו וכדי להפחית עד כמה שאפשר את הסיכונים, אנו צריכים להתקין מערכות ניהול יעילות המבוססות על הנסיון בכל התחומים הקשורים לפיתוח התבונה המלאכותית. ברור שכל מגזר בכלכלה יצטרך לשלב אמצעים למניעת נזקים, אבל בכל הקשור לתבונה מלאכותית זה חיוני ביותר".

"אנחנו המדענים, מפתחים רעיונות, אבל אנחנו גם משפיעים על הצורך לגרום להם לעבוד נכון. אולי טוב שנעצור רגע ונאפשר לתבונה המלאכותית להיות לא רק בעלת יכולות ומצליחות אלא גם למקסם את התועלת לחברה. מערכות התבונה המלאכותית צריכות לעשות מה שאנו רוצים שיעשו  לתועלת האנושות".

בפברואר השנה פורסם דוח של האיחוד האירופי הקורא לפתח חוקי רובוטיקה, מכיוון שהתבונה המלאכותית היא אחת המגמות הטכנולגויות הגדולות של המאה . הדו"ח מציע להטיל רגולציה דחופה על הפיתוחים האחרונים, וכן פיתוחים עתידיים  של רובוטים ומערכות תבונה מלאכותית. באופן מפתיע הדו"ח ממליץ על יצירת סוג של אישיות אלקטרונית שיבטיח את הזכויות והאחריות. אחד השותפים בפירמת עריכת הדין הבינלאומית אוסבורן קלארק (Osborne Clarke) אמר כי "איננו סומכים על רצונה הטוב של גורילה, כך שאין צורך לקפוץ לאישיות רובוטית".

הדו"ח הדגיש את האפשרות שבטווח זמן של כמה עשורים, היכולת האינטלקטואלית של התבונה המלאכותית עשויה לעבור את זו האנושית ולאתגר את יחסי האדם והרובוטים. לבסוף, הדו"ח קורא להקמת סוכנות אירופית לרובוטיקה ותבונה מלאכותית שתספק התמחויות טכניות, אתיות ורגולטוריות. אם יתקבל, הנושא יעלה על שולחנה של הנציבות האירופית שתחלית אילו צעדים לנקוט".

"אני אופטימי ואני מאמין שאנחנו יכולים ליצור בינה מלאכותית לטובת העולם שתעבוד בהרמוניה איתנו", אמר הוקינג. "אנחנו פשוט צריכים להיות מודעים לסכנות, לזהות אותם ולהטמיע את הפרקטיקות הטובות ביותר של ניהול ולהתכונן לתוצאות זמן רב מראש. יתכן שלכמה מהמאזינים להרצאה הזו יש כבר פתרונות או תשובות אבל ישנן שאלות רבות שהתבונה המלאכותית מעמידה בפנינו".

"כולנו חייבים להבטיח שלדור הבא  תהיה הזדמנות לקחת חלק בכך – יש ללמד מדע כבר מהכיתות הנמוכות כך שנוכל למצות את הפוטנציאל שלנו  וליצור עולם טוב יותר לכל המין האנושי".

"אנו צריכים לקיים דיונים תיאורטיים מקיפים כיצד צריכה הבינה המלאכותית להיות ולנקוט בצעדים שיבטיחו שנתכנן אותה נכון. לכולכם יש את הפוטנציאל לדחוף את הגבולות של מה שמקובל או צפוי כאשר אנו חושבים בגדול".

לסיכום אמר הוקינג כי "אנו עומדים על סיפו של עתיד גדול. זה יהיה מקום מרגש ומסוכן  ויש בו מקום לחלוציות. אני מקווה  שתעשו זאת בהצלחה".

ראו עוד בנושא באתר הידען:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

16 תגובות

  1. אין ספק שחיבור מחשב למוח אנושי הוא כבר כאן. הרעיון שאדם שאינו מבין במכונה יחובר למחשב וינגן מוצארט עם רגש גם אם מעולם לא נגע בפסנתר… ןהשאלה הבאה האם ניתן לעשות זאת בשלט רחוק עם גלי רדיו למשל….
    מכאן ועד לשילטון ששולט בשילטונות, דהיינו מלך מלכי המלכים:{פוטיןכאיש החזק בעולם} הדרך קצרה..
    שילטון בובות ואין מה לעשות כשהמחשבאיש יקח פיקוד…

  2. אין כל כך הרבה מתריעים בשער. אילון מאסק, הוקינג וביל גייטס מתריעים. להוקינג מקשיבים. לכן טוב שהוא מדבר. העולם מחפש פתרון לבעיה הבאה. איך לפתח בינה מלאכותית תוך שאנו מתקדמים איתה. אין לי פתרון לזה. מה שחשוב הוא אם הוקינג צודק. להערכתי הוא צודק מאד. איכות הידע, נפח הבינה המלאכותית גדלים בפרקי זמן קצרים. חשבתי שאולי אין חיזרים כי רוב הסיכויים שתרבות שמגיעה לבגרות משמידה את עצמה. מבין כל הניסיון ניסיון אחד מצליח להגיע לשלב הבא.

  3. השאלה שהועלתה למה מתיחסים לסטיבן הוקינג גם בנושא שאינו בליבה של הידע שלו?
    יש כמה תשובות אחד כמו כל סלב מוכר כל דבר שהוא אומר יפורסם, לא תמיד זה גרוע יש סלבים שמגיסים את
    הפרסום שלהם למטרות שנראות חשובות עבורם כמו פעילות הומניטארית ובמקרה של סטיבן זה
    העלאת מודעות לסכנות שלדעתו עלולות להתרחש כתוצאה מכניסת טכנולוגיות חדשות,
    הלוזים המלנכולים שלו לתרחישי האימה אולי קצת בעיתיים אם כי ב AI יש לצד היתרונות העצומים גם סכנות שהטיפול בהם הוא מאד מורכב וארוך זמן אז עדיף שיתחילו לטפל בזה מוקדם ממאוחר,
    (גם במערכות עם אלגוריתם נוקשה שאנו כותבים יש בגים שמאד קשה למצוא במע' העתידיות הדינאמיות
    שיוצרות בעצמם את הקוד הפנימי בכמויות עתק הבעיות שעלולות להיווצר יהיו קשות בריבוע לדיבוג )
    המודעות שהוקינג יוצר ומדענים אחרים עוזרת לגיס כספים וליצור מסגרות שמתחילות לבחון ואולי לטפל בסכנות הפוטנציאליות,
    ולמה הציבור הרחב יקשיבו לו ולאו דפקה לאדם שאולי עולה עליו בידע באותם תחומים אבל לא מוכר
    הסיבה שרוב הציבור אין לא את הזמן או ענין או כלים לבחון את הידע של החובבן הוא אפילו לא קורא פה אלה במדיה חדשותית ואם מתנוסס השם סטיבן הוקינג שהוא מדען ידוע מעל הכתבה אז הוא יכנס ויקרא,
    סטיבן הוקינג ידוע גם בזכות עבודתו המדעית וגם בזכות הדוגמא עבור הרבה אנשים של אדם שמתגבר על קשיים עצומים, כן היכולת המדעית שלו במדיה לפעמים מוגדלת עכב מעמד הסלב ואפילו מאפילה לא לצורך על מדענים אחרים שהם בשורה הראשונה ,

  4. יריב
    גם אצלי קופץ. יש בחלק העליון של המסך "הודעה רצה", וכשהודעה זו עוברת שורה, בטלפון למשל, אז כל הטקסט קופץ.

  5. ריצ'רד פיינמן נהג לאמור שכשמדען מרצה על נושא שונה מתחום המומחיות שלו הוא לרוב נשמע כמו דביל.

  6. האמת שלא ברור לי מדוע מתייחסים בכזה כובד ראש לטענותיו של מומחה בתחום האסטרופיזיקה אשר מדבר על תחום שאינו קשור אליו.

    בעיקרון אני דיי מסכים עם הטענות שלו, אבל אני לא חושב שיש לו כאן עדיפות על כל חובב מדע ממוצע שקרא קצת על בינה מלאכותית ומבין את ההשלכות שעשוית להיות לכך.

  7. כיוון אפשרי הוא שאולי יותר משהבינה המלאכותית תשלט עלינו
    אנחנו מרצונינו החפשי נוותר על העצמאות שלנו עבור היתרונות שמערכת הזאת תתן,
    הכח של הבינה המלאכותית לא חיב לבוא כרובוט לוחם כמו בטמיניטור
    למרות שגם זה יכול לבוא אלה יותר במשיכה שלו ביכולת שלו לעשות משהו יותר טוב מאיתנו,
    תחום אחר תחום יועבר מרצונינו החופשי למערכות האלו זה כבר קיים כיום בתחום האיחסון אנחנו פחות ופחות שומרים מידע אצלינו אם פעם היה אינקלופדיה בבית או בתחילת המיחשוב CD עם אינצקולפדיה כיום אנו מעבירים את זה לענן בטווח העתידי לא יהיה שום מידע מקומי לאדם, למה? כי מערכות מרכזיות שומרות מידע טוב יותר בצורה זמינה יותר שליפה יותר עדכנית יותר מגובה יותר מאצל אדם פרטי,
    גם בתחום העבודה מסניפים מקומים אנו עוברים לסניפים שנבלעים מרצון או כורח לתוך קונצרנים ענקים
    וחלק גדול מהמידע והידע המקומי מועבר לשליטת הקונצרן הגדול כך שהסניף המקומי מאבד את היכולת העצמאית שלו שהיתה לו בעבר, עוד תחום מענין הוא בזמנו חשבתי שבעבודה רובוט יקר לא יוכל להתחרות
    באדם שמוכן לעבוד גם עבור גרושים אבל זה לא תמיד נכון ניתן לבחון את זה גם מתוך העבודה
    בהרבה פעמים מקומות עבודה מעדיפים לעבוד עם גורם חיצוני אפילו שהוא יקר יותר כדי לא להתעסק
    עם הכח העבודה המקומי והניהול שלו זה גם קשור להתנהלות סניף בתוך קונצרן, כך שיהיו רובוטים
    בצרות הומונידים שמסוגלים לבצע לדוגמא העמסות במצבים דינאמים תוך כדי ניוד מאיזור אחד של המפעל לשני לפי הצורך זה יביא לשינוי מהותי, וזה לא תמיד פיטורים אלה בהרבה מקרים נוצר מערך עבודה שיש בו פחות אנשים תוך כדי הקטנת מגוון של עבודות חדשות שכיום הם בשליטת בני האדם.

  8. נוסטרדמוס
    אם היו תוקעים מוט ברזל במוחו של הוקינג, הוא עדיין היה הרבה יותר חכם ממך.
    הוקינג הוא אחד מגדולי הפיסיקאים ever, ואתה סמרטוט מגעיל.

  9. אנשים לא מבינים שב 2012 נחצה סף. מאז הטכנולוגיה רצה קדימה בקצבים שלאבולוציה המדעית לקח עשרות שנים לבצע. הם לא מבינים שזה משפיע על כולנו ושהם חיים אחרי שהוכרע הדין בנושא מסויים.
    התהליך בלתי נמנע.

  10. מצטער. רק למדען בשיעור קומה כשל הוקינג, כמו איינשטיין בזמנו ופרויקט מנהטן מקשיבים. גם אילון מאסק וביל גייטס חושבים כמו הוקינג. גם אני הכינה על הקיר חושב כמוהו ואני מפתח בינה מלאכותית ולומד אותה ומוקסם ממנה. הגילוי שהמכונה שבנו היא רשת של תאי עצב, ושאנחנו מסוגלים לחקות אותה ולהבין אותה, מרתקת אותי.

    להערכתי הבינה תעבור אותנו, אולי לא מיידית אך אין ספק שב 2012 נפרץ מחסום ידע, אבל היא לא תהיה
    מוסרית כמונו, ולבטח לא תאהב אותנו. האבולוציה הביולוגית עשתה כברת דרך אדירה, אבל הטכנולוגית מהירה
    אם ניתן יהיה להפוך אדם לסייבורג, כלומר לטייב אותו אולי אז יש לו סיכוי.
    לכן חובה על אדם בשיעור קומתו של הוקינג שחצה את גיל 70 לעמוד בשער ולצעוק.

  11. בלבולי מוח שכל מנקה רחובות יכול לומר. אין לו שום קשר למדע כבר שנים, הוא היה מדען בינוני ומעולם לא היה לו קשר למדעי המחשב. עכשיו הוא מתפרנס מבלבולי מוח בהרצאות תמורת כסף כמו גנרלים לשעבר שלנו

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן