האם הבינה המלאכותית מסכנת את האנושות?

רבים מזהירים מפני עלייתן של המכונות החושבות. מייקל שרמר, הספקן, סבור שהדאגה מוגזמת – עדיין

 אילוסטרציה: pixabay.
אילוסטרציה: pixabay.

מאת מייקל שרמר, הכתבה מתפרסמת באישור סיינטיפיק אמריקן ישראל ורשת אורט ישראל 09.05.2017

מנכ"ל חברת SpaceX אלון מאסק צייץ ב-2014: "שווה לקרוא את הספר בינת־על של בוסטרום. אנחנו חייבים להיות זהירים מאוד לגבי בינה מלאכותית. היא עלולה להיות מסוכנת יותר מנשק גרעיני." ובאותה שנה אמר הקוסמולוג סטיבן הוקינג מאוניברסיטת קיימברידג' בריאיון לבי בי סי: "פיתוח בינה מלאכותי מלאה עלול להמיט על המין האנושי את סופו." ביל גייטס, ממייסדי מיקרוסופט, הזהיר אף הוא: "אני נמנה עם המחנה המודאג מבינת־על."

מדען המחשבים אליעזר יודקובסקי תיאר כיצד אפוקליפסה של בינה מלאכותית עלולה להתרחש. במאמר מ-2008, שהתפרסם בספר סיכונים קטסטרופליים עולמיים, הוא כתב: "עד כמה סביר הדבר שהבינה המלאכותית תחצה את כל הפער הרחב המשתרע מאמבה ועד לשוטה הכפר, ואז תעצור ברמה של גאון אנושי?" ותשובתו: "מבחינה פיזית יהיה אפשר לבנות מוח שיוכל לחשב פי מיליון מהר יותר ממוח אנושי… אם נאיץ כך מוח אנושי, שנה סובייקטיבית של מחשבה תתכווץ ל-31 שניות פיזיקליות בעולם החיצוני, ואלף שנה יחלפו בתוך שמונה שעות וחצי." יודקובסקי סבור שאם לא נרד לעומקם של הדברים האלה עכשיו, זה יהיה מאוחר מדי: "הבינה המלאכותית נעה בציר־זמן שונה משלנו; בזמן שתאי העצב שלנו משלימים לחשוב את המילים 'עלי לעשות משהו', כבר הפסדנו במערכה."

דוגמה לפרדיגמה הזאת הציע הפילוסוף ניק בוסטרום מאוניברסיטת אוקספורד בספרו בינת־על (עליו המליץ אלון מאסק). הוא ערך ניסוי מחשבתי שאפשר לכנותו "גולם המהדקים המשרדיים": בינה מלאכותית מתוכננת ליצור מהדקים משרדיים. לאחר שהיא מנצלת את כל חומרי הגלם הזמינים, היא משתמשת בכל האטומים הנקרים בדרכה, ובהם אלה המרכיבים בני אדם. וכפי שהוא מתאר במאמרו מ-2003, מרגע זה היא "מתחילה לעבד את כל כדור הארץ, ואחר כך נתחים הולכים וגדלים של החלל ולעצב מהם מתקנים לייצור מהדקים משרדיים." לא יחלוף זמן רב עד שהיקום כולו יהיה עשוי ממהדקים או ממכונות לייצור מהדקים.

אני ספקן. ראשית, כל תרחישי יום הדין האלה כרוכים ברצף ארוך של תנאי אם-אז, כשל שיכול למנוע את האפוקליפסה בכל שלב. פרופסור אלן וינפילד, מומחה להנדסת חשמל באוניברסיטת מערב אנגליה בבריסטול, תיאר זאת כך במאמר ב-2014: "אם נצליח לבנות בינה מלאכותית שתהיה שקולה לאדם, ואםהבינה המלאכותית הזאת תצליח להגיע להבנה מלאה של אופן פעולתה היא, ואם היא תצליח לאחר מכן לשפר את עצמה וליצור בינת־על מלאכותית, ואם בינת העל המלאכותית הזאת תתחיל לצרוך משאבים, בין אם בטעות ובין אם בכוונה זדונית, ואם ניכשל ולא נצליח לשלוף את התקע מן החשמל, אז כן, סביר להניח שיש לנו בעיה. הסיכון שכך אכן יקרה, גם אם הוא לא בלתי אפשרי, הוא בלתי סביר.

שנית, פיתוח הבינה המלאכותית עד עתה היה הרבה יותר אִטי מן הצפוי, והדבר מעניק די זמן לבנות בלמים לכל אחד מן השלבים. וכפי שיו"ר גוגל, אריק שמידט, השיב למאסק ולהוקינג: "אינכם סבורים שבני האדם יבחינו שהדבר מתרחש? ואינכם סבורים שכשבני האדם יבחינו בכך הם פשוט יכבו את המחשבים האלה?" ואכן, חברת DeepMind, שבבעלות גוגל, פיתחה את רעיון מתג הכיבוי של הבינה המלאכותית וכינתה אותו בהומור "הכפתור האדום הגדול", שעליו נצטרך ללחוץ במקרה שבינה מלאכותית תנסה להשתלט. וכפי שסגן הנשיא של חברת באידואנדרו נג ניסח (בעקיצה לדברי אלון מאסק), "זה כמו לדאוג מפני אכלוס־יתר של מאדים, כשעדיין לא הצבנו כף רגל על פני כוכב הלכת."

שלישית, תרחישי יום הדין הקשורים לבינה מלאכותית מבוססים לעתים קרובות על סמך ההשוואה השגויה בין בינה טבעית ובין בינה מלאכותית. ב-2015 הציג האתר Edge.org את השאלה השנתית המסורתית שלו (לאנשי רוח ולמדענים): "מה אתם חושבים על מכונות חושבות?" וכך ענה הפסיכולוג הניסויי סטיבן פינקר מאוניברסיטת הרווארד: "תרחישי הדיסטופיה של בינה מלאכותית מבוססים על תפיסות קרתניות המאפיינות את הפסיכולוגיה של זכרי אלפא ומשליכים אותן על מושג התבונה. התרחישים האלה מניחים שרובוטים בעלי תבונה על־אנושית יפתחו מטרות כגון הדחת האדונים שלהם או השתלטות על העולם." באותה מידה של סבירות, מציע פינקר, "התבונה המלאכותית עשויה להתפתח באופן טבעי על פי מתווה נשי: יכולת מלאה בפתרון בעיות, אבל בלי תשוקה לחסל חפים מפשע או לשלוט בציביליזציה."

רביעית, אם טוענים שמחשבים "ירצו" לעשות דבר כלשהו (כמו להמיר את העולם למהדקי משרד), משתמע מכך שלבינה המלאכותית יש רגשות. וכפי שכתב סופר המדע מייקל קורוסט: "ברגע שבינה מלאכותית תרצה משהו, היא תחיה ביקום שיש בו גמול ועונש, ובכלל זה עונשים שאנו נטיל עליה על התנהגות רעה."

בהתחשב באפס אחוזי ההצלחה של תחזיות אפוקליפטיות לאורך ההיסטוריה, בשילוב עם ההתפתחות ההדרגתית והמדודה של הבינה המלאכותית לאורך עשרות השנים האחרונות, יש לנו שפע של זמן לבנות מערכות אל־כשל שימנעו אפוקליפסת בינה מלאכותית כעין זו.

על הכותבים

מייקל שרמר – המו"ל של כתב העת (Skeptic ( www.skeptic.co. ספרו החדש: "תיבת נח המוסרית" ראה אור לאחרונה. עקבו אחריו בטוויטר: @michaelshermer

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

40 תגובות

  1. המחבר כתב "בהתחשב באפס אחוזי ההצלחה של תחזיות אפוקליפטיות לאורך ההיסטוריה, בשילוב עם ההתפתחות ההדרגתית והמדודה של הבינה המלאכותית לאורך עשרות השנים האחרונות, יש לנו שפע של זמן לבנות מערכות אל־כשל שימנעו אפוקליפסת בינה מלאכותית כעין זו".

    – אותם מערכות אל כשל שנגלה בעולמנו , אם אני מדבר על הפרדיגמה הבאה, אינם עשויים מחומר .
    אותם מערכות יהיו מערכות שאינם ניתפסות באותם חמשת החושים.
    אותם מערכות יהיו מערכות של רצונות, מחשבות, כוונות.
    אם רק היינו מגלים שאיננו נמצאים וחיים אלא בעולם של תוצאות, ולעומת זאת קיימות סיבות שמגיעות ומשתלשלות לעולם שאנו חיים בו בחוקים קבועים ומוחלטים. אם רק היינו מגלים את זה אז היינו מבינים שעל מנת לייצר מערכת שהמחבר מכנה אותה "מערכת אל כשל", אין לנו לרתום מאמצנו אלא לכיול פנימיותנו. כלומר לפתח או להשתמש בשיטה שתאפשר לנו בני האדם להיות מכויילים באופן פנימי לאותם מערכות שהם הסיבות למה שמתרחש בעולם הזה.

  2. הנושא שהועלה פה בתגובות המענינות בהקשר למאמר הוא מענין והוא אופין ההתקשרות למוח האנושי הממשק בין מערכות שעובדות באופין וקצב שונה וההשפעה שלהם על המוח,
    מהנסיון שלי בתכנות בקרתי חומרתי שהוא שונה מהמוח (הרוטבה) שלנו
    בהכנסת מערכת חדשות גם סתמיות כמו קורא אותות במערכות ישנות אנו עלולים להיתקל בבעיות שונות של סכרוניזציה שחלקם מורכבת ביותר בין הרכיב החדש למערכות הישנות בנקודות שונות של המערכת,
    בקריאת אותות מהירה לדוגמא יש את רוחב הפולס התדירות שלו וכ.. ואחת השיטות לפתור את בעית הסיכרוניזציה הוא באמצעות מונה אותות מהיר שצובר את המניה אצלו ומעביר את התוצאה למע' המרכזית זה כמובן בסדר אם התהליך שאותו אנו מריצים מסתפק ברמת דיוק נמוכה בזמן או במניה אבל לא זיוף מצטבר כתוצאה מבעית סיכרוניזציה בכל מקרה אם האנלוגיה היא המוח זה אומר שהמוח צריך לקבל מוצר מוגמר שהמוח מסוגל להבין סוג של המרה ממשק,
    צריך לזכור שבחלק מהתחומים הזמן לקבלת מוצר מוגמר במוח הוא עד גילאי 10 ראה דיבור עין עצלה וכו…
    זה אומר שחלק מהפלסטיות של המוח מתקבע בגיל בוגר יותר ואיתו היכולת התיאורתית להוסיף ממשקים,
    כיום עולים כמה רעיונות ליצור עוד ממשק שלם שמחובר למוח שיעזור לנו להתקשר בצורה יותר מהירה "לענן"
    אחד המפורסמים שהעלה את זה הוא אלון מאסק ,
    הטענה היא שמהירות הפלט שלנו איטית להחריד ווכדי להישאר רלוונטים בעתיד אנו צרכים התחבר ולהיות חלק ממערכות GAI העתידיות כמו סוג של סיבורגים, אבל נראה שגם העלאת המהירות ההתחברות תהיה מינורית
    לעומת המהירויות הדמיוניות של הטרנזיסטור מול הניורון, ישאר המוח כמערכת כללית והמהירות שלו
    לא ברור לגמרה איך זה יעבוד לניורון יש קצב מיתוג של כ 200 HZ שהוא נובע כנראה כתוצאה מובנת מהחומר הביולוגי שממנו הוא מורכב, לעומת מהירות של מאות מליוני מיתוגים לשניה ויותר של הטרנזיסטור המודרני,
    המשמעות היא שברמת המיתוג הניורון הביולוגי לעומת טרנזיסטור הוא כמעט כמו צמח מול בעל חיים
    אבל הסיפור הוא יותר מורכב הניורון הוא לא רק מערכת של 2 מצבים אלה יותר שילוב של מערכת אנלוגית דיגטלית עם עוד אלמנטים והשפעות חיצוניות כמו הכוס קפה הילדים העמית לעבודה מזג האויר שמשנות את ההתנהגות הביוכימית של המוח כבר ברמת הניורון גם אם אם יש תחומי חפיפה ברור שהניורון לא עובד כטרנזיסטור זה משהו אחר, לכל מערכת יש יתרונות וחסרונות אנחנו לא רוצים שמחשב שלנו יעבוד לאט עם טעויות כי הוא מצוברח אנחנו רוצים מערכת דטרמיניסטית עד כמה שניתן ברוב מערכות המיחשוב שיש כיום אם כי בבעיות העתידיות אותם אנו רוצים לפתור אנו נרצה מערכות שהם יותר כלליות שאותם מםתחים כיום ואיתם יבאו גם בעיות של חוסר יכולת לנבא באופן דטרמינסטי מה יהיו התוצאות במצבים השונים,
    בנוסף המוח מורכב כמערכת "חישוב" מקבילית ברמות מטורפות זה סבך מטורף
    שבו כל מוח יש בו שוני מהאחר נשמע כמו סוג של חלום בלהות לכל אחד שרוצה להתממשק לתוך המוח,
    המקומות שבו יש התחלת סיכרון הוא על מקומות שבו המוח מחובר למערכות ההיקפיות כגון עיניים גפיים
    אוזניים, בכל מקרה הניורון חיב לקבל אות ברמות מתח זמן הפולס וכו.. שמתאימות לניורון
    לא נראה שהניורון יוכל לפעול יותר מהר, אנחנו יכולים לראות את זה בהתנהגות הרובוטית של אנשים שמדברים
    בעזרת הנייד שלהם על חשבון החושים האחרים שלהם מאובדן התמצאות במרחב לאובדן של הרגישות החברתית שלהם משהו קצת זומבי שזה תוצאה של העברת המשאבים המוגבלים של המוח לביצוע ההתקשרות הזאת שלא לדבר על מערכת שמקרינה אינפורמציה על מערכת הראיה כגון המשקפיים של גוגל יש מלא הומור על זה ביוטיוב, לסיכום זה נושא מרתק עם השלכות גם על האנושיות שלנו עד כמה בכלל נשאר אנושיים עם נתממשק
    למערכות GAI ועד כמה הרוטבה שלנו עם המגבלות כולל היחודיות שלה תשאר רלוונטית בתוך בעולם העתידי שאותו אנו מפתחים במו ידינו.

  3. יריב, רשת נוירונים היא עדיין בסך הכל תוכנה גם אם היא מורכבת לפיתוח, וכמו ילד, אם תלמד אותה להשמיד את האנושות אולי התכנה תחשוב ככה, אנחנו מלמדים רשתות נוירונים מה זה חתול ומה זה כלב וכד', אבל מכאן ועד שהרשתות הנוירונים יחליטו להשמיד אותנו המרחק גדול, שוב אני מדבר על המקרה האפוקליפטי שמנסים להפחיד אותנו…

  4. ניסים,

    נסיים את הדיון לעת עתה כי זה מתחיל להיראות כמו שידור חוזר של דיונים רבים שכבר היו לנו בעבר, זה חסר טעם.

  5. יריב
    התיקון שלך כבר בכיוון. אבל, המוח אינו מעבד עצמאי אלא מעבד embedded בגוף, ויש עצבים בגוף שמתחברים למוח. תצטרך לבנות ממשק מורכב שיתרגם את האותות בין שני העולמות האלה.
    וזה יותר מסובך – כי אתה תצטרך הרבה מאד יחידות ממשק כאלה, כי המוח בנוי מהרבה מאד תתי יחידות. לדוגמה: יש איזור בחלק האחורי השמאלי שאחראי על פענוח השמיעה (איזור וורניקה) וחלק קידמי יותר שאחראי על הדיבור (איזור ברוקה). הקשרים ביניהם הם בתוך המוח – ואם תשנה את הקצב של העברת מידע ביניהם – ייווצר משהו שנראה כמו דיון בכנסת (הרבה צעקות ללא כל תוכן). כלומר – גם בחלקים פנימיים (לפחות חלקם) המהירות צריכה להיות מתאימה.
    עכשיו, יש טענה שחלק מהחשיבה הוא בעצם דיבור פנימי, פשוט בלי להזיז את השפתיים. ויש הרבה מקומות שיש מאין תחרות בין מסלולים מקבילים במוח. תשנה את המהירויות ותקבל תוצאות מאד שונות.

    כפרפרזה על המשפט של דוקינס – יש הרבה יותר דרכים להיות מטורף מאשר להיות שפוי. מניין לך שהמוח שנייצר יהיה שפוי? אתה בוודאי מסכים שלא יהיה לנו כל מושג מה קורה שם בפנים.

  6. ניסים,

    אוקיי תיקון קטן, בוא נניח (בוא נניח!) שעד שלא מסיימים להחליף את כל הנוירונים במוח הם ממשיכים לעבוד בקצב רגיל! רק בסיום התהליך כשכל הנוירונים במוח שלך הוחלפו מגבירים את קצב העבודה של כולם יחד בו זמנית!!

    אז עכשיו זה בסדר?

  7. ניסים,

    שוב, מה שאתה אומר לא נכון כי הסינכרון בין הרכיבים עדיין ישמר! זה לא שרגל ימין תרוץ יותר מהר מרגל שמאל, שתי הרגליים יעברו לקצב מהיר בו זמנית והאיש יעבור מריצה קלה לריצה מהירה!!

    אני יודע שבגדול תוצאת החישוב של נוירון תלוייה בתדירת ובמופע של הפולסים שהוא מקבל, קצב יותר מהיר של הפולסים לא צריך לשנות שום דבר, פשוט הסכימה של הפולסים תהיה יותר מהירה והפלט של הנוירון יהיה מהיר יותר! (הוא יוציא יותר פולסים בכל יחידת זמן מהיציאה שלו).

    תחשוב שהופכים את המוח שלך לשקוף ומצלמים את הפעילות החשמלית המדוייקת של המוח שלך, ואז לוקחים את ההקלטה (שכוללת את כל הפולסים) ומריצים אותה פי 100 יותר מהר, מה נראה לך שהתוצאה תהיה שונה? הנוירונים בסרטון יתחילו להתבלבל? 🙂

  8. יריב
    תתיחס בבקשה למה שאני כותב…
    כתבת "הנוירונים יעבדו יותר מהר ויבצעו בדיוק את אותם חישובים כמו היום רק בקצב יותר מהיר" – וזה ממש לא נכון. הסברתי – תוצאת החישוב היא בעצם תדר (יותר נכון, מופע ותדר) ולכן שינוי באות הוא שינוי בתוצאת החישוב. באנלוגיה למחשב – אם אחד המסלולים בתוך המעבד יעבוד בקצב שונה משאר המעבד, התוצאות יהיו שגויות.
    הסברתי – אם תחליף מערכת שלמה, אז יש מצב שזה יעבוד. לא ניתן להחליף מרכיב בודד במוח (ניורון) ולצפות שיעבוד יותר טוב. תאר לך שאתה רץ ורגל שמאל עובדת יותר מהר מרגל ימין….

  9. ניסים,

    מה לעשות אתה טועה, הבעיה אצל חולי אפילפסיה נוצרת בגלל התפרצות מוגברת ובלתי מבוקרת של פעילות חשמלית במוח, אין שום סיבה שזה יקרה כאשר הנוירונים יעבדו יותר מהר ויבצעו בדיוק את אותם חישובים כמו היום רק בקצב יותר מהיר.

    כמו שאפשר להאיץ את תדר העבודה של שבב מחשב והוא ימשיך לבצע בדיוק את אותם חישובים רק בקצב יותר מהיר, כך ניתן יהיה להאיץ גם את קצב החשיבה שלנו.

  10. יריב
    ניורון מהיר יותר לא יחשוב מהר יותר. ניורונים יורים בקצב מסויים, והקצב הזה הוא "תוצאת החישוב". אם הקצב הזה ישתנה, החישוב יהיה שגוי. תשאל כל חולה אפילפסיה…
    הללפת ניורון זה כמו החלפת תא זיכרון בודד במחשב שלך. המחשב לא יעבוד מהר יותר, ומצד שני הוא כנראה יעבוד באופן שגוי.
    מה שכן אפשר לעשות זה להחליף יחידה שלמה – את כל הזכרון, את המעבד, הדיסק או את ערוצי התקשורת. אבל – אנחנו לא מכירים דרך לעשות את זה במוח כי המוח שלנו לא בנוי מיחידות עצמאיות.
    למשל – אפשר לשפר את הזכרון. ובוא אספר לך סוד (שש..) כבר עשו את זה!!! וגם – אפשר לשפר את המהירות של חשיבה מתמטית ולוגית. וגם את זה עשו. ואתה יודע מה יריב? השיפורים האלה מאד שינו את בני האדם. ולא תמיד לטובה. האם הם יותר מאושירם? אולי.

  11. יריב
    ניורון מהיר יותר לא יחשוב מהר יותר. ניורונים יורים בקצב מסויים, והקצב הזה הוא "תוצאת החישוב". אם הקצב הזה ישתנה, החישוב יהיה שגוי. תשאל כל חולה אפילפסיה…
    הללפת ניורון זה כמו החלפת תא זיכרון בודד במחשב שלך. המחשב לא יעבוד מהר יותר, ומצד שני הוא כנראה יעבוד באופן שגוי.
    מה שכן אפשר לעשות זה להחליף יחידה שלמה – את כל הזכרון, את המעבד, הדיסק או את ערוצי התקשורת. אבל – אנחנו לא מכירים דרך לעשות את זה במוח כי המוח שלנו לא בנוי מיחידות עצמאיות.
    למשל – אפשר לשפר את הזכרון. ובוא אספר לך סוד (שששששששששששששש…..) כבר עשו את זה!!! וגם – אפשר לשפר את המהירות של חשיבה מתמטית ולוגית. וגם את זה עשו. ואתה יודע מה יריב? השיפורים האלה מאד שינו את בני האדם. ולא תמיד לטובה. האם הם יותר מאושירם? אולי.

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן