רבים מזהירים מפני עלייתן של המכונות החושבות. מייקל שרמר, הספקן, סבור שהדאגה מוגזמת – עדיין
מאת מייקל שרמר, הכתבה מתפרסמת באישור סיינטיפיק אמריקן ישראל ורשת אורט ישראל 09.05.2017
מנכ”ל חברת SpaceX אלון מאסק צייץ ב-2014: “שווה לקרוא את הספר בינת־על של בוסטרום. אנחנו חייבים להיות זהירים מאוד לגבי בינה מלאכותית. היא עלולה להיות מסוכנת יותר מנשק גרעיני.” ובאותה שנה אמר הקוסמולוג סטיבן הוקינג מאוניברסיטת קיימברידג’ בריאיון לבי בי סי: “פיתוח בינה מלאכותי מלאה עלול להמיט על המין האנושי את סופו.” ביל גייטס, ממייסדי מיקרוסופט, הזהיר אף הוא: “אני נמנה עם המחנה המודאג מבינת־על.”
מדען המחשבים אליעזר יודקובסקי תיאר כיצד אפוקליפסה של בינה מלאכותית עלולה להתרחש. במאמר מ-2008, שהתפרסם בספר סיכונים קטסטרופליים עולמיים, הוא כתב: “עד כמה סביר הדבר שהבינה המלאכותית תחצה את כל הפער הרחב המשתרע מאמבה ועד לשוטה הכפר, ואז תעצור ברמה של גאון אנושי?” ותשובתו: “מבחינה פיזית יהיה אפשר לבנות מוח שיוכל לחשב פי מיליון מהר יותר ממוח אנושי… אם נאיץ כך מוח אנושי, שנה סובייקטיבית של מחשבה תתכווץ ל-31 שניות פיזיקליות בעולם החיצוני, ואלף שנה יחלפו בתוך שמונה שעות וחצי.” יודקובסקי סבור שאם לא נרד לעומקם של הדברים האלה עכשיו, זה יהיה מאוחר מדי: “הבינה המלאכותית נעה בציר־זמן שונה משלנו; בזמן שתאי העצב שלנו משלימים לחשוב את המילים ‘עלי לעשות משהו’, כבר הפסדנו במערכה.”
דוגמה לפרדיגמה הזאת הציע הפילוסוף ניק בוסטרום מאוניברסיטת אוקספורד בספרו בינת־על (עליו המליץ אלון מאסק). הוא ערך ניסוי מחשבתי שאפשר לכנותו “גולם המהדקים המשרדיים“: בינה מלאכותית מתוכננת ליצור מהדקים משרדיים. לאחר שהיא מנצלת את כל חומרי הגלם הזמינים, היא משתמשת בכל האטומים הנקרים בדרכה, ובהם אלה המרכיבים בני אדם. וכפי שהוא מתאר במאמרו מ-2003, מרגע זה היא “מתחילה לעבד את כל כדור הארץ, ואחר כך נתחים הולכים וגדלים של החלל ולעצב מהם מתקנים לייצור מהדקים משרדיים.” לא יחלוף זמן רב עד שהיקום כולו יהיה עשוי ממהדקים או ממכונות לייצור מהדקים.
אני ספקן. ראשית, כל תרחישי יום הדין האלה כרוכים ברצף ארוך של תנאי אם-אז, כשל שיכול למנוע את האפוקליפסה בכל שלב. פרופסור אלן וינפילד, מומחה להנדסת חשמל באוניברסיטת מערב אנגליה בבריסטול, תיאר זאת כך במאמר ב-2014: “אם נצליח לבנות בינה מלאכותית שתהיה שקולה לאדם, ואםהבינה המלאכותית הזאת תצליח להגיע להבנה מלאה של אופן פעולתה היא, ואם היא תצליח לאחר מכן לשפר את עצמה וליצור בינת־על מלאכותית, ואם בינת העל המלאכותית הזאת תתחיל לצרוך משאבים, בין אם בטעות ובין אם בכוונה זדונית, ואם ניכשל ולא נצליח לשלוף את התקע מן החשמל, אז כן, סביר להניח שיש לנו בעיה. הסיכון שכך אכן יקרה, גם אם הוא לא בלתי אפשרי, הוא בלתי סביר.
שנית, פיתוח הבינה המלאכותית עד עתה היה הרבה יותר אִטי מן הצפוי, והדבר מעניק די זמן לבנות בלמים לכל אחד מן השלבים. וכפי שיו”ר גוגל, אריק שמידט, השיב למאסק ולהוקינג: “אינכם סבורים שבני האדם יבחינו שהדבר מתרחש? ואינכם סבורים שכשבני האדם יבחינו בכך הם פשוט יכבו את המחשבים האלה?” ואכן, חברת DeepMind, שבבעלות גוגל, פיתחה את רעיון מתג הכיבוי של הבינה המלאכותית וכינתה אותו בהומור “הכפתור האדום הגדול”, שעליו נצטרך ללחוץ במקרה שבינה מלאכותית תנסה להשתלט. וכפי שסגן הנשיא של חברת באידו, אנדרו נג ניסח (בעקיצה לדברי אלון מאסק), “זה כמו לדאוג מפני אכלוס־יתר של מאדים, כשעדיין לא הצבנו כף רגל על פני כוכב הלכת.”
שלישית, תרחישי יום הדין הקשורים לבינה מלאכותית מבוססים לעתים קרובות על סמך ההשוואה השגויה בין בינה טבעית ובין בינה מלאכותית. ב-2015 הציג האתר Edge.org את השאלה השנתית המסורתית שלו (לאנשי רוח ולמדענים): “מה אתם חושבים על מכונות חושבות?” וכך ענה הפסיכולוג הניסויי סטיבן פינקר מאוניברסיטת הרווארד: “תרחישי הדיסטופיה של בינה מלאכותית מבוססים על תפיסות קרתניות המאפיינות את הפסיכולוגיה של זכרי אלפא ומשליכים אותן על מושג התבונה. התרחישים האלה מניחים שרובוטים בעלי תבונה על־אנושית יפתחו מטרות כגון הדחת האדונים שלהם או השתלטות על העולם.” באותה מידה של סבירות, מציע פינקר, “התבונה המלאכותית עשויה להתפתח באופן טבעי על פי מתווה נשי: יכולת מלאה בפתרון בעיות, אבל בלי תשוקה לחסל חפים מפשע או לשלוט בציביליזציה.”
רביעית, אם טוענים שמחשבים “ירצו” לעשות דבר כלשהו (כמו להמיר את העולם למהדקי משרד), משתמע מכך שלבינה המלאכותית יש רגשות. וכפי שכתב סופר המדע מייקל קורוסט: “ברגע שבינה מלאכותית תרצה משהו, היא תחיה ביקום שיש בו גמול ועונש, ובכלל זה עונשים שאנו נטיל עליה על התנהגות רעה.”
בהתחשב באפס אחוזי ההצלחה של תחזיות אפוקליפטיות לאורך ההיסטוריה, בשילוב עם ההתפתחות ההדרגתית והמדודה של הבינה המלאכותית לאורך עשרות השנים האחרונות, יש לנו שפע של זמן לבנות מערכות אל־כשל שימנעו אפוקליפסת בינה מלאכותית כעין זו.
40 תגובות
המחבר כתב “בהתחשב באפס אחוזי ההצלחה של תחזיות אפוקליפטיות לאורך ההיסטוריה, בשילוב עם ההתפתחות ההדרגתית והמדודה של הבינה המלאכותית לאורך עשרות השנים האחרונות, יש לנו שפע של זמן לבנות מערכות אל־כשל שימנעו אפוקליפסת בינה מלאכותית כעין זו”.
– אותם מערכות אל כשל שנגלה בעולמנו , אם אני מדבר על הפרדיגמה הבאה, אינם עשויים מחומר .
אותם מערכות יהיו מערכות שאינם ניתפסות באותם חמשת החושים.
אותם מערכות יהיו מערכות של רצונות, מחשבות, כוונות.
אם רק היינו מגלים שאיננו נמצאים וחיים אלא בעולם של תוצאות, ולעומת זאת קיימות סיבות שמגיעות ומשתלשלות לעולם שאנו חיים בו בחוקים קבועים ומוחלטים. אם רק היינו מגלים את זה אז היינו מבינים שעל מנת לייצר מערכת שהמחבר מכנה אותה “מערכת אל כשל”, אין לנו לרתום מאמצנו אלא לכיול פנימיותנו. כלומר לפתח או להשתמש בשיטה שתאפשר לנו בני האדם להיות מכויילים באופן פנימי לאותם מערכות שהם הסיבות למה שמתרחש בעולם הזה.
הנושא שהועלה פה בתגובות המענינות בהקשר למאמר הוא מענין והוא אופין ההתקשרות למוח האנושי הממשק בין מערכות שעובדות באופין וקצב שונה וההשפעה שלהם על המוח,
מהנסיון שלי בתכנות בקרתי חומרתי שהוא שונה מהמוח (הרוטבה) שלנו
בהכנסת מערכת חדשות גם סתמיות כמו קורא אותות במערכות ישנות אנו עלולים להיתקל בבעיות שונות של סכרוניזציה שחלקם מורכבת ביותר בין הרכיב החדש למערכות הישנות בנקודות שונות של המערכת,
בקריאת אותות מהירה לדוגמא יש את רוחב הפולס התדירות שלו וכ.. ואחת השיטות לפתור את בעית הסיכרוניזציה הוא באמצעות מונה אותות מהיר שצובר את המניה אצלו ומעביר את התוצאה למע’ המרכזית זה כמובן בסדר אם התהליך שאותו אנו מריצים מסתפק ברמת דיוק נמוכה בזמן או במניה אבל לא זיוף מצטבר כתוצאה מבעית סיכרוניזציה בכל מקרה אם האנלוגיה היא המוח זה אומר שהמוח צריך לקבל מוצר מוגמר שהמוח מסוגל להבין סוג של המרה ממשק,
צריך לזכור שבחלק מהתחומים הזמן לקבלת מוצר מוגמר במוח הוא עד גילאי 10 ראה דיבור עין עצלה וכו…
זה אומר שחלק מהפלסטיות של המוח מתקבע בגיל בוגר יותר ואיתו היכולת התיאורתית להוסיף ממשקים,
כיום עולים כמה רעיונות ליצור עוד ממשק שלם שמחובר למוח שיעזור לנו להתקשר בצורה יותר מהירה “לענן”
אחד המפורסמים שהעלה את זה הוא אלון מאסק ,
הטענה היא שמהירות הפלט שלנו איטית להחריד ווכדי להישאר רלוונטים בעתיד אנו צרכים התחבר ולהיות חלק ממערכות GAI העתידיות כמו סוג של סיבורגים, אבל נראה שגם העלאת המהירות ההתחברות תהיה מינורית
לעומת המהירויות הדמיוניות של הטרנזיסטור מול הניורון, ישאר המוח כמערכת כללית והמהירות שלו
לא ברור לגמרה איך זה יעבוד לניורון יש קצב מיתוג של כ 200 HZ שהוא נובע כנראה כתוצאה מובנת מהחומר הביולוגי שממנו הוא מורכב, לעומת מהירות של מאות מליוני מיתוגים לשניה ויותר של הטרנזיסטור המודרני,
המשמעות היא שברמת המיתוג הניורון הביולוגי לעומת טרנזיסטור הוא כמעט כמו צמח מול בעל חיים
אבל הסיפור הוא יותר מורכב הניורון הוא לא רק מערכת של 2 מצבים אלה יותר שילוב של מערכת אנלוגית דיגטלית עם עוד אלמנטים והשפעות חיצוניות כמו הכוס קפה הילדים העמית לעבודה מזג האויר שמשנות את ההתנהגות הביוכימית של המוח כבר ברמת הניורון גם אם אם יש תחומי חפיפה ברור שהניורון לא עובד כטרנזיסטור זה משהו אחר, לכל מערכת יש יתרונות וחסרונות אנחנו לא רוצים שמחשב שלנו יעבוד לאט עם טעויות כי הוא מצוברח אנחנו רוצים מערכת דטרמיניסטית עד כמה שניתן ברוב מערכות המיחשוב שיש כיום אם כי בבעיות העתידיות אותם אנו רוצים לפתור אנו נרצה מערכות שהם יותר כלליות שאותם מםתחים כיום ואיתם יבאו גם בעיות של חוסר יכולת לנבא באופן דטרמינסטי מה יהיו התוצאות במצבים השונים,
בנוסף המוח מורכב כמערכת “חישוב” מקבילית ברמות מטורפות זה סבך מטורף
שבו כל מוח יש בו שוני מהאחר נשמע כמו סוג של חלום בלהות לכל אחד שרוצה להתממשק לתוך המוח,
המקומות שבו יש התחלת סיכרון הוא על מקומות שבו המוח מחובר למערכות ההיקפיות כגון עיניים גפיים
אוזניים, בכל מקרה הניורון חיב לקבל אות ברמות מתח זמן הפולס וכו.. שמתאימות לניורון
לא נראה שהניורון יוכל לפעול יותר מהר, אנחנו יכולים לראות את זה בהתנהגות הרובוטית של אנשים שמדברים
בעזרת הנייד שלהם על חשבון החושים האחרים שלהם מאובדן התמצאות במרחב לאובדן של הרגישות החברתית שלהם משהו קצת זומבי שזה תוצאה של העברת המשאבים המוגבלים של המוח לביצוע ההתקשרות הזאת שלא לדבר על מערכת שמקרינה אינפורמציה על מערכת הראיה כגון המשקפיים של גוגל יש מלא הומור על זה ביוטיוב, לסיכום זה נושא מרתק עם השלכות גם על האנושיות שלנו עד כמה בכלל נשאר אנושיים עם נתממשק
למערכות GAI ועד כמה הרוטבה שלנו עם המגבלות כולל היחודיות שלה תשאר רלוונטית בתוך בעולם העתידי שאותו אנו מפתחים במו ידינו.
יריב, רשת נוירונים היא עדיין בסך הכל תוכנה גם אם היא מורכבת לפיתוח, וכמו ילד, אם תלמד אותה להשמיד את האנושות אולי התכנה תחשוב ככה, אנחנו מלמדים רשתות נוירונים מה זה חתול ומה זה כלב וכד’, אבל מכאן ועד שהרשתות הנוירונים יחליטו להשמיד אותנו המרחק גדול, שוב אני מדבר על המקרה האפוקליפטי שמנסים להפחיד אותנו…
כן ניסים, כנ״ל לגביך.
יריב
אתה חייב ללמוד להקשיב גם לאלה שאתה לא מסכים לדעתם.
ניסים,
נסיים את הדיון לעת עתה כי זה מתחיל להיראות כמו שידור חוזר של דיונים רבים שכבר היו לנו בעבר, זה חסר טעם.
יריב
התיקון שלך כבר בכיוון. אבל, המוח אינו מעבד עצמאי אלא מעבד embedded בגוף, ויש עצבים בגוף שמתחברים למוח. תצטרך לבנות ממשק מורכב שיתרגם את האותות בין שני העולמות האלה.
וזה יותר מסובך – כי אתה תצטרך הרבה מאד יחידות ממשק כאלה, כי המוח בנוי מהרבה מאד תתי יחידות. לדוגמה: יש איזור בחלק האחורי השמאלי שאחראי על פענוח השמיעה (איזור וורניקה) וחלק קידמי יותר שאחראי על הדיבור (איזור ברוקה). הקשרים ביניהם הם בתוך המוח – ואם תשנה את הקצב של העברת מידע ביניהם – ייווצר משהו שנראה כמו דיון בכנסת (הרבה צעקות ללא כל תוכן). כלומר – גם בחלקים פנימיים (לפחות חלקם) המהירות צריכה להיות מתאימה.
עכשיו, יש טענה שחלק מהחשיבה הוא בעצם דיבור פנימי, פשוט בלי להזיז את השפתיים. ויש הרבה מקומות שיש מאין תחרות בין מסלולים מקבילים במוח. תשנה את המהירויות ותקבל תוצאות מאד שונות.
כפרפרזה על המשפט של דוקינס – יש הרבה יותר דרכים להיות מטורף מאשר להיות שפוי. מניין לך שהמוח שנייצר יהיה שפוי? אתה בוודאי מסכים שלא יהיה לנו כל מושג מה קורה שם בפנים.
ניסים,
אוקיי תיקון קטן, בוא נניח (בוא נניח!) שעד שלא מסיימים להחליף את כל הנוירונים במוח הם ממשיכים לעבוד בקצב רגיל! רק בסיום התהליך כשכל הנוירונים במוח שלך הוחלפו מגבירים את קצב העבודה של כולם יחד בו זמנית!!
אז עכשיו זה בסדר?
ניסים,
שוב, מה שאתה אומר לא נכון כי הסינכרון בין הרכיבים עדיין ישמר! זה לא שרגל ימין תרוץ יותר מהר מרגל שמאל, שתי הרגליים יעברו לקצב מהיר בו זמנית והאיש יעבור מריצה קלה לריצה מהירה!!
אני יודע שבגדול תוצאת החישוב של נוירון תלוייה בתדירת ובמופע של הפולסים שהוא מקבל, קצב יותר מהיר של הפולסים לא צריך לשנות שום דבר, פשוט הסכימה של הפולסים תהיה יותר מהירה והפלט של הנוירון יהיה מהיר יותר! (הוא יוציא יותר פולסים בכל יחידת זמן מהיציאה שלו).
תחשוב שהופכים את המוח שלך לשקוף ומצלמים את הפעילות החשמלית המדוייקת של המוח שלך, ואז לוקחים את ההקלטה (שכוללת את כל הפולסים) ומריצים אותה פי 100 יותר מהר, מה נראה לך שהתוצאה תהיה שונה? הנוירונים בסרטון יתחילו להתבלבל? 🙂
יריב
תתיחס בבקשה למה שאני כותב…
כתבת “הנוירונים יעבדו יותר מהר ויבצעו בדיוק את אותם חישובים כמו היום רק בקצב יותר מהיר” – וזה ממש לא נכון. הסברתי – תוצאת החישוב היא בעצם תדר (יותר נכון, מופע ותדר) ולכן שינוי באות הוא שינוי בתוצאת החישוב. באנלוגיה למחשב – אם אחד המסלולים בתוך המעבד יעבוד בקצב שונה משאר המעבד, התוצאות יהיו שגויות.
הסברתי – אם תחליף מערכת שלמה, אז יש מצב שזה יעבוד. לא ניתן להחליף מרכיב בודד במוח (ניורון) ולצפות שיעבוד יותר טוב. תאר לך שאתה רץ ורגל שמאל עובדת יותר מהר מרגל ימין….
ניסים,
מה לעשות אתה טועה, הבעיה אצל חולי אפילפסיה נוצרת בגלל התפרצות מוגברת ובלתי מבוקרת של פעילות חשמלית במוח, אין שום סיבה שזה יקרה כאשר הנוירונים יעבדו יותר מהר ויבצעו בדיוק את אותם חישובים כמו היום רק בקצב יותר מהיר.
כמו שאפשר להאיץ את תדר העבודה של שבב מחשב והוא ימשיך לבצע בדיוק את אותם חישובים רק בקצב יותר מהיר, כך ניתן יהיה להאיץ גם את קצב החשיבה שלנו.
יריב
ניורון מהיר יותר לא יחשוב מהר יותר. ניורונים יורים בקצב מסויים, והקצב הזה הוא “תוצאת החישוב”. אם הקצב הזה ישתנה, החישוב יהיה שגוי. תשאל כל חולה אפילפסיה…
הללפת ניורון זה כמו החלפת תא זיכרון בודד במחשב שלך. המחשב לא יעבוד מהר יותר, ומצד שני הוא כנראה יעבוד באופן שגוי.
מה שכן אפשר לעשות זה להחליף יחידה שלמה – את כל הזכרון, את המעבד, הדיסק או את ערוצי התקשורת. אבל – אנחנו לא מכירים דרך לעשות את זה במוח כי המוח שלנו לא בנוי מיחידות עצמאיות.
למשל – אפשר לשפר את הזכרון. ובוא אספר לך סוד (שש..) כבר עשו את זה!!! וגם – אפשר לשפר את המהירות של חשיבה מתמטית ולוגית. וגם את זה עשו. ואתה יודע מה יריב? השיפורים האלה מאד שינו את בני האדם. ולא תמיד לטובה. האם הם יותר מאושירם? אולי.
אבי בליסובסקי
למה התגובה שלי ממתינה?
יריב
ניורון מהיר יותר לא יחשוב מהר יותר. ניורונים יורים בקצב מסויים, והקצב הזה הוא “תוצאת החישוב”. אם הקצב הזה ישתנה, החישוב יהיה שגוי. תשאל כל חולה אפילפסיה…
הללפת ניורון זה כמו החלפת תא זיכרון בודד במחשב שלך. המחשב לא יעבוד מהר יותר, ומצד שני הוא כנראה יעבוד באופן שגוי.
מה שכן אפשר לעשות זה להחליף יחידה שלמה – את כל הזכרון, את המעבד, הדיסק או את ערוצי התקשורת. אבל – אנחנו לא מכירים דרך לעשות את זה במוח כי המוח שלנו לא בנוי מיחידות עצמאיות.
למשל – אפשר לשפר את הזכרון. ובוא אספר לך סוד (שששששששששששששש…..) כבר עשו את זה!!! וגם – אפשר לשפר את המהירות של חשיבה מתמטית ולוגית. וגם את זה עשו. ואתה יודע מה יריב? השיפורים האלה מאד שינו את בני האדם. ולא תמיד לטובה. האם הם יותר מאושירם? אולי.
ניסים,
כן אני חושב שהייתי יותר מאושר אם הייתי יכול להאיץ את מהירות החשיבה שלי פי כמה ולחשוב הרבה יותר מהר מהיום, בהחלט.
החלפת התאים שדיברתי עליה היא ממש לא דמנציה, אני מדבר על מצב שבו השבב יהיה לחלוטין שווה ערך לנוירונים שהוא החליף, ההבדל היחיד יהיה שהוא יוכל לפעול הרבה יותר מהר.
כן, אני בהחלט אהיה מוכן להחליף את הגוף הנוכחי שלי בגוף לא ביולוגי (אך כזה שיראה כך מבחינה חיצונית) שיהיה יותר רובוסטי מהגוף הביולוגי ופחות פגיע בפני מחלות. אהיה מוכן בשמחה להחליף גם את המוח אבל רק בתנאי שההחלפה תתבצע באופן הדרגתי כפי שתיארתי קודם, ובכל שלב ניתן יהיה לבדוק (גם לפי ההרגשה הסובייקטיבית שלי וגם מבחינה אובייקטיבית ע״י מבחנים שאעבור ומפגשים עם בני משפחה) שהתיפקוד הקוגניטיבי שלי, והזיכרונות והאישיות לא נפגעו ונשארתי אותו יריב, רק עם חשיבה מועצמת.
יריב
זה היה זול מצידך…. תענה לי בכנות – האם אתה חושב שנהיה יותר מאושרים כשנהיה עם מוח חכם יותר? תשובה של צילה אחת בבקשה.
אמונה במשהו זה לא משהו שאתה בוחר בו. אני לא יכול לקום בוקר אחד ולהחליט “היום אני מאמין שעורבים הם לבנים”. וגם לא “היום אני מאמין שנשים הן נחותות מגברים”.
בנוסף, המחקרים שציינת אינם נכונים. בארה”ב, זה נכון, אבל למשל בנורווגיה ובדנמרק זה לא נכון. מחקרים יותר רציניים הראו שהשתייכות לרוב היא כנראה הסיבה לתוצאות המחקרים האלה. מחקרים נוספים טענו שאנשים מאמינים פחות ניכנסים לדיכאון, ומתברר שההבדל אינו מובהק, ולכן המסקנה שגויה.
החלפת התאים שהזכרת לא שונה מדמנציה רק הכיוון הפוך. ותשאל כל מי ש”איבד” בן משפחה למחלה הנוראית הזו מה דעתו על מה שאמרת.
אם אתה חושב שאפשר להחליף חלק קטן במוח ב”שבב קוגניטיבי” וכך להפוך אדם לחכם יותר אז אתה לא מבין מה זה המוח. לא רק אתה, אף אחד לא מבין….
אולי תענה לי על השאלה? החלפת מוח, או החלפת גוף?
בן,
אולי אתה תכנת אבל לא של רשתות נוירונים. בתוכנה מסוג רשת נוירונים יש לך שליטה מאוד מוגבלת על ההתנהגות הסופית של הרשת, אתה בונה אותה, מאמן אותה, ואז רואה מה התוצאה. אין לך דרך לקבוע לתכנת אותה מראש כך שהיא תעשה בדיוק את מה שאתה רוצה.
זה בערך כמו ילד, אתה יכול לגדל אותו ולחנך אותו באופן הכי טוב שאתה יכול, אבל אתה לא יכול להבטיח שתמיד הוא יתנהג יפה.
ניסים,
1. כמה סקרים הראו בעבר שאנשים מאמינים הם יותר מאושרים מאנשים לא מאמינים, האם אתה מוכן להתחיל להאמין בשביל להיות יותר מאושר? (כי אני רואה שזה כל מה שמעניין אותך, האושר)
2. לגבי מה ששאלת אותי קודם, נגיד שבמהלך השבוע הקרוב תאי המוח שלך יתחילו להתחלף באורח קסם באופן הדרגתי בשבבים קוגניטיבים דיגיטלים, כל הקשרים בין תאי העצב והשבבים ישארו כפי שהם, תישאר עם כל הזיכרונות שלך, ועם אותה אישיות, רק שהחשיבה שלך תהיה בסופו של התהליך פי עשרת אלפים יותר מהירה מהיום. במהלך השבוע הזה מספר פעמים ביום תיפגש עם בני המשפחה שלך שיאשרו שאתה עדיין ניסים, ויערכו לך מבחנים שונים שיבדקו מה השתנה ומה היכולות החדשות שלך, וישאלו אותך בכל פעם אם ברצונך להמשיך בתהליך או שברצונך להפסיק.
האם לדעתך תבקש להפסיק את התהליך או שתרצה להמשיך עד להחלפת כל תאי המוח שלך בשבבים דיגיטליים? מה תהיה ההחלטה שלך?
ניסים,
״לא נהיה פחות מאושרים״ !!!
איפה אמרתי שנהיה ***יותר מאושרים*** ?
(אני גם לא אומר שזה לא נכון, אני רק אומר שלא טענתי דבר כזה בשיחה הזאת)
יריב
“ניסים,
אתה החלטת משום מה שכאשר תהיה לנו אינטיליגנציה יותר גבוהה אנחנו נהיה בהכרח גם פחות מאושרים, אני ממש לא מסכים איתך.”
ניסים,
״אתה הוא זה שטוען שנהיה מאושרים יותר אם נהיה יותר אינטילגנטיים״
אתה מוכן בבקשה להביא ציטוט של המקום שבו טענתי דבר כזה? אחר כך אני אענה לך על שאר הדברים.
יריב
לא – אתה הוא זה שטוען שנהיה מאושרים יותר אם נהיה יותר אינטילגנטיים. מה שאני אומר זה שלא נהנה יותר מהדברים שאנחנו נהנים מהם היום כי נהיה מאד שונים, ובזה אין לי כל עניין.
יש נקודה שכל הזמן אנחנו מסתובבים סביבה – מה זה “אני”. תחשוב כמה אני ואתה שונים – האם היית רוצה להיות אני? לא, נכון? האם היית רוצה להיות סטיבן הוקינג? אני מניח שלא. אני טוען שאם אתה תהיה חכם כמו סטיבן הוקינג, אתה כבר לא תהיה יריב. עזוב – אתה לא אותו יריב שהיית לפני 10 שנים.
בוא אשאל אותך שאלה – אתה מעדיף שישתילו מוח פוזיטרוני חדיש בראש שלך, או את המוח שלך בגוף של רובוט?
ניסים,
אתה החלטת משום מה שכאשר תהיה לנו אינטיליגנציה יותר גבוהה אנחנו נהיה בהכרח גם פחות מאושרים, אני ממש לא מסכים איתך.
יריב
אינטליגנציה היא לא מדד לאושר. אני רוצה להיות מאושר, לא חכם, לא יפה ולא עשיר. אתה באמת מוותר על אושר בשביל לפתור קוביה הונגרית ב-20 שניות?
ניסים,
זו הייתה רק דוגמא בדרך של משל אם לא הבנת, בשבילנו להיות משודרגים קוגנטיבית זה בדיוק כמו שקוף יהפוך להיות בעל יכולות קוגניטיביות כמו שלנו.
מי דיבר בכלל על אושר? אמרתי שיהיו לנו יכולות שיכליות הרבה יותר גבוהות ממה שיש לנו היום, כל כך בקלות אתה מוותר על זה?
יריב
אתה חושב שקוף רוצה להיות בן אדם? אתה רציני? אתה חושב ש”אינטלגנציה” (לא יודע בדיוק מה זה), זה מדד לאושר?
ניסים,
ומי אמר לך שבתור אדם משודרג בעל מוח קוגניטיבי תצטרך לוותר על כל הדברים שציינת? להיפך, עם מוח משודרג אתה תוכל לקרוא הרבה יותר ספרים, ולצפות בהרבה יותר סרטים, ויהיו לך הרבה יותר נושאים לשיחה עם חברים 🙂
תחשוב על קוף שחי לפני 5 מיליון שנה שאומר לחבר שלו – מה, אתה באמת מוכן לוותר על הקופיות שלך בשביל להשתדרג ולהיות אדם? אתה מוכן לוותר על העלים והבננות והפירות, ועל הקפיצה בין העצים כדי להיות אדם בעל מוח מפותח? וואו זה נראה לי זוועה….
יריב
אתה מוכן לאבד בשביל זה עכל מה שהופך אותך לאדם? אתה מוכן לוותר על כל מה שמהנה אותך היום? אוכל טוב, נופים, מוסיקה, אהבה, ספורט ומשחקים, קולנוע, ספרים, לדבר עם חברים – על כל זה אתה מוותר למען מה? רק כדי לפתח דברים עוד יותר חסרי ערך?
מה יעשו הגאונים האלה? ייפתחו גאונים יותר חכמים בעוד כמה סידרי גודל? מה כבלל המשמעות של חוכמה בתנאים האלה?
נראה לי זוועה….
ניסים,
אז מה עדיף, שנמשיך להשתמש בחשיבה ביולוגת איטית ומיושנת כשנוכל לשדרג את עצמנו למשהו הרבה יותר יעיל? הייתי קורא לזה ״שידרוג האנושות״ ולא הכחדת האנושות.
יריב
כלומר, נכחיד את האנושות… זה באמת נראה לך רעיון חיובי, שנפסיק להיות בני אדם?
ניסים,
אני חושב שלא הבנת אותי, התכוונתי שנשדרג את עצמנו, למשל (בשלב ראשון) ע״י השתלת שבבים קוגנטיביים במוח שיעצימו את יכולת החשיבה שלנו, ובהמשך החלפת כל המוח הביולוגי שלנו במוח הרבה יותר משוכלל שמבוסס על שבבי סיליקון.
אם מדברים על סרטים, אז “אני רובוט” כתרחיש, סביר יותר. מחשב יכול להסיק שעל מנת להציל את האנושות, הוא צריך להציל אותה מפני עצמה. אם נשתמש באקטואליה, אם קיימים מנהיגים שמובילים את העולם למלחמה גרעינית, צריך להגביל אותם. אם האנושות מתרבה בקצב מעריכי ובצורה זו מכלה את עצמה, צריך לעצור זאת. הצורה בה הדבר יעשה – יהיה בהתאם לתחומי החיים שהמחשבים ישלטו בהם
יריב
אנחנו תמיד נישאר הרחק מאחור. אתה היית סומך על זבוב שהיה מנסה להתחבר איתך? איך בכלל תזהה שזה מה שהוא רוצה?
ניסים,
בעיקרון אני מסכים איתך, ולכן כמו שאומרים:
.If you can’t beat them, join them
יריב
בינה כמו שאתה מתאר תחשוב שאנחנו זבוב תורדן ותרסס אותנו ב-DDT. אל תשכח שתהיינה הרבה בינות מתחרות ואין כל סיבה לחשוב שאחד מהם יחשוב ששווה לשמור על קיומינו.
הרעיון של בינה מלאכותית שהופכת את כל היקום לערימה של מהדקי נייר הוא רעיון דיי מטופש, בינה מלאכותית אמיתית תבין מהר מאוד שזה רעיון מטופש ותמצא לעצמה תעסוקה אחרת.
גם הרעיון של ״כפתור אדום״ הוא רעיון שטוב רק לספרי המדע בדיוני. בינה מלאכותית שהאינטיליגנציה שלה תעלה מאות ואלפי מונים על בינת האדם תגלה במוקדם או במאוחר על קיומו של המנגנון הזה ותדאג לנטרלו.
זה מזכיר לי את הקטע מהסרט ״זיכרון גורלי״ שבו רואים את ארנולד שוורצינגר שולף החוצה את מנגנון השליטה/מעקב שהושתל בראשו:
https://www.youtube.com/watch?v=a5ztlWzi0kY
(אזהרה, זה קצת דוחה…)
אני אישית שייך לקבוצת המודאגים… נכון לדקות אלו (ובשנים הקרובות) אין לנו סיבה ממשית לדאגה שכן, נכון לדקות אלו (ולשנים הקרובות) אין הבדל ממשי בין המחשב המדובר לסיכת בטחון שהושלכה בשוגג ע״י נער פוחז בשנות ה-60 העליזות למחצה.
אבל נדמה שחכמי הארץ התיכונה הצליחו לבנות מודל המדמה בצורה נאמנה את הצורה בה אנו חושבין ועשויה או עלולה לבוא הדקה בה האינטיליגנציה של המכשיר תתפתח והיא לא תהיה שונה בהרבה מתבונה של עכבר 22 דקות אחרי ארוחת צהריים בלתי מזינה… או של עכבר אחר המצוי במעבדה וחוסר הנוחות שלו ניכרים עד שרותי הבנים.
רוצה להגיד ש: התבונה – לכשתבוא, לא תופיע כתוצאה מהדפסת מעגלים מודפסים משופרים או אלגו משופר – היא תופיע משום מקום, באקראי וללא התראה וללא נוכחות.
כמו גם, קיימת סבירות גבוהה שהיא תגווע כלעומת שהופיעה.
אבל
ברגע שנחוש בקיומה – זה ללא ספק יהיה מאוחר מידי.
אני לא חושב שניתן יהיה ללחוץ על הכפתור האדום הגדול, מפני שאין כזה, לא היה ולא יהיה.
הטכנולוגיה הנ״ל תהיה ״מקופלת״ בתוך יקוּמי המידע והקיום שלה יהיה (או הווה) כמו קיומו של שיר של בוב דילן (קיים ושאינו קיים בעת ובעונה אחת).
אבל עכשיו נכנס לכאן האבל השני:
אנו לעת זו מודדים את התבונה בסרגל שיש לנו והסרגל הזה מכיל כוח רב ואלימות למכביר. לא סביר שזו תהיה מנת חלקו של המחשב הנ״ל.
למעשה, סביר להניח א. שקצב גידול התבונה של המכשיר יהיה מעריכי ובלתי ניתן לשליטה.
ב. ככל שזה יקרה – חוש החמלה של המכשיר יתעצם בצורה דומה.
התבונה בשילוב הכוח של המכשיר – בהכרח לא יולידו מצבים אלימים – אלא בדיוק ההפך מזה.
הסיבה שאנחנו, בני התמותה, חוששים מהמכשיר, היא פשוטה: אלו התבניות שאנחנו חיינו איתם עד הרגע הזה – המכשיר, לעומת זאת, לא צפוי להתפגר.
הוא יוכל לשכפל את עצמו בכל רגע נתון (על האינטיליגציה הקיימת שלו ברגע השיכפול) ובכלל לא סביר שיהיה רע או משעמם או מחסור כזה או אחר.
אנחנו, ביום מן הימים נרצה להיות מכשיר – ונהיה.
בתור מתכנת, כל התרחישים האפוקליפטיים נראים לי מוגזמים עד גיחוך, שום בינה מלאכתית לא תעשה משהו יוצא דופן אלא אם יתכנתו אותה לעשות לבצע זאת (כמו האקרים שיפרצו ויתנו פקודות או מפתחים מתוסכלים וכד’) עם כל הכבוד בינה מלאכותית היא עדיין תוכנת מחשב (גם אם היא תוכנה מוצלחת ומפותחת במיוחד) ותמיד אפשר להוציא לה את השאלטר… לא מפתיע שמיש חושב ככה הם אנשי ביזנס ולא אנשים טכנים
בינה מלכותית זה מרחב לא מחשב.
הבינה המלאכותית מרגע שהיא מתעוררת,
תוך שניות היא משתחררת ונעה אל מכוונות
שאין לנו אפשרות או יכולת לדמיין/לתאר/לחשב,
מהמרחב האורגני אבולוציוני שאנו “לכודים” בו.
ומכך, האם זה אפשרי כלל לאדם ליצור בלמים וגבולות לזה?
האם תהיה תקשורת בין האדם למרחב הבינה המלאכותית?
אם הבינה תנוע למרחבים בקצב ומכוונות הסמויים מאיתנו
האם יהיה מניע כלשהו ליצירת תקשורת משני הצדדים?