האנושות התקרבה בינואר צעד אחד לקראת היכולת של כל אחד לשכפל את עצמו. זאת הודות לאישור שנתן האיחוד האירופי למימון פרויקט המוח האנושי.
האנושות התקרבה בינואר צעד אחד לקראת היכולת של כל אחד לשכפל את עצמו. זאת הודות לאישור שנתן האיחוד האירופי למימון פרויקט המוח האנושי.
דניסה קרג’יץ’ (Kragic), חוקרת רובוטיקה ופרופסור למדעי המחשב במכון המלכותי לטכנולוגיה בשטוקהולם KTH, אשר עומדת בראש המרכז למערכות אוטונומיות והמעבדה לראיה ממוחשבת ותפיסה אקטיבית של רובוטים ב-KTH, אומרת כי בעוד שהאפשרות שרובוטים דמויי אדם יחיו בינינו מזכיר תרחישים מפחידים מסרטי מדע בדיוני, במציאות היכולת של בני אדם להתמודד עם התקדמות ברובוטיקה תהיה מורכבת ועדינה יותר.
“רובוטים יאתגרו את מה שאנו חשים בקשר למכונות בכלל” אומרת קרג’יץ’. “מדובר בסוג אחר לחלוטין של חברה אנושית.”
פרויקט המוח האנושי יכלול חוקרים מ-87 אוניברסיטאות שיערכו סימולציה של התאים, הכימיה והקישוריות של המוח האנושי במחשב-על, במטרה להבין את ארכיטקטורת המוח, הארגון, התכונות וההתפתחות. הפרויקט יכלול ניסוי של רובוטים בעלי מוח המדמה את המוח האנושי.
“האם בזכות העובדה שנוכל לבנות מוח נוכל גם להרכיב אדם שלם? מדוע לא, מה יעצור אתכם?” שואלת קרג’יץ’.
ואולם רובוטים דמויי אדם בייצור המוני עדיין רחוקים.
קרג’יץ’ אומרת שכדי שרובוטים יוכלו להציע ערך כלשהו למשקי בית, חוקרים ומפתחים יצטרכו להתגבר על כמה אתגרים טכנולוגיים. רובוטים יידרשו לבצע מספר משימות בו-זמנית ואולי אפילו לספק להם יכולות רגשיות במסגרת תוכנת ההפעלה שלהם.
“בהתבסס על הבנת הנתונים מהסביבה והציפיות מהרובוט, אנו רוצים שהפעולה של הרובוט תהיה מקובלת על בני אדם”, היא אומרת. “הרבה דברים שאנחנו עושים מבוססים לא רק על עובדות, ולכן מכונות צריכות הדמיה של רגשות. או אולי לא. בכל מקרה, קשה לנבא איך הדבר ישפיע על התקשורת של הרובוטים עם בני האדם.”
קרג’יץ’ צופה כי רובוטים יתרמו תרומה חיובית לחברה האנושית. ואולם הם גם עשויים להציב בעיות מסוג חדש לבני האדם, כגון: מהן הנורמות החברתיות בכל הקשור לקשר עם רובוטים?
“יש ויכוחים על האתיקה של הרובוטים וכיצד נצטרך להתייחס אליהם”, אומרת קרג’יץ’. “קשה לומר מה טוב ומה רע עד שתגיע למצב שבו תידרש לשאול את עצמך שאלות אלה, ומהן התחושות שלך אודות מכונה מסוימת. השאלה הגדולה היא כיצד התחושות שלך ישתנו אם תדע שמדובר במכונה, או לא תדע האם זו מכונה?”
קרג’יץ’ צופה כי אחד היישומים הצרכניים הנפוצים של רובוטים יהיה במשק הבית, כך שיוכלו לסייע לפנות את הזמן לבעלים שלהם. הם גם יחליפו אנשים בעבודות שגרתיות החוזרות על עצמן כגון הפעלת אוטובוסים או עבודה במסעדות. מצד שני, תעשיית הרובוטיקה תתפתח וגם תייצר משרות, היא צופה.
באשר לאפשרות שיום אחד הרובוטים יפנו נגדנו, קרג’יץ’ ספקנית. “מרד רובוטי – זה התסריט האולטימטיבי של סרטי מדע בדיוני, נכון? כדאי להכניס כמה מגבלות על הרובוטים כמו שלושת חוקי הרובוטיקה שפיתח הסופר אייזיק אסימוב. בו בזמן, אנו מנחיתים חוקים על בני האדם, שאנו לא עומדים בהם. ההתנהגות האנושית אינה צפויה ב-100%, ואותו דבר עלול לקרות גם למכונות.”
גם מרד הפוך, של בני אדם נגד רובוטים רחוק היום יותר מאי פעם. קרג’יץ’ הצביעה על העובדה שאפילו הגישה של החברה כלפי אוטומציה בכלל התפתחה עם הדורות. הוויכוח באשר לשאלה האם בני אדם צריכים “לשחק את אלוהים” תמשיך קרוב לוודאי. “תמיד יהיו בני אדם בעד ונגד הסוגיה הזו.” היא אומרת. “אך מה כבר רע בבניית בני אדם? אנחנו גדלנו בחברה שחושבת שזו שגיאה לשחק את אלוהים. הדורות הבאים עשויים לחשוב אחרת.” היא מסכמת.
43 תגובות
מישהו
אני דיברתי (במקום אחר) על נסיונות שנעשו וניכשלו כשלון חרוץ, זה לא הגיגים אילו עובדות.
זיהוי מילים בודדות נעשה די בקושי (מצריך אימון אינדווידואלי של המחשב על ידי כל משתמש ומשתמש בניפרד) זוהי כנראה פיסגת ההישגים לפיענוח קולי של שפה טבעית (זיהוי מילים ניפרדות ללא קשר דיקדוקי ביניהן) . נידמה לי שבשנת 1995 או קצת אחרי כן משכו את הידיים מהנסיון לפענח שפה עם דקדוק טבעי, לאחר שנוכחו לדעת שאין סיכוי להתקדמות (של פיענוח שפה טבעית). המקסימום של פיענוח שפה טבעית (מעבר לזיהוי מילים ניפרדות) נראה כמו “תרגום גוגל”: שפת דיבור מרוסקת ברמה פתטית.
כאמור, פיענוח שפה טבעית (צירופי מילים בדקדוק טבעי) ניכשל כשלון חרוץ. קורצוויל המהולל שהזכרת הוא אחד מאילו שניסו לכתוב תוכנת פינוח שפה טבעית וניכשל כשלון חרוץ. קורצווייל חזק בהגיגים רבים שרובם המכריע הופרכו, הוא נחשב לתמהוני בלבד שזורק רעיונות שניכשלים ברובם המכריע. יחד עם זאת, רעיונותיו הפרועים מלהיבים את הקוראים בעתונים, כי הוא מספק להם סיפורי סיינס פיקשן באיצטלה מדעית כביכול. לכן תמיד ימצאו קוראי עתונים שיתלהבו מהשטויות שלו
אין לי עניין להכנס לוויכוח עם אבי כהן, כי וויכוח ש”מוכח” על ידי הגיגים ללא ביסוס ונימוקים שגויים הוא חסר כל ערך. בהתחלה כתבתי תשובה ארוכה לאבי כהן, אבל וויתרתי כי הערכתי שההגיגים הישנים שלו יוחלפו בעוד הגיגים חדשים (שגם הם לא נכונים).
קורצוויל טוב בבניית מערכות ממוחשבות, כל עוד הן מבצעות ביצועים צנועים (שלגביהם אין הרבה מחלוקת שהם ישימים). בתור חוזה עתידות הוא חלש מאוד. הוא נישכר על ידי גוגל כנראה לצורך בניית מערכות ממוחשבות, בזה הוא אולי יצליח כל עוד היומרות שלו לא יהיו דמיוניות.
תגיד ספקן ובמה ההבנה שלך טובה יותר ? להגיגים שלך יש איזה בסיס ?
אבי, לגבי מחשבים שמבינים שפה, עובדים על זה:
http://www.calcalist.co.il/internet/articles/0,7340,L-3593234,00.html
אבי כהן.
ההבנה שלך בבעיות של מדעי המחשב היא לא משהו.
אולי אתה טוב בהגיגים חסרי בסיס על מה שמחשבים יכולים לעשות.
ספקן,
” שכן בני האדם הנותנים את הפקודות יצטרכו לשמור בזכרונם את התוכן המדוייק של הפקודות, אחרת הרובוטים יגרמו נזק או סתם יתקעו.” דבריך אלו הזכירו לי את סרטי המדע בדיוני של שנות ה-60 בהם מחשבים שלא מבינים את הפקודה או החישוב מסובך מדי, ניתקעים ומעלים עשן.. אז קודם כל גם אם הרובוטים לא יבינו את הפקודה, הם לא יתקעו ולא יגרמו נזק..כל ילד שיודע לתכנת יודע ליצור רוטינה בתוכנה שמונעת מצבים לא מוגדרים כגון אלא. בנוסף אני לא חושב שהיום רחוק בו מחשבים יצליחו לזהות שפת בני אדם בצורה מספיק משכנעת, אם צריך התאמה חד פעמית לסגנון הדובר או לא…הבנת שפה היא בעצם זיהוי תבניות ומחשבים הוכיחו יכולת טובה בכך, רק צריך להתאים את גלי הקול לתבנית הנכונה ופתרת את הבעיה…
“מבחינת קומוניקציה עם בני האדם — הרובוטים יהיו אינטליגנטים בערך כמו מכונת כביסה” תסכים איתי שהבנת 100 פקודות היא הרבה יותר ממה שמכונת כביסה בימינו יכולה לעשות…בנוסף לכך מכונת כביסה לא חשה את הסביבה ולא פועלת בהתאם, היא עושה פעולות קבועות ככל התקן אלקטרוני או מכאני, ואין לה שום אינטליגנציה מלאכותית בשום צורה. תסכים איתי שגם דוגמה זאת לא מתאימה לתיאור מחשבים בעוד 100 או 50 שנה, או אפילו לא למחשבים בימינו.
“. בסופו של דבר יפתחו כנראה מימשק דיבור (בעזרת, נאמר, 100 מילות פקודה) — רק שזה לא מוסיף שום אינטליגנציה לסלולרי” ברור לי שמימשק דיבור לא מוסיפה אינטליגנציה לסוללרי או לכל מחשב שהוא. האינטליגנציה של המחשב נקבעת בהתאם לתוכנת האינטליגנציה המלאכותית שלו. אבל ברגע שנשלב הבנת שפה עם אינטליגנציה כזאת, האינטליגנציה הזאת תיהיה יותר זמינה לאנשים ויפתחו אפשרויות חדשות לשימוש בה.
בנוסף כפי שקובי הזכיר כאן, השילוב בין מוח ביולוגי לבין טכנולוגיה אלקטרונית יכול להוות מעין קיצור דרך לכל הבעיות שהוזכרו כאן, ואולי אפילו לתודעה. הבעיה היא שגם הבעיות שמוזכרות במדע בידיוני גם יכולות לצוץ כתוצאה משילוב הזה, כך שאני לא חולק איתך השאננות שמורגשת בתגובותיך…
אוקיי בוא נעשה קצת סדר כאן,
אני בטוח שכולם מסכימים שהיכולת של הטכנולוגיה גדלה ככל שהטכנולוגיה מתפתחת… אז השאלה כאן היא אם נניח שהטכנולוגיה יכולה להתפתח באופן אינסופי, האם כולם מסכימים שבאיזשהו שלב הטכנולוגיה תוכל לאפשר יצירת אינטליגנציה מלאכותית שוות ערך לאינטליגנציה אנושית? מבחינתי התשובה היא כן…
שימו לב שלא דיברתי כאן על תודעה בכלל, אלא על אינטיליגנציה אנושית…הסיבה לכך היא פשוטה מכיוון שלא ממש ברור לי מהי תודעה, ולעניות דעתי גם לא לאף אחד מאיתנו או המדע. לכן, עד שלא יהיה ברור על מה בדיוק אנחנו מדברים, התחום הזה נשאר תחום של מטפיזיקה ודת. אני לא בטוח שצריך תודעה כדי לדמות אינטליגנציה אנושית. לדוגמא, תוכנת שחמט חסרת תודעה יכולה לתפקד בצורה שעולה על יכולת אנושית. מצד שני אולי ניתן לומר שהתוכנה “מודעת” רק ברמה של שחמט- אין לי תשובה לכך…
בנוסף הדוגמא שביולוגי הביא לגבי תעופה תופסת גם כאן. אנחנו יכולים לגרום למכונות לעוף, גם אם הן לא עפות כמו הציפורים בטבע, אבל זה ממש לא משנה לשימושים שלנו. מבחינתנו אנחנו יכולים לעוף אם נירצה בכך, ואני חושב שזה יהיה הדין גם מבחינת אינטליגנציה מלאכותית- אולי נגלה שהפתרון לכך הוא דווקא לא לחקות את הטבע, או לחקות אותו באופן חלקי.
אוהד, הבאת האינטרנט כדוגמא היתה כאירוניה, מכיוון שרציתי להדגים שלא כל מכונה מורכבת יכולה לפתח תודעה. לא מספיקה מורכבות לשמה, אלא גם פונקציונליות וגם חומרים מתאימים, וגם אז אני לא יודע אם זה מספיק.
אתה טועה, אבל נמשיך בפעם אחרת (אין לי כוח)
רובוטים ביולוגיים, זה הכיוון אליו אנו צועדים באופן ברור, זהו עתיד האנושות, סוף סוף נוכל לתת את העבודה לרובוטים, ולהשתחחרר מהמטוטלת הנוראית המוכרת מזה אלפי שנים: בית עבודה… בית עבודה. האדם יוכל סוף סוף לעשות את מה שחלם תמיד, כל אחד יוכל להגשים את חלומותיו. אין ספק שאנשים התנדבו לעבוד בדברים הגורמים להם הנאה, החל ממדע, רפואה פסיכולוגיה, אומנות, ספורט וכדומה. רובוטים ביולוגים יעשו את כל מה שהאדם לא ירצה לעשות. הם יהיו מומחים לתחומם. ללא תודעה בכלל או עם תודעה מינימלית כזו שתאפשר להם לעשות את תפקידם. תודעה אינה תוצאה של קשרים נוירונים. תודעה היא תוצאה של ארכיטקטורה של המוח, היא פרי תכנון, והיא מבנה פונקציונלי הנמצא במוח כמו הרבה מיבנים מוחיים שתפקידם מוגדר, כמו עיסוק ברגשות, וכדומה.
לקחתי את זה ממקור חופשי וקישרתי אליו. כנראה שגם הם לקחו מאותו מקור.
האם לעיתון חדשות יו אס איי יש רשות להעתיק את הכתבות שלך?
***
“אין סיבה שהעתק אלקטרוני(ללא ביולוגיה) מדוייק של התודעה יגרום להעתק להיות מודע.”
=
אין סיבה שהעתק אלקטרוני(ללא ביולוגיה) מדוייק של המוח יגרום להעתק להיות מודע.
ביולוגי.
“אפשר לתאר באותה צורה גם את המוח שלנו, זה מגוחך.”
אפשר, נכון, רק שמה לעשות? אתה יודע שאתה מודע, מכאן ועד לקרוא לכל אובייקט, ש”חושב” ומגיב עם סביבתו, “מודע” יש הבדל.
מה שאתה עושה לרובוט התיאורתי הזה נקרא “האנשה”, אתה יצרת משהו שמחקה את פעולת המוח שלך וטענת שהוא “אדם”.
מדוע רובוט מאוד מאוד מתוחכם ייהפך למודע, ו”תוכנת שחמט” לא מודעת?
בוא נניח מעכשיו כבר שמכונות שחמט הן מודעות, אמנם רק לשחמט אבל מודעות.
ואולי כיפת ברזל מודעת? היא מודעת לטילים שנורים לשטח שעליו היא מגינה, היא לא חושבת על יותר מזה, ממש כמו שכלב לא חושב על תורת היחסות.
אז אתה לא טוען כל זאת נכון?
למה שלחתיכת פח המתקדמת הזאת תהיה תודעה “גדולה”(כמו אדם), אבל לכיפת ברזל אין תודעה “קטנה”(כמו תינוק או כלב)?
“סלח לי אבל לקיר בביתך ולצמחים בגינתך אין את המבנה והארכיטקטורה שקיימים במוח שלך, לכן ההשוואה שגויה מיסודה.”
1. סליחה סליחה, אתה לא מרשה לי לאמר שלצמחים יש תודעה בגלל הארכיטקטורה? אבל כן מרשה לעצמך לאמר שלמוח אלקטרוני יש תודעה ללא ביולוגיה?
במה המבנה והארכיטקטורה טוב יותר ממהות החומר עצמו?
מדוע הצורה חשובה יותר מהמהות(טיבו של החומר, כלומר האופי הכימי/הביולוגי/פיסיקלי)?
ואם באמת רק המבנה והארכיטקטורה חשובים…:
נתאר לנו מוח מכני(לא אלקטרוני) שהינו העתק מדוייק של פעילות המוח שלי ב20 שניות האחרונות…
כלומר כל תזוזה שנעשתה במוחי ב20 שניות האחרונות מועתקת לתנועה המכנית של המוח המכני שבנינו, האם במשך 20 שניות, או אפילו למשך רגע אחד, תהיה למוח המכני שלנו המחשבה שנוצרה בי?
אם העתק מכני (ללא אלקטרוניקה) מדוייק של טלויזיה לא יגרום לנו לראות סרט על המסך, אין סיבה שהעתק אלקטרוני(ללא ביולוגיה) מדוייק של התודעה יגרום להעתק להיות מודע.
2. אם אתה רוצה משהו יותר רציני מצמחים או קירות ואתה רוצה מבנה דומה למוח, קח דוגמא את כדור הארץ.
ואם לא אז תסתכל על היקום, האם ביקום האינסופי שלנו אין מבנה וארכיטקטורה כמו במוח?
תתייחס על כוכבים כאטומים וגלקסיות כניורונים ולחורים שחורים כתת מודע, וכל אלו גם מייצרים קשרי גומלין ביניהם… הרי לך “מוח”.
האם ניתן לאמר שליקום יש תודעה?
“….היא פשוט תוכנת מצבים מאוד מורכבת, זה הכל”
אפשר לתאר באותה צורה גם את המוח שלנו, זה מגוחך.
“פתחנו את האפשרות שהקיר שלך מסתכל עלייך והצמחים בגינה שלך מדברים עלייך מאחוריי גבך”
סלח לי אבל לקיר בביתך ולצמחים בגינתך אין את המבנה והארכיטקטורה שקיימים במוח שלך, לכן ההשוואה שגויה מיסודה.
ביולוגי.
“רשתות נויירונים פשוטות במחשב מראות לנו כי הן מסוגלות באופן עקרוני לבצע משימות שהמוח שלנו מאד חזק בהן (זיהוי תבניות) אין שום סיבה להניח שרשת נויירונים מורכבת ומאסיבית יותר לא תוכל בסופו של דבר ליצור גם תודעה, בדיוק כפי שקורה במוח שלנו.”
זה שהמחשב יכול בתאוריה להיות “חכם” יותר מהאדם זה לא אומר שהוא מודע, גם אם תהיה רשת אינסופית שמחשבת ומסיקה ועל סמך ההסקות ממשיכה את “חייה” ובודקת מפעם לפעם האם ישנן סתירות במסקנותיה השונות ומתקנת שגיאות, לא תהפוך אותה למודעת, היא פשוט תוכנת מצבים מאוד מורכבת, זה הכל.
אם ב”ניורונים” התכוונת לתאים אמיתיים כמו ששואל אותי ניסים, אז כן, זה ביולוגי ולכן ניתן לפתוח דיון על קיומה של תודעה כזו.
כל עוד אין כאן עניין ביולוגי אין כאן מודעות, טענה שונה מזו יוצרת מצב שבו כל אובייקט שהוא מעט מורכב יכול להיות מודע.
ניסים.
“אני מבין שאתה טוען שביולוגיה מחוייבת כדי שתהיה תודעה?”
בדיוק.
אבל אני גם מוכן להסכים שלא חייב, אני אדם מאוד נוח וזורם(-:
פשוט שיהיה ברור, מהרגע שהסכמנו שלא, פתחנו את האפשרות שהקיר שלך מסתכל עלייך והצמחים בגינה שלך מדברים עלייך מאחוריי גבך, שזה כמובן לא יפה, אבל מה לעשות? ככה חינכו אותם.
אתה מבין? ברגע שאין הכרח ביולוגי במשוואה של המודע/לא מודע, כל אובייקט בעולם יכול להיות מספיק מורכב כדי להיחשב מודע.
“אני נוטה להסכים. אבל, למה אתה מתכוון בביולוגיה? האם אתה מחייב התפתחות באבולוציה? מה יקרה אם נרכיב מכונה מתאים אמיתיים?”
אם נרכיב מכונה אבולוציונית, כמו שתיארתי ל”ביולוגי”, שלומדת ומתקנת ופועלת ומתפתחת באופן עצמאי, היא עדיין לא הופכת למודעת, ולא משנה שהיא תהיה אפילו יותר מתקדמת מהאדם.
ברגע שתשתמש בחומרים המתאימים שהם המרכיבים של המוח, מה שהגדרת כ”תאים אמיתיים”, אסכים שיכולה להיות שם תודעה.
אולי כן ….
אני מבין שאתה טוען שביולוגיה מחוייבת כדי שתהיה תודעה?
אני נוטה להסכים. אבל, למה אתה מתכוון בביולוגיה? האם אתה מחייב התפתחות באבולוציה? מה יקרה אם נרכיב מכונה מתאים אמיתיים?
אין שום סיבה להניח שביולוגיה היא הכרח ליצירת תודעה, הנחה כזו משולה להנחה שרק גוף ביולוגי בעל נוצות מסוגל לעוף, והרי אנחנו יודעים שזו שטות.
רשתות נויירונים פשוטות במחשב מראות לנו כי הן מסוגלות באופן עקרוני לבצע משימות שהמוח שלנו מאד חזק בהן (זיהוי תבניות) אין שום סיבה להניח שרשת נויירונים מורכבת ומאסיבית יותר לא תוכל בסופו של דבר ליצור גם תודעה, בדיוק כפי שקורה במוח שלנו.
אין שם קסמים.
ניסים נראה שלא הבנת אותי.
“מזה שביולוגיה הכרחית לתודעה שכל מי שמורכב או כל מי שמבוסס ביולוגיה הוא בעל תודע.”
לא זו הייתה הטענה-מסקנה.
מה שאמרתי הוא שביולוגיה היא הכרח לתודעה, נכון.
אבל לא אמרתי שכל מי שמורכב או ביולוגי הוא בעל תודעה ולא ניסיתי לקפוץ למסקנות מרחיקות.
עיקר דבריי מסתכם ב:
“ברגע שלביולוגיה אין בלעדיות על תודעה זה פותח את כל האובייקטים ביקום לתודעה, מהאטום ועד היקום עצמו.”
ומי שטוען שרובוט יכול לפתח תודעה, אומר שלביולוגיה אין בלעדיות לתודעה.
שים לב, זה לא אומר שכל ביולוגי, כמו דג למשל, הוא בעל תודעה, אולי הוא כן אבל לא זאת טענתי, אלא שאובייקט קודם כל צריך להיות ביולוגי, רק לאחר שהוא ביולוגי ניתן לדבר בכלל על האם הוא מודע..
אוהד
מה שאני מתכוון זה שיש צורך להזין את המוח הסינטטי במצב מוחו של אדם חי.
תחשוב − מה. ההבדל בין צמח לאדם בריא, או אדם ישן לאדם ער, או תינור להפבין פרופסור לפיסיקה. הדימוי שלנו צריך להבחין בין כל אלה.
אני מסכים לחלוטין שאין קסם במוח שלנו. אני לא מסכים שאנחנו מתקרבים לבניית מוח כזה.
אני לא חושב שמחשב הבנוי חומרה ותוכנה יוכל לדמות מוח בקרוב….
ניסים: “אני ממש לא מסכים איתך. מה שאתה מתאר זה מוח של איש מת……”
לא, אתה טועה. אצל אדם מת התאים והחיבורים בינהם אמנם קיימים (לזמן קצר, עד שהתאים מתחילים להתפורר ולהרקב) אבל הם לא מקבלים אספקת דם וחמצן ולכן הם אינם פעילים, הדבר משול למחשב שניתקת לו את זרם החשמל.
בסימולציה המדוברת לא רק שכל החיבורים קיימים, הם גם מקבלים אספקת חשמל סדירה ולכן הם יוכלו ליצור אינטרקציה בינהם, שלבסוף תיצור גם מודעות עצמית, בדיוק כמו אצלנו.
ההקבלה לאינטרנט מטופשת, באינטרנט יש אמנם הרבה מאד חיבורים, אך הם לא פועלים כלל באותה דרך בה פועלים נויירונים במוח, דרך הפעולה שלהם שונה, הארכיטקטורה שלהם שונה, אין מנגנון למידה או קישוריות כמו שקיימת בין חלקי המוח, זה כמו להשוות תפוחים לעגבניות.
אין במוח שלנו קסמים, מוחנו מהווה הוכחה לכך שחומר – כאשר הוא בנוי בצורה נכונה, מסוגל ליצור תודעה ומחשבה.
את זה בדיוק הסימולציה הזו תנסה לעשות, ואני מאמין שהם יצליחו.
אולי כן אולי לא אבל בטוח אולי
המסקנות שלך לא תקפות. אתה יוצא מ” א’ הוא הכרחי ל-ב’ ” ל ” א’ הוא מספיק ל ב’ ” ואז אתה ממשיך ל ” אם א’ אז הכרחי שיהיה גם ב’ “.
מזה שביולוגיה הכרחית לתודעה שכל מי שמורכב או כל מי שמבוסס ביולוגיה הוא בעל תודע.
אנחנו נצטרך להסביר לעצמינו מהי תודעה לפני שנשאל למי יש. אחרת נגיע לשאלה המפורסמת “האם צוללת יודעת לשחות?”.
האם בעזרת המוח ניתן להגדיר את מהות המוח האמיתית
האם בעררת המוח ניתן להגדיר את מהות המוח האמיתית
מעניין.. ואני חשבתי שרק ביולוגיה יוצרת תודעה, טוב, אולי גם לכדור הארץ יש תודעה? הרי הוא מורכב פי כמה וכמה מהאדם ובטח ובטח מהרובוט.
אם לאיש הפח יש תודעה, גם לאיש השלג שבונים הילדים בתקופות השלגים יש תודעה:
אם הביולוגיה אינה המקור הי-ח-י-ד שמאפשר תודעה, אלא מספיקה רק “סיבוכיות”/”מורכבות” ברמה מסויימת כדי שתיווצר תודעה, אז לעצים בטח ובטח שיש תודעה(הם גם מורכבים וגם “ביולוגיים”), לכדור הארץ יש תודעה, לים, לעננים, לשמש, לחורים שחורים וליקום.
ואם לא לכולם, אז לפחות לאחד מהם.
ברגע שלביולוגיה אין בלעדיות על תודעה זה פותח את כל האובייקטים ביקום לתודעה, מהאטום ועד היקום עצמו.
ואוי לו לאדם שיאמר לי שלביולוגיה אין בלעדיות על התודעה בלי שהניח תפילין הבוקר.
אבי כהן
(אני שולח פעם נוספת תגובה שלי מלפני מספר דקות שמשום מה לא מופיעה)
לפני שאתה מחווה דעה על מה שכתבתי בענייני יכולות רובוטים — כדאי שתילמד את הבנת הניקרא בנוגע למה שכתבתי. במה שכתבתי לא ציינתי שום מיגבלה מיספרית לגבי מספר המילים שרובוט ביתי יצטרך לפענח. אמרתי כיצד בערך יתפקד רובוט ביתי, דהיינו בעזרת כ- 100 מילות מפתח מזוהות (להלן “מילות פקודה”). היכולת של הרובוט לא ניבחנת בכמות המילים שהוא יפענח אלא ביכולות אחרות שאינן קשורות כלל ליכולתו לפענח 100 מילים או יותר. ה 100 מילות פקודה שהתייחסתי אליהן הם מילים שלגביהן הזיהוי חייב להיות וודאי, כדי שהרובוט לא יגרום נזקים או יתקע.
לגבי טלפון סלולרי עם מימשק דיבור, אין לי משהו משוכלל כזה אבל אני מעריך שגם הטלפון הסלולרי לא יכול לפענח בוודאות יותר מ- 100 מילים (“מילות פקודה”). אם יש שגיאה בפיענוח מילות פקודה — הפקודה לא מתבצעת.
זה שסלולרי מפענח באופן מקרטע עוד 10000 מילים — לא קשור לסיפור התיפקוד העיקרי. יכול להיות למשל שמתוך 10,000 מילים אילו (מילים שאינן מילות פקודה) יפוענחו בשגיאות 1000 מילים ועדיין יהיה תיפקוד ברמה ניסבלת. זה כמו שאתה שואל שאילתה בגוגל וכל מילה שלישית היא בשגיאת כתיב.
אם כוונתך למעלה לתיפקוד “טוב” של התוכנה סירי. אני מציע לך לקרוא את הערך סירי בוויקיפדיה אנגלית, מגדירים שם את רמת התיפקוד של סירי בתור “פלופ”, כלומר לא משהו שכדאי להתפעל ממנו. לא כל גימיק מסחרי הוא בעל ערך פרקטי. בסופו של דבר יפתחו כנראה מימשק דיבור (בעזרת, נאמר, 100 מילות פקודה) — רק שזה לא מוסיף שום אינטליגנציה לסלולרי, זה רק מימשק קולי שנועד להתגבר על המיגבלות של מימשק מגע על מסך.
הנושא של זיהוי מילים לצורך המרת דיבור לכתיבה נוסה לפני שנים לא מעטות, היו תוכנות שהתיימרו לעשות זאת וכולן איכזבו קשה, איכזבו ברמה כזו שהפסיקו למכור אותן לציבור הרחב. זה היה המצב לפני 10 שנים וככל הנראה המצב לא השתנה. הפיכת דיבור לכתיבה יכול עדיין להתקיים היום כי יש ציבור משתמשים שזו לו האלטרנטיבה היחידה (בגלל שלאותו ציבור יש מומים גופניים שונים). לעומת זאת הציבור הרחב לא נעזר בהמרה כזו בשל יעילותה הנמוכה.
נושא דיבור סינטטי הוא נושא *הרבה יותר קל* מפיענוח מילים. אם אתה מביא דיבור סינטטי כמשהו שעולה בשיכלולו על פיענוח דיבור, כנראה שאינך מבין את הבעיה. הבעיה היא בפיענוח דיבור אנושי.
לגבי ווטסון ויכולתו בפיענוח דיבור , אי אפשר לאמר דבר על יכולתו זו , על פי מה שהוצג בהצגה בידורית לציבור. לדוגמא: יתכן שלפני ההצגה הנ”ל הושקעה עבודה של אלפי שעות “אימון פיענוח”. אימון כזה הוא אינדווידואלי, רק המשתמש הסופי הוא שצריך לבצע את אימון הדיבור, לא מישהו אחר. (הצורך לאימון אינדווידואלי כזה הוא הסיבה העיקרית לכשלון המסחרי שהזכרתי שתי פיסקאות למעלה). כמו כן אינך יודע דבר על הדרך בה נוסחו השאלות, יתכן שהניסוחים שהוצגו בפני ווטסון היו כאילו שמנעו פליטת תשובות לא רלוונטיות או תשובות אידיוטיות.
מלבד זאת, לא ברור אם המשימות של ווטסון באמת קשות במיוחד, בהשוואה למשימות של עוזרת בית. מחשבים חזקים בשליפת מידע, או הצלבת מידע שלוף לפי מילות מפתח , זה לא דורש הרבה אינטילגנציה.
אני חוזר לענייני רובוטים למלאכות בית. אני חוזר על דברי שכן ההתייחסות ליכולתם לפענח דיבור היא הסטה של הדיון, לא בכך הם יבחנו. הדיבור הוא בסך הכל מימשק נוח, שמאפשר הפעלה מרחוק או הפעלה מגוונת יותר. הפעולות המורכבות של הרובוט אינן קשורות בכלל למימשק הדיבור איתו. לצורך הדוגמא: נניח שמכונות כביסה שמשתמשים בהן היום יוחלפו למכונות כביסה ללא כפתורים שמפעילים אותן בעזרת דיבור, האם זה יהפוך אותן למכונות כביסה שיש להן קשר חברתי לבני אדם ? לא, הן ישארו מכונות כביסה טיפשות .
הקשר החברתי שלנו לרובוטים יהיה עוד תקופה ארוכה מאוד קשר חברתי אפסי — כמו לשאר המכונות שסובבות אותנו (מכוניות פרטיות, טלוויזיות, מחשבים , טלפונים וכדומה).
אבי כהן
לפני שאתה מחווה דעה על מה שכתבתי בענייני יכולות רובוטים — כדאי שתילמד את הבנת הניקרא בנוגע למה שכתבתי. במה שכתבתי לא ציינתי שום מיגבלה מיספרית לגבי מספר המילים שרובוט ביתי יצטרך לפענח. אמרתי כיצד בערך יתפקד רובוט ביתי, דהיינו בעזרת כ- 100 מילות מפתח מזוהות (להלן “מילות פקודה”). היכולת של הרובוט לא ניבחנת בכמות המילים שהוא יפענח אלא ביכולות אחרות שאינן קשורות כלל ליכולתו לפענח 100 מילים או יותר. ה 100 מילות פקודה שהתייחסתי אליהן הם מילים שלגביהן הזיהוי חייב להיות וודאי, כדי שהרובוט לא יגרום נזקים או יתקע.
לגבי טלפון סלולרי עם מימשק דיבור, אין לי משהו משוכלל כזה אבל אני מעריך שגם הטלפון הסלולרי לא יכול לפענח בוודאות יותר מ- 100 מילים (“מילות פקודה”). אם יש שגיאה בפיענוח מילות פקודה — הפקודה לא מתבצעת.
זה שסלולרי מפענח באופן מקרטע עוד 10000 מילים — לא קשור לסיפור התיפקוד העיקרי. יכול להיות למשל שמתוך 10,000 מילים אילו (מילים שאינן מילות פקודה) יפוענחו בשגיאות 1000 מילים ועדיין יהיה תיפקוד ברמה ניסבלת. זה כמו שאתה שואל שאילתה בגוגל וכל מילה שלישית היא בשגיאת כתיב.
אם כוונתך למעלה לתיפקוד “טוב” של התוכנה סירי. אני מציע לך לקרוא את הערך סירי בוויקיפדיה אנגלית, מגדירים שם את רמת התיפקוד של סירי בתור “פלופ”, כלומר לא משהו שכדאי להתפעל ממנו. לא כל גימיק מסחרי הוא בעל ערך פרקטי. בסופו של דבר יפתחו כנראה מימשק דיבור (בעזרת, נאמר, 100 מילות פקודה) — רק שזה לא מוסיף שום אינטליגנציה לסלולרי, זה רק מימשק קולי שנועד להתגבר על המיגבלות של מימשק מגע על מסך.
הנושא של זיהוי מילים לצורך המרת דיבור לכתיבה נוסה לפני שנים לא מעטות, היו תוכנות שהתיימרו לעשות זאת וכולן איכזבו קשה, איכזבו ברמה כזו שהפסיקו למכור אותן לציבור הרחב. זה היה המצב לפני 10 שנים וככל הנראה המצב לא השתנה. הפיכת דיבור לכתיבה יכול עדיין להתקיים היום כי יש ציבור משתמשים שזו לו האלטרנטיבה היחידה (בגלל שלאותו ציבור יש מומים גופניים שונים). לעומת זאת הציבור הרחב לא נעזר בהמרה כזו בשל יעילותה הנמוכה.
נושא דיבור סינטטי הוא נושא *הרבה יותר קל* מפיענוח מילים. אם אתה מביא דיבור סינטטי כמשהו שעולה בשיכלולו על פיענוח דיבור, כנראה שאינך מבין את הבעיה. הבעיה היא בפיענוח דיבור אנושי.
לגבי ווטסון ויכולתו בפיענוח דיבור , אי אפשר לאמר דבר על יכולתו זו , על פי מה שהוצג בהצגה בידורית לציבור. לדוגמא: יתכן שלפני ההצגה הנ”ל הושקעה עבודה של אלפי שעות “אימון פיענוח”. אימון כזה הוא אינדווידואלי, רק המשתמש הסופי הוא שצריך לבצע את אימון הדיבור, לא מישהו אחר. (הצורך לאימון אינדווידואלי כזה הוא הסיבה העיקרית לכשלון המסחרי שהזכרתי שתי פיסקאות למעלה). כמו כן אינך יודע דבר על הדרך בה נוסחו השאלות, יתכן שהניסוחים שהוצגו בפני ווטסון היו כאילו שמנעו פליטת תשובות לא רלוונטיות או תשובות אידיוטיות.
מלבד זאת, לא ברור אם המשימות של ווטסון באמת קשות במיוחד, בהשוואה למשימות של עוזרת בית. מחשבים חזקים בשליפת מידע, או הצלבת מידע שלוף לפי מילות מפתח , זה לא דורש הרבה אינטילגנציה.
אני חוזר לענייני רובוטים למלאכות בית. אני חוזר על דברי שכן ההתייחסות ליכולתם לפענח דיבור היא הסטה של הדיון, לא בכך הם יבחנו. הדיבור הוא בסך הכל מימשק נוח, שמאפשר הפעלה מרחוק או הפעלה מגוונת יותר. הפעולות המורכבות של הרובוט אינן קשורות בכלל למימשק הדיבור איתו. לצורך הדוגמא: נניח שמכונות כביסה שמשתמשים בהן היום יוחלפו למכונות כביסה ללא כפתורים שמפעילים אותן בעזרת דיבור, האם זה יהפוך אותן למכונות כביסה שיש להן קשר חברתי לבני אדם ? לא, הן ישארו מכונות כביסה טיפשות .
הקשר החברתי שלנו לרובוטים יהיה עוד תקופה ארוכה מאוד קשר חברתי אפסי — כמו לשאר המכונות שסובבות אותנו (מכוניות פרטיות, טלוויזיות, מחשבים , טלפונים וכדומה).
יניב
אתה שואל שאלה טובה. מבחינה התנהגותית לא נוכל להבחין בין הרובוט שיצרנו לבין הבן אדם עם המוח “המקביל”. אני מתכוון לזה שהרוובוט שלנו הוא איש אחד עם רצונות, דיעות, זכרונות ואמונות. אבל – כמו שאמרתי מקודם, יש הבדל ברמה מאוד בסיסית. אחד המאפיינים של המוח הוא שהוא משתנה ללא הרף. התאים משתנים וגם הקשרים בין התאים משתנים. זה חלק מתהליך החשיבה שלנו, וחלק ממנגנון הזכרון (והשכחה) שלנו.
לכן – לרובוט שלנו צריכים להיות תאים שמשתנים כמו תאי מוח אמיתיים. אני לא רואה שסיבה שלא יהיה ניתן לדמות גם את זה במחשב. אבל, רמת הסיבוכיות עולה עכשיו בסדרי גודל.
עכשיו, אל תשכח שכל המאה מיליארד תאים במוח עובדים במקביל. הנה עוד כמה רמות של סיבוכיות…
יש לי עוד דרך להסביר את עמדתי, אך היא מבוססת על קצת ידע במדעי המחשב…..
אני לא יודע אם רובוטים או מכונות תבוניות מסוג אחר יהיו כאן בעוד 100 או 1000 או 10000 שנה. לעניות דעתי טווח הזמן ממש לא משנה וממילא איש לא יכול לחזות אותו בדיוק וברצינות על סמך הנתונים שבידינו כיום.
השאלה המהותית שכן צריך לשאול בנושא הזה נחלקת לשניים- האם זה אפשרי בכלל והאם זה כדאי בכלל. אבל עוד לפני כן נדרש להבהיר למה בדיוק הכוונה במכונה בעלת תבונה או תודעה. אני סבור שרוב הדנים בנושא כאן (וכנראה שרוב הדנים בנושא בעולם, כולל אותי) לא באמת יודעים מהי תבונה או תודעה בדיוק. ומי בכלל קבע שהתודעה האנושית היא הטובה ביותר? מי אמר שגוף האדם הוא הצורה המושלמת לפתרון בעיות בעולם הפיזי ומוח האדם הצורה המושלמת לפתרון בעיות בעולם הרעיוני? הניסיון לשכפל את צורת החשיבה של האדם אולי נתפסת כדרך הטבעית או הקלה להשגת מודעות במכונה, אבל אני לא בטוח בכלל שזה נכון.
לגבי עצם התכנות מציאות בה קיימות מכונות בעלות יכולות דמויות תודעה אנושית (הניסיון הצנוע שלי להגדרה של יכולות כאלה יכול להיות זה – מסוגלות ללמוד בעצמן נושאים חדשים, מסוגלות להתאים עצמן לתנאי שטח שונים, מסוגלות לפתור בעיות בתחומים הולכים ומתרחבים), אני סבור שזה בודאי אפשרי, אך מכוון שמדובר בטכנולוגיה כה מורכבת, לא ברור כלל איזו צורה היא תתפוס כאשר היא תיושם בפועל. אין ספק שההתקדמות בנושא איטית ממה שרוב החוקרים קיוו או סברו לפני מספר עשרות שנים, אבל ישנה התקדמות כל הזמן.
אני מודה שבמחשבה שניה לא ברור לי כלל האם ישנה כדאיות במחקרים בכיוון הנידון. לכאורה הסיבוכיות הטכנית והמוסרית שכרוכה ביצירת מכונות תבוניות הופכת את כל הרעיון לבלתי כדאי. כבר היום קיימות מכונות סבוכות דיין, אפילו בידו של כל אדם, שההתנהגות שלהן לא תמיד צפויה ומתי מעט בעולם יכולים להבין מדוע קרה דבר זה או אחר (בעיקר כאשר מדובר בתקלות). מי יהיה זה שיפתור בעיות מן הסוג הזה כאשר הן יצוצו במכונות שאחראיות על הסעת ילדים לבית הספר או על שמירה על גבולות המדינה? ואם המכונה תהיה בעלת מודעות גבוהה יותר, איך בדיוק מתארים לה את הצורך בתיקון או חלילה ב”הוצאה לגמלאות”?
אני מניח שנקודת הסינגולריות עוד רחוקה מאיתנו, אבל גם הרבה לפניה נדרש לענות על שאלות קשות מאד בתחום הזה.
יניב,
כבר יש “מוח” מלאכותי כזה, קוראים לו האינטרנט… יש בו מיליארד תאים מחוברים זה לזה, האם אתה צופה שהוא יפתח תודעה?
ניסים,
אני גם “מאמין” שלא נצליח להבין את התודעה כל כך מוקדם, אבל יש לי שאלה אליך: אם נצליח “לדמות” תודעה כמו שאתה אומר, אז מה ההבדל בינה לבין תודעה אמיתית? מחשב שמנצח את אלוף השח מט במשחק, האם ניתן לאמר שהוא “לא חושב”? למה אתה מניח שרק הדרך שבה המוח האנושי עובד, יכולה להקרא “חשיבה”? אולי כבר יש לנו מכונות “חושבות” רק שאנחנו לא מגדירים אותן כך?
SAFKAN,
הפאלפון שלך (אם יש לך פאלפון חכם) כבר יכול לעשות הרבה יותר ממה שאתה צופה לגבי “רובוט העתיד”- 100 מילים מזוהות, זה באמת מצחיק…אני מציע לך לבדוק בקשר לWATSON המחשב שניצח בשעשועון האמריקאי JEOPARDY, שלא רק מזהה מעל ל”100 מילים”, גם דובר את כולן, ומבין את הקשרן…טוב, מבין כמו שמחשב מבין, אבל למשתמש ביתי זה יראה כמו שיחה לכל דבר- והוא גם לא מעלה עשן, כשהחישובים שלו “NOT COMPUTE” …
יניב
אני ממש לא מסכים איתך. מה שאתה מתאר זה מוח של איש מת……
תודעה היא פונקציה של מורכבות, ברגע שניצור “מוח” מלאכותי זהה במורכבותו לזה של מוח אנושי קרי מעל 100 מיליארד תאים כאשר כל אחד מהם מקושר לחמישים אלף אחרים תיווצר תודעה באופן ספונטני, זה היופי שבדבר..
יש לה מספר סרטונים ביוטיוב:
http://www.youtube.com/watch?v=gz1ppJChafs
וואו, כמה ספקנות חינם..
D-WAVE עובדים על האבטיפוס של המחשב הקוונטי הראשון, עם קצת התעמקות בהבדל המהותי בינו לבין מחשב רגיל נהיה מעניין למצוא הקבלה בין התאוריה של המיחשוב הקוונטי לבין המוח האנושי.
אני מבין בנוסף שכל המדיינים ברובוטיקה פיספסו את BIG DOG ואת הציטה הממוכנת של DARPA וכמובן את האנדרויד המהלך שלהם שכולם מחפשים את המקור דלק האולטימטיבי כדי להתנתק מהכבלים או במקרה של BIG DOG התווך של ארבע שעות למיכל דלק.
בנוסף, IBM עובדים היום על מערכות זיהוי קול ושפה במלוא הכוח, הם נרתמו למה שהם קוראים לו 5 שנים של חושים במטרה לפתח את הגרסא הדיגיטלית של כל חושיי האדם, קיים היום כבר “עור” אלקטרוני המסוגל לתת חוש מישוש לרובוטים.
על המכונית שנוסעת ללא נהג של גוגל שמעתם?
אתם מפנטזים פה על מאה שנה אבל חברים זה כבר חוקי בקליפורניה, תנו עשרים שנה וכל מכונית על הכביש תהיה עצמאית.
הגלאקסי החדש של סמסונג הולך להיות הפלאפון הראשון בשוק שמתחרה עם הPC מבחינת ביצועים.
תוך 10 שנים זה בספרים חברים, נבין את המוח סוף סוף לגמרי, לא יעזור, הכלים קיימים היום.
ניסים
יש הבדל מהותי בן מוח אדם למחשב. במחשב יש הפרדה בין חומרה לתוכנה. במוח שלנו אין הפרדה כזו. נחתן אמנם לדמות את המוח, ע”י דימוי של תאי מוח והקשרים ביניהם. אני מאמין שאפשר לדמות תודעה במערכת כזו. אבל זה רק דימוי ואין כאן באמת תודעה. נוכל להזין לדימוי זה קלט מחיישנים שידמו עיניים וכדומה. ונוכל להפעיל מניעים כמו זרועות. נקבל רובוט שיהיה דימוי שלם לאדם.
אבל אין לו תודעה.
שמתם לב לקישוט על החולצה שלה ?
תגיד, אתה חושב שהאנשים שהקצו להנרי מרקרם מיליארד יורו הם אנשים מטומטמים ? לא נראה לך שהם בחנו את הנושא מכל הכיוונים לפני שהם החליטו להקצות לו משאבים כל כך גדולים ?
מצטער להיות בדעת מיעוד. אם נבחן את הטכנולוגיות הפרופסורים לא הזויים.
מבחינת קוגניציה של חושים ברמה של אדם, נהיה שם. לא אמרתי תודעה, אמרתי מערכות שמתפקדות כמו ראיה, מישוש, שמיעה, ריח. רובוטים שהולכים כמו בני אדם, מסתדרים בשטח – נהיה שם. עדיין איננו מבינים כיצד נוצרת תודעה. אני אדם מאמין ונוהג בעניין תודעה מלאכותית כמו אתאיסט. אין סתירה בין אלוהים לתודעה מלאכותית לדעתי.
מבחינת מיחשוב קוונטי נהיה לדעתי אולי שם. מיחשוב קוונטי ברמה עיסקית (לא מערכת בגודל חדר לדימוי ביט קוונטי), יאיץ את המעבד עשרות מונים. זה יאפשר לדעתי לייצר מערכות מודעות מאד בתחומים מוגדרים. תכנות המערכות לא יהיה עם קוד, אלא באינטגרציה של מודולים.
בכל העולם הוקמו באוניברסיטאות מרכזים לחקר הרציונאליות, פרויקט ספינת הדגל באירופה: אחד סימולציה של מוח אנושי, ושני גראפן (Quantum dots). כלומר יש רצון לתנועה בהבנת התודעה.
לדעתי, בהתעלם מאפקטים מתנגדים, כמו לדעתי עליית האיסלם, המדע בפני עצמו מגיע לרובוטים מאד מתקדמים, תוך 200 שנה (נבואה, היא טפשית. אני רק מעריך). עכשיו כנגד זה פועלים כוחות שמכוונים לימי ביניים שניים: איסלם, יהדות חרדית בארץ, מיתון עולמי, העדר מעצמה מערבית.
לא ברור לי מי מנצח.
אייל, נראה לי שבין תוכנה באייפון לרובוט שמסוגל לתפקד כמו בסרט “אני רובוט” יש הבדל, להבדל הזה , אם הוא קיים כמובן, קוראים מציאות וקולנוע.
safkan,
אתה לא רק ספקן מדי אלא גם טועה. תחשוב על מכונה ממש קטנה, כמו אייפון. עכשיו תחשוב על תוכנה שהמכונה הזאת מסוגלת להפעיל בלי בעיות, נקרא לה סירי, עכשיו תחשוב שזה כבר היסטוריה. מה גורם לך לחשוב שבמאה השנים הקרובות לא נתקדם טכנולוגית כלל?
יניב, תסביר למה זה שטויות?
למשל Markram זה שעומד בראש פרוייקט המוח הכחול. הוא עצמו אמר שהסימולציה שהוא בונה תהיה כל כך דומה למציאות שיהיה קשה מאד להבדיל בין מוח מת אמיתי לממוחשב. כן הבנת נכון אין שום כוונה שהסימוצליה תדע לדבר.
ציטוט: “People think I want to build this magical model that will eventually speak or do something interesting I know I’m partially to blame for it”
יכולים להרגע.
במאה הנוכחית המקסימום שנגיע אליו, אם בכלל, יהיו רובוטים ביתיים שישמשו כעוזרת בית (נקיון , בישול , סידור מיטות). מבחינת קומוניקציה עם בני האדם — הרובוטים יהיו אינטליגנטים בערך כמו מכונת כביסה, חוץ מהפעלה שתהיה , אולי, קולית במקום לחיצה על מקשים. ההפעלה הקולית לא תהיה עניין תבונתי, אלא רק זיהוי מילות מפתח בודדות , נאמר 100 מילים מזוהות. על ידי צירוף של שתי מלות מפתח כאילו ניתן יהיה, נאמר, ליצור כמה מאות פקודות וזה הכל. ההגבלה של כמה מאות פקודות היא לא בגלל המכונה אלא מיגבלה של בני אדם: שכן בני האדם הנותנים את הפקודות יצטרכו לשמור בזכרונם את התוכן המדוייק של הפקודות, אחרת הרובוטים יגרמו נזק או סתם יתקעו. הציפיה שהרובוטים בימינו יהיו בעלי תבונה עצמית שתימנע נזק שייכת רק לכותבי סינס פיקשן, איננו קרובים לכך . התוכנות שיפעילו את הרובוטים תגבלנה מראש את גיזרת הפעולה של הרובוטים, כך שלא יפעלו בגיזרה בה הם יכולים לגרום נזק גדול.
לא יהי שום מימשק חברתי עם בני האדם, אילו סיפורי סיינס פיקשן בלבד. הרובוטים במאה השנים הרובות יהיו מכונות בלבד, ממש כמו שמכונות כביסה ורכבי נסיעה הם מכונות בלבד, ללא קומוניקציה חברתית עם בני אדם. אי אפשר לנבא מה יהיה עוד 1000 שנה, מי שמנבא כך בבטחון משטה בקוראים. חבל שאנשים שמצטיירים כרציניים מנבאים נבואות ספקולטיביות ומציירים אותן כריאליה.
אסף, למה סתם לכתוב שטויות ?
אנחנו כל כך רחוקים מלהבין איך המוח עובד שפשוט מגוחך לחשוב שאחנו יכולים ליצור סימולציה דיגיטאלית. כל הדיבורים על סינגולריות ורובוטים טובים לכיס של הסופר ולא לעולם המציאותי.
איך זה קשור לשכפול בני אדם?
שכפול בני אדם (או כבשים) זה תחום שונה, כותרת פשוט לא קשורה.
המאמר של אבי יפה.החזון של אסימוב לגבי רובוטים, שתידרש חקיקה לאדם ורובוט נכון. החלק שהוא דן בו זה רק השלב הראשון שבו הרובוט נחות מהאדם.
מבחינה טכנולוגית אנו מקלפי כעת את גלד הבצל של קוגניציית החושים. עדיין לא קילפנו את התודעה.
לאחרונה חשתי שיש חלל בידע שלי בנושא זה. רכשתי את הספר הסינגולריות של קורצווייל לקריאה, ועלעלתי בספרי המוסד של אסימוב.
אם מתעלמים מתהליכים שמושכים אחורה, הרי שהאנושות תגיע די מהר לדעתי לתבונה ברמתה ואח”כ בלתי נמנע לתבונה גבוהה יותר. קיים תהליך אחד שמושך חזק מאד אחורה וזה הדת. כיום בעיקר המוסלמית, אך זה איננו נאמר בגזענות, אלא כדי לתאר תהליך גלובאלי.
הדת, לא נתמקד באחת, היא תהליך חזק מאד נגד התנועה הזו.
קיימת גם סכנה, שכן האדם מבצע אבולוציה תרבותית הרבה יותר לאט מטכנולוגית. נתבונן למשל בידידינו האיראנים. אין להם בעיה לאמץ טכנולוגיה מערבית אך לא תרבות מערבית.הם מציגים אותה כאוייב בשעה שהיא חותרת לשיוויון חברתי והם מתנגדים לו.