“כדי למלא את ההבטחה שבאינטרנט של הדברים יש צורך בעיבוד כמות נתונים שהעולם לא ראה עד כה, ולהפיק מהם הגיון שכל אחד יוכל להבין ולפעול לפיו”, אמרה הארייט גרין, סגנית נשיאת יבמ ומנהלת חטיבת האינטרנט של הדברים בחברה
“ההבטחה באינטרנט של הדברים היא לחבר אותנו טוב יותר – מהעבודה ועד לסלון בבית. כדי לעשות זאת יש צורך בעיבוד כמות עצומה של נתונים, כזו שהעולם לא ראה עד כה, לחבר את המידע המובנה והלא מובנה ולהפיק ממנו המלצות לקבלת החלטות. צריך להפיק מהמידע הגיון שכל אחד יוכל להבין ולפעול לפיו. לכן, לימוד מכונה ועיבוד שפה טבעית חיוניים לפיתוח האינטרנט של הדברים”, אמרה הארייט גרין, סגנית נשיאת יבמ (IBM) ומנהלת חטיבת האינטרנט של הדברים בחברה.
גרין אמרה את הדברים בכנס Wow (ר”ת World Of Watson) בלאס וגאס. היחידה שאותה היא מנהלת נשענת על היכולות של ווטסון (Watson) במחשוב קוגניטיבי, ב-Big Data ובניתוח אנליטי.
לדבריה, “ב-20 השנים האחרונות הצליחה החברה האנושית להפוך את ההיסטוריה לדיגיטלית, לעשות לה ‘ויקיזציה’ (מלשון ויקיפדיה – א”ב). השלב הבא הוא למצוא סדר בים הנתונים כדי להפיק תובנות. כמות הנתונים גדלה במהירות: בשנת 2025 יהיו 29 מיליארד דברים מחוברים לרשת והעיסוק סביבם יניב שוק של 11 טריליון דולר”.
“לימוד מכונה הוא הבסיס של כל תבונה מלאכותית, כי הוא מאפשר למחשבים ללמוד מבלי שאנשים יתכנתו אותם”, ציינה גרין. “בהקשר של ווטסון, המשמעות היא שהוא יוכל לנהל כמות אדירה של תהליכים שונים. הוא יבין מתי מוצר או מכשיר עלולים להתקלקל ויוכל לבצע תחזוקה מתמדת”.
רכב בהדפסה תלת ממדית
“עיבוד שפה טבעית הוא יותר מדרך חכמה לתקשר עם מחשבים. זהו שינוי משמעותי ביכולות התקשורת עם המחשבים, שישנה את הדרך שבה אנחנו מתקשרים עם העולם הפיזי שמקיף אותנו”, אמרה.
כדוגמה נתנה גרין את הרכב האוטונומי המודפס בהדפסת תלת ממד אולי (Olli). בהדגמה נשמע קולו של אולי אומר: “אני רואה 12 נוסעים בתחנה”.
“אולי יכול לענות על כל שאלה של נוסעים כמו נהג בשר ודם, ואפילו יותר – משאלות שנוגעות להגעה ליעד ועד להמלצה על הצגות, הצעה להסיע אליהן ואפילו התראה ללבוש משהו חם כי יהיה קריר בערב”, הוסיפה.
גרין הציגה גם את ריטה – לוח ישיבות קוגניטיבי שפותח על ידי יבמ ו-Ricoh. הלוח קולט את מה שמדברים בישיבה ויכול להעביר את התוכן שלה בשפה של המשתתפים. היא ציינה כי כיום נמצאים בשימוש 84 לוחות כאלה – כולם במינכן, ובעתיד יהיו מיליונים של לוחות שיוכלו להתחבר.
“האינטרנט של הדברים הוא שוק בצמיחה”, הוסיפה. “לראייה, יבמ השקיעה 23 מיליארד דולר במטה ווטסון במינכן ונמצאים בו יותר מ-1,000 המוחות הטובים ביותר שלנו. אנחנו כבר רואים השפעה בשלושה תחומים: בדרך שבה אנחנו מתכננים מוצרים חדשים, מייצרים אותם וצורכים אותם”.
“חשוב שנחשוב על האינטרנט של הדברים כמו שאנחנו חושבים על האינטרנט עצמו – כפלטפורמה ששולחת ומקבלת כמות עצומה של מידע מאנשים למכשירים, ממכשירים לאנשים ובין מכשירים”, אמרה גרין.
לסיום היא התייחסה לאבטחת האינטרנט של הדברים. “כל מכשיר המחובר לרשת מייצג נקודת כניסה שיש בה פוטנציאל לפגיעות וההאקרים מנצלים פגיעויות במכשירי הקצה. הקוגניטיביות תוכל להגן על מערכות אינטרנט של הדברים ועל הנתונים שנמצאים בהן”, ציינה.
109 תגובות
ניסים,
1. כמו שאמרתי קודם ברשת עצבית כל כך קטנה כמו שקיימת ברובוט הזה אין לי שום ציפייה שתתפתח תודעה ברמה אנושית, אולי תודעה נמוכה ברמה של עכבר. זו רק הייתה דוגמה שמראה לך באיזו קלות יחסית רשת עצבית יודעת להתאים את עצמה לאמצעי קלט/פלט שאתה מחבר אליה גם אם הם לא ביולוגים.
2. ״ק. ניסחה את זה יפה – נכון שממערכות מורכבות מגיחות תכונות חדשות, אבל אין שום סיבה לחשוב שמה שיגיח זה משהו שיהיה דומה אפילו בקצת לתודעה אנושית״
אני דווקא חושב שכן אפשר להניח את זה, בעיקר לאור זאת שראינו כבר תכונות אחרות מגיחות משם שהן יחודיות לקליפת מוח של יונק, ולכן גם התכונה המכונה תודעה לדעתי תגיח משם ברגע שלרשת תהיה מספיק מסה קריטית.
3. ״לתודעה הבסיסית 4 פונקציות: לאכול, לברוח, להילחם ולהתרבות. בלי 4 אלה לשום מערכת לא תהיינה תכונות דומות לתודעת אדם״
אני לא מסכים איתך, אלו תכונות שהתפתחו אצל בעלי החיים בטבע משום שיצור ביולוגי חייב אותן כחלק מההישרדות והאבולוציה, אבל אני חושב שתודעה יכולה להיות קיימת גם בלי התכונות האלה.
ק׳,
יש ביננו מחלוקת לגבי דבר שתכלס אף אחד מאיתנו לא באמת יודע בוודאות. את חושבת שאני מפריז בעניין הפשטות של המשימה, ואני חושב שאת מפריזה הרבה יותר מדי לגבי הסיבוכיות והמורכבות שלה. לדעתי תוך 5-7 שנים מהיום הכיוון כבר יהיה הרבה יותר ברור ונוכל לראות בצורה מושכלת ומציאותית יותר לאן נושבת הרוח ומי מאיתנו צדק.
אני לא חושב שיש לי קפיצת אמונה, אני פשוט מכיר הרבה דוגמאות של מערכות מאד מורכבות שמכילות המון פריטים ויש להן נטייה להסתדר לדבר מאורגן, והן נובעות מכמה כללים מאד פשוטים ולא מסובכים.
אני מבין שיש לך הרבה ניסיון בצד הביולוגי, לגבי הצד השני של יישום רשתות עצביות על גבי מחשב אין לי מושג עד כמה את מתמצאת, אך שמעתי כמה וכמה מומחים ברמה עולמית כמו הנרי מרקראם ואחרים שמכירים היטב את הנושא משני הצדדים ולדעתם המשימה בהחלט אפשרית בטווח הזמן של שני עשורים מהיום.
עד כמה שאני מבין מהרצאות שראיתי בנושא רשת עצבית (כמו המוח שלנו) היא ארכיטקטורה מאד גמישה שיודעת להתאים את עצמהם כמעט לכל אמצעי קלט/פלט שתחברי אליה, ידיים, רגליים, עיניים, כנפיים, אף. אין צורך לשבור את הראש יותר מדי, ברגע שבנית אותה פעם אחת כמו שצריך היא כבר תדע לארגן ולסדר את עצמה לבד בלי שנצטרך להגיד לה איך.
הסרטון שנתתי לך קודם (רובוט עם מוח של חולדה) הוא רק דוגמא אחת לעיקרון הזה.
יריב
כבר יודעים להאריך את חיי הניורונים לשנה ויותר. אבל, מה שיש כאן זה שימוש בניורונים בודדים שחוברו כמו מעגל חשמלי. זה בהחלט מרשים! אבל זה לא קשור לנושא התודעה.
ק. ניסחה את זה יפה – נכון שממערכות מורכבות מגיחות תכונות חדשות, אבל אין שום סיבה לחשוב שמה שיגיח זה משהו שיהיה דומה אפילו בקצת לתודעה אנושית. אני אישית חושב שהרבה יותר סביר שיווצר תכונה של אלימות עקב היצר הבסיסי של הישרדות.
לתודעה הבסיסית 4 פונקציות: לאכול, לברוח, להילחם ולהתרבות. בלי 4 אלה לשום מערכת לא תהיינה תכונות דומות לתודעת אדם.
ק׳,
עד שיהיה לי זמן להגיב, הנה סרטון נחמד:
https://www.youtube.com/watch?v=1QPiF4-iu6g
יריב,
אין מחלוקת שמורכבות הרשת היא פקטור חשוב וכנראה גם הכרחי, אבל קיום תנאי הכרחי אינו אומר שהוא גם מהווה תנאי מספיק.
היות ואיננו יודעים בדיוק מהם התנאים המספיקים להגחת תכונות קוגניטיביות “גבוהות”, ייתכן בהחלט שמערכת שתצליח ללמוד באופן מושלם לזהות כדורים וחתולים (וכל עצם אחר לצורך העניין) ויהיה לה גם אוצר מילים של מילון אוקספורד לא תציג תכונות מעניינות מעבר למה שאומנה אליו. יש לך איזו קפיצת אמונה שהדברים יסתדרו איכשהו מעצמם, וכל מה שאני אומרת שזה קצת יותר מסובך מזה, בדיוק בגלל שאיננו יודעים מהם המשתנים הרלוונטיים (שפה? חוקי לוגיקה? תנועה? חוקי פיסיקה? אינטראקציות חברתיות? ועוד שורה של אפשרויות כמו “דיבור פנימי” שהזכרת אבל שקשה להגדיר אותו בצורה ברורה) שמובילים להופעת תכנות כמו מודעות עצמית למשל.
לא משנה כמה תוסיף עוד לסיר (עוד חיישנים, עוד יכולות זיהוי, עוד נוירונים) אין שום דבר מאלה שמחייב הגחת תכונות מורכבות. אפילו אם לרשת המלאכותית הדמיונית שלנו כבר תהיה המורכבות של מח חי, ואפילו אם נצליח לספק לה גוף שמכיל מספיק אפשרויות תנועה, חיישנים ובקרות פנימיות, ואפילו אם נצליח לספק לה את *כל* אותם קלטים שרלוונטיים לסוג כזה של גוף (וחייבת להיות התאמה בינהם, כי אין הברה משמעות לתת לגוזל קלטים של סביבת חיים של דג למשל), אין שום ערובה לכך שהארכיטקטורה של הרשת (לרבות הדינאמיקה שלה) תתפתח ותתכנס לאותו הפתרון שקיים במח חי שעבר מליוני שנות אבולוציה. יש תכונות שסביר להניח שיתפתחו – כמו קואורדינציה ושיווי משקל (מחייב שלרשת העצבית יהיה גוף שהיא מפעילה), ויש תכונות שפשוט איננו יודעים מה הסיכוי שיופיעו אם בכלל. אני מאמינה שזה אפשרי אבל שנדע זאת לבטח רק כאשר יצליחו להדגים זאת ממש, ולא בשום דרך תיאורטית. אם זה יקרה עוד שנתיים זה יהיה מרגש, ואם זה לא יקרה גם בעוד עשרים שנה לא אפול מהכסא בהפתעה.
לגבי השאלה האחרונה – אין תגובה. ממליצה לך ללמוד יותר על רשתות נוירונים כדי להבין את ההבדל המהותי בין לאמן רשת במטרה להשיג מטרה מוגדרת מראש (כמו זיהוי פרצופים) ובין מצב שבו המטרה אינה מוגדרת מראש. בעוד הסוג הראשון הוא “רק” קשה, על הסוג השני עדיין איננו יודעים לומר אפילו כמה קשה הבעיה שם, ואתה משליך מהישגים מהסוג הראשון אל סיכויי ההצלחה בסוג השני, וזו השלכה שגוייה.
ניסים,
אל תשא את שמי לשווא 🙂
אני רואה כאן צרות של עשירים, בנית רשת עצבית פשוטה יחסית וקיבלת יותר ממה שציפית לקבל.
אבל תכלס שאלה יפה, אני אחשוב על זה.
אופס….
יריב
אז אם המחשב הזה מדמה חלק קטן ממוחו של חולדה, אז איך הוא משחק משחק אנושי? אתה לא רואה כאן את הסתירה?
ק’,
1. הרצאה חביבה ודוגמא נחמדה בסיום, אך שימי לב לדבר קריטי שהוא מדגיש לקראת הסוף וזה שבמוח אנושי יש בערך פי 100 אלף יותר קשרים מאשר ברשת העצבית הממוחשבת… וזה לדעתי מה שעושה את עיקר ההבדל. ממש לא כוחות (וגם לא פייר) לקחת רשת עצבית זעירה כל כך, ולצפות ממנה לעשות את כל הדברים שמוח אנושי שגדול ממנה בכמה וכמה סדרי גודל מבצע!
ולמרות כל זאת הוא עדיין נשמע אופטימי בקשר ליכולת שלהם לבצע את המשימה תוך מספר שנים.
2. “לקחת רשת מלאכותית גדולה מאוד, לספק לה גוף וסנסורים ולאמן אותה על מגוון קלטים רחב בדומה למה שמח חי מקבל במהלך התפתחותו”
ועל זה בדיוק אני כל הזמן מדבר… לקחת רשת עצבית גדולה מספיק (עדיף לפחות בגודל של מוח אנושי) לחבר אותה לגוף רובוטי שיאפשר לה לראות, לחוש, לשמוע ולהיות באינטרקציה עם הסביבה, ולהתחיל לגדל אותה ממש כמו תינוק/ת!
להראות לה כדור ולומר לה “כדור!”, להראות לה חתול ולומר “חתול!” כך שהיא תתחיל ללמוד את העולם, תתחיל ללמוד מילים, ללמוד שפה שתאפשר לה לתקשר עם הסביבה, ואולי להתחיל לדבר עם עצמה מבפנים, דיבור פנימי שהוא לדעתי שלב קריטי ומכריע בדרך לתודעה אנושית, היכולת לדבר עם עצמך במחשבות.
3. נכון, יש לנו עוד המון מה ללמוד על המוח האנושי, אבל אני דיי משוכנע שכבר עם הידע שיש לנו, אם עוצמת המיחשוב הייתה מאפשרת זאת, היינו יכולים כבר היום לבנות רשתות נוירונים בעלות תודעה. אך למרבה הצער יקח כנראה עוד קצת זמן עד שנוכל לבדוק את ההיפותזה הזו.
4. מדוע את קצת משוחדת בנושא, האם יש לך איזה קשר לפרויקט מסוג כזה?
הרצאה נחמדה בהקשר זה:
https://www.youtube.com/watch?v=bvQlrvmD0AU
זו בעיה ידועה שישנם דברים רבים עדיין, חלקם מאוד פשוטים עבורנו (ראה הדוגמא בסוף ההרצאה) שפשוט לא ברור עדיין איך מגיעים לשם, כלומר איך מצרינים את החוקיות שמובילה לתוצאה הנכונה בהינתן קלט נתון.
שים לב גם, שכאן מדובר בפיתוח רשתות נוירונים מלאכותיות בלי קשר לארכיטקטורה שקיימת במוחות של בעלי חיים. העתקה מלאה של המבנה ו*גם* הדינאמיקה של מוח אמיתי, לא נעשתה מעולם (וגם אין לנו עדיין ידע כיצד ניתן לעשות זאת), אם כי אני מסכימה שבעיקרון העתקה מלאה של *שני* המרכיבים אמורים בעיקרון לייצר את סט התכונות שקיים במח המועתק.
הכיוון היחידי כיום שיש לו הוכחות ממשיות (ומרשימות ביותר אם כי בתחומים צרים יחסית) הוא הכיוון של רשתות מלאכותיות. בעוד שבהחלט ניתן לצפות שבעתיד תהיינה רשתות הרבה יותר גדולות שכנראה יאפשרו זיהוי טוב יותר של ניואנסים (בשפה למשל), אשר קל ליצור עבורן טריינינג סט, בגלל שהפלט הרצוי מוגדר היטב, זה עדיין לא אומר שאותה מערכת (מלאכותית), גדולה ככל שתהיה, תציג דבר מה שלא אומנה אליו מלכתחילה (בדיוק כפי ש-דיפ בלו שניצח את קספרוב בשח-מט ידע לשחק רק בשח-מט), בודאי כאשר אפילו לא יודעים מהו הטריינינג סט המתאים. זה הבדל קריטי בין העתקה של מח חי (שבו כבר התבצע תהליך הכוונון של הרשת) ובין רשת מלאכותית שעלינו מוטלת המשימה לאמן אותה.
הדרך האחרת, כפי שכתבתי כבר, היא לקחת רשת מלאכותית גדולה מאוד (איננו יודעים כמה גדולה היא צריכה להיות), לספק לה גוף וסנסורים ולאמן אותה על מגוון קלטים רחב בדומה למה שמח חי מקבל במהלך התפתחותו (משלב העובר לצורך העניין). גם בתרחיש הזה, אין לנו שום מושג אילו תכונות מורכבות יגיחו. אני כן יכולה לומר שבניסוי שנעשה כבר בכיוון הזה הגיחו תכונות כמו זיהוי תנועה, זיהוי עצמי (כלומר זיהוי אם חלק מסויים שייך אל הרובוט או אל הסביבה) ועוד כמה תכונות בסיסיות מאוד. זה לדעתי גם הכיוון הכי מבטיח, אבל אני קצת משוחדת בנושא…
יריב
לעכבר יש מוח קטן.
ומה שאתה טוען הוא שלעכבר אין בכלל תודעה.. אפילו לא ברמה נמוכה. ובעצמך הודית שדווקא עכבר זאת חיה חכמה. אתה סותר וסותר את עצמך. כמו דתי..
ניסים,
1. נכון, גם כיום יש לנו מערכות מורכבות, אבל הן לא רשת עצבית ולכן אני לא מצפה שתופיע בהן תודעה.
2. ״הבעיה היא לא בניית מכונה מורכבת״
זו בהחלט בעיה, משום שעוצמת המחשבים והשבבים כיום מאפשרת לנו לדמות רק חתיכות מוח קטנות מאד בגודל שמתקרב למוח חולדה. לכן נראה שם אמנם תופעות מעניינות כמו הבסת אלוף העולם באלפא-גו והשגת ניקוד גבוה במשחקי מחשב, אבל כדי שתיווצר שם תודעה אנחנו צריכים מסת רשת (עצבית) הרבה יותר גדולה מזה.
יריב
הדוגמה הייתה להראות שגם היום יש מערכות מורכבות, שנראה שכביכול יש להם “תודעה”. לא צריך רשת עיצבית בשביל סיבוכיות. יש לי עוד דוגמאות כאלה 🙂
הבעיה היא לא בניית מכונה מורכבת, למרות שלבנות משהו בגודל סביר שדומה במורכבות שלו למוח זה עדיין רחוק. הבעיה היא הבנת המוח האנושי. זה ממש רחוק, כי הכלים שלנו מאד מוגבלים. אתה לא יכול לחבר הרבה אלקטרודות ואתה לא יכול לקבל מידע ברזולוציה גבוהה בצורה אחרת.
יריב
ביפן כבר ישנם רובוטים – פקידי קבלה במלון – שמקבלים את פניך כאשר אתה נכנס לבית מלון. והם גם משוחחים איתך ומשרתים אותך ( ברמה מוגבלת ). האם אצלהם קיימת תודעה?
ניסים,
1. לא הבנתי מה רצית להגיד עם הדוגמא של המחשב, מה גם שזו לא רשת נוירונים. אם בא לך תסביר אבל זה לא קריטי.
2. ״כלומר אנחנו לא נתכנן את התודעה, אלא היא פשוט תגיח מהמכונה״
בוודאי! כלומר אם הרשת שבנינו מספיק קרובה ומספיק דומה בפעולה שלה ובמבנה שלה למה שמתרחש במוח שלנו… אם למשל תעתיק מנוע עובד של מכונית אחד לאחד כולל כל הברגים וכל הבוכנות, תספק לו דלק ותניע אותו – הוא אמור לעבוד, בין אם אתה מבין ובין אם אתה לא מבין איך המנוע המקורי עבד.
אותו הדבר לגבי הרשת העצבית, אם תבנה אותה בצורה מספיק מדוייקת התודעה פשוט תגיח מתוך הרשת, מתוך המורכבות הזו, כפי שהיא מגיחה אצל כל אדם על כדור הארץ.
3. ״אם היא תהיה חכמה מאיתנו, למה שלא תיפגע בנו?״
זו כבר שאלת בונוס שלא קשורה לדיון שלנו, היא דומה לשאלה הקודמת שלך איך נמנע מהתודעה החדשה שתיווצר סבל. כמובן שזה יכול לקרות ואנחנו סומכים אליך שתמצא לזה פיתרון, יש לך עוד 30 שנה, זוז! 🙂
יריב
באמת? סתם כך תגיח התודעה מהקופסה, וכולנו נהיה מופתעים? אפילו שאין לנו מושג ממה בדיוק? אתה ראית יותר מדי סרטים..
אתה לא שם לב, אבל בדומה לאדם דתי – אתה מאמין בצדקתך ( שאינה מבוססת על ידע ), וכתוצאה מכך אתה שבוי בקיבעון מחשבתי רק בכדי שהאגו שלך לא ייפגע. זה מה שגורם לך לכתוב דברים שבחלקם אין להם שום הצדקה או שאין בהם מין ההגיון.
יריב
אני מופתע כל בוקר מחדש כשאני מדליק את המחשב שלי והוא “מחליט” לעדכן משהו ולקלקל את מה שעבד רק יום לפני 🙂
אני מבין שהתודעה שתיווצר לדעתך היא בגלל המורכבות של המערכת ולא בגלל שאנחנו מבינים את התודעה של האדם. כלומר – אנחנו לא נתכנן את התודעה אלא היא פשוט תגיח מהמכונה.
מה גורם לך לחשוב שהתודעה הזו תהיה חיובית? אתה בעצמך אומר שלא נדע מה קורה בפנים. אז – אם היא תהיה חכמה מאיתנו, למה שלא תיפגע בנו?
ניסים,
אל תלך לאיבוד 🙂
מה שאני טוען זה שישנם מספיק סימנים שמראים שאנחנו מבינים דיי טוב את העקרונות הבסיסיים של רשת עצבית מוחית, החל מהרשת העצבית של ״פרוייקט המוח האנושי״ שהפעילות החשמלית הספונטנית שנוצרה בה תואמת להפליא לזו שמתקבלת בפיסת מוח אמיתית במעבדה, ועד לרשת העצבית של דיפ-מינד שהציגה יכולת קוגנטיבית גבוהה שיוחסה עד כה רק לבני אדם, למשל הניצחון המדהים במשחק אלפא-גו.
אני טוען שכאשר הרשת הזו (שכיום היא פיצפונת בגודלה) תגדל למימדים של מוח אנושי, ויחברו אותה לרובוט אפילו בסיסי עם מצלמות וחיישנים, התוצאה עשוייה להפתיע גם אותך.
יריב
איבדתי אותך… אתה אומר שנבנה רשת עיצבית ממש מסובכת, שאין לנו מושג מה היא עושה – ולרשת הזו תהיה תודעה כמו של אדם? כמובן שצריך לחבר את הרשת הזו, שאין לנו מושג מה היא עושה, למערכת חושים ושרירים כמו שיש לאדם.
זו הטענה שלך?
ק׳,
אין בעיה.
ק.
אני בהחלט מסכים איתך:
גם אני רואה אנשים – שלמרות שהם מדענים ( ומציגים עצמם כאנשים משכילים ) – חוטאים לאמת וכותבים שטויות..לא חסר גם כאלה. פשוט תסתכלי במראה..
יריב,
בוא נראה מה הם ישיגו תוך שנתיים ואז נדבר, בסדר? אני סקפטית כי אני מכירה כמה וכמה תת-מערכות ותכונות שנשלטות על ידי מח החולדה שכיום, למרות מחקר אינטנסיבי, עדיין קיימת הבנה חלקית מאוד לגבי איך הדברים קורים. בוא נעשה הסכם, בעוד כשנתיים, או כמה זמן שזה ייקח, כשיצאו בהכרזה חדשה לגבי ההישגים שהושגו באמת ושאותם ניתן לבחון ולהשוות לכל מה שידוע על מוחן ויכולותיהן הקוגניטיביות של חולדות, נוכל להתייחס לנושא שוב ולראות כמה מתוך ההבטחה: “ליצור אינטליגנציה מלאכותית שתעשה כל מה שחולדה עושה” קויים. מקובל?
זה יהיה מגניב ביותר אם זה אכן יקרה, בינתיים אני סקפטית (ושמחה מאוד שעול ההצדקה להישגים הנ”ל לא נמצא עלי).
אנונימי,
רק עכשיו ראיתי שפיספסתי את התגובה המצחיקה שלך שמשווה ניסויים מסוג ניתוח דפוסי פעילות עצבית מתאי סריג שמתקבלים מאלקטרודות המושתלות בקורטקס האנתורינלי (זה לא באמת מה שעשיתי, בין היתר, אבל זה לא מאוד רחוק מזה) ובין “ניסויים שמבצעים לבורנטים מתחילים” ובין “ניתוחי צפרדעים שילדים מבצעים בבית הספר” ??? כאילו, מה?!
אני לא צריכה לדמיין שאנשים טפשים, למעשה איני נוהגת לחשוב שבני שיחי הם טפשים גם כאשר הם מציגים בורות (סבירה בהחלט בדרך כלל) כל עוד הם אינם מתיימרים לדעת בוודאות ידע שבבירור לא נמצא בידם. אלה הטפשים שמנפנפים בטפשותם כאילו זה דבר מה שיש להתגאות בו, שגורמים לי להבין שמה לעשות – הם אכן קיימים. אני לא יודעת מדוע אתה מתעקש להמשיך לנפנף בזה (ראה תגובתך המצוטטת מעלה) שוב, אבל משום מה יש לי תחושה שזו לא תהיה הפעם האחרונה שלך, והאמת היא שזה בעיקר מצער אותי.
יריב
הפסימיות של אדם המוביל את העסק בתחום הזה – לא משכנעת אותך.
מה שכן משכנע אותך – זאת האמונה שלך בדבר, אשר מתבססת על כלום וחוסר-ידע…
נו טוף..
ק׳,
1. למרות השם שלי אני ממש לא מחפש לריב עם אף אחד (ולא אוהב לריב!) למרות שיש כאן כמה שמנסים כאילו בכוח לגרור אותי למריבות, וכפי שאת רואה מחלקם אני פשוט מתעלם.
2. אני לא חושב שאני צריך לדבר עם מומחים בתחום באופן אישי, מספיק שאני מקשיב להרצאות שלהם ולראיונות שהם נותנים. אם חוקרי מוח ברמה עולמית כמו פרופ׳ הנרי מרקרם או פרופ׳ עידן שגב שחקרו כל חייהם מוחות של חולדות וקופים ובני אדם, וגם יש להם ניסיון עם רשתות נוירונים, חושבים שמה שאני אומר כאן אפשרי, אז כנראה שאני לא לבד בדעותי.
3. ״יריב, בסוף תגובתי הלפני אחרונה אליך כתבתי: “אני סבורה שהוא אפשרי לחלוטין ובהחלט צפוי להגיע, אם נרצה ואם לא נרצה, בעתיד הלא מאוד רחוק”
נכון בהחלט כתבת את זה, אך עדיין עיקר תגובתך (וגם הקודמות) עסקה בניסיון להראות לי עד כמה הדבר מסובך ועד כמה זה בלתי סביר.
4. לא אמרת לי, מה דעתך על הקישור שנתתי לך קודם (מיוטיוב) בקשר לרשת עצבית ברמת אינטליגנציה של חולדה? אם הם יצליחו במשימה תוך שנתיים כלומר עד סוף 2018, עד כמה זה יפתיע אותך? והאם זה יגרום לך להיות קצת פחות סקפטית ממה שאת היום?
5. קראתי את הכתבה שנתת לי מהידען, וסליחה אבל הפאסימיות שלו לא הרשימה אותי.
ק.
אכן קראתי. וגם הגבתי. בזמנו. לפני כמעט חמש שנים.
אז מה למדת מהמאמר? 🙂
יש עוד אחד – חפשי “הדם הוא הנפש?”
תקראי, תלמדי, תשכילי… ותחזרי אלינו עם תובנות שעדיין לא שמענו… מה שכבר שמענו – אין צורך להזכיר, אנשים הם לא טיפשים כמו שנדמה לך..
אנונימי,
זו באמת הייתה כתבה נחמדה מאוד!
https://www.hayadan.org.il/is-soul-exist-2501098
כדאי לך לקרוא אותה גם מתישהו : -)
יריב,
יש התייחסות רלוונטית בכתבה נוספת כאן, במיוחד בהקשר ללימוד משחקים, ובפרט למשחק גו:
https://www.hayadan.org.il/four-types-of-ai-2811161
דבר עם מישהו שעוסק בנושא, זו ההמלצה היחידה שיש לי עבורך.
יריב,
בסוף תגובתי הלפני אחרונה אליך כתבתי:
“אני סבורה שהוא אפשרי לחלוטין ובהחלט צפוי להגיע, אם נרצה ואם לא נרצה, בעתיד הלא מאוד רחוק”
אתה מאשים אותי בתגובתך האחרונה שאני טוענת: “אין שום סיכוי שנגיע לזה בזמן הקרוב!”
כתבתי לך כבר, לא מנסה לשכנע אותך. ממה שנכתב עד כה ככל הנראה עסקתי במחקר בנוירוסיינס יותר שנים ממך והייתי מעורה בתחום גם בנושאים המדוברים (גם אם הם בפירוש לא היו תחום המחקר שלי). מההיכרות שיש לי את התחום, את שיטות העבודה ואת הגישות שקיימות כיום (לפחות עד לפני כמה שנים ספורות) במחקר מסוג זה, לדעתי יש לך נקודה עיוורת לגבי איך הדברים עובדים, אבל זה באמת בסדר גמור, אל תסמוך על המילה שלי, תקרא קצת יותר לעומק על הנושא בעצמך והכי חשוב, תדבר עם אנשים שעוסקים בתחום, אני בטוחה שיש כאלה בסביבתך. ממליצה לך להתחיל משאלה ממוקדת לגבי האופן בו מפתחים רשתות נוירונים, מורכבות ככל שתרצה.
מהמשפט הראשון של התגובה האחרונה שלך, נראה לי שאתה מחפש קצת לריב, ואין לי רצון לריב אתך : -)
יריב,
תודה על התוספת ועל הקישור להרצאה של סוזנה. את ההיפותזה הזו (הקשר בין הגדלת היעילות המטבולית באמצעות מזון מבושל ובין ההתפתחות המהירה בגודל המח, ולכנראה יותר חשוב – במספר הנוירונים, ואולי גם הקשרים שבינהם) שמעתי כבר לפני כמעט עשור ממישהו אחר, אבל כאן היא מציגה זאת בצורה שנראית יותר מבוססת ובהקשר רחב יותר מבחינת השוואות לבעלי חיים אחרים.
ק׳,
1 אם להגיד את האמת את נשמעת קצת כמו מטיפה דתית… ״זה כל כך מורכב ולכן, רק אלוהים יכל ליצור את זה!״, ואצלך: ״זה כל כך מורכב ולכן, אין שום סיכוי שנגיע לזה בזמן הקרוב!״.
2. מה דעתך על הקישור שנתתי לך לגבי רשת עצבית ברמת אינטליגנציה של חולדה? נחייה ונראה את אומרת? גם אם זה יקח להם עוד שנתיים עדיין זה יהיה מדהים, ואני מניח שאת מסכימה איתי.
3. אני לגמרי לא מסכים עם מה שאמרת קודם שהיכולת של הרשת העצבית לשחק במיגוון משחקי מחשב אינה מעידה על יכולת קוגנטיבית גבוהה (שלא לדבר על המשחק אלפא-גו שנחשב ליכולת חשיבתית בלעדית של בן אנוש). גם אם היית לוקחת חתול או כלב והיית נותנת להם את כל התגמולים והפינוקים שכלבים וחתולים אוהבים (בשר, עוגיות, ליטופים) עבור השגת נקודות במשחקים האלה הם לא היו מצליחים לשחק בהם, ובטח לא היו מגיעים לרמה שהרשת של דיפ-מינד הגיעה אליה.
את מנסה להמעיט בהישג המדהים שהיה כאן, ולדעתי את טועה.
4. כל מה שכתבת מוכר לי, ועדיין את מתעלמת מהדוגמא של רשת עצבית של גוגל שההישגים שלה הם הרבה מעבר למה שאנשים ומומחים בתחום חשבו שאפשרי בתקופתנו (אני מציע לך לקרוא קצת על היכולות הקוגנטיביות הדרושות כדי לנצח את אלוף העולם באלפא גו, זה לא סתם לחשב כמה מהלכים קדימה ולראות מה הכי משתלם כמו בשח מט, זה הרבה הרבה מעבר לכך והרשת למדה הכל בעצמה מתוך צפייה במשחקים אנושיים).
5. עד היום אף אחד עוד לא יצר רשת עצבית בגודל של מוח אנושי, וחיבר אותה לרובוט שחווה את העולם, לכן את לא יכולה להגיד שברשת עצבית כזו לא תיווצר מודעות כי זה סתם ניחוש שאין לו במה להאחז. עד שלא ננסה לא נדע וכפי שאמרתי ישנם דווקא לא מעט רמזים שמאפשרים מקום לאופטימיות.
6. יכול להיות שישנן קונפיגורציות רבות שבהן רשת עצבית יכולה לפתח תודעה כפי שחלבונים מסוגים רבים ומגוונים יכולים למלא את אותה פונקציה בגוף. זה שהמוח שלנו התפתח באופן מסויים לא בהכרח אומר שזו הדרך היחידה ליצור מודעות. מאד יתכן שגם ברשת עצבית שתהיה בנוייה בצורה מעט שונה עדיין יתפתחו מודעות ומחשבות לאחר שיגדלו אותה כמו תינוק אנושי.
לדעתי היכולות הקוגנטיביות יוצאות הדופן שהרשת העצבית (הזעירה! הפיצפונת!) של דיפ-מינד הציגה, בהחלט נותנות מקום לאופטימיות כאשר היא תלך ותגדל.
אפשר לדבר גם על הרשת העצבית של הפרוייקט האירופאי (״המוח האנושי״) שם משתדלים לדייק ככל האפשר ביחס למוח ביולוגי אמיתי, גם שם היו הישגים מאד מרשימים, וגם שם הם מתכוונים לחבר את המוח שהם יצרו לרובוט שמתנהל בעולם האמיתי/הוירטואלי (אם כי אינני מעודכן לגבי לוח הזמנים שלהם) וגם שם אני צופה הפתעות.
ק.
את יודעת מה? עוד יותר פשוט: היה כאן אדם משכיל בשם מ. רוטשילד שכתב תובנות ראויות לציון.
בין השאר הוא כתב מאמר קצר על הנשמה. תקראי. תלמדי. תשכילי.
ואולי אז תתחילי לשאול עצמך קודם: מהי תודעה? היכן היא נמצאת?
אולי זה מה שיעזור לך לנהל דיון תקין עם שאר האנשים המגיבים באתר.
ק.
אקל עלייך.
פשוט תעני על השאלות ששאלתי ואז נוכל לדעת מה את מבינה ומה את לא מבינה.
נכון לעכשיו, כל הנסיון שלך עם עכברי מעבדה ( ניסויים שמבצעים גם לבורנטים מתחילים. ולמעשה אפילו ילדים בבתי ספר בארה”ב מנתחים צפרדעים עוד מלפני שנולדת ) לא מצביע על יכולות וידע שיכולים לעזור במשהו בדיון הזה.
פשוט התבלבלת בין נושא לנשוא.
הנושא הוא התודעה. והנשוא הוא הניורון.
את חשבת שהנושא הוא ניורון והנשוא הוא “כמה את חכמה. המלכה הבלתי מעוררת של החוכמה. בואו נפרגן לך”…
ק.
מה שכתבת אינו עונה על שאלותיי. ולמעשה, גם אינו רלוונטי לדיון.
מה שכתבת לא עונה על השאלות של התודעה, אלא פשוט עשית סלט של מושגים שלא קשורים לדיון.
חוץ מכמה מילים שכתבת שבכלל מחזקות את דבריי ( כנראה לא היית מודעת לכך כשכתבת אותם ),
לא ענית על אף שאלה. רק קישקשת מתוך מירמור.
אם את לא רוצה לשמוע תשובה אז מדוע את שואלת שאלה? איזו התנהגות חסרת מודעות מצידך.
אם את חושבת שנפלה טעות כלשהי – הצביעי עליה. אל תקשקשי.
ק׳,
הקישור הראשון שנתת הוא בדיוק הקישור שחשבתי עליו אתמול, ובנוסף לדברים הנכונים (או לפחות ההגיוניים) שהוספת לגבי הקשר לגודל הגוף, אפשר גם לראות בקישור שקליפת המוח של פיל (שהיא החלק הכי חשוב בהקשר של אינטליגנציה) מכילה רק מחצית מכמות הנוירונים שקיימת אצל אדם. וזה עוד בלי לדבר על כמות הסינפסות והחיבורים שקיימים לכל נוירון אצל אדם.
וישנה כמובן גם ההרצאה המעולה הזאת:
https://www.ted.com/talks/suzana_herculano_houzel_what_is_so_special_about_the_human_brain?language=he
אנונימי,
תבדוק את העובדות, יש לך טעות.
https://en.wikipedia.org/wiki/List_of_animals_by_number_of_neurons
ולידיעתך יש קשר בין גודל המח ובין גודל הגוף:
https://en.wikipedia.org/wiki/Brain-to-body_mass_ratio#/media/File:Brain-body_mass_ratio_for_some_animals_diagram.svg
מהסיבה הפשוטה שבקרה ושליטה על גוף גדול יותר מצריכים יותר עצבוב, לרבות תאי עצב במח, וזה בלי קשר לתכונות קוגניטיביות, כמו יכולת חשיבה. בנוסף ישנם חלקים במח שיכולים להיות מוגדלים ושקשורים לזיכרון למשל, וגם זה לא קשור בהכרח ליכולות קוגניטיביות “גבוהות” כמו מודעות עצמית. למה אתה כותב על דברים שאין לך מושג בהם?
ולמרות שאני לא בטוחה שאני רוצה לשמוע את התשובה שלך… אבל היכן אתה חושב שנמצאת התודעה שלך?
יריב,
במערכות מורכבות בהקשר המדובר התכוונתי כמובן לרשתות עצביות. יש לך כשל לוגי, העובדה שאנחנו יודעים שקיימת רשת עצבית מורכבת אשר מציגה תודעה (ווט אבר דת’ מינס) אינה גוררת אחריה ש*כל* רשת עצבית בעלת מורכבות דומה (מספר נוירונים, מספר קישורים וכד’), או אפילו מורכבת ממנה, תציג מאפיינים אלה. לא יודעת כמה נסיון יש לך באימון רשתות נוירונים, אבל כשאתה רוצה שלרשת שלך יהיו תכונות מסויימות אתה לא פשוט זורק הרבה נוירונים ל”סיר” ויוצר הרבה קשרים ומקווה שהרשת תתחיל להתנהג כמו שאתה רוצה. אתה גם לא פשוט מוסיף עוד נוירונים ועוד קשרים אם היא לא מתנהגת כמו שאתה רוצה. אז שוב, זה כנראה תנאי הכרחי שהמערכת תהיה מורכבת דיה, אבל זה בפירוש לא תנאי מספיק, ואפשר לראות זאת לגבי תכונות יותר פשוטות מתודעה. אתה יכול ליצור רשת נוירונים מורכבת להפליא ועדיין לא לקבל תכונה פשוטה ובסיסית של זיהוי תנועה למשל. כדי לקבל זאת, צריך להכניס למערכת קלט מתאים חוקיות שתגרום לרשת להתכוונן על התכונה הרצויה (וגם אז, יכול להיות שהארכיטקטורה המסויימת שבנית לא תצליח ללמוד את המשימה אם לא התחשבת בכמה גורמים נוספים חשובים). היות ואנחנו לא יודעים מהם הקלטים והחוקיות הרלוונטיים ליצירת תודעה, איננו יודעים כיצד לתכנן את הרשת העצבית (שגם חייבת להיות מורכבת להפליא). דרך אחרת לגשת לבעיה, כפי שציינתי קודם לכן, היא ללכת על השביל שאנחנו יודעים שמוביל ליצירת תודעה, כלומר לחקות רשת עצבית של עובר אנושי לרבות כל תהליכי ההתפתחות הפנימיים והקלטים המתאימים של עולם אמיתי. עקרונית, זה אפשרי, וסביר להניח שנקבל כך מכונה עם תודעה מפותחת יחסית. בייבי X היא דוגמא נחמדה בכיוון, אבל זה עדיין רחוק מהדבר האמיתי (שאני סבורה שהוא אפשרי לחלוטין ובהחלט צפוי להגיע, אם נרצה ואם לא נרצה, בעתיד הלא מאוד רחוק).
יריב
מניין לך שהתודעה בכלל נמצאת בניורונים?
פיל – חי 70 שנים בממוצע. נכון להיום.
אצל חיה כמו פיל, ישנו מוח גדול משל אדם. וכמות הניורונים שבמוחו היא כמעט באותה כמות כמו אצל האנוש.
הפיל הוא חיה הרבה פחות אינטלגנטית מאשר בן האנוש.
כיצד אתה מסביר את ההבדל התהומי באינטליגנציה של אנוש אל מול בעל חיים כמו פיל אפריקאי?
האם רק הכמות של הניורונים והמהירות של העברת המידע בין הניורונים היא הקובעת את רמת האינטלגנציה?
או שגם השפה ‘מעצבת’ ( ומשפרת ) את היכולות הקוגנטיביות של היצור?
והאם ישנם עוד גורמים שמשפיעים על הרמה שאליה מגיע התודעה של היצור? במידה וכן, מהם ואיך הם משפיעים?
ניסים,
לא אנחנו לא קרובים לזה, אבל השאלה הזו בכלל לא רלוונטית. כבר היום רשתות הנוירונים שאנחנו בונים ומאמנים כל כך מורכבות שאפילו האנשים שבנו אותן לא יכולים להגיד לך מראש איזו החלטה הן יקבלו עבור כל קלט, הם חייבים להפעיל אותן מול הקלט כדי לראות את התוצאה.
הצוות שבנה את הרשת העצבית של DeepMind למשל לא יכול להסתכל על הרשת ברגע מסויים (בלי לדעת מראש על מה היא אומנה) ולהגיד לך אם היא כבר מומחית במשחק מחשב מסויים או לא, הם יהיו חייבים לתת לה לשחק במשחק כדי לדעת מה התשובה.
אז השאלה שלך לא רלוונטית, רשתות הנוירונים שאנחנו בונים יכולות להיות מומחות בתחום מסויים או בתחומים מסויימים גם אם אנחנו לא יכולים לדעת מראש במה, עד שנפעיל אותן וננסה.
יריב
ברור שאני מאמין שרובוט יכול להיות מודע וגם מודע לעצמו. ההבדל בין זה לבין רמת התודעה של אדם היא לדעתי תהומית – וזו הנקודה שאני מנסה להבהיר.
האם לדעתך אנחנו קרובים לאבחן את דעתו הפוליטית של אדם על פי בדיקת המוח שלו? איזה צבע הוא אוהב? האם הוא מעדיף את התשיעית של בייטהובן או את האריה על מיתר סול של באך?
האם אנחנו יכולים להביט במוח של אדם ולדעת איזה מכונית הוא אוהב, או מה רמתו ברכיבה על סוסים?
ניסים,
הוא בהחלט עשוי לפחד כשיוליכו אותו על קצה של צוק, הוא יעבור בהצלחה מבחן איי-קיו, הוא יחווה מציאות מדומה בדיוק כמוך, ואם יחברו אותו לחיישני טעם וריח הוא ילמד כמו אדם כיצד להתייחס לחלב חמוץ ולגבינה מסריחה.
אם רשת הנוירונים במוח שלנו מסוגלת לעשות את כל הדברים האלה מדוע אתה חושב שרשת נוירונים מלאכותית לא תוכל?
בכלל אני לא מבין אותך, אתה הרי כל הזמן טוען שהטרמוסטט באוטו שלך מודע לעצמו, אז מדוע זה נראה לך מוזר שרשת נוירונים שהיא מורכבת פי מיליון תהיה מודעת לעצמה?
יריב
איך הוא יתנהג כשישימו עליו משקפי מציאות מדומה ויתנו לו “ללכת” על קצה צוק – הוא יפחד? הוא יידע שלחלב חמוץ יש ריח רע? הוא יידע שגבינה מסריחה זה טעים?
ניסים,
קרא שוב את סעיף 3 בהודעה הקודמת שלי ותגיד לי אם זה לא עונה על מה ששאלת.
יריב
אתה לא תדרוש מאותו רובוט לעבור מבחן IQ למשל?
ניסים,
1. לדעתי אין רגע מסויים שבו אפשר לומר: ״קודם הוא לא היה מודע, ועכשיו הוא כן!״, בדיוק כפי שאי אפשר להגיד שברגע מסויים באבולוציה קוף פתאום היה אדם והוריו לא היו.
2. לא התמקדתי בשאלה מה זו תודעה כי פשוט אין לי תשובה מדוייקת, אבל בגדול זה אומר שמערכת כלשהי יודעת שהיא קיימת, היא מסתכלת במראה ומבינה שהיא מביטה בהשתקפות של עצמה.
3. אני חוזר ואומר, כאשר רובוט יתנהג בדיוק כמו אדם בכל תחום ומבחן, והוא יגיד לי שהוא מודע לעצמו, אז מבחינתי הוא עבר את המבחן.
האם אותך זה לא ישכנע?
(פתאום זה מזכיר לי את הדיון שהיה לנו לגבי סידרה של ערכים רנדומלים, והאם כדי לקבוע אם היא רנדומלית או לא חייבים לפתוח את מכסה המנוע ולבדוק מה המנגנון שיצר אותה)
יריב
השאלה הנכונה היא “מהי תודעה”. עד עכשיו לא ניסית אפילו לענות על השאלה. לדעתי – תודעה זה השתקפות של הסביבה במצב המערכת. ולכן לטרמוסטט יש תודעה.
תודעה עצמית היא פשוט השתקפות של המצב הפנימי. ולכן האוטו מודע.
הדיון שלנו אינו על האם האוטו מודע או לא – הדיון הוא על המהות של המילה תודעה. אתה בינתיים די מתחמק. שנינו מסכימים שיש מידות של תודעה, החל מאדם ועד לגרגיר חול. השאלה היא – איפה המעבר ממודע לחסר תודעה. נסה לענות על זה 🙂
וואו הקישור הראשון דיי מדהים 🙂
אני אבדוק את הקישורים שלך.
ניסים,
כמה אנשים הצלחת לשכנע עד היום שלאוטו שלך יש תודעה? 🙂
יריב
איך אתה קובע שלאוטו אין תודעה? הוא הרבה יותר מורכב מתולעים פשוטים. מה המבחן שלך לתודעה?
לם הוא סופר מדע בדיוני שכותב הרבה על תודעה לא אנושית. קרא את הסיפור הבא:
http://home.sandiego.edu/~baber/analytic/Lem1979.html
יריב
בשבילך – http://www.howtogeek.com/elk/1429/14796/27338
הא, סטניסלב לם זה שם של סופר…
ניסים,
נוצרו בה תבניות חשמליות ופולסים חשמליים זהים לגמרי למה שרואים ומודדים על פיסת מוח במעבדה.
ניסים,
1. אני אבדוק בהזדמנות לגבי הספר שהמלצת עליו, אבל בכל מקרה יש לנו כבר 8 מיליארד דוגמאות בעולם לרשתות נוירונים בעלות תודעה, ואנחנו יודעים בדיוק מה התוצאה 🙂 הרבה דברים חיוביים, והרבה דברים שליליים.
2. ״ברור שבני אדם, רובם לפחות, הם בעלי תודעה – אבל מה עם שימפנזה? מה עם קוף רזוס? כלב? חולדה? חולד? תנין? דג? זבוב? שלשול? תולעת ק. אלאגנס? אמבה? חיידק? איפה צריך לשים את הגבול?״
כפי שאני מבין ורואה זאת זה כמו מנורה שאפשר לעמעם את האור שלה עם כפתור, היא יכולה להיות מאד בהירה והיא יכולה להיות מאד חשוכה. לאדם יש רמת תודעה כלשהי על גבי הסקלה, לקוף יש רמת תודעה נמוכה יותר, לחולדה יש רמת תודעה עוד יותר מעומעמת, ולטרמוסטט באוטו שלך אין בכלל תודע 🙂
3. ״אם אין לך תשובות – איך תדע שיצרת תודעה?
אז שוב חוזרים לשאלה ששאלתי אותך קודם, כיצד אתה יודע שאישתך והילדים שלך מודעים לעצמם? מבחינתי, ברגע שאראה רובוט שמתפקד בדיוק כמו אדם, ועובר את כל המבחנים שבני אדם עוברים, והוא יטען שיש לו תודעה, ורגשות, ומחשבות, אז אני אאמין לו 🙂
יריב
“חתיכת מוח (דיי גדולה) שהראתה התנהגות זהה לחלוטין לחתיכת מוח אמיתית אז זה לא מתאים למה שאתה אומר”.
מה? איך בדיוק מתנהגת חתיכת מוח?
יריב
מדוע שלא תשלח מייל לאותה קבוצת מדענים, ותפרוס בפניהם את דעתך. תבקש מהם תשובות לשאלות שלך ובמידה ויענו לך, אני מניח שתבין יותר טוב.
כי כרגע נראה שהדיון הגיע למבוי סתום.
יריב
התבלבלת – אני חושב שהתכוונת שאתה פסימי שנפתח תודעה ברמה של אדם! אם אתה חושב לרגע שפיתוח תודעה כמו של אדם זה דבר חיובי אז כדאי שתקרא קצת את סטניסלב לם!!!
ברור שבני אדם, רובם לפחות, הם בעלי תודעה – אבל מה עם שימפנזה? מה עם קוף רזוס? כלב? חולדה? חולד? תנין? דג? זבוב? שלשול? תולעת ק. אלאגנס? אמבה? חיידק? איפה צריך לשים את הגבול?
ומה עם אנשים ישנים? חסרי הכרה? אנשים במצב וגאטיבי (“צמחים”)? אנשים בתרדמת? איפה כאן הגבול?
אם אין לך תשובות – איך תדע שיצרת תודעה? ויותר חשוב – איך תדע שהתודעה לא סובלת (אתה חייב לקרוא את לם!)?
ק׳,
1. ״יש מערכות מורכבות להפליא ואין בהן שום תודעה עצמית או כל תכונה אחרת שנשייך למושג הרחב “תודעה”
יש הרבה מערכות מורכבות חסרות תודעה, אבל יש לנו דוגמא אחת עובדת והיא המוח האנושי, ושם זו רשת עצבית ולא סתם ״מערכת מורכבת״.
2. ״כדי שרשת עצבים גדולה תפתח תכונות דומות למה שכל תינוק מפתח, לא מספיק שהיא תהיה מאוד מורכבת, זה פשוט לא עובד ככה״
לא הבנתי, על סמך מה את אומרת את זה? האם מישהו איי פעם יצר רשת עצבית שגודלה כמוח אנושי וחיבר אותה לגוף רובוטי שפועל וחווה את העולם? אם לא, אז ברצינות, מאיפה את יודעת?
ק׳,
הנה קישור לגבי רשת עצבית ברמת אינטיליגנציה של חולדה:
https://www.youtube.com/watch?v=MAMuNUixKJ8
אני מניח שגם אותו צריך להוריד לקרקע דיי מהר, וגם את פרופ׳ עידן שגב, והנרי מרקרם, וג׳ף הוקינג ועוד עשרות חוקרי מוח בכירים שגם להם יש ניסיון לא מועט בחקר מוחות של חולדות וקופים ובני אדם, ולמרבה ההפתעה חושבים שהמשימה דווקא כן אפשרית בטווח הזמן שציינתי קודם.
יריב,
אני לא הולכת לנסות לשכנע אותך כי בכנות אתה מתחיל קצת להישמע כמו שדתי מגן על האמונה שלו, כלומר לא באמת, אבל כן עם יותר מדי סופרלטיביים לגבי עומק השכנוע העצמי ומעט מדי היכרות עם מה שקורה בשטח. אחשור ואומר, לדעתי יש לך נקודה עיוורת לגבי מהות האתגר שעומד בפני מדעני המח כיום לגבי השגת תכונות קוגניטיביות (לימוד שורה של משחקים שונים אינה שונה באופן מהותי מלימוד משחק אחד ואינה קשורה לתכונות קוגניטיביות “גבוהות” כמו מודעות עצמית). אם תבקש לדבר עם אחד מהחוקרות\חוקרים בתחום זה שקרוב לאזור מגוריך אני מבטיחה לך שיורידו אותך לקרקע די מהר. בפרט, זה לא סתם להוסיף מורכבות למערכת, יש מערכות מורכבות להפליא ואין בהן שום תודעה עצמית או כל תכונה אחרת שנשייך למושג הרחב “תודעה”. כדי שרשת עצבים גדולה תפתח תכונות דומות למה שכל תינוק מפתח, לא מספיק (גם אם כנראה הכרחי) שהיא תהיה מאוד מורכבת, זה פשוט לא עובד ככה. בכל מקרה, זה בסדר, כולנו מצפים בכליון עיניים לפריצות דרך בנושא, והדבר החשוב הוא שאנחנו מסכימים שאין שום דבר עקרוני שמונע מהמדע לפצח את האגוז (הקשה) הזה.
בתור מי שעבדה עם חולדות לא מעט, אני מרשה לעצמי להיות די סקפטית לגבי ההבטחה לרשת עצבית בעלת אותה רמת אינטיליגנציה של חולדה. יש לך קישור לאותו דיווח? אשמח להבין טוב יותר על מה הוא מתבסס.
יריב
לומר ש”אם תחבר הרבה ניורונים אז תהיה לך תודעה” – זה כמו להגיד שאם תחבר הרבה טרמוסטטים אז תיווצר תודעה..
אם לניורון אחד אין תודעה – מניין לך שהרבה ניורונים כן בונים תודעה?
לדג יש הרבה יותר מניורון אחד. האם דג הוא בעל חיים מודע לעצמו? האם הדג מודע לסביבה? האם יש לו תודעה? או שהדג בכלל מגיב לפולסים חשמליים ותו לא?
ניסים,
1. להגיד שלטרומסטט באוטו שלך יש תודעה זה כמו להגיד שלבנה אחת שמונחת על הקרקע היא בית. אני גם לא חושב שלנוירון אחד בודד יש תודעה. כדי שהרכיבים האלו יצרו משהו שאפשר לקרוא לו ״תודעה״ חייבת להיות איזושהי מורכבות מינימלית, בדומה למטוס שיכול להמריא רק מעל מהירות סף מסויימת. מטוס בואינג 747 לא יכול להמריא במהירות של 20 קמ״ש על המסלול, ובאופן דומה נויירון בודד לא יכול לפתח תודעה, ובטח לא הטרמוסטט באוטו שלך.
2. ״בניית תודעה היא לא הבעיה, הבעיה היא הגדרה של מהי תודעה״
אני ממש לא חושב שהבעיה כאן היא הגדרה של תודעה, אני בטוח שאתה לא מפקפק בכך שאישתך ובני המשפחה שלך מודעים לעצמם למרות שאין לך הגדרה מדוייקת ל – מה זו תודעה, אז הגדרה היא לא הבעיה כאן.
הטענה שלי פשוטה, ברגע שתבנה רשת עצבית מספיק מאסיבית ומספיק מורכבת שתהיה בנוייה באופן דומה למוח שלנו, אז התודעה פשוט תגיח משם באופן ספונטני כפי שהדבר מתרחש במוחו של תינוק שנולד ומתחיל לחוות את העולם.
3. ״כל המשחקים האלה שאתה מדבר עליהם הם פשוטים״
ניסים המשחקים האלו ממש לא פשוטים ועד לא מזמן אף אחד לא האמין בכלל שרשת עצבית תוכל להגיע כל כך מהר להישגים מדהימים כאלה. אפילו ילד בן 10 מתקשה להגיע לרמת המשחק שרשת הנוירונים של גוגל הגיעה אליה. ושוב אני מזכיר לך נקודה חשובה… רשת הנוירונים הזו היא אפילו לא אלפית בגודלה ממוחו של ילד, אז כמו שאומרים ״זה ממש לא כוחות״.
4. אני לא יודע מי עשה את החישוב שדיברת עליו ועל מה החישוב הזה מבוסס אבל זה לא נשמע לי הגיוני. בפרוייקט מוח האדם האירופאי למשל כבר בנו הדמייה של חתיכת מוח (דיי גדולה) שהראתה התנהגות זהה לחלוטין לחתיכת מוח אמיתית אז זה לא מתאים למה שאתה אומר, בנוסף לפי מה שקראתי תוך 10 שנים בערך למחשב-על כבר תהיה עוצמת חישוב בסדר גודל של מוח אנושי.
אני בהחלט אופטימי בנושא הזה.
יריב
הביטוי בעברית היא אכן “תכונה מגיחה”…
יריב
עשו כבר חישוב והגיעו למסקנה שכדי לדמות מוח של אדם חייבים לבנות מכונה בגודל של מוח האדם, עם ניורונים בגודל של ניורונים אמיתיים.
כל המשחקים האלה שאתה מדבר עליהם הם פשוטים – כדי לדמות מוח של אדם – המכונה צריכה להיות מסוגלת לבנות מכונה שמסוגלת לדמות מוח של אדם!
בניית תודעה היא לא הבעיה, הבעיה היא הגדרה של מהי תודעה.
לדעתי, לטרומסטט יש תודעה, ולאוטו יש תודעה עצמית – בינתיים, אף אחד לא סתר את מה שאני אומר.
בינה – אין לי מושג איך להגדיר, אבל אם ניקח את מבחן טיורינג, אנחנו רחוקים עשורים רבים מלבנות רשת ניורונים שתעבור את המבחן הזה.
זו הודעה לניסים, שמתחילה ב –
1. ״זו בדיוק הנקודה…
סוף סוף השתחררה התגובה שלי מאתמול בלילה.. באמת תודה.
פששש… סוף סוף השתחררה התגובה שלי מאתמול בלילה… זו התגובה שמתחילה ב –
״ניסים,
1. ״זו בדיוק הנקודה – אתה לא יכול להניח כזה דבר…״
ק׳,
תודה על התשובה המפורטת.
1. קודם כל אני מבין לגמרי את הגישה הסקפטית שלך ושל ניסים, אך אני גיבשתי לעצמי דעות בנושא שאני דיי משוכנע שהן נכונות, וזאת מתוך כל מה שראיתי וקראתי ושמעתי עד היום בנושא כולל הרצאות של מומחים בתחום. אז אולי אני טועה אבל לא נראה לי, ובכל מקרה אם עוד 30 שנה עדיין נהיה כאן חיים ובריאים בעזרת השם אז כבר לא נצטרך לנחש ופשוט נראה, נכון? 🙂
2. מה שמדהים ברשת העצבית של חברת הבת הזו של גוגל, זה שהיא לא מתמחה בתחום אחד צר וספציפי כמו למשל זיהוי פרצופים. אותה רשת עצבית ללא שום שינוי (כך לדברי מנהל החברה בהרצאה ביוטיוב) למדה בעצמה לשחק בקרוב ל 60 משחקי מחשב שונים שכל אחד פועל באופן שונה לגמרי (מירוצי מכוניות, שובר קירות, פאקמן, מטוסים, יריות, סופר מריו, איגרוף, תלת מימד…) בלי שום הדרכה או הכוונה, רק מתוך מבט על המסך ועל הניקוד! תקשיבי זה ממש לא משהו שאפשר לזלזל בו…
3. בנוסף הם מתכוונים להציג בתוך שנה רשת עצבית בעלת אותה רמת אינטיליגנציה של חולדה! שתפעיל רובוט של חולדה, וחולדה זו חיה ממש חכמה ואינטיליגנטית למי שלא יודע!
4. בנוסף, הרשת העצבית של הפרוייקט האירופאי המפורסם גם כן מציגה התנהגות שדומה להפליא למה שרואים במוח אמיתי, אותה פעילות חשמלית ואותן תבניות אופייניות למוח, וגם זו אינדיקציה חשובה לנכונות המודל ואי אפשר להמעיט בחשיבות של זה!
5. אני לא בטוח שהכיוונונים צריכים להיות כאלו עדינים כמו שאת רומזת… יש בעולם 8 מיליארד בני אדם ולכל אחד יש מוח שונה שמחווט אחרת, וכיוונונים שונים ועדיין לפחות 70% מהם מודעים לעצמם ברמה כזו או אחרת…
6. ההתרשמות החזקה שלי היא שמדובר בתופעה שנוצרת (לא ארשום את המינוח באנגלית כי אולי זה מה שחסם את ההודעה הקודמת שלי) ולכן כאשר נתחיל ליצור רשתות עצביות מאסיביות תתחיל להיווצר בהן גם תודעה בלי שנצתרך לכוון זאת, היא פשוט תצוץ/תגיח מתוך המורכבות של המערכת והפעילות החשמלית העניפה שתהיה שם. בדיוק כפי שהיא מופיעה אט אט במוחו של תינוק.
יריב,
למיטב ידיעתי זה קצת יותר מסובך מאיך שאתה מציג את זה. רשתות נוירונים מצליחות בצורה מדהימה במשימות מוגדרות מסוימות, כאשר יחסית קל להגדיר מהי “ההתנהגות” הרצוייה (כמו לנצח במשחק, או להשיג שיווי משקל). זו לא דוגמא טובה כל כך ליצירת מצב שבו באופן ספונטני יגיחו מאפיינים שאנחנו משייכים ל”תודעה” כמו אצל יצורים חיים, שהם לא כל כך מוגדרים היטב ולפעמים לא מוגדרים כלל. זו קפיצת מדרגה שבפשטות לא ברור עד כמה היא קשה. רשת נוירונים יותר גדולה ויותר מורכבת אולי תלמד דברים יותר בקלות ותגיע להישגים טובים יותר בתחומים אליהם כווננה, אבל זה העניין, שלא ברור עדיין מהם הכיוונונים שיש לספק למערכת כדי שבהמשך יגיחו באופן ספונטי מאפיינים קוגניטיביים. אפשרות אחת (שיש כמה נסיונות מעניינים בכיוון הזה) היא לא להגדיר מראש מה המערכת צריכה ללמוד אלא לתת לה לבחור במה היא מעדיפה להתמקד בסביבה שמדמה את הקלטים שקיימים בחיים האמיתיים (מבחינת כוחות, מראות, סביבה חברתית וכד’), מתוך ציפייה שאם קיים באותה מערכת הפוטנציאל החישובי המתאים, אזי התכונות שמתפתחות בכל תינוק עשויות להופיע גם בה באופן קרוב. אבל אין לנו מושג עדיין מה המינימום הנדרש לזה. עובר מתפתח לא מתחיל מאפס, יש הסללות שמוצרנות אבולוציונית ויוצרות קיצורי דרך. דרך אחרת היא כאמור לסמלץ מוחות קיימים, אבל מגלים שיש פלסטיות רבה במערכת, ושקונסטרוקציות שונות למדי יכולות לייצר פונקציות קוגניטיביות דומות (באופן דומה למה שקורה בלולאות חישה ותנועה). אז נכון שחשוב להכיר את הנוירואנטומיה של המערכת שאתה מנסה ללמוד, אבל תכנס לאתרים של מדענים בנוירוביולוגיה ותראה מה מהם תחומי העניין שלהם ותגלה שעיסוק נרחב (אם לא עיקרי) הוא בפענוח התשדורת העצבית והמשתנים המבוקרים שניתן לחלץ ממנה. המיקרו-נוירואנטומיה פחות רלוונטית. זה מה שהיה לפני כמה שנים כשעדיין בצעתי מחקרים בנוירוביולוגיה ולמיטב ידיעתי המצב לא שונה גם היום, עד כמה שמספיקה להיות מעודכנת.
בכל אופן, מציעה לך לא להסתמך יותר מדי על הרצאות ב-TED אלא לנסות לדבר עם מישהו\י בתחום או לפחות לקרוא את המבוא שמדענים כותבים באתר המעבדה שלהם שמספר באופן כללי על תחומי העניין והמחקרים הפעילים שלהם. חפש לפי מילות מפתח לגבי מה שמעניין אותך, זה תחום ענק. לדעתי אתה תבין די מהר היכן נמצא מרכז העשייה ומה נתפש כאתגרים העיקריים והמיידיים של התקופה הזו, ואני מאמינה שאז תבין טוב יותר את מה שניסים ואני אומרים.
יריב
לסמלץ זה לא עברית. יש מילה מתאימה להדמות מהמילה הדמייה. אז בבקשה תכתוב עברית ולא גיבריש. רגע של עברית.
…התוצאה תהיה שאנשים שמתעסקים בכך יגידו לך שזה רובוט. חסר תודעה. ודבר כזה כבר היום – קיים.
ק׳,
״הידע על המבנה והקישוריות של הרשת העצבית לא מספיקה לסמלץ מוח. לשם כך דרוש מידע על הדינאמיקה החשמלית שרצה באותה קונסטרוקציה (שגם יכולה להשתנות בזמן), ואת זה הרבה יותר קשה למדוד כיום בגלל טרייד אוף (בעברית שקלול תמורות אם אני לא טועה) בין רזולוציית הסיגנל ובין מספר הנוירונים הנמדדים, וכיום אנחנו פשוט לא שם״
שוב, ברור שעדיין חסר לנו ידע אבל אני לא חושב שניתן לצאת בהצהרה שהידע הזה הוא קריטי ובלעדיו הדבר לא יתאפשר. להיפך, ישנם לדעתי הרבה סימנים שמראים שאולי העקרונות שכבר למדנו על המוח בהחלט מספיקים, או לפחות מקרבים אותנו מאד למטרה.
אם רשת נוירונים זעירה שמכילה את רוב מה שכבר למדנו על המוח, מצליחה ללמוד לשחק בעשרות משחקי מחשב (חלקם בתלת מימד) ולהגיע ב 95% מהם לרמה של שחקן מקצועי ללא שום הדרכה רק מתוך מבט על המסך, לדעתי זה אומר המון.
מה יקרה אם ניקח את אותה רשת, עם אותם עקרונות ונרחיב אותה פי עשרת אלפים? או פי מאה אלף? ונחבר אותה לגוף רובוטי עם חיישנים, ידיים רגליים, מצלמות…. מי יודע מה תהיה התוצאה?
התפקשש לי קצת החלק האחרון, אז שוב –
נראה לי שגם אם הן לא יהיו מדוייקות ב 100%, עדיין יווצרו בהן כל (או רוב) התופעות שנוצרות במוח אנושי, וזה רק ילך וישתפר עם הזמן. אין צורך לחכות עד אז, אנחנו רואים כבר היום את ההתחלות וזה נראה מבטיח.
ק.,
אני מסכים לגמרי עם רוב מה שאמרת, וספציפית לגבי סימולציה של המוח כפי שאני רואה זאת (מתוך קריאה וצפייה בהרצאות בתחום) אנחנו בהחלט מבינים את העקרונות מספיק טוב בכדי להצליח במשימה תוך כמה עשורים בודדים.
אני רואה זאת בפרוייקט המוח האנושי שישראל שותפה לו, אני רואה זאת בפרוייקט של חברת DeepMind בבעלות גוגל, ואצל חברות נוספות, רשתות עצביות שמהוות בגודלן ובמורכבותן חלקיק זעיר מהמוח שלנו, מצליחות כבר לזהות אובייקטים בתמונה, לזהות פרצופים, לזהות דיבור גם במקום רועש, לומדות לשחק בעצמן במגוון משחקי מחשב כולל בתלת מימד ומגיעות לרמה של שחקן מקצועי! ועוד ועוד… בהחלט יכולות אנושיות יחודיות. אם כך מה יהיה כשהן יתחילו לגדול ולהתרחב, ויגיעו לכמות הקשרים שקיימים במוח אנושי? אילו יכולות יהיו להן אז?
לי נראה שגם אם הן לא יהיו מדוייקות ב 100%, לעדיין יווצרו בהן כל (או רוב) התופעות שנוצרות במוח אנושי, וזה רק ילך וישתפר עם הזמן, לא צריך לחכות אנחנו רואים כבר היום את ההתחלות וזה נראה מבטיח.
אבי בליזובסקי,
תגובה מסכנה שלי מאתמול בלילה בוכה כבר שתשחרר אותה, נו מה יהיה?
כדי להבין תופעה לא צריך לדעת עליה הכל, בדרך כלל מספיק להבין את העקרונות הבסיסיים כדי שיהיה אפשר לשחזר את התופעה. זה הוכיח את עצמו במדע כבר כל כך הרבה פעמים, לרבות במערכות מסובכות יחסית, שבאמת שאין סיבה לחשוב שהדבר בלתי אפשרי אפילו אם האתגר בהבנת המח הוא אולי האתגר הכי גדול שעומד בפני המדע כיום. יחד עם זאת, אני מסכימה עם ניסים, שהידע על המבנה והקישוריות של הרשת העצבית לא מספיקה לסמלץ מח. לשם כך דרוש מידע על הדינאמיקה החשמלית שרצה באותה קונסטרוקציה (שגם יכולה להשתנות בזמן), ואת זה הרבה יותר קשה למדוד כיום בגלל טרייד אוף (בעברית שקלול תמורות אם אני לא טועה) בין רזולוציית הסיגנל ובין מספר הנוירונים הנמדדים, וכיום אנחנו פשוט לא שם. אבל צריך להבין שמדובר בבעיה טכנית, קשה ככל שתהיה, ולא בעיה עקרונית, וההיסטוריה של המדע מלמדת שבעיות טכניות נפתרות בסופו של דבר, אבל לשם כך דרושה סקרנות מדעית ועקשנות ועבודה קשה ולא קיבעון מחשבתי תבוסתני שאומר -זה בלתי אפשרי כי עד היום לא הצלחנו.
יריב
אתה מתעלם מהעובדה שישנם דברים בטבע שאינך מודע להם גם כאשר אתה מבצע חישובים ואתה בטוח שלקחת את כל הנתונים בחשבון.
אפילו מדענים מהשורה הראשונה שמחפשים ניטרינו מבצעים טעויות כשהם לא לוקחים בחשבון דבר פשוט כמו לחבר נכון את הכבלים של המחשבים שלהם…
ניסים,
1. ״זו בדיוק הנקודה – אתה לא יכול להניח כזה דבר. יש מידע קריטי שאין לך היום כל דרך לדעת. ולדעתי – גם לא בזמן הקרוב״
אני לא בטוח שאתה צודק, המוח אמנם מאד מורכב אך המורכבות הזו נוצרת מכמה מבנים פשוטים יחסית שמשוכפלים מיליארדי פעם בתוך המוח, זו מורכבות שנוצרת מפשטות (קרא בויקיפדיה על Emergence).
2. ״הקשרים לא מייצגים את כל המידע. המידע הוא דו-מימדי (תדר ומופע) אבל המידע שיש בחוזק הקשרים הוא חד-מימדי. אני לא מבין איך אתה חושב אפשר להתגבר על זה״
אני לא מבין למה בדיוק אתה מתכוון, מה זה תדר ומופע? ובכל מקרה בפרוייקט המוח האנושי שישראל שותפה לו כבר יצרו סימולציה ריאליסטית של חתיכת מוח המורכבת ממאות אלפי תאי עצב (עד כמה שזכור לי, לא מתחייב על המספר המדוייק) והפולסים החשמליים שנוצרו בסימולציה בזמן ריצה והתבניות החשמליות שהתרוצצו בפנים תאמו להפליא למה שרואים במעבדה על מוח אמיתי, הסימולציה אפילו נתנה מספר תחזיות שאומתו במעבדה!
אז שמע אי אפשר להגיד שאנחנו לגמרי לא בכיוון, ואל תשכח את הרשת העצבית של DeepMind (בבעלות גוגל) שלמדה לשחק בעצמה במשחקי מחשב אפילו כאלו בתלת מימד… יכולות בהחלט אנושיות שמופיעות מעצמן ברשת עצבית פשוטה…מה יהיה כשהרשת הזו תגדל ותתרחב?
יריב
“לגבי הדוגמא עם המכוניות, נניח לצורך העניין שמהירותן מושפעת רק מהרמזורים”. זו בדיוק הנקודה – אתה לא יכול להניח כזה דבר. יש מידע קריטי שאין לך היום כל דרך לדעת. ולדעתי – גם לא בזמן הקרוב.
אני מבין מה שאתה אומר בקשר למשחק, אבל בהקשר של ניורונים – הקשרים לא מייצגים את כל המידע. המידע הוא דו-מימדי (תדר ומופע) אבל המידע שיש בחוזק הקשרים הוא חד-מימדי. אני לא מבין איך אתה חושב אפשר להתגבר על זה.
אנונימי,
הייתי עונה לך אבל הקללות הבלתי פוסקות שלך ותרבות הדיון המגעילה שלך מראים שאתה פשוט לא בר שיח.
ניסים,
זו הייתה רק דוגמא כמובן וברור שהיא לא מושלמת, אבל אם לדייק יותר אז המידע על השבב ישתנה כל הזמן בצורה דינמית כפי שמשתנים הקשרים במוח שלנו. לכן, כשתפעיל שוב את המשחק הוא ימשיך מאותה נקודה שאליה הגעת במשחק האחרון.
ולגבי הדוגמא עם המכוניות, נניח לצורך העניין שמהירותן מושפעת רק מהרמזורים, התמרורים ומספר המסלולים בכביש, מאחר ואלו זהים בשתי הערים (בנינו את אותה תשתית) אז גם זרימת הרכבים תהיה דומה.
יריב
“אני חושב שהמצב שאנחנו מדברים עליו דומה הרבה יותר לשבב דיגיטלי שצרבת לתוכו משחק מחשב, ברגע שתחבר לשבב הזה מתח חשמלי, הוא ״יתעורר לחיים״ ותוכל שוב לשחק במשחק.”
כן … אבל המשחק יתחיל מההתחלה 🙂 אבל, המוח שלנו, חומרתית, כבר לא אותו מוח שנולדנו איתו.
הבעיה של המכוניות היא שאתה לא יודע מה המהירות שלהן. לכן, לא תקבל את אותה התנועה.
ק.
הסמיילי שלך יצא קצת עקום,
יריב
ואתה בטח יודע לבנות מכונה כמו המוח שלנו, כן?
כי אתה יודע איך המוח שלנו בנוי…
אתה חושב שאתה תוכל לבנות משהו שאתה לא יודע מהו?
אתה לא שפוי.
אנונימי,
אני אומר דבר פשוט, זה לא משנה אם אתה יודע או לא יודע למדוד תודעה או להגדיר אותה, ברגע שתיצור מכונה (שבב דיגיטלי למשל) שבנוייה כמו המוח שלנו, ופועלת על פי אותם עקרונות, אז כל מה שנוצר במוח שלנו יווצר גם במכונה, ואם למוח שלנו יש תודעה אז גם למכונה שבנינו תהיה תודעה.
ק.,
אני מבין בדיוק על מה את מדברת, ובכל זאת אני מנסה כי תכלס אני דיי נהנה מהשיחות האלה 🙂 עד שיימאס לי.
ניסים,
4. ״תחשוב שאתה לוקח את המחשב שלך ומכבה אותו, בלי לשמור את מצב הזכרון לדיסק. כשתדליק – לא תוכל לחזור למצב שהיה לפני הכיבוי. את המצב של המוח שלנו לא ניתן “לכתוב לדיסק”, בטח לא בעשרות השנים הקרובות״
אני חושב שהמצב שאנחנו מדברים עליו דומה הרבה יותר לשבב דיגיטלי שצרבת לתוכו משחק מחשב, ברגע שתחבר לשבב הזה מתח חשמלי, הוא ״יתעורר לחיים״ ותוכל שוב לשחק במשחק.
5. ״תחשוב על עיר צפופה שבה מיליון מכוניות – האם לדעתך ניתן לשחזר את מצב התנועה רק מצילום סטטי?״
נגיד שהעיר מייצגת מוח פיזי (כלומר את הנוירונים והקשרים שנוצרו ביניהם) והמכוניות שנוסעות בעיר הזו מייצגות את המחשבות, והתודעה –
אם תבנה עיר שנייה, מקבילה, שבנוייה באותו אופן כמו שבנוייה העיר הראשונה, עם אותם מבנים, ואותם גשרים, ואותן כיכרות, ואותן סימטאות צרות, ואותם כבישים מהירים, ואותם רמזורים עם אותם תזמונים… סביר להניח שתנועת הרכבים בעיר החדשה תהיה דומה מאד לזו שקיימת בעיר המקורית, הפקקים יווצרו באותם מקומות, ״הפולסים״ יהיו באותה תדירות (לפי מחזורי הרמזורים – אדום וירוק) תבנית הזרימה של הרכבים (=מחשבות) תהיה דומה מאד לתבנית הזרימה במקור, כלומר גם לעיר הזו תהיה תודעה.
יריב,
הוא פוגש אחד כזה כל בוקר מול הראי, אבל בגלל שהוא לא מודע לעצמו הוא סבור שהוא פגש כבר רבים כאלה : -)
איזה בזבוז של חשמל.
יריב
בוודאי. כזה הוא המצב.. 🙂
אני באמת לא בטוח שניסים מודע לעצמו.. 🙂 אני מניח שהוא עצמו לא יודע עד כמה הוא מודע או לא מודע לעצמו.
אתה מודע לעצמך?
איך אתה יודע שאתה מודע לעצמך?
איך אתה יודע בכלל שאתה קיים? אולי אתה בכלל סימולציה על מחשב של חייזרים? 🙂
אני לא רוצה להגיד לך כמה אנשים פגשתי במהלך חיי שאינם מודעים לעצמם. לרוב תוכל לזהות אנשים כאלה כאשר תבחין שהמעשים שלהם נובעים מתוך היצר ולא מתוך מחשבה מודעת..
יריב
3. לזה אני בודאי מסכים. אני חושב שגם לטרמוסטט יש מידה קטנה מאד של תודעה. לתודעה עצמית צריך משהו יותר מורכב. רק שלשום האוטו שלי הודיע לי שלחץ האוויר בצמיג שמאל קידמי נמוך מ-27.
4. כאן אנח חושב שאתה טועה. חלק גדול מהמצב של המוח תלוי בתזמונים בין הפולסים השונים. תחשוב על מערכת המורכבת מהרבה מאד מחשבים, כשהפלט של כל מחשב מספק את הקלט לעוד מספר גדול של מחשבים. במצב הזה, המידע אינו נמצא בכל מחשב לחוד, אלא על הקווים ביניהם. תחשוב שאתה לוקח את המחשב שלך ומכבה אותו, בלי לשמור את מצב הזכרון לדיסק. כשתדליק – לא תוכל לחזור למצב שהיה לפני הכיבוי. את המצב של המוח שלנו לא ניתן “לכתוב לדיסק”, בטח לא בעשרות השנים הקרובות.
5. וכדי לחדד – הפולסים האלה הם אותות אנלוגיים שמה שחשוב הוא התזמון בין הפולסים. זה מידע שאין לנו ובעשורים הקרובים גם לא יהיה לנו.
תחשוב על עיר צפופה שבה מיליון מכוניות – האם לדעתך ניתן לשחזר את מצב התנועה רק מצילום סטטי?
אנונימי,
״אתה לא יודע מהי תודעה. אם אתה לא יודע מהי תודעה – איך תדע שמה שיצרת הוא תודעה? הרי אתה לא יודע מה זאת תודעה!״
לפי מה שאתה אומר אנחנו לא יכולים לדעת, למשל, אם לניסים ידידנו יש תודעה. הרי אתה לא יודע למדוד אותה, אז כיצד אתה יודע שניסים מודע לעצמו?
ניסים,
1. כבר היה לנו את הדיון הזה מספר פעמים בעבר ולא הצלחנו להגיע להסכמה, אז אני לא יודע אם יש טעם לנסות שוב.
2. אתה מדבר על העתקת התודעה של אדם ספציפי, שזה נושא מרתק ויש לי הרבה מה לומר בנושא, אבל עדיף שנשמור את זה לפעם אחרת.
3. אני טוען (כפי שאתה יודע מדיונים קודמים) שכאשר תיצור רשת עצבית מספיק מאסיבית, שפועלת על פי אותם עקרונות של המוח שלנו, ותחבר אותה לגוף רובוטי שיש בו חיישנים, ומצלמות (בתור עיניים), וידיים ורגליים וכו׳, אז מן הסתם תיווצר ברשת הזו תודעה, בדיוק כפי שהיא נוצרת במוח של תינוק (אני לא חושב שלעובר בבטן אימו יש תודעה, הוא צריך להיוולד קודם ולחוות קצת את העולם כדי שתתפתח בו תודעה).
4. ״מוח מת אינו מכיל את המידע של מוח חי״
השאלה למה אתה קורא ״מוח מת״, אם המוח נפגע (כפי שקורה במוות מוחי) אז ברור שהוא כבר לא מכיל את המידע שהיה בו, כי תאי המוח פגועים (בגלל שטף דם פנימי לדוגמא) אבל אם מדובר במוות קליני, והמוח עדיין שלם, אז ברגע שחוזרת אספקת הדם והחמצן למוח חוזרות גם המחשבות וחוזרת התודעה.
5. ״המחשבה היא אוסף של פולסים בתדרים ומופעים שונים ולא רק קשרים בין ניורונים״
אני מסכים איתך לגמרי, אני רק טוען שהפולסים שאתה מדבר עליהם נוצרים כתוצאה ממבנה המוח וכתוצאה מהקשרים בין הנוירונים. לכן, כאשר תבנה רשת עצבית בעלת מבנה דומה לזה שקיים במוח אדם ממוצע, יווצרו בה גם הפולסים שמייצגים את המחשבות, כלומר הרשת הזו תתחיל לחשוב, ולהיות מודעת לעצמה, בדיוק כפי שקורה במוח אדם.
יריב
1:
א: אתה לא יודע מהי תודעה.
ב: אם אתה לא יודע מהי תודעה – איך תדע שמה שיצרת הוא תודעה? הרי אתה לא יודע מה זאת תודעה! אזי גם אם תיצור תודעה אתה לא תדע שזאת תודעה. אז איך אתה מרשה לעצמך לומר שיצרת תודעה? מתוך שיקולים אגואיסטיים? הרי אתה לא יודע מה יצרת אז איך אתה טוען שאתה כן יודע מה יצרת? זהו שקר. הבנת?
אם אתה טוען שתוך 30 שנים למחשב תהיה תודעה, ואינך יודע מהי תודעה – אז אתה משקר.
אגב, “30 שנה” – אמרו את זה לפני 40 שנים.
2: אז יש מאמינים שחושבים כך.. יש לא-מאמינים שאין להם אלוהים ולכן הם חושבים שמותר להם להתנהג בפריצות והם לא יענשו על כך… אז הם חושבים… נו אז מה?
אני אישית לא מאמין שהנשמה היא תודעה שממשיכה אחרי מות הגוף.
אבל כל עוד אנחנו לא יודעים מהי נשמה ומהי תודעה – אזי הדיון על כך הוא חסר טעם וחסר כל משמעות.
יריב
התכוונתי לקרוא – צריך לקרוא את התודעה לפני שאפשר לדמות אותו.
היום אנחנו יודעים לחבר אלקטרודות לתאים בודדים במוח, ואני מתכוון בודדים, לא עשרות אפילו.
מכשיר MRI, שיודע לקרוא, בצורה גסה, את מצב המוח יודע לקרוא בהפרדה של 2 מ”מ, כלומר כמה מיליארדי ניורונים לדגימה.
היכולת לשפר את שני מכשירי המדידה האלה מוגבלת. לא נכניס 100 מיליארד אלקטרודות מן הסתם למוח, והעלת העוצמה של מכשירי MRI מאד מוגבלת בגלל הקרינה.
מח מת אינו מכיל את המידע של מוח חי! הוא אולי (מאד אולי) מחזיק את הזכרונות אבל הוא לא את המחשבות. זה כמו שתכבה מחשב שאין לו דיסק קשיח. העניין הוא שהמחשבה היא אוסף של פולסים בתדרים ומופעים שונים ולא רק קשרים בין ניורונים. אנחנו יודעים את זה ממספר מקורות. אחת היא גלי המוח, שנייה היא התפקים אפילפטיים, שלישי הוא איבוד הכרה שגורם לאיבוד הזכרון בטווח הקצר, רביעי הוא חלומות ויש עוד ועוד.
אני לא אומר שלא נגיע למחשב עם יכולת החשיבה של אדם, אלא שבזמן הנראה לעין לא נוכל לדמות תודעה של אדם מסויים.
דרך אגב – יש דרך ניסויית לראות אם אני צודק או לא: אם נוכל להקפיא אדם ואז להעיר אותו, אז אני כנראה טועה.
ניסים,
״תוך כמה שנים, לדעתך, נוכל לקרוא תודעה של אדם?״
מה זה ״לקרוא תודעה של אדם״? כנראה התכוונת לשאול: ״תוך כמה זמן לדעתך למחשב תהיה רמת תודעה של אדם, או יותר גבוהה״.
לדעתי, על פי קצב ההתפחות של התחום המדהים הזה, ועל סמך ההתקדמות המהירה שאני רואה – תוך 30 שנים לכל היותר, ו 20 שנה נראה לי סביר יותר.
אנונימי,
1. ״אפילו כאשר יהיה מוח שיהיה בנוי ממחשב קוונטי לא תוכל להגיע לרמה של תודעה אנושית דרך מחשב״
זה מה שאמרת, שלמחשב לא תוכל להיות רמת תודעה של אדם, אז מה בדיוק לא הבנתי?
2. ״על סמך מה אתה מבסס את הטענה הזאת?״
ואחר כך אתה צוחק על חוסר ההבנה שלי… אם לא הבנת זו לא טענה שלי, אלא טענה מאמינים רבים, קוראים לזה ״נשמה״. שאלתי אותך מה דעתך על הטענה הזו, מסובך?
ניסים
אתה שואל אותו כאילו שהוא יודע… 🙂 🙂
אתה כותב את זה כדי להרגיע את האגו שלך אחרי שהפסדת בויכוח על אלוהים? 🙂 🙂
הרי אילו היית רוצה לקבל תשובה לשאלתך אני בטוח שהיית פונה לגורמים שהרבה יותר מוסמכים ממנו לענות על זה… 🙂
יריב
כרגיל לא הבנת את מה שקראת, ועל סמך אי-ההבנה שלך אתה בונה טיעון מעוות.
1: זה לא מה שאמרתי.
אמרתי שאם אתה לא יודע מהי תודעה אז לא תוכל לדעת שמה שבנית הוא תודעה.
2: על סמך מה אתה מבסס את הטענה הזאת?
יוסי
אני מצטער אבל אני לא מצליח להבין למה אתה מתכוון.
אתה כותב שאתה לא מאמין, ואני לא מבין במה אתה לא מאמין? ואיך זה קשור למה שאמרתי?
כתבתי, שאם הנך יודע מהו x, כיצד תוכל לדעת שמה שבנית הוא x?
אם אתה לא יודע מה זאת תודעה – איך תבנה אותה במחשב? זה לא הגיוני מה שאתה טוען.
יריב
תוך כמה שנים, לדעתך, נוכל לקרוא תודעה של אדם?
היי אנונימי,
על אלוהים אני רואה שאתה לא מעוניין לדבר, אז בוא נדבר קצת על תודעה:
״אפילו כאשר יהיה מוח שיהיה בנוי ממחשב קוונטי לא תוכל להגיע לרמה של תודעה אנושית דרך מחשב. ואפילו לא תתקרב להבנה יותר טובה של התודעה. אפילו אם המחשב יהיה כמו המוח האנושי , אחד לאחד, לא תבין את התודעה. לא משנה באיזו דרך תיצור תודעה – זה לא יהווה הסבר ל- מהי תודעה״
1. על סמך מה הסקת שלמחשב לא תוכל להיות תודעה כמו של אדם, או אפילו גבוהה יותר? זה ניחוש או מבוסס על משהו?
2. מה דעתך על הטענה שלפיה תודעתו של אדם יכולה להמשיך להתקיים גם לאחר מותו?
מה שעשו 3 השנים האחרונות בתמצות: כוח החישוב הזמין לרשתות נוירונים כמודלי חומרה ותוכנה עלה בסדרי גודל. חברות הענק גוגל, IBM, ו OPENAI של אלון מוסק נכנסו לזה בעוצמה כלכלית אדירה. באוניברסיטאות פרינסטון, MIT, ברקלי ואחרות יצאו מודלים חדשים של בינה מלאכותית. ענף מישנה שנקרא למידה עמוקה.
קיימים שני פרוייקטים של מחשבי על שייתנו כוח חישוב עוד יותר גדול: מחשב קוונטי ב IBM, מחשב נוירולוגי ב IBM. השכבה החדשה שנוצרה איננה עדיין של תודעה, אלא של פענוח החישה שנאספת בראיה ושמיעה, ויצירת פענוח בשפת אנוש טבעית. (גם לנועם חומסקי חלק בעניין). רמת הפענוח של תצלומים ואפילו סתם גרפיטי גבוהה מאד ולראשונה עוברת רמה אנושית. בעתיד הקרוב נראה יותר רכבים, כלי טיס, רובוטים אוטונומיים. למשל למסע למאדים הכרחיים כאלו ולכן אילון מוסק בעניין. מעבר לזה, הוקמו מרכזי חקר תודעה בעולם – לא הניבו בד”כ תוצר ישיר דרמטי. אך פסיכיאטר אחד לדוגמא טונוני, פיתח תיאוריה מתימטית – פיזיקלית של תודעה. תיאוריה שדומה לתיאוריית חומר מעובה. הסבר מעברי פזה באמצעות כלים תרמו-דינמיים, שמסבירים היווצרות רמות של תודעה בריבוי קשרים נוירולוגיים. מעל סף מסויים אלו יוצרים שינוי מתמיד ברמת האלגוריתם. העובדה שיש מרכזים רב-תחומיים לחקר הרציונליות, נותנת לגיטימציה לפרסום מחקרים בתודעה, מה שלא היה קודם. כמות הספקנים והמתנגדים גדולה מאד. בסופו של דבר האנושות אם לא תיכנס לימי ביניים, תצליח לפתח בינה מלאכותית וזה יכול לקחת להערכתי בין 1 ל 100 שנים.
מצטער. אינני מאמין בכך. ואגב אני אדם מאמין וזה לא רלוונטי לשאלה האם ניתן לפתח תודעה או לא. כמו גם לשאלות אחרות: האם היה מפץ גדול, האם האבולוציה נכונה. ביכולתנו ליצור תודעה ויש העוסקים בשאלה מהי
תודעה כמודל מתימטי. גם אם ישנו אלוהים – לא רלוונטי לשאלה. מההתקדמות שאני רואה באקדמיה, איננו שם אבל עושים צעדים גדולים בדרך לשם.
יוסי
לא הבנתי מה כתבת. אבל מן המעט שנדמה לי שהצלחתי להבין – אז צר לי לבשר לך – אבל אפילו כאשר יהיה מוח שיהיה בנוי ממחשב קוונטי לא תוכל להגיע לרמה של תודעה אנושית דרך מחשב. ואפילו לא תתקרב להבנה יותר טובה של התודעה.
אפילו אם המחשב יהיה כמו המוח האנושי , אחד לאחד, לא תבין את התודעה.
לא משנה באיזו דרך תיצור תודעה – זה לא יהווה הסבר ל- מהי תודעה.
ואם אינך יודע מהי תודעה – איך תדע שיצרת תודעה?
ההערה שנמחקה על מעברי פזה היתה נכונה. שימוש בכלים תרמודינמיים, שעברו באמצעות קלוד שנון לתקשורת ספרתית למונחים כמו קיבול הערוץ, עברו לכל תחומי המתימטיקה המודרנית כמטריקה N*log(N) (בין אם זה פונטרייגין, או גרותנדיק או סאיצ’י מוזואיצ’י – מניתי הרגע כמה שמות גדולים במתימטיקה של המאות 20-21. למשל geometrical number theory, למשל מושגי יסוד בתורת המספרים p-adic. עברו לניתוח של תודעה. אלו הכלים שבהם משתמש טונוני לתיאוריה של התודעה. כמו שהבעתי דיעה – הוא צעד בדרך ולא סוף הדרך. אבל הוא אבן משלימה ל deep learning – על מנת להגיע בסופו של דבר לאלגוריתם שיאמר אני.
דווקא ההערה
חסרות לנו תובנות של תודעה – מהי. רשתות נוירונים עמוקות שכבות הן חישה ופרשנות החישה. אבל טונוני אומר שמעבר לסף קשרים בין נוירונים – קורה מעבר פזה, כמו בפיזיקה נוזל, מוצק, גז, פלסמה והחוקים משתנים. מושגת הבנה במיקרו ובמאקרו. טונוני איננו סוף הסיפור בתודעה, אבל הוא צעד בדרך. ברם – המכונות של גוגל כבר הן- הכוונה לאלגוריתמי התוכנה שרצים במחשב העל שלהם, משיגות את האדם, בפרשנות של תמונות, יצירת טקסט בשפת בני האדם. האוליגרכים הגדולים של המדע המסחרי: IBM, אילון מוסק OPENAI, ו GOOGLE, הם התורמים העיקריים כרגע להתפתחות מדע זה. וכן האוניברסיטאות ברקלי, MIT, פרינסטון. ועוד נקודה אחרונה. לכל המזלזלים בערבים או מוסלמים. יש במדע הזה יותר מהם מאשר יהודים. ישנו ד”ר צעיר בשם רג’א ג’יריס בת”א, וישנו פרופסור אלכס ברונשטיין שלאט ובשקט, נכנס לעניין.
ההתקדמות בעת האחרונה, החל בשנת 2012 ונכנסה לאוניברסיטאות בארץ רק כעת, היא deep learning. או
convolutional Artificial Neural Networks = deep layer ANN. בנוסף בתחום החומרתי הושגה התקדמות משמעותית בכך שכרטיס מאיץ גרפי (GPU) של NVIDIA למשל, זה המשמש גיימרים, מאיץ חישוב רשת נוירונים שלוקח חודש במעבד רגיל ל-15 דקות. אני מעריך ששימוש בחומרת SYNAPSE של IBM, שהיא שבב שמכיל כ 48 מיליון נוירונים, תאיץ את זה כהרף עין.
התקדמות נוספת היא שזה מדע, וזו מתימטיקה ולא רק הנדסה. ההתקדמות האחרונה וכאן אני סוביקטיבי להבדיל מדברי הקודמים: גולילמו טונוני פסיכיאטר מפרסם תורה מתימטית (כבר ב 2004, פשוט לא שמנו לב קודם) של תודעה, על בסיס digital information theory. תקשורת ספרתית. הוא מגדיר כיצד מחשבים כמות של תודעה. מתי שהוא יאמר אלגוריתם אני. זה תהיה נקודה סינגולרית לפי קורצוויל. זה עשוי לקרות בין תוך שנה לעשר שנים למאה שנים. לדעתי לא יותר.
הם חוזרים על מנטרות. שום דבר מקורי משל עצמה. זו אשת עסקים לא מדענית.
כדי לדעת מהי התקדמות המדע בתחום יש לגשת לאתרים של ברונה ושל אנדרג קרפתי.
וכן. גוגל נושכים חזק בעקב של IBM.