חוקרים ב- IBM גילו דרך חדשה לעורר תגובה חיסונית בגוף, באמצעות שימוש במשטחי גרפן (graphene) מכוסים שכבה דקה של פולימר. התגלית מוצגת במאמר המתפרסם בעיתון המדעי Nature Communications.
לצורך טיפולים בסרטן, פיתחו בעבר חוקרים טכניקות בהן מקושרת המולקולה של התרופה ישירות אל ננו-חומרים, דוגמת משטחי גרפן. השילוב בין ננו-חומרים ובין מולקולות התרופה, מסייע לרופאים להוביל את התרופה ישירות אל הגידול, שם משתחררת התרופה אל התאים הסרטניים ומסייעת במלחמה במחלה.
במאמר אותו פרסם בעבר בעיתון המדעי Nature Nanotechnology, הוכיח אותו צוות חוקרים כי ננו-תרופות דורשות שילוב עם מולקולות ציפוי, כמו פוליתלין גליקול (polyethylene glycol) על מנת ליצור תאימות ביולוגית ולמנוע נזק לתאים המקיפים את הגידול. המחקר החדש מצביע על אפשרות לפיה למשטחי גרפן זעירים המצופים בפולימר תהיה השפעה שניונית נוספת, שלא הייתה ידועה עד כה, בדמות גירוי ההפרשה של חלבוני ציטוקינים (cytokine proteins). החלבונים האלה פועלים כ”דגלי אזהרה” בגוף האדם, ומושכים לסביבת משטחי הגרפן תאים של מערכת החיסון, כמו תאי T מסייעים (Helper T Cells) המעבירים את האותות האלה הלאה – ותאיT קוטלים (Killer T Cells), המחסלים תאים נגועים.
סימולציות שבוצעו על גבי מחשב העל של IBM מדגם Blue Gene מראות כי הפולימרים הקשורים לפני השטח של החומרים הננומטריים מגבירים את תהליך האיתות הראשוני המתבצע בגוף. החוקרים מציגים הסבר אפשרי, לפיו הסימנים האלה משודרים בתוך שש שעות מרגע הזיהוי של תרופת הננו.
לדברי ד”ר רוהונג זהו, מנהל תחום מחקר החומרים הרכים במעבדות IBM, “גילינו למעשה דרך חדשה המאפשרת לרופאים להפעיל את המערכת החיסונית של הגוף ולהכניסה לפעולה, ואין מדובר במשימה קלה. הגילוי הזה עשוי להוות התפתחות עצומה בתחום הרפואה המדוייקת. אם נמקד ננו-חומרים כאלה, למשל, בגידולים או בתאים שנפגעו מווירוס – אפשר יהיה בעיקרון לעורר את פעילות המערכת החיסונית על מנת לתקוף את הסרטן והזיהומים, כבר במקור הראשוני ביותר שלהם”.
רופאים קלינאים עשויים לשלב טיפולים המבוססים על המערכת החיסונית, דוגמת ננו-טיפולים המובילים תרופות מסורתיות, המותאמות כבר למשטחי הגרפן. שילוב בין הטיפולים הננומטריים והתרופות המסורתיות ובין כושר התגובה של המערכת החיסונית של הגוף עצמו, עשוי להניח בסיס לדרכים חדשות למלחמה במחלות.
66 תגובות
יריב
הרעיון של החדר הסיני הוא שגוי, לדעתי. אבל – סרל בהחלט צודק במסקנה שלו. חסרה לו הבנה בסיסית במדעי המחשב. הוא מתאר אדם שמבצע אלגוריתם סידרתי שעונה על השאלות. זו באמת הייתה המחשבה בשנות השמונים, אז חשבו שניתן לדמות בינה ע”י תוכנת מחשב על מכונת טיורינג. ההנחה אז הייתה שלמוח שלנו כוח חישוב שקול למכונת טיורינג.
היום אנחנו יודעים אחרת. מעניין שגם אלן טיורינג בעצמו ידע את זה, וזה היה הנושא של תיזת הדוקטוראט שלו. המודל שמתואר שם הרבה יותר קרוב לתודעה שלנו מאשר מודל של מחשב רגיל. זו הסיבה שאנחנו כבר לא מנסים לכתוב תוכנה אינטליגנטית, אלא משתמשים ברשתות עיצביות.
אבל – המוח שלנו אינו סתם רשת עיצבית. יש בה שני חלקים. לחלקים האלה יש שמות כמו מוח שמאל / מוח ימין או מוח לינארי / מוח אסוציטיבי וכן האלה. לחלק השני טיורינג קרה o-machine. אני מציע שתקרא את התיזה שלו, היא מאד מעניינת.
בקיצור – הטעות, לדעתי, של סרל היא בכך שהוא התעלם מהבעייתיות של דימוי אותו חלק שני, חלק שאינו מבצע אלגוריתמים.
אלפא-גו כן בנוי בשיטה הזו, ויש לו חלק לינארי וחלק אסוציאטיבי. הוא יכול לשחק כל משחק בעולם, אבל הוא לומד בצורה שהיא מהותית שונה מהצורה שאדם לומד. אני רוצה לראות את אלפא-גו רוכב על אופניים, או מסביר לי שריח הדרים יותר נעים מריח בצל רקוב.
ניסים,
קראתי את הלינק הראשון שהבאת, מה זה לא משכנע. זו בסך הכל וריאציה נוספת למשל החדר הסיני, כאילו שבמוח שלנו המצב שונה. אם זה מה שמשכנע אותך, שיהיה לך לבריאות.
ניסים,
לגבי התולעת, כשמספר הנוירונים ברשת העצבית כל כך קטן זה לא מפליא בכלל שלכל שינוי קטן עשויה להיות השפעה דרמטית, אני לא חושב שאתה יכול בכלל להסיק מכך משהו לגבי מוח אנושי. מאות אלפי תינוקות שנולדים כל יום שהקשרים במוחותיהם שונים לגמרי זה מזה, ועדיין אצל רובם מתפתחת תודעה אנושית, מוכיחים לדעתי שהטיעון שלך לגמרי שגוי.
תודה על הלינקים, הצצתי בהם אבל נראה לי שרק אחרי החג יהיה לי זמן לקרוא אותם.
https://www.technologyreview.com/s/531146/what-it-will-take-for-computers-to-be-conscious/
http://www.rawstory.com/2016/03/a-neuroscientist-explains-why-artificially-intelligent-robots-will-never-have-consciousness-like-humans/
יריב
זה מעניין, אבל ה לא משנה את מה שאני שואל – מה הבסיס למחשבה שדווקא תודעה של אדם תתפתח במכונה כזו? הניסיון מראה שזה לא כך. בפרוייקט OpenWorm, מנסים לדמות תולעת שבמוח שלה יש בדיוק 302 ניורונים. הדרך שעושים את זה, זה ע”י דימוי של כל ניורון וניורון. אם תיקח 302 ניורונים מלאכותיים ותחבר ביניהם בצורה שונה מאשר בתולעת, לא תקבל שום דבר שדומה לתולעת. במוח שלנו עש 100 טריליון קשרים, ואנחנו יודעים שלפעמים שינויים קלים בקשרים האלה גורמים לשינויים עצומים בתודעה. ואנחנו גם יודעים שיש מיקרים שאפשר לאבד חלקים גדולים ללא שינוי (נראה) בתודעה. אז, אנחנו לא מבינים הרבה…
הנה שני קישורים קצרים (דרך הקישור שלך לא מדבר על הנושא שלנו):
יריב
זה מעניין, אבל ה לא משנה את מה שאני שואל – מה הבסיס למחשבה שדווקא תודעה של אדם תתפתח במכונה כזו? הניסיון מראה שזה לא כך. בפרוייקט OpenWorm, מנסים לדמות תולעת שבמוח שלה יש בדיוק 302 ניורונים. הדרך שעושים את זה, זה ע”י דימוי של כל ניורון וניורון. אם תיקח 302 ניורונים מלאכותיים ותחבר ביניהם בצורה שונה מאשר בתולעת, לא תקבל שום דבר שדומה לתולעת. במוח שלנו עש 100 טריליון קשרים, ואנחנו יודעים שלפעמים שינויים קלים בקשרים האלה גורמים לשינויים עצומים בתודעה. ואנחנו גם יודעים שיש מיקרים שאפשר לאבד חלקים גדולים ללא שינוי (נראה) בתודעה. אז, אנחנו לא מבינים הרבה…
הנה שני קישורים קצרים (דרך הקישור שלך לא מדבר על הנושא שלנו):
http://www.rawstory.com/2016/03/a-neuroscientist-explains-why-artificially-intelligent-robots-will-never-have-consciousness-like-humans/
https://www.technologyreview.com/s/531146/what-it-will-take-for-computers-to-be-conscious/
הקישור לא יצא לחיץ אבל אם תעשה העתק הדבק לדפדפן זה יביא אותך לדף המתאים.
ניסים,
קרא כאן בעמודים 104, 105, 106 –
https://books.google.co.il/books?id=DMqpCwAAQBAJ&pg=PA104&lpg=PA104&dq=%22the+not-so-large+number+of+neurons%22&source=bl&ots=zJF1CCEmP5&sig=hvhtaVo8VhRGwdTH0VXlqXBDGow&hl=en&sa=X&ved=0ahUKEwiYnMKiwJPUAhXCJSwKHRMKB70Q6AEIGjAA#v=onepage&q=%22the%20not-so-large%20number%20of%20neurons%22&f=false
אני לא מסכים איתך ואני לא חושב שהטענה שלי היא חסרת בסיס, אבל כבר דיברנו על כך מספיק פעמים ואני לא חושב שאנחנו מתקדמים לאן שהוא. האבולוציה כבר יצרה מוח מודע, אני לא רואה שום סיבה לחזור שוב על התהליך הזה כדי לקבל תודעה פעם נוספת. זו תהיה עבודה כפולה ולדעתי אין בזה צורך, יש לנו כבר משהו עובד חבל לא להשתמש בו.
יריב
השאלות אכן פילוסופיות, אבל זה לא אומר שלא צריך לשאול אותם 🙂
אתה יכול להפנות אותי למקור רציני שטוען שמספר הניורונים של אותו דולפין אינו נכון?
אני מסכים איתך שמבנה הגוף והסביבה חשובים מאד להתפתחות התודעה. קח תינוק אנושי ותגדל אותו ביער, אז התודעה שלו תהיה יותר קרובה לתודעה של שימפנזה מאשר לתודעה של אדם מודרני.
אבל, המרחק בין זה לבין בניית מכונה בגודל של תינוק, שאוכלת אוכל של תינוק, ותתפתח לאדם בוגר הוא עצום לדעתי.
אנחנו מכירים מעט מאד על המוח של תינוק, הרבה פחות ממה שאתה חושב. במיקרים הנדירים שמכניסים תינוק לסורק MRI, מדובר על תינוק עם בעיות ניורולוגיות קשות. ובוודאי שאף אחד לא ממהר לעשות CT לתינוק. זכור שאתה טוען שצריך להתחיל מתודעה של תינוק, דבר שאין כמעט כל מידע עליו.
הרעיון שלמכונה שיש בה 100 מיליארד ניורונים ו-100 טריליון סינאפסות תפתח תודעה, ועוד תודעה כמו של האדם, לדעתי, חסרת כל בסיס.
אני כן חושב שאם נפתח סוג של רובוט שמתרבה ועובר אבולוציה, אז ייתכן שבעתיד הרובוטים ייפתחו תודעה. אני חושב שזה יכול לקרות מהר מאד. אבל אני לא רואה סיבה לחשוב שהרובוטים האלה יחבבו אותנו, במיוחד כשהם יבינו שאנחנו מתחרים על אותם משאבים.
ניסים,
1. יש לך הרבה שאלות שחלקן פילוסופיות ואין לי תשובות להכל, אני אומר דבר פשוט נבנה את הרשת העצבית שלנו הכי דומה שאפשר למוח אנושי ונראה מה תהיה התוצאה! הפתעות זה אחד הדברים הכי מרתקים במדע אתה לא חושב?
2. אני יודע שבויקיפדיה מזכירים סוג מסויים של ליוויתן (קרוב משפחה רחוק של דולפין) שבקליפת המוח שלו יש כביכול יותר נוירונים מאשר בקליפת המוח של אדם, אבל ביררתי את העניין מתוך סקרנות והסתבר לי שישנה ביקורת רצינית על המחקר שמתוכו הסיקו את המסקנות האלו, הן כנראה לא נכונות ואין הסכמה לגביהן בקרב המדענים.
3. גם אם לליוויתן שהזכרת באמת יש מוח מפותח כמו שלנו זה לא מספיק, הוא גם צריך לחיות בסביבה דומה לשלנו, ולהיות בעל גוף דומה לשלנו. תחשוב שהיו מעבירים את המוח שלך והתודעה שלך לגוף של ליוויתן ששוחה באוקיאנוס, מה בדיוק יכולת לעשות עם זה? האם היית יכול בתור ליוויתן להפגין את האינטליגנציה שלך? האם היית יכול להשתמש בסנפירים המסורבלים שלך כדי לבנות מכשירים? או איזה משהו שימושי? אתה בטח מבין שזה קצת בעייתי…
4. בהחלט יתכן שהתודעות החדשות שניצור יחליטו למרוד בנו, אתה יודע שנעשו סרטים רבים בנושא, את שליחות קטלנית אתה מכיר? אז תפחד, תפחד מאוד 🙂
יריב
אז לפי מה שאתה אומר, לדולפין יש תודעה גבוהה יותר משל האדם. אתה חושב שזה נכון?
האם אתה חושב שבפלנטות אחרות שיש בהם חיים – תמיד תתפתח שם תודעה אנושית? אני מבין שלדעתך תודעה היא חד מימדית, כלומר היא מתחילה באמבה, עוברת דרך תודעה אנושית ואז ממשיכה למצב שאנחנו לא מכירים. אנסח את זה אחרת – אני מבין שאתה טוען שלכל שני מינים שמוחם מפותח באותה מידה, יש את אותו התודעה?
ושאלה נוספת – מה יקרה לתודעה הזו במכונה, כשתמשיך להתפתח? התודעה שלה תעבור את התודעה שלנו – אז לא יכול לקרות מצב שהיא תתחיל לבצע עלינו ניסויים, או שהיא תפעל להשתלט עלינו?
יריב
אז לפי מה שאתה אומר, לדולפין יש תודעה גבוהה יותר משל האדם. אתה חושב שזה נכון?
האם אתה חושב שבפלנטות אחרות שיש בהם חיים – תמיד תתפתח שם תודעה אנושית? אני מבין שלדעתך תודעה היא חד מימדית, כלומר היא מתחילה באמבה, עוברת דרך תודעה אנושית ואז ממשיכה למצב שאנחנו לא מכירים. אנסח את זה אחרת – אני מבין שאתה טוען שלכל שני מינים שמוחם מפותח באותה מידה, יש את אותו התודעה?
ושאלה נוספת – מה יקרה לתודעה הזו במכונה, כשתמשיך להתפתח? התודעה שלה תעבור את התודעה שלנו – אז לא יכול לקרות מצב שהיא תתחיל לבצע עלינו ניסויים, או שהיא תפעל להשתלט עלינו?
ניסים,
מה שגורם לי לחשוב כך הוא מבט פשוט על עולם הטבע, אני רואה שככל שמוחו של בעל חיים מפותח יותר ומכיל יותר תאי עצב כך התודעה שנוצרת בו גבוהה יותר.
לכן אני מסיק בדרך של היגיון שאם הרשת העצבית שנבנה תהיה גדולה מספיק כמו קליפת מוח של אדם אז זו גם התודעה שתיווצר שם.
יריב
אני מסכים שתודעה תגיח ממכונה מספיר מורכבת. אבל – מה גורם לך לחשוב שזו תהיה תודעה של אדם, ולא של דולפין, למשל?
יריב
הניורונים לא סובלים… מה, או מי, שסובל, זו תודעה.
אני לא מבין אותך – אתה לא חושב שתודעה במכונה עלולה לסבול? בוא אשאל אותך שאלה – האם כלב פצוע סובל? ברור שאתה חושב שכן, אבל מה זה הסבל הזה? הרי לדעתך התודעה היא רק תוכנה שרצה על החומרה של המוח. אז איך יכול להיות שיש סבל? איך יכול להיות שיש רגשות בכלל?
בקשר להגחה של תודעה – לזה אני מסכים. אבל אין כל סיבה לחשוב שזו תהיה תודעה של אדם. האם לדעתך יש קשר ישיר בין אינטליגנציה למספר הניורונים? וברגע שנגיע למספר הניורונים שיש לאדם, אז דווקא תגיח תודעה של אדם?
ניסים,
אוקיי, אבל זה מה שהשתמע מהדברים שלך. אז תסביר לי אם כך, מה הקשר בין זה שלא מדברים על הצד המוסרי והסבל של רשת נוירונים, ובין הבנה של תודעה? (והאמת שדווקא כן מדברים על כך הרבה)
דבר שני כבר הסברתי לך בדיונים קודמים, תודעה לדעתי בכל מקרה תתפתח ברשת בין אם נבין ובין אם לא נבין מה זה אומר בדיוק ואיך להגדיר תודעה. אם נבנה את הרשת העצבית שלנו כמו שצריך ונאפשר לה לחוות את העולם כמו ילד קטן או תינוק, התודעה תגיח מהרשת באופן ספונטני בלי שנצטרך לכוון לכך.
יריב
לא דיברתי עלייך 🙂 אני גם לא תוקף אף אחד אחר. אני מנסה לבסס את הטענה שלי, שאנחנו לא מבינים עדיין מה זה תודעה. ואנחנו בטח לא קרובים לפיתוח תודעה של אדם במחשב.
ניסים,
״אבל מה זה קשור לעניין? אין לך מה להגיד אז אתה יורד לפסים אישיים?״
והאם זה לא בדיוק מה שאתה עושה כשאתה ״מתפלא״ שאני לא מדבר על הפאן המוסרי של פיתוח תודעה במחשב? מה בדיוק ניסית לרמוז כשאמרת את זה? האם זה לא היה ניסיון להטיל דופי בחוש המוסרי שלי?
אני, אני למשל, אני האכלתי חתול פעם.
טוב… לא באמת האכלתי… זרקתי עליו חתיכה של נקניק… אבל הוא אכל את זה!
יריב
אני קרוב לצמחוני. אני חבר פעיל במספר ארגונים ירוקים, כמו ה-WWF, וטיפלתי מספר פעמים בבעלי-חיים פצועים ויתומים (למשל האכלת גורי קיפוד כל שעה במשך שבוע…).
אבל מה זה קשור לעניין? אין לך מה להגיד אז אתה יורד לפסים אישיים?
ניסים,
למה לדבר על העתיד? בוא נדבר על עכשיו. היום ישנן אינספור רשתות עצביות סובלות, סובלות מאוד. גם בתעשיית המזון (תרנגולות, פרות, כבשים…) גם בתחום הניסויים הרפואיים (עכברים, קופים…) הרשתות העצביות האלו סובלות גם כאבים פיזיים קשים וגם מצוקה נפשית קשה ביותר. האם אתה ניסים, באופן אישי, עשית משהו כדי להפסיק את הסבל הזה? האם אתה צמחוני? האם יצאת איי פעם להפגנה נגד ניסויים בבעלי חיים? מה אתה אישית עשית כדי להפחית את הסבל הזה? או שזה פשוט לא מעניין אותך?
יריב
כנראה שלא הסברתי את עצמי מספיק טוב. מה שאני אומר זה, שמי שכן מאמין שאנחנו קרובים ליצירת תודעה אנושית – הוא זה שחייב לחשוב על הסכנות מצד אחד, ועל הפן המוסרי מצד שני. עצם זה שאותם מאמינים לא מדברים על זה, מראה שאנחנו לא מבינים מה זו תודעה (לדעתי).
יש סופר מדע בדיוני מרתק שכתב בדיוק על הנושא הזה. הנה קישור לסיפור קצר שלו, שמתאר את מה שאני אומר.
http://home.sandiego.edu/~baber/analytic/Lem1979.html
ניסים,
אני לא מבין משהו, אם אתה חושב שיצירת תודעה אנושית במחשב היא דבר שכל כך רחוק מאיתנו, מדוע אתה שב ומדגיש כאן כל הזמן את נושא הסבל שעלול להיגרם לתודעה כזו? ואת הסכנות שהיא עלולה ליצור לאנושות? מדוע זה בכלל מעסיק אותך אם אתה חושב שדבר כזה לא יקרה בקרוב?
יריב
אתה טוען שאנחנו קרובים ליצירת תודעה אנושית במחשב.
אני טוען שאנחנו לא יודעים מה זו תודעה. ראיה לכך היא שיש כאלה שחושבים שזה מוסרי ליצור תודעה ואז להרוג אותה. ראיה לכך היא שיש כאלה שחושבים שדווקא תיווצר תודעה שתהיה “לצידינו”.
מה שאני מציע זה להיות צנוע, ולהפסיק להתלהב. אני בהחלט בעד מחקר ובעד פיתוח, אבל, בלי הבטחות שווא.
1. קודם כל שים לב שקפצת מנושא אחד לנושא אחר, קודם דיברת על הסבל שעלול להיגרם לרשת העצבית, ועכשיו אתה מדבר על הסכנות לאנושות.
2. ״מעבר לכך, צריך להבין שאינטליגנציה היא היכולת לפתור בעיות עם מידע חלקי, ולכן מכונה חכמה תמיד יכולה לטעות״
אבל זה נכון גם לגבי בני אדם.
3. כל הדברים שאמרת ידועים והתפרסמו מאמרים רבים בנושא (למשל דבריו של סטיבן הוקינג לפני שנה: “בינה מלאכותית מאיימת על האנושות”) אבל מה אתה מציע לעשות עם זה באופן מעשי? להפסיק לפתח בינה מלאכותית? להטיל מגבלות? מה הפיתרון שלך?
יריב
אני אומר שצריך לזכור לכבות את הגז, ולא להסתמך על שירותי הכיבויי…
אני בהחלט בעד מחקר, אבל אנחנו צריכים להיות מודעים לתוצאות האפשרויות, ואני חושב שהרצון ליצור תודעה הוא מסוכן מאד.
מעבר לכך, צריך להבין שאינטליגנציה היא היכולת לפתור בעיות עם מידע חלקי, ולכן מכונה חכמה תמיד יכולה לטעות.
כן היה נדמה שהוא אומר עורב (crow) אבל זה נשמע כאילו הוא אומר crowd, ראיתי שגם התרגום האוטומטי שם התבלבל בזיהוי המילה.
ניסים,
רבים כבר התעסקו בשאלות הפילוסופיות האלו לפנינו, אבל מה אתה מציע? שנפסיק לפתח בינה מלאכותית עד שנבין ב 100% איך עובד המוח ואיך לבנות הדמייה שלו במחשב? ואז נבנה בבת אחת הדמייה מושלמת שלו שתעבוד בלי שום בעיות?
יריב
הוא מדבר על קוף קפושון ועל עורב. הוא מדבר על בינה, ולא על תודעה, ואני חושב שהם דברים מאד שונים.
הנקודה שלי היא אחרת – אני מדבר על השלבים שלפני מימוש תודעה של אדם נבון. לפני זה – יהיה לנו תודעה חלקית – האם לדעתך זו תהיה תודעה של אדם בעל פיגור שיכלי, או תודעה של שימפנזה?
האם לדעתך זה יהיה נכון לנתק תודעה כזו מהחשמל? האם היא לא תהיה מודעת לכך שאפשר להרוג אותה בצורה כזו? אל תשכח שאנחנו מסכימים שצריכים להיות לה עיניים, ידיים ורגליים….
נראה לי שטעיתי והוא מדבר על יונק קטן אחר (לא הצלחתי להבין את המילה שהוא אומר שם, ניסים?) אבל העיקרון זהה – מבחינה אבולוציונית עברו מספר שניות בלבד מהרגע שנוצר יונק קטן עם קליפת מוח ועד שנוצרה תודעה אנושית.
שוב, הקטע שדיברתי עליו מתחיל בדקה 22:20.
הנה ההרצאה, היא ממש מעניינת ושווה לראות את כולה:
https://www.youtube.com/watch?v=eX2sb-TKOvI
הקטע שהזכרתי מתחיל בדקה 22:20.
ניסים,
ראיתי לא מזמן הרצאה מקסימה של צרפתי שמנהל חברה שמתעסקת עם בינה מלאכותית (אתן קישור ברגע שאמצא) , הוא אומר שברגע שנגיע לרמת תודעה של חולדה מהר מאד נגיע משם לתודעה/רמת אינטיליגנציה של אדם. כך קרה עם האבולוציה, ברגע שנוצרה חולדה תוך מספר שניות אבולוציוניות התפתח גם האדם.
יריב
אני מסכים איתך. לדעתך – איך יראו שלבי הביניים האחרונים, לקראת תודעה מלאה?
http://hackaday.com/2016/12/11/train-your-robot-to-walk-with-a-neural-network/
ניסים,
ברור שיהיו שלבי ביניים איזו שאלה, כל רשת עצבית שאנחנו בונים היום ומחברים לרובוט צעצוע היא שלב ביניים בדרך לשם…
יריב
אני שואל על שלבי התפתחות הטכנולוגיה. השלב הסופי ידוע – תודעה של אדם בריא ואינטליגנטי. אני שואל על השלבים שלפני זה.
לא הבנתי, אתה שואל לגבי שלב הפיתוח של הטכנולוגיה הזו? או על הגירסה הסופית כשנרצה לבדוק אותה?
יריב
אתה לא חושב שהמכונה הזו תיבנה בשלבים, כלומר לא יהיו בהתחלה גרסאות “ראשוניות”?
לא ניסים, כמובן שזה לא יקרה בבת אחת, המודעות תתפתח ברשת העצבית בהדרגה ככל שהיא תחווה את העולם ותלמד לפעול בו דרך הגוף שהיא מחוברת אליו.
בדיוק כמו התודעה שמתפתחת לאט לאט ובהדרגה במוח של תינוק.
יריב
אתה חושב שבבת-אחת תצמח תודעה של אדם בעל אינטלגנציה גבוהה, או שיהיו שלבים לפני זה?
ניסים,
אני לא מדבר על העברת תודעה קיימת (שלך למשל) לתוך גוף רובוטי, אלא על מוח גולמי שעדיין לא עיצב את עצמו שיתפתח לאט לאט בתוך גוף סינטטי. לכן נתתי את הדוגמה של תינוק שלאט לאט לומד לשלוט בגופו.
אני לא מסכים איתך שצריך להתחיל עם גוף של תינוק, זה בהחלט יכול להיות גוף בצורתו הסופית (של רובוט בוגר) שבהתחלה כנראה יזחל על הריצפה, אבל לאט לאט כשהרשת העצבית שלו תתחיל ליצור קשרים עם הידיים והרגליים ותלמד איך להפעיל אותם היא תצליח לעמוד וגם ללכת ולרוץ.
אני לא מתעלם משלבי הפיתוח, כבר מהתחלה המוח הקוגנטיבי יהיה מחובר לגוף וילמד לשלוט בו, באותו אופן שהרשת העצבית של DeepMind למדה כיצד לשלוט בפקדים של עשרות משחקי מחשב והגיעה לרמה של שחקן מקצועי.
יריב
אני חושב שאתה מבלבל בין מספר דברים.
אם אתה רוצה להתחיל ממוח של תינוק, אז תאלץ גם לבנות גוף של תינוק. למשל, אנחנו יודעים ששלב קריטי בהתפתחותו של תינוק הוא הזחילה. המוח משתנה פיסית במהלך השנים הראשונות, וגם את זה תצטרך לדמות בצורה טובה.
אם אתה חושב שניתן לקחת תודעה של “יריב”, תצטרך לדמות בצורה טובה את כל גופך. המוח יכול לתקן דברים קטנים, אבל אין סיבה לחשוב שהוא יכול להסתדר עם גוף חדש לגמרי, כולל כל החושים.
והכי חמור בעיני – אתה מתעלם מכל שלבי הפיתוח. נתק מאדם את החושים שלו – והוא יאבד את שפיות דעתו תוך זמן קצר. אם יחסרו לו איברים הוא עלול לסבול מכאבי פאנטום. אם המוח “יגלה” איברים לא מוכרים – הוא יסבול מ”זנומליה”, תופעה שבא אדם מרגיש שאיבריו אינם שלו.
בגלל זה אני מסכים אם דויטש שאנחנו בכלל לא מבינים מה הבעיה….
ניסים,
אני לא מזלזל בו ואני מבין שהוא פיזיקאי מאד מוערך בתחומו עם תרומות חשובות בנושא של מיחשוב קוונטי, אני רק לא חושב שהמומחיות הזו מאפשרת לו לתת חוות דעת מקצועית בתחום של רשתות נוירונים ובינה מלאכותית.
לגבי שאלתך אני חושב שהמוח שלנו מספיק גמיש שהוא ידע להתאים את עצמו כמעט לכל גוף רובוטי שתחבר אליו. אני לא רואה בזה ״הדמיית מחשב״, זה לא המאטריקס אתה לא תחייה בתוך מחשב, אתה תחייה בעולם הפיזי האמיתי שבו אתה חי עכשיו רק שהמוח שלך יהיה בנוי משבבים קוגנטיביים במקום מוח ביולוגי, והגוף שלך גם כן לא יהיה ביולוגי אבל אתה תוכל להרגיש דברים, לראות דרך מצלמות וכו׳.
המצב שאתה מתאר דיי דומה למוח של תינוק שרק נולד, לוקח לו זמן עד שהוא לומד להתאים את עצמו לגוף שמחובר אליו, והרבה פעמים זה גם יכול להיות גוף פגום למשל גוף בלי ידיים או רגליים, עיוורון וכשלים נוספים.
יריב
המוח שלנו הוא בוודאי מכונה – את זה בדיוק הוכיח דויטש (למרות שזלזלת בו….). אבל, המוח שלנו אינו מחשב – להבנתי אפילו אלן טיורינג חשב ככה. לדייק – המוח שלנו אינו שקול למכונת טיורינג אוניברסלית.
אבל לא זו הנקודה. אני שואל – איך תרגיש כשתדע שאתה הדמייה בתוך מחשב? ואל תשכח – אנחנו לא מתחילים במצב של הדמייה מושלמת. אתה לא מוח בתוך גוף רובוטי זהה לחלוטין לגוף שלך. וגם אם כן – איך אתה מוודא שיש תיאום בין הגיל של התודעה לגיל של הגוף?
ניסים,
למה להניח? המוח שלנו הוא בדיוק המחשב ״המפלצתי״ והעוצמתי שאתה מדבר עליו, ואני מרגיש מצויין לשכון בתוכו.
נ.ב – מי שבדרך כלל מתעצבן ותוקפני כאן זה אתה…
יריב
בוא נניח שהתודעה שלך שוכפלה ועכשיו אתה “שוהה” בתוך איזה מחשב מפלצתי. בלי להתעצבן כהרגלך, נסה לחשוב – איך היית מרגיש?
תיקון – עם כל הכבוד לדויטש אני לא חושב שתחום המומחיות שלו בפיסיקה מאפשר לו לחוות דעה מקצועית בנושא של תודעה או בינה מלאכותית. זה התחום של חוקרי מוח ואנשים שמתעסקים עם בינה מלאכותית ורשתות נוירונים, זה לא התחום של מי שמתעסק עם פיסיקה קוונטית.
ניסים,
עם כל הכבוד לדויטש אני לא חושב שתחום המומחיות שלו בפיסיקה מאפשר לו לחוות דעה מקצועית בנושא התודעה. שפה היא בהחלט קריטית עבור יצירת תודעה גבוהה כמו שלנו אבל אמרתי לך את זה כבר מיליון פעם בעבר וגם הסברתי לך שצריך לעשות עוד כמה דברים חוץ מלחבר יחד 100 מיליארד נוירונים, חבל אנחנו סתם טוחנים מים.
יריב
דויטש יודע יותר מכל אדם חי היום מה מחשב מסוגל לעשות. אתה באמת רוצ להתווכח דווקא על זה?
אתה חושב שאנחנו מבינים מה זה תודעה? את יכול לתת לי הגדרה? אשאל שאלה פשוטה – האם צריך, לדעתך, שפה עבור תודעה? האם למישהו שיודע שתי שפות יש יותר תודעה? האם לחירש-אילם אין תודעה?
אתה חושב שאם נחבר 100 מיליארד ניורונים אז נקבל תודעה של אדם. אבל, אתה יודע שחיברנו 1000 ולא קיבלנו תודעה של תולעת.
אז על מה אתה מסתמך?
אלפא-גו זו לא רשת ניורונים שמשחקת גו! יש בה גם רשת ניורונים….
ירון,
הנה מאמר שאולי יעניין אותך בהקשר לעתיד:
http://www.tapuz.co.il/blogs/viewentry/1065939
ניסים,
אולי תסביר לי בבקשה איך ההתמחות של אדון דוד דויטש בפיזיקה ובתורת הקוונטים מאפשרת לו לחוות דעה כל כך נחרצת על תחום שבו אין לו שום מומחיות כמו רשתות נוירונים, פעולת המוח ובינה מלאכותית? למה מישהו צריך לתת לדעה שלו משקל רב יותר מדעתם של חוקרי מוח, רשתות נוירונים ובינה מלאכותית שחושבים שהדבר כן אפשרי?
מצחיק שהוא טוען שבמשך עשורים רבים לא חלה שום התקדמות בתחום הבינה המלאכותית… כי מאז שהוא פרסם את המאמר חלה התפתחות שרבים מגדירים כמטאורית בתחום הבינה המלאכותית, בעיקר בזכות שימוש הולך וגובר ברשתות עצביות עמוקות במקביל לעלייה בעוצמת המחשבים. ישנן דוגמאות רבות מהשנים האחרונות למקרים בהם תוכנת בינה מלאכותית (מבוססת רשת עצבית) ביצעה מהלכים יצירתיים שאפילו אלה שפיתחו את הרשת לא העלו על דעתם שניתן לבצע אותם (נתקלתי במספר דוגמאות כאלו למשל בתחום משחקי המחשב, או במשחק גו).
טרחתי לקרוא את המאמר שקישרת אליו, פרט לכך שהוא טוען שזה ״בלתי אפשרי״ (כי רק לאדם יש כביכול את היכולת ליצור רעיונות חדשים שלא הוגדרו מראש ע״י מתכנת) הוא לא נותן שום ביסוס רציני לטיעונים שלו, אז הוא אמר.
עדיף שימשיך להתעסק בפיזיקה ומכניקה קוונטית ויתן למומחי הבינה המלאכותית וחקר המוח לבצע את מלאכתם.
יריב/ירון
דוד דויטש הוא פיסיקאי שהוכיח שניתן לדמות כל תהליך פיסיקלי בעזרת מחשב. הוא גם מאבות המחשב הקוונטי. אז, אפשר להניח שהוא מבין משהו במחשבים נכון?
אז, בבקשה, אני מציע שתיקראו את דעתו על בינה מלאכותית. גם עליו תלגלגו? 🙂
https://aeon.co/essays/how-close-are-we-to-creating-artificial-intelligence?utm_source=Aeon+Newsletter&utm_campaign=ac75a42213-EMAIL_CAMPAIGN_2017_05_16&utm_medium=email&utm_term=0_411a82e59d-ac75a42213-69476645
יריב: יש נוירונים שכילדים אין בהם מידע או יש בהם מידע אבל הוא לא נשאר אותו, וכמבוגרים עד גיל 26 מתבצע תיכנות שלהם. הויכוח לא כזה מהותי להתעקש מולך. כלומר במהלך החיים כשנאמר שאישיותינו מתעצבת, הנויורונים שלנו מיתכנתים בתבניות ידע.
יריב. אני מסכים איתך. המציאות תכה על פני העקשנים.
נוצרים אבל תקדימים מסוכנים. בעוד אני נאבק לקבל כוח חישוב של 1000 נויורונים מיושמים בתוכנה, והפלטפורמה שעומדת לרשותי היא core i7 עם מעבד של NVIDIA (זו לא פרסומת), פחות מזה החישוב קורס לי, בcore i5 עם כרטיס גרפי של אינטל, יותר מ 200 נויורונים לא מצליח.
ב IBM עם השבב סינפס יש להם בחומרה 300,000 נויורונים בחומרה, והם מרכיבים מחשב על מאלפי שבבים.
כנ”ל גוגל. אני חש שהפער בכוח חישוב בין חברה פרטית ומימסד לבין אדם פרטי. הפער התרחב. וזה מצמצם את חירות הפרט לעשות משהו. אני מנסה להשיג חישוב מבוזר על שרת עם 6 ליבות ויותר מכרטיס גרפי יחיד.
בעתיד רחוק יותר, 30 שנים או פחות, כמו שהערכת, זה יהיה עולם מאתגר בלשון המעטה. אפוקליפטי כמו המחסל או מטריקס, או שבני אדם ילמדו לחיות לצד יצורים מודעים שהם תכננו.
יוסף/ירון,
קודם כל אין דבר כזה ״נוירונים פנויים״ במוח, כל הנוירונים בשימוש רק שהקשרים ביניהם משתנים כל הזמן ויוצרים זכרונות חדשים (לפעמים על חשבון זכרונות ישנים).
דבר שני אותי אתה לא צריך לשכנע, אני מאד משוכנע שלא יקח עוד הרבה זמן (25-30 שנה גג) עד שיהיו ברשותנו מחשבים בעלי רמת אינטליגנציה גבוהה יותר משלנו ושתהיה להם גם תודעה שאינה שונה בהרבה משלנו. יש כאן כאלו שלא מסכימים אבל אני חושב שהמציאות תטפח על פניהם.
דרך אגב מספר המעבדים לא צריך להיות שווה למספר הנוירונים כי בשל מהירותו הגבוהה מעבד אחד יכול לדמות מספר תאי עצב ולא רק אחד.
יוסף
מי שאומר שאם יש לנו מספר מעבדים כמספר הניורונים במוח, אז תתפתח תודעה אנושית – הוא מנסה למכור משהו (או לזכות בכספי מענק…).
לרעיון הזה אין שום ביסוס. להיפך – יש מספיק ראיות לכך שזה לא נכון. במוח של תולעת מסויימת יש 959 ניורונים – אנחנו יודעים שצריך הרבה יותר מ-959 מעבדים לדמות את המוח של אותה תולעת.
צר לי – אבל אין כאן מקום לויכוח…
יריב. הלכתי עם המגיבים פה לשיטתם. בטכנולוגיה שיש היום, באמצעות השבב שפותח ע”י IBM היום (סינפס), ומערכת התוכנה, יידרשו 28,333 שבבים על מנת להגיע ל-85 מיליארד.זה קצת יותר ממה שהטכנולוגיה יכולה להכיל. אילו הייתה צריכה להכיל 4,000 שבבים במחשב על אחד היינו מגיעים ל-1.2E7 נוירונים, פי 7 פחות ממוח אדם לשיטתכם. המתווכחים שיש במוח 15 מיליארד נוירונים – לא עקרוני לצורך הדיון.
גוגל הבינו לאן נושבת הרוח ולהבנתי פיתחו ומוכרים טכנולוגיה דומה לרשתות עצביות. עלי לקרוא יותר על מנת להבין.
מי שטוען שלא בטוח שרשתות עצביות מלאכותיות מדמות רשתות עצביות, או שתפתחנה תודה – הולך על התחום הבטוח. כלומר שלא הוכח עדיין שנגיע לשם. זה נכון כדוגמה, אבל מדענים עמלים להוכיח שזה יקרה.
להשקפתי כמי שעובד עם נוירונים, זה יקרה. הרשת תהיה לדעתי, ולא הוכח עדיין לאלה שהולכים על הדוגמה הבטוחה, מודעת לעצמה. אני עובד עם 200-1000 נוירונים ומגיע לביצועים שמפתיעים אותי.
היתה באתר סידרת מאמרים, שאנו בשלב ראשון מתוך 3, אינני מתכוון לסתור אותה.
אבל כאשר בונים מחשב צבאי ל NSA, ומפקידים בידיו חיי אנשים ומערכות קריטיות, מן הראוי לא להמתין ולראות אם המחשב יהיה מודע לעצמו, ואז יחליט שהוא לוקח פיקוד. עיין הסידרה המחסל עם שוורצנגר.
אני אתמקד בתחום העיוני בלבד. יש כאלה שבונים מוח במעבדה. נתתי דוגמאות בלבד ל-2 מדענים: פרופסור מיכאל אלעד שהוציא לאחרונה עם הדוקטורנט ורדן פפיאן, 3 מאמרים שאני ממליץ לקרוא, בכותרת work locally think globally אשר מבארות מתימטית, כיצד עובדות רשתות נוירונים רבודות (convolutional neural networks). אותן רשתות כאשר נותנים להם לפענח ברובוט של GOOGLE תמונות שלך הן עושות זאת בדיוק רב ממך וממני, וב-60 משימות טכניות שבהן הן למדו מאפס, הן מגיעות לביצועים גבוהים משל בני אדם. IBM מוכרת יישומים לחיזוי צריכה, לפענוח תמונות סרטן ריאה, ל-NSA היא מוכרת מחשב-על למעקב וחיסול טרוריסטים. במקביל מפתחת IBM מחשב על אחר,
קוונטי. גודלו בשלב ראשון בהיקף כ-900 קיוביטים יהיה כמה קומות. כל קיוביט יהיה מקורר חנקן נוזלי, ולייזרים יבצעו שזירה קוונטית בין הקיוביטים. גם שם היקף החישובים שהמחשב יבצע במקביל יהיה באומדן בלבד 900^2 = 8E270, עולה על כול מחשב על קיים היום. מלבד מיכאל אלעד וורדן פפיאן, ישנו מדען איטלקי במקור גיוליו טונוני, שגם מאמרים שלו ניתן להוריד, והוא פיתח בעשור האחרון תיאוריה כמותית של היווצרות תודעה. הוא עושה שימוש בפיזיקה סטטיסטית ופיזיקה של חומר מעובה. בעבודתו העיונית הוא מראה שכאשר כמות הקשרים בין המרכזים העצביים חוצה סף מסויים, מתרחש שינוי “תודעתי” – מעבר פזה בפיזיקה. הרשת מבינה גלובלית ולא רק בהיקף הקודם, ונוצרת רמה חדשה של תודעה. לפחות טונוני סבור כך. טונוני גם מדד חישובית את רמת התודעה שלנו, והגדיר את כמות הקשרים העצביים הנחוצה.
ירון,
במוח שלנו יש 86 מיליארד נוירונים והמוח מנצל 100% מהם, מה שאמרת לגבי 1% זה מיתוס (שדרך אגב מדבר על 10%). מצד שני החלק שנחשב לזה שבו שוכנת האינטליגנציה הגבוהה שלנו הוא קליפת המוח ובה ישנם ״רק״ 16 מיליארד נוירונים.
לגבי שרשת כזו תפתח אנושיות. אין לי כוונה לנסות לשכנע. יש לפחות 2 חוקרים שעוסקים בנושא. מיכאל אלעד מהטכניון הוציא גם לפי כתבה בהידען 3 מאמרים, עם ורדן פפיאן: לעבוד מקומית, לחשוב גלובלית: כיצד רשתות נוירונים רבודות פועלות. ופיזיקאי אחר גיוליו טונוני – פיתח תיאוריה כמותית של תודעה. אינני סבור שהם בשולי המדע.
גם אם מנצל 100% מהמוח, ויש בו 85 מיליארד ניורונים ובשבב אחד 300,000 נוירונים.
שימוש בכל חלקי המוח, עדיין יש חלקים שמתפקדים כזיכרון קריאה/כתיבה. כלומר נצרבים במהלך החיים.
כלומר הגיוני לי שחלק מהנוירונים יישאר פנוי. למשל ידוע שעד גיל 26 מעוצבת האישיות וחלק עיקרי בנוירונים מתוכנת. וידוע שכל החיים, תהליך הלמידה מתכנת את הנויורונים. התהליך נקרא אימון או למידה.
נדרשים 28,333 מעבדים. אני מסכים שבמקרה זה עדיין לא ביכולתינו. 4,000 ביכולתינו ליישם כמחשב על.
ירון:
הטענה שאנחנו מנצלים רק 10٪ מהמוח (פי 10 ממה שאמרת) היא טענה בלבד. אין שום מחקר מאחוריה.
כלומר יש פקטור פי 100.
מעבר לזה מדובר על דימוי של נוירון. אין שום דבר שמצביע על זה שרשת מלאכותית בגודל כזה תפתח אנושיות. אבל למה לתת לעובדות לבלבל
ירון
בוא אתקן לך טיפה את המספרים: במוח האדם יש כ-86 מיליארד ניורונים וההערכה היא שהאדם מנצל כ-100% מהם.
אבל אל תיתן לעובדות לשנות את דיעותיך!!!
תיקון אם 300,000 נוירונים יידרשו 10,000 מעבדים לקבלת 15 מיליארד נוירונים.
תוכנות המומחה של IBM עושות שימוש בסדרי גודל פחות, וגם של גוגל.
במוח אדם 15 מיליארד נוירונים וההערכה שהוא מנצל בממוצע 1% מהם. אם בשבב יחיד יש מיליון נוירונים, יידרשו 3,000 מעבדים לקבלת כוח חישוב שווה ערך. אם יש רק 300,000 נויורונים יידרשו 3,333 מעבדים. זה בהישג יד. וגוגל משיגה את הפיצוח של כל המידע בדואר שלנו (אף אחד לא בודק שהם לא מחטטים בזיכרון המחשב. נורטון אנטי-ווירוס נותן להם), איננו מדברים על מידע טקסט, בדיוק שעולה על זה של אדם, עם מאות נוירונים בלבד. אם נדרש 1% מ 15 מיליארד זה 150 מיליון נוירונים. זה רק 500 מעבדים.
לדעתי המחשב החדש אם יכיל 4000 מעבדים, יהיה נבון יותר מאיתנו למרות כל הכתבות על בינה מלאכותית כאן שאנו רחוקים מהנקודה הסינגולרית עשרות עד מאות שנים. אינני פותח לדיון. ממה שאני רואה באקדמיה לא רחוקים כמו שחושבים. המחשב הזה נקנה כבר, עוד בתהליך הפיתוח שלו, על ידי NSA למטרות צבאיות של מעקב וחיסול טרוריסטים. מזכיר את הסידרה המחסל עם ארנולד שוורצנגר. גוגל מפתחת אותו דבר בדיוק.
איך זה שאין תגובה על דברים שהם לא בנושא חומר אפל. זו פריצת דרך ענקית, שתשפר את הדור
החדש של תרופות גנטיות. מאמץ של עשרות מיליארדי דולרים מושקע היום בתרופות מעוררות מערכת חיסונית.
כאן זה חידוש איך לשפר את העירור של המערכת חיסונית, ואיך למנוע תקיפת התאים ליד.
המאמר כולו להורדה ב
https://www.nature.com/articles/ncomms14537
יפה מצידם. זה עולה הרבה כסף בד”כ. IBM שילמו אולי ל NATURE לפתוח את המאמר לציבור.
צעד נכון. IBM מפתחת 2 מחשבי על מבוססים על טכנולוגיות שונות ומוכרת את המוצרים לחברות מו”פ.
מחשב קוונטי – הראשון יהיה בגודל בניין 4 קומות, צפוי שמיזעור ייכנס בהדרגה. מחשב רשתות נוירונים. מבוסס על השבב סינפס שמכיל כמיליון נוירונים בחומרה. אני בחישובי האקדמיים מבצע חישובים עם 1000 נוירונים וכל מה שאינו core i7, וכרטיס NVIDIA GPU, קורס.
גוגל הבינו שנשארו שם מאחור ומוכרים את אותו מחשב על שהעתיקו מ IBM.
יש כאן עוד נקודה סופר חשובה. חברות מגה: גוגל, IBM, אינטל, טסלה משקיעות במו”פ בסיסי. חברות ענקיות של פעם נידרסו וקרסו: HP. רק חברה שעשתה הון כסף, ועם מאגר עצום של חוקרים מעולים מהאקדמיה מנצחת במירוץ. אנחנו הציבור ישנים בעמידה. הכסף נעשה דרכינו בלי שאנו מרגישים בכלל. גוגל נותנת
שירותים בחינם: מערכת OFFICE חינם, דואר חינם, GOOGLE EARTH למפתחים. המחיר. הרובוט שלהם יודע הכל עלינו.