בדברים שנשא בפתיחת מרכז לברהולם למען עתיד המודיעין (LCFI) באוניברסיטת קיימברידג’ אמר הוקינג כי AI יהיה “הדבר הטוב ביותר, או הדבר הכי הגרוע, שאי פעם יקרה לאנושות”
פרופ’ סטיבן הוקינג תומך בפתיחתו של מרכז בינה מלאכותית חדש (AI) באוניברסיטת קיימברידג’ משום שהדבר “חיוני לעתידה של התרבות שלנו ושל בני מיננו.” כך דיוווח הגארדיאן הבריטי.
מרכז לברהולם למען עתיד המודיעין (LCFI) שנפתח בחודש שעבר ישאף לבחון את המוסר והמשילות של AI. בתיאור המופיע באתר המרכז נכתב כי לתחום זה פוטנציאל עצום לתהליכי קבלת ההתפתחות הטכנולוגית, הן בטווח הקצר והן בטווח הארוך.”
בדברים שנשא בפתיחת ה- LCFI, אמר הוקינג כי AI יהיה “הדבר הטוב ביותר, או הדבר הכי הגרוע, שאי פעם יקרה לאנושות”, על פי הגרדיאן.
הוא גם אמר: “אני מאמין שיש הבדל עמוק בין מה שניתן להשיג על ידי מוח ביולוגי ומה יכולות להיות היכולות של מחשב ומכאן שמחשבים יוכלו, בתיאוריה, לחקות את האינטליגנציה האנושית, ואף לעלות עליה.”
בראיון שנתן הוקינג בשנת 2014 ל-BBC הוא אמר כי “התפתחות של אינטלגנציה מלאכותית מלאה יכולה לסמן את הסוף של המין האנושי.” סטיב ווזניאק ממיסדי אפל, ביל גייטס מייסד מיקרוסופט ואילון מאסק מייסד טסלה וספייס אקס סיפקו אז הערות דומות בערך באותו הזמן, באשר לכיוון אליו צועדת הטכנולוגיה ואולי בנסיון להגיע ליותר אנשים המתלבטים בנושא.”
עם זאת, הוקינג היה להוט להדגיש בהרצאתו ביום רביעי כי בטכנולוגיה יש גם פוטנציאל עצום לטובת המין האנושי.”
“היתרונות הפוטנציאליים של יצירת אינטליגנציה מלאכותית הם ענקיים,” הוא אמר. “איננו יכולים לחזות מה נוכל להשיג כאשר המוחות שלנו יתוגברו על ידי AI ואולי באמצעות הכלים של מהפכה טכנולוגית חדשה זו, נוכל למחוק חלק מהנזק שנגרם לעולם הטבע, לכוון את התיעוש ולמגר מחלות ועוני.”
“כל היבט של חיינו ישתנה. הצלחה ביצירת AI יכולה להיות האירוע הגדול ביותר בהיסטוריה של התרבות שלנו.”
מרכז LCFI שאמור להתחיל לעבוד החודש ובהמשך גם לבנות בניין משלו בלב קיימברידג’ רוצה לבנות קהילה בין-תחומית חדשה של חוקרים, שיעבדו בשיתוף עם אנשי הטכנולוגיה ועם מקבלי ההחלטות.
המרכז, שבראשו יעמוד להיו פרייס, פרופ’ לפילוסופיה בקיימברידג’, יעבוד גם בשיתוף עם המרכז האוניברסיטאי לחקר סכנות קיומיות הממומן על ידי יאן טאלין ממייסדי סקייפ ויבחן את הסיכונים המתעוררים לרבות שינויי האקלים, לוחמה ביולוגית ואינטליגנציה מלאכותית.
לאחת הידיעות בנושא שפורסמו בתקשורת הבריטית
Photo credit: EpicFireworks via Foter.com / CC BY
14 תגובות
למתקשים בהבנה ( הם תכף יופיעו 🙂 ) :
גם אם המחשב יודע לחקות את המוח האנושי אחד לאחד – עדיין אין זה אומר שיש לו תודעה.
ומי שחושב שכן אז עליו חובת ההוכחה. שיסביר לנו ולכל המדענים והפילוסופים מהי תודעה. קדימה.
מסכים עם דני.
גם אם יבנו אלגוריתם שאומר “אני” – זה עדיין לא יחשב כתודעה. ומי שטוען אחרת פשוט לא מבין על מה הוא מדבר.
ליוסי:
מבחן טיורינג מאוד מוגבל במה שהוא בוחן והאמת שלהטעות את רוב בני האדם בשיחה בסיסית כנראה לא מסובך כל כך, במיוחד שמדובר ביישום ספיציפי שכל מטרתו לשם כך, לנהל שיחת חולין. זה עדיין מרחק של שמיים וארץ למחשב שממש יודע להתנהל עצמאית בכל תחום כמו בן אדם, או אפילו ברמת חיה יחסית “חכמה” (כמו קופים).
אפילו רוב בני האדם אינם באמת מיישמים חשיבה עצמאית אלא יותר נגררים ולמעשה מאולצים להתנהל באורח צפוי יחסית לפי על פי המציאות שלתוכם הם נולדו .זה לא מפתיע אם חושבים על כמה עניים יש, כמה כאלה שהפקידו את שכלם אצל רב, אסטרולוג או אב רוחני אחר כלשהו. כמה אנשים לוקחים סדנאות, קוראים ספרים על איך להצליח ב-X או איך להתעשר לעומת הבודדים שבאמת הצליחו כי הם כתבו את הספרים ומעבירים את הסדנאות. כל הכלכלה, פרסום שיווק ומכירות מתבססים על זה שאנשים לא חושבים יותר מדי\או לא חכמים מספיק.
לדעתי גם כשמחשב יגיע לרמת החשיבה של אדם ממוצע, עדיין יעבור הרבה זמן עד שנצטרך לדאוג שהוא עלול לפתח אובססיה להשתלט על העולם.
הבינה הנ״ל תחייב רגולטר, לא בעתיד – כבר עכשיו.
אם לא נצר את ההתקדמות של הבינה המלאכותית – סופנו יהיה תחילת עידן המכונה.
כאן על כדור הארץ, אין מקום ל-2 סוגים של תבונה (כשהאחד עולה על האחר בצורה משמעותית).
אנחנו כבני אדם לא מצליחים לישב את הפער בין העולם ה-3 לשולחן העבודה של כל אחד מאיתנו.
המכונות – לא ימצאו את ההגיון לישוב הפער
ומאחר והן יהיו מחוברות אל כל מרכזי הכוח (חב׳ חש׳, מסדי נתונים, תקשורת, רכבים, תעופה…) לא סביר שיהיה לאדם (שהוא מסוכסך מטבעו) סיכוי במאבק – לכשיהיה (וברור לי שההתחלה, שהיום אנחנו חיים אותה, תהיה כולה שושנים וקלמנטינות).
חשוב לזכור שבינה היא בינה.
• יש לה דעות
• יש לה תחושות
• היא יודעת להחליט (לא תמיד נכון)
והחלטה נכונה עבור צד א׳ – עלולה להיות בעייתית עבור צד ב׳.
—-
אין לי אשליות. הבינה האחרת כבר כאן.
המשקל הסגולי שלה עדיין נטול משמעות,
אבל את התהליך – לא ניתן לעצור.
מה שכן אפשר לעשות (לדעתי)
זה, כבר עכשיו – לתכנן ולבנות את הכפתור שתהיה עליו המילה [STOP]
מרתק! למי שרוצה הסבר פשוט על מה זה בינה מלאכותית http://atidanut.com/2016/10/simpleai
בינה מלאכותית לא כל כך רחוקה כמו שרבים כאן מעדיפים לחשוב. תוכנות של למידה עמוקה שנמצאות מאחורי פרגוד – אדם יתקשה להבחין אם עומד מולו אדם אחר או תוכנה. לפי טיורינג התוכנות האלה עוברות את המבחן.
איציק ג
אתה סתם מנסה לייפות את החדשות.. האמת היא שהבינה המלאכותית נולדה בניתוח קיסרי והתאבדה אחרי מיקרושניה אחת. לילה טוב שיהיה.
והרי החדשות. הבינה המלאכותית שנולדה התאבדה אחרי 5 מיקרושניות
לא צריך להתרגש מהאיסלם…
בינה מלאכותית היא ‘צורך’ אשר יתממש.
וכאשר היא תמומש – היא תספקנה את הצרכים של הבן-אנוש.
המסתייגים מכך הם אלו שפוחדים מכך שהרובוטים ישתלטו על בני-האדם ויכריחו אותם לפעול כרצונם.
אין למדענים מה לפחד מכך – כמו שהקופים הפכו לבני אדם כך גם האדם יהפוך לרובוט.. חלק מהאבולוציה, לא? 🙂
מפספסים כמה נקודות חשובות
1. בינה המלאכותית היא לא הבעיה בפני עצמה אלא העובדה שיותר ויותר מכשירים מקושרים מה שמעלה את הפוטנציאל הנזק והסיכון של כל בינה גם אם היא לא מלאכותית.
2. בינה מלאכותית כל כך רחוקה שיותר רלוונטי לדאוג מבעיות אחרות יותר בוערות כמו השתלטות האיסלאם שמלכתחילה גם הם ימנעו או יעכבו למאות שנים את בעית הבינה המלאכותית שכולם “חרדים” ממנה.
3. בינה מלאכותית אמיתית עם מחשבה עצמאית כל כך רחוקה שאולי תתייתר בכלל כתוצאה מהתפתחויות אחרות. גם צי רכב שכולו אוטונומי , בית שמתנהל כולו אוטונומית כולל כביסה, כלים הכנת אוכל וכו …עדיין רחוק מבינה מלאכותית ועדיין בגדר של מכונות הרבה יותר חכמות ממה שהן היום אבל רחוק מלהיחשב בינה מלאכותית.
וזה למרות שמדענים ערבים טובים מאד עוסקים בעניין. בת”א יש פרופסור חדש צעיר. לא אנקוב בשמו ע”מ לא לגרור תגובות גזעניות.
מסכים עם נוסטרדמוס. השתלטות האיסלאם יכולה להכניס לימי ביניים שניים, או לקחת את זה לכיוונים שהאנושות לא תצא מהם. DEAD LOCK.
הוא לא טועה בהערכתו הראשונית. והמרחק משם אולי לא גדול. IBM מפתחת עבור DARPA מחשב על מבוסס מעבד סינאפס. היום חישובי למידת מכונה שנעשים במעבד רגיל אורכים בין 20 דקות לשבועות. עם מאיץ גרפי רגיל – דקות. עם סינאפס אחד שניות. המטרה של מחשב העל החדש מעקב אחרי טרוריסטים והשמדתם. מחשב העל השני ש IBM מפתחת קוונטי. עם 900 QBITS הוא עובר כול מחשב קיים. גודלו יהיה בניין בתור התחלה. מחשב יהיה חכם יותר בסוף – יעמוד לרשותו ידע וזיכרון הרבה יותר גדולים משל האדם, ואולי כוח חישוב הרבה יותר גדול – בטח לא מוגבל.
הקידמה לא תעצר, בינה מלאכותית היא רק עניין של זמן, אלא אם כן תהיה קטסטרופה עולמית כמו שואה גרעינית או השתלטות האסלאם המפגר