סיקור מקיף

מהי הבינה אותה רוצים למכן?

לדברי פרופ' כרמל דומשלק, חוקר מערכות תומכות החלטה מהפקולטה להנדסת תעשייה וניהול בטכניון, "הזינוק בהתפתחות התחום נובע מהמעבר מאלגוריתמים ייעודיים לכל בעיה, לאלגוריתמים כוללניים יותר"

אילוסטרציה: pixabay.
אילוסטרציה: pixabay.

"בינה מלאכותית היתה החלום של עולם מדעי המחשב עוד בתקופתו של אלן טיורינג שניסח את מבחן טיורינג המפורסם (תבונה מלאכותית שמטעה את המשתמש במחשב לחשוב שבצד השני יש אדם, מבחן שאף מחשב לא עבר עדיין – א.ב.) לאחר מלחמת העולם השניה. טיורינג ראה מכונות חישוביות ממלאות פונקציות שבאותה תקופה מילאו אותם בני אדם", כך אמר פרופ' כרמל דומשלק, חוקר מערכות תומכות החלטה מהפקולטה להנדסת תעשייה וניהול בטכניון.

לדבריו, "ב-1956 התכנסה קבוצה של חוקרים אמריקנים ובהם חתן פרס נובל לימים, הרברט סיימון, וקלוד שנון, מייסד תורת האינפורמציה. ההשערה שלהם היתה שכל פעילות שמצריכה אינטליגנציה של בני אדם ניתנת לתיאור למכונה, ואם כן הבה נשיג את זה".

"השאלות שעלו הן 'מה זו פעילות שמצריכה אינטליגנציה? מה זו בינה בכלל? לאיזו פעילות שאנחנו עושים אנחנו צריכים בינה ולאיזה פעילות אנחנו לא צריכים בינה?' ולעולם לא הגיעו להגדרה מדויקת מהי הבינה שאנחנו רוצים למכן".

אם חושבים על גולם, אמר דומשלק, "מה אותו גולם מסוגל לעשות? הוא צריך איכשהו לייצג ידע. ברגע שמישהו אמר לי שאבי הוא כתב באנשים ומחשבים, עכשיו יש לי ידע והוא מאוחסן אצלי בראש. שנית,  אותו גולם צריך להיות מסוגל להסיק מסקנות חדשות על בסיס הידע שיש לו. לדוגמה אם אמרו לי שאבי הוא כתב באנשים ומחשבים ואמרו לי שאנשים ומחשבים זה כלי תקשורת, אני יודע שאבי הוא כתב בעיתון. אף אחד לא נתן לי את הידע בצורה ישירה. גם לא קראתי בשום מקום שאבי הוא כתב בעיתון. לקחתי פיסת ידע שהיתה לי עם עוד פיסת ידע שהיתה לי והשגתי ידע חדש".

לדבריו, "הידע הבסיסי לא יבוא יש מאין, צריך איכשהו לרכוש אותו. רכישת הידע הבסיסי היא בעצם למידה. כבני אדם אנו רוכשים ידע באמצעות קריאה, הסתכלות, ניסיון. ברגע שילד נתקע בפינה של השולחן פעם, פעמיים, שלוש, הוא לומד בלי שמישהו יגיד לו שכדאי להיזהר. יש הרבה מאוד דרכים ללמוד. יש הרבה דרכים לבצע חישה. ויש גם מורים שמלמדים אותנו ואנחנו לוקחים את הידע ומאחסנים אותו".

בנוסף, אמר, "אותו גולם צריך לקבל החלטות. אותו גולם צריך לנסח לעצמו/ להשיג/ לקבל מבחוץ מטרות אליהם הוא צריך לשאוף, לסדר אותם בין מטרות לטווח קצר ולמטרות לטווח ארוך, להחליט על החשיבות היחסית של המטרות האלה ובסופו של דבר להחליט על פעולות שהוא הולך לבצע כדי להשיג את אותן מטרות שהוא מחליט להשיג".

"ולבסוף, עליו לדעת להסתדר בעולם. מכיוון שהגולם שלנו לא חי בוואקום, אותו גולם צריך לקבל את ההחלטות שלו לא רק לאורך המטרות שלו אלא גם לאורך המטרות וההתנהגות של מה שהוא חושב על מטרות של גלמים אחרים וגם בני אדם. הוא צריך להתנהל בחברה מה שמביא את הבעיה להרבה יותר מסובכת. יש הבדל בין לנהוג בכביש ריק ובין לנהוג בכביש עם מכוניות אחרות, ובמיוחד עם מכוניות שרוצות להרוג אותך".

לשם כך, הסביר פרופ' דומשלק, "מערכת בינה מלאכותית דורשת אמצעי חישה מעולם השמע, הטקסט ולתקשר עם בני אדם. אלו מנגנונים שכל אחד בפני עצמו מהווה תחום שלם כגון עיבוד שפה טבעית, ראיה חישובית, זיהוי המלל וזיהוי צלילים. כדאי שאותו גולם יזהה את הצליל של צופר כי יש מצב שהולכים לדרוס אותו. מהצד השני יש את כל עולם הרובוטיקה – העולם הפיזי המערב הנדסת מכונות והנסת חשמל. צריכה להיות לו מקבילה להנעת איברי הגוף אצל בני אדם".

עד סוף שנות ה-80, אמר הפרופ', "החוקרים לקחו בעיה כגון משחק דמקה או זיהוי פירות בתמונה, ופתרו אותה באמצעות פיתוח אלגוריתם לבעיה הזו וכתיבת תוכנה שמממשת את האלגוריתם הזה. את הידע על הבעיה – מה זה תפוח, איך הוא נראה, או איך עדיף לשחק דמקה – הזינו לתוכנה הזו".

"הרבה דברים טובים יצאו מהעבודות האלה, אבל די בעקיפין, כי הבעיה עם האסטרטגיה הזו היתה שמחקר כזה לעולם לא נכשל. הוא לא יכול להיכשל. התוצאה היא או שזה עובד או לא עובד. אם זה עובד – נפלא. אם לא עובד – המסקנה שחסר ידע. וזה בור ללא תחתית. ברגע שהתחילו להזין יותר ידע, אותן מערכות שפותחו לא התאימו. אם מפסיקים להוסיף ידע המערכת לא פותרת את הבעיה, וכמובן אם התוצר הוא תוכנה שמשחקת דמקה – היא לא טובה לשום דבר חוץ ממשחק דמקה".

"קשה להאמין שבראש שלנו אנחנו מחזיקים תוכנה נפרדת לכל דבר שאנחנו עושים בחיים", אמר דומשלק. "איך אתה עושה טרנספר ממה שלמדת בבעיה א' לבעיה ב' היה בעייתי. ובשנות ה-80 המאוחרות ההפנמה גרמה להרבה ביקורת פנימה, עד שלבסוף פנו החוקרים לפיתוח של אלגוריתמים ותוכנה לא לבעיות ספציפיות – אלא למודלים, משפחות של בעיות, כמו משחקי אסטרטגיה."

"אם אנחנו חושבים על לפתח מערכת שגם משחקת דמקה גם משחקת שחמט, גם משחקת גו, ועוד משחקים דומים, אבל ברגע שמדברים על משחק כמו פוקר, שזה משחק הרבה יותר מסובך כי אתה לא רואה את הקלפים של היריבים, יש חישה חלקית, אי-ודאות שנובעת מחלוקת קלפים. זה מצריך פיתוח טכנולוגי הרבה יותר גנרי".

"כך לדוגמה, מערכות שפותחו עבור ראיה מלאכותית, יכולות בהחלט לשמש גם לזיהוי דיבור, ובאופן כללי לתרגום, כי מהו בעצם זיהוי תמונה אם לא תרגום? המחשב לוקח תמונה ומתאר אותה במילים, וזה בדיוק כמו לקחת קבוצה של מילים בשפה אחת ולתרגם לקבוצה של מילים בשפה אחרת".

לסיכום אמר פרופ' דומלשק, כי "מפריע לי בשנים האחרונות התפיסה המוטעית של עולם הבינה המלאכותית שמתגבש אצל הציבור. זה נע בין יהרוג אותי עוד מעט, ישתלט עלי עוד מעט, לבין – הכל פשוט, יש מערכת למידה עמוקה וזה יפתור את כל הבעיות בחיים. האמת היא תמיד באמצע".

ראו עוד בנושא באתר הידען:

11 תגובות

  1. יריב
    אנחנו דווקא מסכימים בהחלט. אנחנו בסה"כ רק מכונות.
    הטענה שלי היא שתודעה זו לא תהיה דומה בשום דבר כמעט לתודעה של האדם. האם גודל הסיכון שרובוט כזה ייקח על עצמו להציל אחר יהיה תלוי בקרבה הגנטית ביניהם? האם הוא יכעס כי אשת ראש הממשלה מושחתת?

  2. יוסף,

    ״המכונה שבנו – שמודעת לעצמה, היא בסה"כ מכונה״

    לא הבנתי, אתה טוען שכבר בנו מכונה שמודעת לעצמה? היכן אפשר לראות אותה?

  3. ישנם מחקרים בתחום של הבנת התודעה וגם התקדמות מעשית מתימטית ופיזיקלית.
    היות וגם אני רוצה לחקור שם, לא נרחיב בשלב זה.
    המכונה שבנו – שמודעת לעצמה, היא בסה"כ מכונה. מופלאה אמנם.

  4. יריב
    אנחנו צריכים לשאול את עצמנו לא האם נוכל לייצר תודעה, אלא מהי תודעה. אולי נגלה שהתודעה המלאכותית קיימת. לדעתי תודעה היא היכולת של מכונה לשלוף זיכרון מתוך הידע הפנימי האגור בה. העובדה שהמחשב לא יודע לומר לנו שיש לו תודעה, לא אומר שאין לא תודעה.

  5. יוסף,

    ״אנחנו עדיין לא בנקודה שהיא מודעת לעצמה. חסר לנו להבנתי ידע כיצד זה עובד״

    לדעתי יש סיכוי דיי טוב שהתכונה הזאת של מודעות עצמית תיווצר באופן ספונטני כאשר הרשת העצבית תהיה גדולה מספיק ותחובר לגוף עם חיישנים ומצלמות.

    ניסים לא מסכים איתי לגבי הנקודה הזאת אבל אין לי כוונה להיכנס שוב לדיונים בנושא הזה, מיצינו.

  6. ניסים,

    עולם הטיסה האזרחית אינו מתאים עבור בינה מלאכותית? איך הגעת למסקנה הזו? לדעתי בינה מלאכותית שקיימת כיום יכולה בשקט לבצע בקרה אווירית של מטוסים אזרחיים (מניעת התנגשויות וכדומה) וכן להטיס את המטוס כולל המראה ונחיתה ב 99.9% מהמקרים, פרט למקרי קצה ומקרי חירום שיצריכו התערבות אנושית.

  7. הבינה המלאכותית – תבין את עצמה בסופו של דבר, והיות ויצרנו אותה בדמותינו, אני לומד בינה מלאכותית:
    בסוף זו סטטיסטיקה ופעולות מתימטיות על כניסה ויציאה. אינני חי בעולם פרנואידי על הבינה.
    היות וכך היא לא תאהב אחרים כלומר אותנו. לכן אמנם כיום מה שגלוי איננו עדיין מודע לעצמו. אין לטעות שבמרתפים מפותחות בינות לא למטרות חיוביות. ייתכן שבחברה כמו גוגל מפתחים בינה תבונית יותר ממה שקיים כיום. גם ב 2012 כאשר בוצעה מהפכת רשתות הנוירונים הרבודות הם לא רצו לספר לאחרים.

  8. משה
    ב-2025 יהיה מחסור של מתכנתים. הרבה מאד תחומים לא מתאימים לבינה מלאכותית – דוגמה מובהקת היא עולם הטיסה האזרחית. דוגמה שנייה היא חישובים מתמטיים של מסלולי חלליות.

    ובקשר לעריכת דין – אני רוצה לראות רובוט משכנע חבר מושבעים שלנאשם הייתה ילדות קשה… 🙂

  9. הכתבה הנ״ל מלטפת את הסוגיה.
    מה שיקרה בפועל זה, שלפחות בשלב הראשון אלו שיהיה להם גישה למחשבים הם גופים שמטרתם מוגדרת ומגוּדרת (רווח) ומכאן יתכן אופיו של המכשיר.
    תהיה לזה השפעה לכל אורך ורוחב תחומי החיים ובמיקרו – יהיה טוב, במקרו: הרבה פחות.
    לא יהיה אמצע, כי תופעות הלוואי של זה יחולו על העולם כולו (אבטלה וכו׳…).
    אני אישית עוסק בתכנות ואני יודע שבסביבות 2025 לא יהיה שום צורך במתכנת (כנ״ל עם הרבה מאוד מקצועות אחרים שנחשבים היום כבלתי ניתנים להחלפה, לדגומא: רו״ח, עו״ד… על נהגים, מנקי רחובות וכו׳ אני בכלל לא מדבר).
    לגבי החשש שהמכונות יהיו אלימות (במובן הקלאסי של המילה): התשובה שלי היא – הן לא יהיו אלימות (גם אם אפשר יהיה לטפס להם על העצבים).
    הסיבה היא פשוטה: כבר היום {לדעתי} אנחנו במלחמה. מלחמת עולם-3. העיניין הוא שכלי הנשק השתנו. נכון להיום כבר אין צורך במרגמה או טנק כדי לכבוש יעדים (וע״י כך להשיג הון). אנשים נותנים את עצמם מרצונם.
    אם במלחמה קלאסית יותר הריגות = נצחון . אז היום זה בדיוק ההפך והרצון של כולם זה שאנשים (שהם המצע לכל המודל הכלכלי החדש) יחיו כמה שיותר שנים – וזה בדיוק מה שקורה. למעשה, סביר להניח שהפעוטה שנולדה ממש אתמול תתפגר בעוד 150 שנה פחות או יותר.
    המצב הקיים היום שמספר חברות שוות יותר ממספר מדינות (אפל + גוגל + פייסבוק שוות יותר מ-2 טריליון דולר) זה מצב קצת בעייתי… יש להם את הזכויות והם נטולי חובות (הם לא משלמים פנסיה והם לא חייבים לסלול כבישים או לתחזק אותם… החובה האחת שלהם היא: לעשות כסף).
    בכל אופן, הבעיה איתם היא: שהם מחוץ מסגרת כפי שאנחנו למדנו להכיר אותה במהלך השנים, או בעברית: זה בלתי אפשרי להכיל עליהם רגולציה אפקטיבית ומאחר וכך, סך הזכויות שלהם גדל עוד יותר מכפי שציינתי כרגע (במילים אחרות: הם יודעים לשלם פחות מיסים פר דולר שנוחת אצלהם).
    ====
    בגדול, הבינה המלאכותית שתבוא אצלנו בקרוב אין בה חדשות רעות.
    מדובר במכשיר מאוד מתקדם – וזה ממש בסדר.
    מי שמתקדם פחות, אלו בני האדם.
    הפסקה האחרונה אינה נוטה לחסד עם הזן הזה, כי בעצם מדובר במיעוט שבמיעוט. מדובר באלו שיהיה להם את השליטה על המכשיר הזה – ומאחר ומדובר באבולוציה, אנחנו, יתר בני האדם פשוט ל נחוש בזה ומעת לעת נרשום כתבה מהסוג הנ״ל או תגובה כזו או אחרת, בדיוק כפי שאני עושה עכשיו.

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן