במסמך שהוכן לקראת דיון בועדת המדע מוצג בקצרה נושא הבינה המלאכותית היוצרת שמהווה זרז לשיח הציבורי הער בעת האחרונה; סוגיות מדיניות העולות מהתפתחותה; מידע בדבר החלטות ממשלה, ועדות ותוכנית לאומית בנושא הבינה המלאכותית בישראל, והתייחסות תמציתית למגמות ברגולציה באירופה וארצות הברית
כתיבה: רועי גולדשמידט | אישור: יובל וורגן, מרכז המחקר והמידע של הכנסת
1. רקע
מסמך של הנציבות האירופית מגדיר בינה מלאכותית כמערכות המפגינות התנהגות תבונית באמצעות ניתוח סביבתן ונקיטת פעולות, במידה מסוימת של אוטונומיות, כדי להשיג את מטרתן. 1 מערכות בינה מלאכותית יכולות להתבסס על תוכנה בלבד ולפעול במרחב המקוון, למשל בעוזרים קוליים, מנועי חיפוש, מערכות זיהוי פנים, זיהוי דיבור ועוד; או להיות מוטמעות בהתקנים פיזיים כמו: כלי רכב אוטונומיים, רחפנים, רובוטים מתקדמים ועוד.
למרות שיישומי בינה מלאכותית אינם דבר חדש, השילוב בין “קפיצה טכנולוגית” ביכולות העיבוד והניתוח של מערכות כאלה בשנים האחרונות, ותפוצתם של יישומי בינה מלאכותית יוצרת (Generative) עוררו לאחרונה דיון ציבורי ער על ההזדמנויות והסיכונים במערכות בינה מלאכותית, ולקריאה של מובילי טכנולוגיה ומדענים רבים להקפיא למשך חצי שנה פיתוחים חדשים בתחום ולהצהרה בדבר הצורך לפעול כדי למזער סיכונים חמורים שיכולים להיגרם מטכנולוגיות אלה.
בינה מלאכותית יוצרת היא שם כולל ליישומים המבוססים על מודלי שפה המאפשרים ליצור באמצעות שאילתה קצרה, תוכן חדש – טקסטים, תמונות, סרטונים, מוזיקה, קוד מחשב ועוד, המופק בהתבסס על מידע אימון data) (training שהוזן למערכות. ככל שמידע האימון מפורט, מדויק ומקיף יותר, היכולות של המערכות הללו משתפרת. מערכות בינה מלאכותית החלו כבר לפני שנים רבות יחסית לבצע בהצטיינות משימות “כמו אנושיות” כגון משחקי שח-מט, משחק הגו הסיני, טריוויה וכדומה2. עם זאת נראה כי פיתוחם של מודלי שפה מתקדמים והשירותים שהם מאפשרים, יוצר שינוי: באינטראקציה אדם – מחשב, בהיקף המשתמשים, ובתפיסה הציבורית.
יישומי בינה מלאכותית יוצרת אינם בגדר “בינה מלאכותית כללית” Intelligence) General Artificial – ,(AGI אך כיוון שהם מתמחים במשימות שונות ולא רק במשימה אחת ספציפית וצרה AI) ,(Narrow הם מעוררים ספק ביחס
להנחות קודמות כי בינה מלאכותית כללית לא צפויה להתממש בעשורים הקרובים וחשש באשר להשלכות המשך הפיתוח והתפוצה הלא מבוקרת שלהם. בעדותו בקונגרס במאי 2023 קרא המנכ”ל של אחת מחברות הבינה המלאכותית לקדם רגולציה שתתמרץ בטיחות ונגישות של יישומי בינה מלאכותית, כולל רישוי או רישום של מודלים מעל עוצמה מסוימת ופיתוח מנגנוני פיקוח בינלאומיים על התחום.
בינה מלאכותית יוצרת היא כבר כיום כלי שימושי ללימוד, הכשרה ויצירה והיצע היישומים בתחום ועוצמתם צפוי להמשיך ולגדול. שימוש מושכל בכלי בינה מלאכותית יוצרת – כזה שאיננו מסתמך עליה באופן בלעדי ובוחן אותה באופן ביקורתי – יכול לייעל ולקצר תהליכי עבודה, למידה ויצירה ולהקנות אפשרויות חדשות למשתמשים. עם זאת, שימוש לא מיומן, לא מבוקר או שימוש לרעה עלולים להוביל לתוצאות שליליות.
טכנולוגיות בתחומי הבינה המלאכותית יוצרות הזדמנויות חדשות ושווקים חדשים בתחומים כגון: בריאות, חינוך אנרגיה, סביבה ועוד. כך לדוגמה, מערכות בינה מלאכותית הסורקות תיקים רפואיים ומידע רפואי, יכולות לזהות סיכונים או סיבוכים צפויים בהליך רפואי ולהציע טיפול; טכנולוגיות ניתוח תמונה העושות שימוש במידע מרשתות חברתיות יכולות לזהות בעלי חיים ספציפיים ואת דפוסי התנועה שלהם; טכנולוגיות ניטור תחבורה מאפשרות לנהל תנועה בכבישים בצורה יעילה וכך לקצר זמני המתנה ולצמצם פליטת מזהמים; מיזמים שונים מנסים להשתמש בנתוני עתק ובניתוח של הידע בהם כדי לפתור סוגיות חברתיות כמו פשיעה, אבטלה או נשירה ממערכת החינוך. מאידך, חדירתן של טכנולוגיות בינה מלאכותית מעוררות גם חששות רבים.
.2. בינה מלאכותית יוצרת: סוגיות מדיניות
- השפעות והשלכות על תעסוקה: בניגוד להנחה המקובלת כי מגמות האוטומציה ישפיעו בעיקר על עבודות כפיים או עבודות “צווארון כחול,” המגמות האחרונות בתחום הבינה המלאכותית מצביעות על אפשרויות השפעה גם על משרות בתחומים אחרים בהם: תסריטאים, גרפיקאים, מתכנתים, מתרגמים ועוד. יתרה מכך, לפי טיוטת מחקר ממרץ 2023 שמנסה לאמוד את ההשלכות של טכנולוגיות בינה מלאכותית יוצרת ומודלי שפה גדולים (LLM’s) על שוק התעסוקה בארצות הברית, דווקא מקצועות בשכר גבוה חשופים יותר ממקצועות בשכר נמוך להשלכות חדירתן של טכנולוגיות אלה. לפי אומדן במחקר האמור, בכ19%- מן המשרות צפויה השפעה על כ- 50% מן המשימות של העובדים בהן, וב80%- מן המשרות צפויה השפעה על כ10%- מן המשימות של העובדים בהן. עם זאת, לפי סקר מקיף של הפורום הכלכלי העולמי (WEF) ממאי ,2023 שכלל גם חברות ישראליות, שיעור המשרות החדשות שייווצרו בטווח הקצר (2027-2023) צפוי להיות גדול משיעור המשרות שייעלמו, כך שהמאזן הכולל המשוער יהיה חיובי ויוביל לגידול של יותר מ25%- במשרות (בקרב חברות ישראליות, האומדן של המשיבים הוא כ11%- גידול בהיצע המשרות.)
- מידע כזב”,דיפ-פייק” והשלכות על אמון הציבור ועל מוסדות דמוקרטיים: מודלי שפה חדשים וכלי בינה מלאכותית העושים בהם שימוש, מקלים על יצירת דיסאינפורמציה – תוכן מטעה במתכוון, התאמה שלו לנמענים, והפצתו בהיקפים ניכרים ובקלות. גישות רווחות לצמצום הבעיה כגון בדיקת עובדות, חינוך משתמשים ושיפור האוריינות שלהם לא בהכרח יעילים כנגד דיסאינפורמציה המפותחת בכלי .AI עם זאת, חברות בתחום עוסקות בפיתוח כלי AI לשם זיהוי ותיוג של תוכן שנוצר באמצעות .
- AI, הטיה ואפליה אלגוריתמית: מערכות מבוססות בינה מלאכותית עושות שימוש רב בבסיסי נתונים קיימים ובמידע המוזן אליהן ומשמש כדי לאפשר להן ללמוד. הטיות בבסיסי הנתונים או בהנחיות המוזנות למערכות כאלה, לצד טעויות מערכת אחרות, עשויות לגרום למערכות כאלה להפלות חלק מן המשתמשים. ככל שחדירתן של מערכות כאלה צפויה לגדול וסמכויותיהן ביחס לקבלת החלטות (בפרט ללא מעורבות אדם) תגדל, עלולהלהתרחש “אפליה אלגוריתמית” בהיקפים נרחבים יותר.
- קניין רוחני והשלכות על יצירה: מסמך שפרסמו לאחרונה שירותי המחקר של הקונגרס בארצות הברית מעלה שאלות מעניינות ביחס לנושא הקניין הרוחני, בהן: האם ניתן לקבוע זכויות יוצרים עבור תוכן שהופק באמצעות מערכות ?AI האם ניתן להגדיר להן “יוצר” או “מחבר” ?(Authorship) באם ניתן לרשום זכויות יוצרים, למי מוקנות הזכויות (לחברת התוכנה? למפתח? למשתמש הקצה)? כיוון שכאמור לעיל, יישומי בינה מלאכותית זקוקים לכמויות עצומות של מידע אימון, האם השימוש במידע אימון שיש עליו זכויות יוצרים נחשב להפרה שלהן? או לשימוש הוגן? והאם תוצרי בינה מלאכותית (כגון טקסטים או תמונות) נחשבים למפרים קניין רוחני במקרה של דמיון משמעותי ושל ראייה לכך שהתוכן המוגן שימש לשם אימון המודל.
המשך בחלק ב’
עוד בנושא באתר הידען:
תגובה אחת
מאוד מעניין תודה!
אפשר לפרסם קישור למסמך?