סיקור מקיף

דוח שמובא להערות הציבור מבקש להחיל כללי אתיקה על תחום הבינה המלאכותית

העקרונות הם: האדם במרכז – כיבוד זכויות יסוד ואינטרסים ציבוריים, בינה מלאכותית תשמש לקידום צמיחה, פיתוח בר-קיימא ומובילות ישראלית בחדשנות, שוויון ומניעת אפליה פסולה, שקיפות והסברתיות, אמינות, עמידות, אבטחה ובטיחות וכן אחריותיות

בינה מלאכותית, חייבת לבוא יחד עם אתיקה.  <a href="https://depositphotos.com. ">איור: depositphotos.com</a>
בינה מלאכותית, חייבת לבוא יחד עם אתיקה. איור: depositphotos.com

משרד החדשנות, המדע והטכנולוגיה, ומחלקת ייעוץ וחקיקה (משפט כלכלי) במשרד המשפטים, מפרסמים להערות הציבור את טיוטת מדיניות שרת החדשנות, המדע והטכנולוגיה, אורית פרקש הכהן לבינה מלאכותית, ואת המסמך המקצועי עליו נשענים עקרונות המדיניות בנושא רגולציה ואתיקה עבור פיתוח ושימוש במערכות מבוססות בינה מלאכותית בישראל.

מדובר במסמך ראשון מסוגו בישראל, שיהווה מצפן ערכי ועסקי, לכל חברה, ארגון או גוף ממשלתי שיבוא להתעסק בתחום הבינה המלאכותית וישפיע באופן עמוק על כל פיתוח עתידי בתחום הבינה המלאכותית במדינת ישראל. מדובר בצעד משמעותי נוסף שמתחבר למספר רב של צעדים שנקטה השרה והמשרד בתחום זה בשנה האחרונה, בין היתר הובלת תכנית לאומית בתחום הבינה המלאכותית ביחד עם משרד האוצר, הצטרפות לארגון שרים בינלאומי בתחום, חיזוק השת"פ הטכנולוגי עם ארה"ב בתחום זה ובתחומים נוספים.

המדיניות נסמכת על עבודה מקצועית שנעשתה במשותף על ידי משרד החדשנות, המדע והטכנולוגיה ומחלקת ייעוץ וחקיקה (משפט כלכלי) במשרד המשפטים בראשות המשנה ליועצת המשפטית לממשלה עו"ד מאיר לוין, בנושא הרגולציה של בינה המלאכותית. במהלך העבודה המקצועית, נפגשו חברי הצוות והתייעצו עם גורמים טכנולוגיים מובילים בארץ ובעולם, כגון: אנשי המקצוע ברשות החדשנות, מערך הסייבר הלאומי, מומחים מאונ' הרווארד, אונ' קורנל, אונ' תל אביב, נציגי גוגל, מייקרוסופט, NVIDIA, חברי קהילת סינרגIA של משרד החדשנות והמדע, ועוד. כמו כן, העקרונות שותפו עם מובילי התחום ב-OECD, מובילי הבינה המלאכותית בממשל האמריקאי (בבית הלבן, ה-OSTP, במכון התקנים האמריקאי NIST; ארגון INRIA הצרפתי, מומחי הבינה המלאכותית בממשלת סינגפור, ועוד.

רגולציה רכה ואימוץ עקרונות אתיים

עקרונות המדיניות העיקריים המוצעים במסמך: שימוש בכלי רגולציה "רכה" במקום חקיקת מסגרת רוחבית, אימוץ עקרונות אתיים בדומה למקובל בעולם, גיבוש כלי לניהול סיכונים לרגולטור והקמת מוקד ידע ייעודי בתוך הממשלה. מסמך המדיניות מניח את התשתית לעיצוב הרגולציה בשנים הקרובות, ויהווה מצפן שיתכן וישפיע כבר כעת על חברות שעוסקות בתחום זה.

המסמך המקצועי המשותף כולל, בין היתר, סקירה של המצב המשפטי והרגולטורי בהיבטי בינה מלאכותית בישראל; בחינה של סוגיות ואתגרים המתעוררים בקשר לבינה המלאכותית (החשש לאפליה; הדרישה למעורבות אנושית, הסברתיות ושקיפות; החשיבות של אמינות, עמידות אבטחה, בטיחות; האחריותיות; והגנת פרטיות); סקירה של פעילות הארגונים הבינלאומיים והמדינות המפותחות בתחום הרגולציה והאתיקה של בינה מלאכותית, ובפרט ה-OECD, מועצת אירופה והאיחוד האירופי, ארה"ב ובריטניה; וקווים מנחים למדיניות רגולציה ואתיקה לתחום הבינה המלאכותית (ובכלל זה הצעה לעקרונות אתיים לתחום הבינה המלאכותית, וכן לעקרונות למדיניות רגולציה לתחום זה) המניחים את התשתית למדיניות המפורטת לעיל. מצ"ב פירוט נוסף על עיקרי הדברים.

עיקרי טיוטת מדיניות הרגולציה והאתיקה בתחום הבינה המלאכותית

1. אימוץ מדיניות רגולציה כוללת בתחומי הבינה המלאכותית, שלא באמצעות חקיקת מסגרת רוחבית:

על פי הדו״ח, בשלב זה אין מקום לקידום חקיקת מסגרת רוחבית על כל תחום הבינה המלאכותית. מוצע כי במקום זאת, יבחנו הרגולטורים השונים, כל אחד בתחומו, את הצורך בקידום רגולציה קונקרטית בתחומם, תוך שמירה על מדיניות ממשלתית אחידה. בנוסף, הרגולציה תהיה תואמת ככלל לנעשה במדינות מפותחות ובארגונים בינלאומיים העוסקים בכך; תתבסס על כלים ומסגרות לניהול סיכונים; תיעשה במקרים המתאימים תוך שימוש בכלי רגולציה "רכים" ומתקדמים (כגון תקינה וולונטרית ורגולציה עצמית); תפותח באופן מודולרי ותוך שימוש בכלי נסיינות רגולטורית (כגון "ארגזי חול"); ותעוצב תוך שיתוף הציבור.

2. אימוץ העקרונות הבאים כעקרונות האתיים של מדינת ישראל לשימוש בבינה מלאכותית, בדומה למקובל בעולם:

  • האדם במרכז – כיבוד זכויות יסוד ואינטרסים ציבוריים – פיתוח בינה מלאכותית, או שימוש בה, ייעשו תוך כיבוד שלטון החוק, זכויות יסוד ואינטרסים ציבורים ובפרט תוך שמירה על כבוד האדם ופרטיות.
  • בינה מלאכותית תשמש לקידום צמיחה, פיתוח בר-קיימא ומובילות ישראלית בחדשנות – שימוש אחראי בבינה מלאכותית מהימנה הוא אמצעי לעודד צמיחה, פיתוח בר-קיימא, רווחה חברתית וקידום המובילות הישראלית בתחום החדשנות.
  • שוויון ומניעת אפליה פסולה – בפיתוח ושימוש בבינה מלאכותית יובאו בחשבון הצורך בשוויון, גיוון, החשש להטיה במערכות בינה מלאכותית והסיכון לאפליה פסולה כנגד יחידים או קבוצות.
  • שקיפות והסברתיות – בפיתוח בינה מלאכותית ושימוש בה, יובא בחשבון הצורך ליידע מי שבא במגע עם בינה מלאכותית או מושפע מפעילותה והצורך במתן הסבר להחלטתה או לאופן שבו פעלה, בין היתר בשים לב למידת השפעתה, השלכותיה על מי שמושפע ממנה והאפשרויות הטכנולוגיות הזמינות.
  • אמינות, עמידות, אבטחה ובטיחות –  בפיתוח בינה מלאכותית ושימוש בה יובא בחשבון הצורך בכך שמערכות בינה מלאכותית תהיינה אמינות, מאובטחות בטיחותיות לאורך כל מחזור חייהן, כך שבתנאי שימוש רגילים, שימוש צפוי או שימוש שגוי או תנאים מסוכנים אחרים – יפעלו כראוי ולא יהוו סיכון בטיחותי בלתי סביר. לשם כך יש לנקוט אמצעים סבירים בהתאם לתפיסות מקצועיות מקובלות לצמצם סיכוני בטיחות ואבטחת מידע בכל מחזור החיים של מערכות בינה מלאכותית.
  • אחריותיות –  מפתחי בינה מלאכותית, מפעיליה או המשתמשים בה יגלו אחריות לתפקודה התקין, ולקיום העקרונות האחרים בפעילותם, בין היתר בשים לב לתפיסות ניהול סיכונים מקובלות ולאפשרויות הטכנולוגיות הזמינות.

3. גיבוש כלי אחיד לניהול סיכונים ביחס לשימוש בבינה מלאכותית, שייצור שפה משותפת בין גורמי הממשלה והרגולטורים ובינם לבין גורמים פרטיים. שרת החדשנות, אורית פרקש הכהן הנחתה שבהובלת משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים, ובהשתתפות גורמים ממשרדי הממשלה הרלוונטיים, מאסדרים  שונים, ותעשייה, אשר יגבש המלצה לכלי זה. במסגרת גיבוש "כלי לניהול סיכונים", יתחשב הצוות הבין משרדי במכלול העקרונות האמורים מעלה, ויפעל במטרה לעודד חדשנות אחראית.

4. הקמת מוקד ידע ותיאום ממשלתי שיעסוק בריכוז ותיאום סוגיית ההסדרה של בינה מלאכותית, שיפעל במשרד החדשנות, המדע והטכנולוגיה, כמשרד המופקד על הובלת הרגולציה בתחום זה. מוקד הידע, יעסוק, בין היתר, בנושאים הבאים:

(א) יישום מדיניות רגולציה ואתיקה זו, ועדכונה לפי הצורך; ייעוץ למשרדי הממשלה ולרגולטורים בגיבוש מדיניות ורגולציה לגבי בינה מלאכותית; והנגשת מידע וכלים לשימוש אחראי בבינה מלאכותית.

(ב) הקמת פורום מקצועי פנים ממשלתי הכולל נציגי רגולטורים ומומחי טכנולוגיה מדיניות ומשפט, על מנת לקדם את התיאום ולדון בסוגיות משותפות; וכן פורום לשיתוף ציבור הכולל נציגי תעשייה, אקדמיה, ארגוני חברה אזרחית והציבור הרחב, כדי לדון בסוגיות של הסדרת בינה מלאכותית.

(ג) קידום המשך מעורבות אקטיבית של ישראל בפיתוח הרגולציה והתקינה הבינלאומית, נוכח השפעתה וחשיבותה של הרגולציה והתקינה הבינלאומית על פעולתו של המשק הישראלי בתחומי הבינה המלאכותית.

איזון בין הצורך להגן על הפרט תוך קידום התפתחות טכנולוגית ה-AI

שרת החדשנות, המדע והטכנולוגיה, אורית פרקש הכהן: "עקרונות המדיניות מביאים לידי ביטוי את התפיסה בה אני תומכת של "חדשנות אחראית". איזון בין הצורך להגן על הפרט מול האתגרים הנובעים משימוש בטכנולוגיית הבינה המלאכותית לבין האינטרס הציבורי בקידום התפתחותה של טכנולוגיה זו, ואינטרס השמירה על סביבה מאפשרת לתעשיית ההייטק והמחקר הישראליים בתחומים אלה. עקרונות המדיניות המתפרסמים בזה נקבעו תוך התחשבות בעקרונות משפטים ואתיים מקובלים בעולם, והתאמתם לקונטקסט הישראלי. זאת, על מנת לעמוד בקצב ההתפתחות של טכנולוגיות הבינה המלאכותית ובמאפייניה הבינלאומיים, לצד המשך השמירה על מעמדה המוביל של ישראל בתחום הטכנולוגיה. פרסום המדיניות יקדם את דירוג ישראל בתחום הבינה המלאכותית, ויסמן חץ מכוון לערכים שלאורם טכנולוגיה זו תפעל. הוא מבטא מדיניות "רכה" ומאפשרת, בשלב ראשוני זה של הטכנולוגיה המתפתחת. מסמך המדיניות מהווה צעד משלים לצעדים נוספים שנעשו בממשלה בתחום זה. קידום בניית תשתיות מיחשוביות, לפרסום תכנית לאומית של משרד החדשנות בתחום הבינה המלאכותית, ולשיתופי פעולה שהותנעו לאחרונה בתחום הבינה המלאכותית עם ארה"ב וגופים נוספים".

המשנה למנכ"לית משרד החדשנות, המדע והטכנולוגיה, תום דן דנינו: "לראשונה, ישראל מפרסמת מדיניות רגולציה רשמית לבינה מלאכותית שנועדה לאפשר לציבור הישראלי כולו, ובפרט לחברות ההייטק, תחושת ביטחון עם טכנולוגיית הבינה המלאכותית. זאת, על מנת שנמשיך לעמוד בקדמת הבמה על ידי בהירות וודאות רגולטורית שתעודד חדשנות – ביצירות אמנות, ברכבים אוטונומיים, בפיענוח גידולים סרטניים מצילומי MRI והאצת גידולים חקלאיים; ויחד עם זאת תדאג לשימוש אתי ואחראי בכלים אלה ותיישר קו עם דרישות רגולציה שקיימות במדינות ה-OECD ומדינות ייצוא טכנולוגי של התעשייה הישראלית. השימושים בטכנולוגיית הבינה המלאכותית הולכים וגדלים, וזו טכנולוגיית סף שתהיה חלק מחיי היום יום שלנו. מדיניות הרגולציה הרשמית המתפרסמת בהובלת שרת החדשנות אורית פרקש הכהן, נותנת מענה אחראי לאתגרי הבינה המלאכותית. אנו קוראים לכל מי שמתעניין בנושא מהמגזר הפרטי והציבורי, לעיין במדיניות ולהביא את הערותיכם – בשבועות הקרובים נצא במסע לאיסוף התייחסויות הגורמים השונים ועיבודם להטמעה במסמכי המדיניות.״

המשנה ליועצת המשפטית לממשלה (משפט כלכלי), עו"ד מאיר לוין: "התפתחות הבינה המלאכותית מביאה עמה הזדמנויות רבות עבור הכלכלה והחברה בישראל, והמשק הישראלי ניצב בחזית התפתחות זו. לקידום מנגנוני רגולציה ואתיקה יעילים תפקיד משמעותי בסלילת הדרך להתפתחות הבינה המלאכותית בישראל, תוך הסרת חסמים רגולטוריים ומשפטיים מצד אחד, והגנה על זכויות יסוד ואינטרסים ציבוריים מצד שני. טיוטת המדיניות המתפרסמת יוצרת למעשה מסגרת רגולטורית מעודדת חדשנות ומתואמת, פרופורציונלית ודיפרנציאלית, גמישה ומתקדמת, צופה פני עתיד ומתחשבת בהתפתחויות מרכזיות בעולם. אני מבקש לברך את שרת החדשנות, המדע והטכנולוגיה הגב' אורית פרקש הכהן על פרסום טיוטת המדיניות, וכן להודות לחברי הצוות מאשכול רגולציה במחלקה הכלכלית בייעוץ וחקיקה וגורמי המטה במשרד החדשנות, המדע והטכנולוגיה, שעמלו רבות במשותף על עריכת המסמך המקצועי המניח תשתית למדיניות".

ריכזו את העבודה על המסמך תום דן, המשנה למנכ"לית משרד החדשנות, המדע והטכנולוגיה ועו"ד דני חורין, היועץ המשפטי (בפועל) למשרד, וכן עו"ד ד"ר יובל רויטמן, ראש אשכול רגולציה ועו"ד יוסף גדליהו ממחלקת ייעוץ וחקיקה (משפט כלכלי) במשרד המשפטים. נטל חלק מרכזי בכתיבת המסמך עו"ד עמית אשכנזי, היועץ המשפטי למערך הסייבר הלאומי (בדימוס). העבודה נעשתה בהכוונת המשנה ליועצת המשפטית לממשלה (משפט כלכלי) עו"ד מאיר לוין ובהכוונת מנכ"לית משרד החדשנות, המדע והטכנולוגיה הגב' הילה חדד-חמלניק.


עוד בנושא באתר הידען:

2 תגובות

  1. עכשיו רק צריך לספר על זה לצזנה הגרופי של כל מה שקשור לאינטליגנציה לא אנושית שמגיע לטירוף חושים כשהוא שומע שרובוט רחפן למד להתפוצץ על מטרות אנושיות באוקראינה… בגלל סייבורגים כאלה חייבים שיהיו מגבלות בינלאומיות קשות על כל נושא הבינה המלאכותית. זה לא צחוק ולא משחק ילדים. מי שעדיין חושב שזה עוד גאדג׳ט להרשים בו את החברה, יש לו בעיה.

  2. ידיעה מלאכותית וידיעה טבעית

    לנוגע בגוש קרח מגיעה ידיעה טבעית – ששמה המוסכם נוצר מצירוף האותיות ק ר .
    ידיעה טבעית כזו תגיע לכל אדם ,הנוגע בגוש קרח.
    אי אפשר לתאר במלים ידיעה טבעית כזו, כי כל מלה היא רק צירופי אותיות, ובצירוף אותיות אין כל ידיעה.
    לצירוף אותיות יש רק תפקיד פשוט, והוא לשמש שם של משהו..

    שפת המלים היא רעש הנוצר מצירופי אותיות, והתפקיד היחידי של צירוף אותיות , הוא להיות שם.
    צירוף האותיות ק ר הוא שם של ידיעה טבעית הבאה לאדם, בעקבות מגע בגוש קרח.
    אי אפשר למסור בעזרת צירופי אותיות אחרים את הידיעה הטבעית שבאה לאדם בעקבות מגע בגוש קרח.

    רק מעשה של מגע בגוש קרח, מביא לעושה המעשה ידיעה ברורה, ששמה המוסכם הוא צירוף האותיות ק ר

    ידיעות הבאות לאדם בעקבות מעשה שהוא עושה, הן הידיעות הברורות ביותר, ולכל ידיעה כזו יש שם מוסכם הנוצר מצירוף אותיות שרירותי.
    ידיעות כאלה הן ידיעות טבעיות.

    מכשיר ששמו המוסכם מד חום, הנוגע בגוש קרח, לעולם לא ישיג את הידיעה הטבעית ששמה המוסכם בנוי מצירוף האותיות ק ר .
    למכשיר הנוגע בגוש קרח – באה ידיעה מלאכותית.
    לאדם הנוגע בגוש קרח – באה ידיעה טבעית.

    ידיעה טבעית היא פלא, ואין כל אפשרות לתאר את הפלא הזה בעזרת צירופי אותיות .
    האדם נולד עם ידיעה טבעית, וגם לנמלה יש ידיעה טבעית משלה.
    למכשיר אין ידיעה טבעית.
    למכשיר יש ידיעה מלאכותית.

    יש הבדל תהומי בין ידיעת האדם, לידיעת המכונה.
    יש הבדל תהומי בין בינה טבעית לבינה מלאכותית.
    יש הבדל תהומי בין צירופי אותיות שהם שמות מוסכמים לידיעות טבעיות הבאות אל האדם בעקבות מעשה שהוא עושה, לסתם צירופי אותיות הנובעות מהסכמה אנושית (הגדרות)
    שפת המלים האנושית, היא רעש הנוצר מצירופי אותיות, כאשר התפקיד היחידי לצירוף אותיות – הוא רק שם.

    להרחבה בנושא "סוד השפה האנושית"
    א.עצבר

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן