זיהוי פנים: עשר סיבות שגורמות לדאגה

הצמיחה המהירה של טכנולוגיה זו עוררה דיון עקרוני. פעילים, פוליטיקאים, אנשי אקדמיה ואפילו קציני משטרה מביעים חששות כבדים מההשפעה שיש לזיהוי הפנים על התרבות הפוליטית המבוססת על זכויות ודמוקרטיה

מאת: בירגיט שיפרס, עמיתת מחקר אורחת, מכון ג'ורג מיטשל לשלום, ביטחון וצדק עולמי, אוניברסיטת המלכה בלפסט. תרגום: אבי בליזובסקי

זיהוי פנים. אילוסטרציה - shutterstock
זיהוי פנים. אילוסטרציה – shutterstock

טכנולוגיית זיהוי הפנים מתפשטת במהירות. בסין כבר נפוצה תכנה שמזהה אנשים על ידי השוואת תמונות של פניהם מול בסיס נתונים של רשומות. כעת היא מאומצת ברוב חלקי העולם. השימוש בה נפוץ בקרב כוחות המשטרה אך גם בשדות תעופה, תחנות רכבת ומרכזי קניות.

הצמיחה המהירה של טכנולוגיה זו עוררה דיון עקרוני. פעילים, פוליטיקאים, אנשי אקדמיה ואפילו קציני משטרה מביעים חששות כבדים מההשפעה שיש לזיהוי הפנים על התרבות הפוליטית המבוססת על זכויות ודמוקרטיה.

חששות לזכויות אדם

כמי שחוקרת את עתיד זכויות האדם, אני שותפה לדאגות הללו. להלן עשר סיבות מדוע עלינו לדאוג בנוגע לשימוש בטכנולוגיית זיהוי פנים בחללים ציבוריים.

1) זה מציב אותנו בדרך ליכולת מעקב אוטומטי

טלוויזיות במעגל סגור נפוצות כבר ברחבי העולם, אבל כדי שממשלות ישתמשו בקטעי צילום נגד אדם מסוים הן צריכות למצוא קטעים ספציפיים שיוכלו לשמש ראיות. טכנולוגיית זיהוי הפנים מביאה את המעקב לרמות חדשות. היא מאפשרת מעקב אוטמוטי בזמן אמת ובלי הבחנה של אנשים בזמן שהם מנהלים את חיי היום יום שלהם, ומאפשר לרשויות לעקוב אחר כל מהלך של כל אדם.

2) הטכנולוגיה פועלת ללא מסגרת חוקית או רגולטורית ברורה

לרוב המדינות אין חקיקה ספציפית המסדירה את השימוש בטכנולוגיית זיהוי פנים, על אף שכמה מחוקקים מנסים לשנות זאת. איזור דמדומים משפטי זה פותח את הדלת לשימוש לא ראוי, כגון השגת התמונות שלנו ללא ידיעתנו או הסכמתנו והשימוש בהן בדרכים שלא היינו מאשרים.

3) השימוש בטכנולוגית זיהוי פנים מפר את עקרונות ההכרח והמידתיות

עקרון זכויות האדם המוצהר, המוכר על ידי האו"ם, הוא שמעקב צריך להיות הכרחי ומידתי. משמעות הדבר היא כי יש להגביל את המעקב רק במקרה של ביצוע פשעים חמורים במקום לאפשר התערבות בלתי מוצדקת בחירותנו ובזכויות היסוד שלנו. טכנולוגיית זיהוי פנים אינה עומדת בעקרונות אלה. זו טכנולוגיית שליטה שהוא סימפטום לחוסר האמון של המדינה באזרחיה.

4) פגיעה בזכותנו לפרטיות

הזכות לפרטיות עניינית חלה גם במרחבים ציבוריים. זכות זו מגינה על ביטוי זהותנו מפני מעקב של המדינה או של חברות פרטיות. הקלטה, אחסנה וניתוח של תמונות שלנו ללא הבחנה באמצעות טכנולוגיית זיהוי פנים של טכנולוגיות פוגעת בזכות זו מכיוון שמשמעותה היא שאיננו יכולים עוד לעשות דבר בפומבי בלי שהמדינה תדע על כך.

5) השפעה מטרידה על התרבות הפוליטית הדמוקרטית שלנו

מעקב רציף יכול להרתיע אנשים מלהגיע לאירועים ציבוריים. הוא יכול לצמצם את ההשתתפות בהפגנות פוליטיות ובקמפיינים לשינוי ובכלל להרתיע מהתנהגות לא קונפורמיסטית. אפקט מטריד זה הוא פגיעה חמורה בזכות לחופש האסיפה, ההתאגדות והביטוי.

6) טכנולוגית זיהוי הפנים שוללת מהאזרחים את האפשרות להסכמה

לא קיים מידע מפורט וספציפי לגבי השימוש בפועל בזיהוי פנים. המשמעות היא שלא ניתנת לנו האפשרות להסכים להקלטה, ניתוח ואחסון של תמונות שלנו במאגרי מידע. בכך שנשללת מאתנו האפשרות להסכים, נשללת מאתנו בחירה ושליטה על השימוש בתמונות שלנו.

7) לעיתים קרובות הזיהוי לא מדויק
טכנולוגיית זיהוי פנים מבטיחה זיהוי מדויק. אולם מחקרים רבים הדגישו כיצד האלגוריתמים המתאמנים על מערכי נתונים מוטים גזעית ומזהים אנשים צבעוניים, במיוחד נשים צבעוניות. הטיה אלגוריתמית כזו מדאיגה במיוחד אם היא מביאה למעצרים שלא כדין, או אם היא גורמת לסוכנויות ציבוריות וחברות פרטיות להפלות נשים ואנשים מרקע אתני מסויים יותר מאחר.

8) שימוש לרעה באוטומציה

אם האנשים המשתמשים בתכנת זיהוי פנים מאמינים בטעות שאפשר למחשב את התהליך בלי התערבות אנושית, היא עלולה להוביל להחלטות גרועות. יש להימנע מ"הטיית אוטומציה" זו. התוצאות המיוצרות במכונה לא צריכות לקבוע כיצד סוכנויות מדינה או תאגידים פרטיים מתייחסים לאנשים. מפעילים אנושיים מיומנים חייבים להתאמן על שליטה ראויה וקבלת החלטות על פי חוק.

9) מאגרים ביומטריים סודיים בידי ממשלות

מסדי הנתונים שמכילים תמונות פנים שלנו צריכים להדליק נורות אדומות. הם מרמזים כי חברות פרטיות ורשויות אכיפת החוק משתפות את תמונותינו לבניית רשימות מעקב של חשודים פוטנציאליים ללא ידיעתנו או הסכמתנו. זה איום רציני על זכויות הפרט וחירויות האזרח שלנו. גם האבטחה של מסדי נתונים אלה ופגיעותם בגלל פעולות של האקרים מעוררות דאגה.

10) אפשר להשתמש בטכנולוגיות זיהוי הפנים כדי להתמקד בקבוצות פגיעות

אפשר להשתמש בטכנולוגיית זיהוי פנים למעקב כולל אחר כולם אך ניתן לפרוס אותה גם באופן סלקטיבי, למשל לזיהוי מהגרים ופליטים. מכירת תכנת זיהוי פנים לסוכנויות כמו רשות ההגירה האמריקאית (ICE) העומדת תחת ביקורת קשה על שיטות העבודה שלה בהתמודדות עם מהגרים, אמורה להדאיג כל מי שדואג לזכויות אדם. השימוש במכשירים ניידים עם אפליקציית זיהוי פנים על ידי כוחות המשטרה מעלה את הסיכוי להטיות על בסיס אתני ברחוב או כלפי פרופילים גזעיים מסויימים ברחוב.

דיונים נחוצים מאוד

עם כל כך הרבה חששות בנוגע לטכנולוגיית זיהוי פנים, אנו זקוקים נואשות לדיון פתוח ועקרוני על השפעתה על זכויותינו וחירויות האזרח. ללא רגולציה של מערכות אלה, אנו מסתכנים ביצירת מדינות משטרה דיסטופיות במדינות שהיו לפני כן דמוקרטיות.

עוד בנושא באתר הידען:

שיתוף ב print
שיתוף ב email
שיתוף ב whatsapp
שיתוף ב linkedin
שיתוף ב twitter
שיתוף ב facebook

3 תגובות

  1. מענין כי יש מכשיר עם מיקרופון ומצלמות משני הכיוונים ומציין מקום שנכנסת לחדר שינה שלנו לחדר השירותים לסלון לעבודה למסעדה בנסיעה רק נכנסתה למרכז קניות ואתה מקבל בקשת דירוג
    בחלק מהתוכניות העזרה הקוליות אתה אמור לבקש במפורש שהם יפעלו גם במסך לא פעיל
    אבל יש לפחות תוכנה שידועה לי של אחת מענקיות הניידים שאם הפעלתה את זה פעם אחת עכשיו זה גם עובד במצב מסך לא פעיל ללא אזהרה כך שהתוכנה שלהם מאזינה למיקרופון כל הזמן
    בציניות אולי מנטרת את הנחירות שלך , בנוסף כל דבר שאתה מתענין ובודק היא יודעת ושומרת כל צילום לאלו שיש שעון היא גם מנטרת מדדים ביולוגים שלנו בעתיד היא כנראה תדע יותר עלינו ממה שאנחנו יודעים, כנראה שאם היתה מציע דבר כזה למישהו לפני כ 30 שנה הוא היה נחרד מהרעיון אבל אם השנים כמו מלכודת דבש אנו מאבדים את הרגישות שלנו לפרטיות שלנו ,
    במרחב הציבורי גם לפני שנים היה כבר לממשלות צילום פנים שלנו קוראים לזה תעודת זהות דרכון
    בהרבה מקומות ציבורים היה מצלמות אבל בגלל מגבלות טכנולוגיות היה קשה לבצע מעקב יעיל ומהיר,
    הצד השני הוא שאם הכוח הגדל של הפרט לפגוע יש גם ניטור מוגבר שהחברה יוצרת כדי להגן על עצמה
    ואותם כלי ניטור במדינה דמוקרטית עם רגולציה הגיונית באמת ישמשו למטרה ראויה שהיא קודם כל הגנה על חיי אדם אבל כמו כל דבר במדינה דיקטטורית זה יהיה כלי להטלת אימה על הפרט ויכולות
    הצרת חירויות הפרט שלא היו בתולדות המין האנושי זה יפשיט את הפרט מכל יכולת לחשוב באופן עצמאי הוא יהיה בורג קטן חסר חשיבות במכונה הגדולה גם במרחב הציבורי וגם הפרטי,
    אבל כמובן יהיה מחיר לזה לאותה חברה שהוא לא ברמת הפרט אלה ביכולת של המדינה דבר כמובן שחשוב גם לדקטטורים כי אנשים יפחדו לחשוב שונה לזה יש גם משמעות קשה כלכלית ובטחונית ועוד…. ראוי לציין שגם ללא אמצעים טכנולוגים היכולת של הפרט להיות עצמאי במחשבתו תמיד נמצאת בסיכון זה יכול להיות אפילו מטרנדים אופנתיים שממש מטילים אימה על הפרט מה שהיה יופי נורמלי טבעי ומושך פתאום הופך לחריג ודוחה מדהים איזה השפעה עצומה יש לזה על הפרט, עוד מקום שבו המרחב הפרטי נפגע הוא בתוך המחנות הפוליטים דבר שהוא מעציב כי הוא פוגע קשה גם באנשים מאד משכילים ומרדד אותם לחשיבה של שחור לבן שבו יש דברים שאתה חייב לאהוב ויש דברים שאתה חייב לשנוא שזה כמובן כל מה שאהוב על המחנה השני,

  2. המצב היום הוא מטורף לגמרי , משכירי הטלפון השעונים החכמים והטלויזיה המצלמות שנמצאות בכל מקום המכוניות , אוספים מידע , אם זה קול ( כן גם בבית בסלון בחדר השינה ) ואם זה תמונות או וידאו, עדכוני התוכנה אוספים את המידע ומעברים אותו לרשויות המדינה ולחברות מסחריות.
    כלומר פרטיות היום אין , ונראה לי שרוב האנשים דיי אדישים לנושא …. חזון 1984 מתגשם

  3. נאיבי. אולי,אבל…..
    אני יכול לעשות מה שאני רוצה במרחב הציבורי?
    כן-כל עוד אני לא פוגע ו/או משחית את הסביבה.
    אני יכול להגיד מה שאני רוצה?
    כן-כל עוד אני לא פוגע ו/או משחית את הסביבה.
    אני חושב/מתנהג/פועל לפי הכללים המקובלים בסביבתי?
    אז אם כך-תצלמו אותי תתיגו אותי תנו לי לייק ואפילו חיבוק.

כתיבת תגובה

האימייל לא יוצג באתר.

דילוג לתוכן