זיהוי פנים: עשר סיבות שגורמות לדאגה

הצמיחה המהירה של טכנולוגיה זו עוררה דיון עקרוני. פעילים, פוליטיקאים, אנשי אקדמיה ואפילו קציני משטרה מביעים חששות כבדים מההשפעה שיש לזיהוי הפנים על התרבות הפוליטית המבוססת על זכויות ודמוקרטיה

מאת: בירגיט שיפרס, עמיתת מחקר אורחת, מכון ג’ורג מיטשל לשלום, ביטחון וצדק עולמי, אוניברסיטת המלכה בלפסט. תרגום: אבי בליזובסקי

טכנולוגיית זיהוי הפנים מתפשטת במהירות. בסין כבר נפוצה תכנה שמזהה אנשים על ידי השוואת תמונות של פניהם מול בסיס נתונים של רשומות. כעת היא מאומצת ברוב חלקי העולם. השימוש בה נפוץ בקרב כוחות המשטרה אך גם בשדות תעופה, תחנות רכבת ומרכזי קניות.

הצמיחה המהירה של טכנולוגיה זו עוררה דיון עקרוני. פעילים, פוליטיקאים, אנשי אקדמיה ואפילו קציני משטרה מביעים חששות כבדים מההשפעה שיש לזיהוי הפנים על התרבות הפוליטית המבוססת על זכויות ודמוקרטיה.

חששות לזכויות אדם

כמי שחוקרת את עתיד זכויות האדם, אני שותפה לדאגות הללו. להלן עשר סיבות מדוע עלינו לדאוג בנוגע לשימוש בטכנולוגיית זיהוי פנים בחללים ציבוריים.

1) זה מציב אותנו בדרך ליכולת מעקב אוטומטי

טלוויזיות במעגל סגור נפוצות כבר ברחבי העולם, אבל כדי שממשלות ישתמשו בקטעי צילום נגד אדם מסוים הן צריכות למצוא קטעים ספציפיים שיוכלו לשמש ראיות. טכנולוגיית זיהוי הפנים מביאה את המעקב לרמות חדשות. היא מאפשרת מעקב אוטמוטי בזמן אמת ובלי הבחנה של אנשים בזמן שהם מנהלים את חיי היום יום שלהם, ומאפשר לרשויות לעקוב אחר כל מהלך של כל אדם.

2) הטכנולוגיה פועלת ללא מסגרת חוקית או רגולטורית ברורה

לרוב המדינות אין חקיקה ספציפית המסדירה את השימוש בטכנולוגיית זיהוי פנים, על אף שכמה מחוקקים מנסים לשנות זאת. איזור דמדומים משפטי זה פותח את הדלת לשימוש לא ראוי, כגון השגת התמונות שלנו ללא ידיעתנו או הסכמתנו והשימוש בהן בדרכים שלא היינו מאשרים.

3) השימוש בטכנולוגית זיהוי פנים מפר את עקרונות ההכרח והמידתיות

עקרון זכויות האדם המוצהר, המוכר על ידי האו”ם, הוא שמעקב צריך להיות הכרחי ומידתי. משמעות הדבר היא כי יש להגביל את המעקב רק במקרה של ביצוע פשעים חמורים במקום לאפשר התערבות בלתי מוצדקת בחירותנו ובזכויות היסוד שלנו. טכנולוגיית זיהוי פנים אינה עומדת בעקרונות אלה. זו טכנולוגיית שליטה שהוא סימפטום לחוסר האמון של המדינה באזרחיה.

4) פגיעה בזכותנו לפרטיות

הזכות לפרטיות עניינית חלה גם במרחבים ציבוריים. זכות זו מגינה על ביטוי זהותנו מפני מעקב של המדינה או של חברות פרטיות. הקלטה, אחסנה וניתוח של תמונות שלנו ללא הבחנה באמצעות טכנולוגיית זיהוי פנים של טכנולוגיות פוגעת בזכות זו מכיוון שמשמעותה היא שאיננו יכולים עוד לעשות דבר בפומבי בלי שהמדינה תדע על כך.

5) השפעה מטרידה על התרבות הפוליטית הדמוקרטית שלנו

מעקב רציף יכול להרתיע אנשים מלהגיע לאירועים ציבוריים. הוא יכול לצמצם את ההשתתפות בהפגנות פוליטיות ובקמפיינים לשינוי ובכלל להרתיע מהתנהגות לא קונפורמיסטית. אפקט מטריד זה הוא פגיעה חמורה בזכות לחופש האסיפה, ההתאגדות והביטוי.

6) טכנולוגית זיהוי הפנים שוללת מהאזרחים את האפשרות להסכמה

לא קיים מידע מפורט וספציפי לגבי השימוש בפועל בזיהוי פנים. המשמעות היא שלא ניתנת לנו האפשרות להסכים להקלטה, ניתוח ואחסון של תמונות שלנו במאגרי מידע. בכך שנשללת מאתנו האפשרות להסכים, נשללת מאתנו בחירה ושליטה על השימוש בתמונות שלנו.

7) לעיתים קרובות הזיהוי לא מדויק
טכנולוגיית זיהוי פנים מבטיחה זיהוי מדויק. אולם מחקרים רבים הדגישו כיצד האלגוריתמים המתאמנים על מערכי נתונים מוטים גזעית ומזהים אנשים צבעוניים, במיוחד נשים צבעוניות. הטיה אלגוריתמית כזו מדאיגה במיוחד אם היא מביאה למעצרים שלא כדין, או אם היא גורמת לסוכנויות ציבוריות וחברות פרטיות להפלות נשים ואנשים מרקע אתני מסויים יותר מאחר.

8) שימוש לרעה באוטומציה

אם האנשים המשתמשים בתכנת זיהוי פנים מאמינים בטעות שאפשר למחשב את התהליך בלי התערבות אנושית, היא עלולה להוביל להחלטות גרועות. יש להימנע מ”הטיית אוטומציה” זו. התוצאות המיוצרות במכונה לא צריכות לקבוע כיצד סוכנויות מדינה או תאגידים פרטיים מתייחסים לאנשים. מפעילים אנושיים מיומנים חייבים להתאמן על שליטה ראויה וקבלת החלטות על פי חוק.

9) מאגרים ביומטריים סודיים בידי ממשלות

מסדי הנתונים שמכילים תמונות פנים שלנו צריכים להדליק נורות אדומות. הם מרמזים כי חברות פרטיות ורשויות אכיפת החוק משתפות את תמונותינו לבניית רשימות מעקב של חשודים פוטנציאליים ללא ידיעתנו או הסכמתנו. זה איום רציני על זכויות הפרט וחירויות האזרח שלנו. גם האבטחה של מסדי נתונים אלה ופגיעותם בגלל פעולות של האקרים מעוררות דאגה.

10) אפשר להשתמש בטכנולוגיות זיהוי הפנים כדי להתמקד בקבוצות פגיעות

אפשר להשתמש בטכנולוגיית זיהוי פנים למעקב כולל אחר כולם אך ניתן לפרוס אותה גם באופן סלקטיבי, למשל לזיהוי מהגרים ופליטים. מכירת תכנת זיהוי פנים לסוכנויות כמו רשות ההגירה האמריקאית (ICE) העומדת תחת ביקורת קשה על שיטות העבודה שלה בהתמודדות עם מהגרים, אמורה להדאיג כל מי שדואג לזכויות אדם. השימוש במכשירים ניידים עם אפליקציית זיהוי פנים על ידי כוחות המשטרה מעלה את הסיכוי להטיות על בסיס אתני ברחוב או כלפי פרופילים גזעיים מסויימים ברחוב.

דיונים נחוצים מאוד

עם כל כך הרבה חששות בנוגע לטכנולוגיית זיהוי פנים, אנו זקוקים נואשות לדיון פתוח ועקרוני על השפעתה על זכויותינו וחירויות האזרח. ללא רגולציה של מערכות אלה, אנו מסתכנים ביצירת מדינות משטרה דיסטופיות במדינות שהיו לפני כן דמוקרטיות.

עוד בנושא באתר הידען:

• חשש: זיהוי פנים בקהל יפגע בפרטיות
• כיצד המוח מזהה פרצופים
• כיצד המוח מזהה פרצופים
• מהו פרויקט המאגר הביומטרי הישראלי?