מצלמות הביון של Flock

אדם נכנס לדיון ציבורי בסן דיאגו. הוא לבוש בתחפושת דארת' ויידר. על מה הדיון? על מצלמות Flock שמציפות את המרחב הציבורי בארה"ב. למה דארת' ויידר שם? כדי לתמוך בהן. אלו מצלמות מעקב נהדרות לאימפרית הרשע שלו.

סיפור אמיתי שבאמת קרה. הוכחה:

נשאלות השאלות:
👈️ מה הן מצלמות Flock?
👈️ למה Flock סופגים כל כך הרבה זעם?
👈️ איך אפשר להימנע מזיהוי פנים?

שלוש שאלות עמוקות! לכל אחת מגיעה פוסט משלה. נאחד את כולן לפוסט אחד-

אך ראשית, דיסקליימר:  אני לא מומחה בנושא; סתם חובבן מתעניין שאוהב לכתוב.

מה הן מצלמות Flock?
מצלמות Flock הן מצלמות מעקב.

מה זה מצלמות מעקב? האם זה שונה ממצלמות האבטחה שכולנו התרגלנו אליהן כבר? כן, שונה מאד. כי מצלמות אבטחה מצלמות פסיבית איזור מסוים (ואז בדר"כ מוחקות את התמונה אחרי זמן מה). אף אחד לא מסתכל על הסרטונים שהן שומרות, אלא אם כן יש סיבה ספציפית. מצלמות כאלה מצלמות אתכם כל הזמן כיום – אבל אף אחד לא מסתכל בסרטונים האלה ולא יודע שעברתם שם או מה עשיתם.

זה עדיין די קריפי לדעתי שאנחנו מצולמים כל הזמן. אני שונא את זה. ברוס שנייר כתב החודש ש-25 שנים של מעקב אחרי אזרחים זה יותר מדי. אבל לפחות נתנחם בכך שאלו צילומי רפאים. הם נזרקים לפח.

מצלמות מעקב לעומת זאת רושמות אתכם אוטומטית. הן מקטלגות ושומרות את ההופעות שלכם במסד נתונים. אם יש הרבה מצלמות כאלה מפוזרות בכל מקום – וזה המצב עם Flock כרגע – נוצר בעצם מסד נתונים שאוטומטית עוקב איפה הייתם בכל יום ושעה. מאד קריפי.

למה Flock סופגים כל כך הרבה זעם?
פורמלית Flock עוקבות רק אחרי לוחיות זיהוי ותנועת כלי רכב. יש לזה שם מקצועי, ALPR – Automated License Plate Reader. כלומר, הן קוראות אוטומטיות לוחיות רישוי, ואז מקטלגות את תנועת הרכבים שלכן בשביל לדעת לאיפה נסעתם ומתי. זה *פורמלית*, כבר נגיע ללא פורמלי.

אבל גם עם הפורמלי יש בעיה – כי המצלמות לא עושות את זה מושלם. ממש לא. יש הרבה סיפורים בארה"ב על אנשים שעוקבו או נעצרו ע"י המשטרה בגלל ש-Flock סיפקה מידע שגוי.

סיפור אחד עסיסי מפברואר\מרץ השנה הוא שוטר שעצר מכונית ש-Flock דיווח לו שגנובה. הוא שלף נשקו והכריח את הזוג שישב שם לצאת החוצה – כל זה בזמן שהתינוק בן שישה השבועות שלהם נשאר לבד באוטו. ומה הסתבר בסוף? Flock טעו באות אחת בקריאת לוחית הזיהוי. הרכב לא גנוב בכלל.

כמה נפוץ הזיהוי השגוי הזה? לא יודע. נדמה לי שראיתי איפושהו שתועדו "כולה" ארבעים ומשהו מקרים, שזה לא הרבה למדינה ענקית כמו ארה"ב. מצד שני, הרבה מקרים לא מתועדים כי לא כל אחד שנעצר בטעות רץ לדווח על זה לרשתות. מעבר לכך, צדק הוא מושג אנושי, לא אבסולוטי. לכן, פסיכולוגית אנשים הרבה יותר רגישים לעוולות שנגרמות ע"י מכונה מאשר לעוולות של טעות אנוש.

Automation is injustice.

הבעיה היא כמובן שגם בני אדם הם יצורים חסרי צדק. יצרתם מערכת מעקב ענקית שלאלפי, אם לא עשרות אלפי, אנשי אכיפת חוק יש גישה אליה, ומה אתם חושבים? שהם לא ינצלו אותה לרעה? מנסיוני במקומות כאלה, אנשים מנצלים מידע פרטי לצרכיהם האישיים – אפילו אם זה רק סקרנות – בלי למצמץ פעמיים. אפילו אם הם אנשי חוק. טבע האנוש וזה.

גם פה יש סיפור עסיסי שקיבל תשומת לב: שוטר השתמש ב-Flock כדי לרגל אחרי האקסית שלו. סיפור שכולל כמעט את כל הטריגרים של אנשים רגילים. אבל זה לא העיקר לדעתי, אלא כל הפעמים בהם שוטרים לבטח השתמשו ב-Flock סתם מיצר סקרנות או משיעמום. אנחנו אנושיים, זה קורה.

אוקי, תגידו, אבל זה רק עוקב אחרי מכוניות! לא כזה, נורא, נכון? ראשית, יש מקומות בהם זה כן נורא, כי יש אנשים, הרבה אנשים, שתלויים במכונית שלהם לתנועה. אתם יודעים את תנועות המכונית – אתם יודעים את התנועות שלהם. ארגון EFF חקר הרבה מקרים של שימוש לרעה ביכולות האלה.

אבל יותר מזה – לא פורמלית – למצלמות של Flock יש את היכולת לעקוב אחרי אנשים. יש בהן כבר אלגוריתמים של זיהוי פנים, ואפילו זיהוי הליכה (gait). אפילו אם הם לא מופעלים כרגע – ואני מאמין לחברה שהם לא – אפשר להפעיל אותם בשניה. ואז ארה"ב פרסה רשת של אלפי מצלמות שבלחיצת כפתור יכולה להפוך לרשת מעקב המונית.

מה עוד שאם המצלמות עוקבות רק אחרי מכוניות, למה שמו אחת באמצע שביל הליכה בטבע?

איך להתמודד?
קהילת ההאקרים נדרשה לשאלה איך להתמודד עם רשת מצלמות מעקב פרושה ארצית. התשובה? קלושה כרגע.

בהרצאה מתוקשרת בכנס ההאקרים האמריקאי לפני כמה שבועות, DEFCON, הציג ביל סוורינגן עיצוב שמתעתע במצלמות זיהוי פנים, בעיקר אלו של Flock. אני לא מטמיע את ההרצאה בפוסט, בגלל שלמרות שהיא שואו עשוי היטב, כמו הרבה הרצאות אמריקאיות, אין בה מספיק תוכן ל-46 דקות. כבר נסכם בפיסקה אחת מה קורה שם.

בדיוק באותו היום בו עלתה ההרצאה מ-DEFCON לרשת — התפרסמה כתבה על האמן הגרמני זימון ווקרט. גם הוא עיצב חולצה שמונעת זיהוי ע"י AI. הנה שני העיצובים בשבילכם להשוואה, האחד (מ-DEFCON) על מכונית ובשני זימון מדגמן את החולצה היפייפיה שיצר:

שני העיצובים דומים, ושניהם נעשו בהשיטת ניסוי וטעייה בעזרת AI. בשני המקרים אין הבנה או תובנות על טכנולוגיית זיהוי פנים. אם כבר יש תובנה – היא על "איך עובדים נכון עם AI".

זה פרפרזה לעולם שלם שעבר בשנה האחרונה לעבוד בשיטת "מצליח", ו"אם זה עובד, אל תנגע בזה". הרצון להבין מרגיש ארכאי וטרחני. אל תהיו חנונים, תנו ל-AI לטפל בזה.

אז אני קצת פסימי. ראשית, אם אנשים אשכרה יתחילו ללבוש את העיצובים המכוערים האלו, Flock מהר מאד תעדכן את המצלמות שלה לזהות אותם. אין פה הרי שום הבנה של מגבלות הטכנולוגיה, אלא סתם ניסוי וטעייה בו גילו איזה עיצוב שכרגע המצלמה לא קולטת.

ושנית, כי זאת לא הדרך לעשות אבטחה. אם יש דרך להתמודד עם המעקב הזה, הוא צריך לבוא מהבנה של הטכנולוגיה. לבנות משהו שמשחק על ההבדלים בין מצלמה לבין עין. בין נקודת מבט סטטית לבין נקודת מבט דינמית. משהו שיוצר אשליה אופטית אולי? לא יודע. אבל בלי הבנה נגיע – לדעתי – להרצאות או כתבות מגניבות, אבל לא לפתרון פרקטי.