Камеры Flock: Ошибки Распознавания, Отслеживание Людей и Проблемы Конфиденциальности

Недавняя история о писателе, который был ошибочно идентифицирован, отслежен и арестован с использованием данных с камер Flock, вызвала широкий резонанс.

Предполагалось, что украденные номера из дилерского центра в Лос-Анджелесе были 34 03 DTM, а не 34 10 DTM. Однако при составлении полицейского отчета и вводе номера в систему Flock он был записан просто как 34 DTM. ИИ-технология Flock не распознавала эти небольшие внутренние цифры, когда начала отслеживать Range Rover писателя. Она просто фиксировала 34 DTM в крупном формате и отправляла оповещения местной полиции.

Выяснилось, что многие автомобили медиапарка Jaguar Land Rover (JLR) имеют номера штата Нью-Джерси с похожей структурой: 34 ## DTM. Полицейский отметил, что это делает проблему общенациональной: любой автомобиль JLR с аналогичным номером может быть ошибочно помечен как угнанный в любом месте, где используется система Flock. Действительно, в ту же неделю в Миннесоте отслеживались ещё четыре автомобиля с номерами 34 ## DTM. Писатель оказался лишь первым, кого задержали. Единственный способ исправить ситуацию — это чтобы полиция Лос-Анджелеса (LAPD) скорректировала свой первоначальный отчет и обновила систему Flock, чего Jaguar Land Rover пытался добиться после инцидента.

Компания Flock отреагировала на негативную огласку, заявив, что их системы работали корректно, и возложив вину на полицию:

Представитель компании Томас объяснил, что система машинного обучения Flock корректно прочитала и сопоставила символы "34 DTM", поскольку именно эта комбинация была ей передана. Он уточнил, что даже если бы "10" было стандартного размера, система всё равно бы пометила номер как совпадение, потому что именно так она настроена в соответствии с запросами правоохранительных органов. Иногда полиция располагает лишь частичными данными номерного знака, и им нужны оповещения по таким совпадениям.

Flock также утверждает, что обучает офицеров проверять полные номерные знаки, чтобы убедиться, что 34 DTM — это именно то, что они ищут, а не 34 10 DTM.

Во-вторых, генеральный директор Flock принес извинения за то, что ранее назвал защитников конфиденциальности "террористами". Известно, что руководитель Flock Safety, чья компания управляет обширной сетью камер, используемых полицией по всей США, не стеснялся критиковать оппонентов. В прошлом году он даже назвал "террористами" одну из групп, отслеживающих местоположение камер Flock. Теперь же он изменил своё мнение или, по крайней мере, свою PR-стратегию.

Тем временем, полиция использует сеть камер Flock не только для отслеживания автомобилей, но и для поиска конкретных людей. Правоохранительные органы по всей стране сотни раз применяли камеры Flock для поиска лиц по таким описаниям, как "полный мужчина в черно-белой шляпе", "человек на скейтборде" или "человек в оранжевом жилете и строительной каске". Иногда поисковые запросы включали расовые признаки или приметы, указывающие на политическую принадлежность цели.

И, как и в случае с любой полицейской технологией наблюдения, существуют факты злоупотреблений.