В полиции Нью-Йорка специально манипулировали системой распознавания лиц

New York City Police Manipulated Facial Recognition

Согласно исследованию, которое было проведено в США, полиция неправильно использует систему распознавания лиц. Давайте для начала немного разберемся, что из себя представляют система распознавания лиц. Это специальное программное обеспечение, которое ищет совпадения в чертах лиц. Для простоты понимания, принцип работы системы распознавания лиц можно сравнить с принципом работы поисковой системы, которая ищет совпадения текста (фразы), который вы вводите и выдает вам похожие результаты. 

Проблема состоит в том, что в обоих случаях чувствительность алгоритма можно настроить вручную, чем могут пользоваться недобросовестные копы. Как стало известно, сотрудники полиции Нью-Йорка преднамеренно манипулируют изображениями, прежде чем вводить их в базу данных: они добавляют на них других глаза, рот просто для того, чтобы картинка подходила под стандарты системы. В одном особенно вопиющем случае копы просто использовали фотографию актера Вуди Харрельсона. Они это сделали, основываясь на свидетельстве одного очевидца преступления, который сказал, что злоумышленник был похож на Харрельсона.

Поскольку чувствительность этих алгоритмов легко настраивается (а эти настройки сложно выполнить в ручном режиме), то можно легко подобрать определенное лицо в соответствие с заданными параметрами. Это сложная проблема, и после подобных исследований многие люди высказываются против применения данной технологии в подобных целях, по крайней мере до тех пор, пока из уравнения мы не можем убрать человеческий фактор.

Напомним вам:

Полиция Орландо отказалась от ПО для распознавания лиц от Amazon

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *