Amazon подвергается критике за продажу полиции неисправных технологий распознавания лиц

Новости о распознавании лиц полиции Amazon.

Об ограничениях технологии распознавания лиц сообщалось много, и это еще больше сбивает с толку тот факт, что Amazon продаст свои технологии полиции.

Известно, что технология распознавания лиц с трудом распознает более темную кожу и женщин, что одно дело, когда она используется для входа в ваш телефон, но исследователи искусственного интеллекта в открытом письме берут на себя ответственность за продажу чего-то столь несовершенного с точки зрения закона. исполнение.

Открытое письмо Amazon

Это делает эту историю еще более восхитительной, если знать, что некоторые исследователи ИИ, составляющие открытое письмо, принадлежат к конкурентам Amazon: Google, Microsoft и Facebook. Это письмо с просьбой к Amazon прекратить продажу их несовершенной технологии распознавания лиц было опубликовано на Medium.

На фоне этой истории распознавание лиц подверглось критике, поскольку оно стало более популярным инструментом входа в систему, поскольку оно показывает то, что кажется предвзятым. Однако это не преднамеренная предвзятость - тем не менее, предвзятость существует, преднамеренная или нет.

Причина несоответствия в распознавании лиц в случае Microsoft - это данные, на основе которых была построена технология. При создании технологии Microsoft скармливала ей изображения, чтобы научиться распознавать лица. Тем не менее, использованные фотографии были в основном белые мужчины. Это привело к тому, что он не очень хорошо распознавал более темную кожу или женщин.

В письме сообщается, что инструмент Amazon Rekognition имеет "гораздо более высокий процент ошибок при классификации пола темнокожих женщин, чем светлокожих мужчин (31% против 0%).

Исследователи полагают, что официальные лица Amazon Мэтью Вуд и Майкл Панке "исказили технические детали работы и новейшие достижения в области анализа и распознавания лиц".

Новости Amazon Police наручники с распознаванием лиц

Далее они заявляют, что "предвзятость, обнаруженная в одной системе, вызывает беспокойство в другой, особенно в случаях использования, которые могут серьезно повлиять на жизнь людей, таких как приложения правоохранительных органов". Они добавляют, что нет никаких "требуемых стандартов, гарантирующих, что Rekognition используется таким образом, который не нарушает гражданские свободы".

Ссылаясь на исследование, которое обнаружило расовое и гендерное неравенство в технологии распознавания лиц, исследователи затем отметили, что Вуд и Панке пытались опровергнуть результаты исследования, назвав его "вводящим в заблуждение" и заявив, что оно сделало "ложные выводы".

Они также подвергли сомнению утверждение Вуда о разнице между "распознаванием лиц" и "анализом лиц". Исследователи обнаружили, что эти два понятия на самом деле тесно связаны, и что их часто заменяют друг на друга.

Они считают, что важно протестировать Rekognition "в реальном мире, так, чтобы оно могло быть использовано", в том числе в сценариях "черного ящика", когда пользователи не взаимодействуют с внутренними деталями системы, такими как модель, обучающие данные. , или настройки. "

Поскольку эта технология используется полицией, исследователи цитируют адвокатов, которые объяснили, что "не те люди могут предстать перед судом из-за случаев ошибочной идентификации". Они считают, что полиции "неизвестны ни параметры этих инструментов, ни то, как интерпретировать некоторые из их результатов".

Какие средства защиты есть у общественности?

"Мы призываем Amazon прекратить продажу Rekognition правоохранительным органам, поскольку отсутствуют законы и меры безопасности для предотвращения неправомерного использования", - просят исследователи.

Конечно, это должно быть правдой: если технология распознавания лиц неисправна, ее нельзя использовать для принятия жизненных решений. Но какой выход у нас есть? Что мы можем сделать, если эта технология уже используется полицией?

Следует ли снова указывать пальцами на Amazon? Или они должны указать на полицию? Как вы думаете, что нужно делать? Расскажите нам, что вы думаете о несовершенной технологии распознавания лиц Amazon, в комментариях ниже.

3 комментария

  1. "Следует ли снова указывать пальцами на Amazon?"
    Нет. Палец должен указывать на все компании, которые стремительно выводят свои продукты на рынок, чтобы обойти своих конкурентов. Со стороны Google, Microsoft и Facebook неискренне бросаются на Amazon за преждевременную продажу недостаточно разработанного и недостаточно протестированного продукта, хотя они сами продали много незавершенных продуктов за эти годы.

    Такие продукты, как распознавание лиц, Интернет вещей, автономные транспортные средства и другие, еще не готовы к использованию в прайм-тайм. Тем не менее, производители продвигают их как "Лучшее после нарезанного хлеба". Позиция производителей выглядит так: "Давайте вытащим это на рынок как можно скорее и начнем зарабатывать деньги, а давайте побеспокоимся о проблемах, которые возникнут позже".

  2. Как и в случае с беспилотными автомобилями, распознаванию лиц предстоит пройти долгий путь, прежде чем оно станет надежным (если вообще станет!). Лично я очень осторожно отношусь к неправильной идентификации и сплошной слежке за невиновными людьми, такой как недавние так называемые судебные процессы, проводимые лондонской столичной полицией. Я категорически возражаю против того, чтобы мое лицо и / или внешность сканировались и регистрировались без моего разрешения, особенно с помощью такой ненадежной системы. По моему мнению, этому нет места в том, что должно быть свободным обществом.


    "Должно быть свободное общество".
    Это ключевая фраза, ПРЕДНАЗНАЧЕННАЯ БЫТЬ.

    Фактически, это свободное общество, о чем свидетельствует свобода правительства делать все, что захочет. Все зависит от семантики.

Комментарии закрыты.