Microsoft вслед за Amazon отказалась продавать полиции софт для распознавания лиц
Pixabay.com
Microsoft вслед за Amazon отказалась продавать полиции софт для распознавания лиц
 
 
 
Microsoft вслед за Amazon отказалась продавать полиции софт для распознавания лиц
Pixabay.com

На фоне протестов, вспыхнувших в США после гибели афроамериканца Джорджа Флойда, и обострения дискуссий о проблеме расизма компания IBM на днях объявила о прекращении любых разработок в сфере распознавания лиц, а компания Amazon сообщила о введении моратория сроком в один год на использование полицией технологии распознавания лиц Amazon Rekognition. Теперь к ним присоединилась и Microsoft.

Как пишет CNBC, президент компании Брэд Смит заявил, что Microsoft не будет продавать американским правоохранителям свой софт для распознавания лиц до тех пор, пока в США не будет принят национальный закон, регулирующий использование таких технологий.

В настоящее время законопроект о реформе полиции, который среди прочего предусматривает запрет на использование федеральными правоохранительными органами технологий распознавания лиц в режиме реального времени, внесен в конгресс США.

Ранее качество работы системы распознавания лиц от Amazon вызвало вопросы у активистов. Так, в 2018 году Американский союз гражданских свобод (ACLU) протестировал систему Amazon, которой на тот момент пользовались полицейские в некоторых штатах. В рамках тестирования в систему были загружены фотографии всех 535 конгрессменов, которые алгоритм сравнивал с публичной базой из 25 тыс. фотографий подозреваемых в преступлениях. Хотя снимков членов конгресса не было в этой базе, система выдала 28 ошибочных совпадений.

В Amazon тогда связали ложные совпадения с недостаточной калибровкой. В компании заявили, что в ACLU использовали систему с выставленной по умолчанию вероятностью совпадения в 80%, тогда как компания рекомендует правоохранителям повышать этот параметр до 95%. При этом сама программа не выдавала такой рекомендации в процессе настройки.

Проверка ACLU также показала, что система Amazon склонна к расовой дискриминации, подобно некоторым аналогичным алгоритмам. 11 из 28 ложных совпадений (около 39%) пришлись на чернокожих конгрессменов. При этом доля темнокожих членов в конгрессе тогда составляла 20%.