Amazon настроен отстоять свою программу распознавания лиц

Акционеры Amazon будут дважды голосовать по вопросу продажи своей технологии распознавания лиц полицейским службам США на ежегодном общем собрании в среду. Будут подняты два острых вопроса для голосования.

Во-первых, нужно ли компании прекратить предлагать свою систему Rekognition государственным органам.

И, во-вторых, стоит ли заказывать независимое исследование, которое выяснит, угрожает ли технология гражданским правам людей.

Голосование не являются обязательными, то есть руководителям не нужно предпринимать какие-либо конкретные действия независимо от результата.

Amazon пытался заблокировать голоса, но Комиссия по ценным бумагам и биржам сообщила, что он не имеет на это права.

«Мы надеемся, что получим сильную поддержку со стороны других инвесторов, и это даст компании сигнал о том, что им не следует продвигать продажи правительствам до тех пор, пока они не смогут смягчить риски», — Мэри Бет Галлахер, исполнительный директор Трехгосударственной коалиции ответственных инвестиций.

«Мы не хотим, чтобы оно использовалось правоохранительными органами из-за воздействия, которое будет иметь на общество — это может ограничить желание людей ходить в общественные места, где они думают, что их могут отследить».

Amazon призвал своих акционеров проголосовать против предложений, заявив, что не получил ни одного сообщения о том, что система используется вредоносным образом.

«Rekognition» является мощным инструментом для правоохранительных органов и правительственных учреждений по выявлению преступников, предупреждению преступности и поиску пропавших людей», — отмечается в сообщении AGM.

«Новые технологии не должны быть запрещены или осуждены из-за возможного злоупотребления ими».

Что такое Rekognition?

Rekognition — это онлайн-инструмент, который работает как с видео, так и с неподвижными изображениями и позволяет пользователям сопоставлять лица с предварительно отсканированными объектами в базе данных, содержащей до 20 миллионов человек.

При этом он дает достоверную оценку того, является ли идентификатор точным.

Кроме того, он может:

    обнаруживать «небезопасный контент», такой как обнаженная натура предложить, является ли предмет мужчиной или женщинойвывести настроение человекавыделите текст на изображениях и расшифровать его для анализа

Amazon рекомендует правоохранительным органам использовать средство только в том случае, если рейтинг совпадения составляет 99% или более, и заявляет, что их действия должны быть прозрачными в отношении его использования.

Смещенные алгоритмы?

Частью привлекательности Rekognition является то, что его дешевле использовать, чем другие конкурирующих технологий распознавания лиц.

Но исследование, опубликованное в январе исследователями из Массачусетского технологического института и Университета Торонто, показало, что алгоритмы Amazon страдают от гендерных и расовых предрассудков, по сравнению с четырьмя конкурирующими продуктами.

В нем говорится, что Rekognition имел 0% ошибку при классификации светлокожих мужчин в рамках теста, но 31,4% ошибок, при классификации темнокожих женщин.

Amazon оспаривает выводы, заявляя, что исследователи использовали «устаревшую версию» своего инструмента и что его собственные проверки не обнаружили «никакой разницы» в гендерной классификации по этническим группам.

Несмотря на это, несогласие с использованием Rekognition также была озвучена группами гражданских свобод и сотнями работников Amazon.

Г-жа Галлахер заявила, что акционеры обеспокоены тем, что продолжающиеся продажи Rekognition в полицию могут нанести ущерб статусу Amazon как «одного из самых надежных учреждений в Соединенных Штатах».

Источник: russia-on.ru

Вы можете оставить комментарий, или ссылку на Ваш сайт.

Оставить комментарий

Чтобы иметь возможность оставлять комментарии, вы должны войти.