IBM отменяет свои программы распознавания лиц

IBM отменяет свои программы распознавания лиц и призывает к срочному публичному обсуждению того, следует ли использовать эту технологию в правоохранительных органах.

В письме к Конгрессу в понедельник генеральный директор IBM Арвинд Кришна (Arvind Krishna) сказал, что компания хочет работать с законодателями, чтобы продвинуть расовую справедливость через реформу полиции, образовательные возможности и ответственное использование технологий.

«Мы считаем, что сейчас самое время начать общенациональный диалог о том, следует ли и как применять технологию распознавания лиц в местных правоохранительных органах», — сказал он, отметив, что компания больше не предлагает универсальное программное обеспечение для распознавания лиц или анализа.

«IBM решительно выступает против использования любых технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массового наблюдения, расового профилирования, нарушения основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям, и не будет потворствовать им», — добавил Кришна, индийского происхождения.

Представитель IBM заявил во вторник, что теперь компания ограничит свои визуальные технологии «визуальным обнаружением объектов», которое может, например, помочь в управлении производственными предприятиями или помочь фермерам в уходе за растениями.

Письмо Кришны было опубликовано после огромных протестов из-за расизма в Америке и во всем мире в ответ на смерть Джорджа Флойда, невооруженного темнокожего мужчины, который был убит, находясь под стражей в полиции. Несколько американских корпораций выразили солидарность с протестующими и движением Black Lives Matter. Но компании были призваны предпринять более конкретные шаги для борьбы с расовой несправедливостью, такие как найм и продвижение большего количества чернокожих руководителей.

IBM является лидером на рынке искусственного интеллекта. IBM Watson, ее платформа AI для бизнеса, используется такими компаниями, как General Motors (GM), KPMG и ESPN Fantasy Football.

Федеральные исследователи обнаружили широко распространенные доказательства расовой предвзятости в почти 200 алгоритмах распознавания лиц в ходе обширного исследования, проведенного правительством США в прошлом году, подчеркивая потенциал этой технологии для неправильного использования.

«Искусственный интеллект — это мощный инструмент, который может помочь правоохранительным органам обеспечить безопасность граждан. Но поставщики и пользователи систем Al несут общую ответственность за обеспечение того, чтобы Al проверялся на предвзятость, особенно при использовании в правоохранительных органах», сказал Кришна.

Кришна добавил, что национальная политика должна поощрять использование технологий, обеспечивающих большую прозрачность и подотчетность полиции, таких как камеры наблюдения.

Он приветствовал Закон о справедливости в полицейской деятельности — законопроект, предложенный демократами в понедельник с целью подавления жестокости полиции. Предлагаемое законодательство включает в себя создание Национального реестра неправомерных действий полиции, меры, поддерживаемые Кришной.

Источник: https://edition.cnn.com/2020/06/09/tech/ibm-facial-recognition-blm/index.html