Институт AI Now выступил против систем распознавания эмоций

Основанный в 2017 году AI Now — это исследовательский институт, изучающий социальные последствия применения искусственного интеллекта. Он ежегодно выпускает отчет о текущем состоянии исследований ИИ и этических последствиях его использования. В вышедшем недавно отчете 2019 года AI Now призывает законодателей установить ограничения на применение ИИ, особенно в области технологий обнаружения эмоций.

AI Now был открыт совместно с New York University, где он занимает пространство одного из корпусов. Изначально институт вырос из симпозиума, организованного Управлением по научной и технологической политике Белого дома Барака Обамы и призванного осветить последствия использования ИИ в таких сферах, как труд, этика, здравоохранение и прочее. Мероприятие возглавляли основатель Google Open Research Group Мередит Уиттакер и главный исследователь Microsoft Research Кейт Кроуфорд. Спустя год организаторы симпозиума провели его вновь, а затем официально объявили об открытии AI Now,  ставшего первым университетским научно-исследовательским институтом, ориентированным на социальные последствия ИИ, и первым институтом ИИ, основанным и возглавляемым женщинами. По мнению основателей AI Now, прежде применение искусственного интеллекта в таких социальных областях как здравоохранение, образование и уголовное правосудие рассматривалось лишь как техническая проблема. Теперь же пришло время взглянуть на социальную сторону влияния ИИ на общество, объединив для обсуждения вопроса экспертов по социологии, юриспруденции, истории и другим схожим дисциплинам.

В своем отчете 2019 года AI Now говорит о том, что противодействие «распознаванию аффектов», позволяющему получить данные об эмоциональном состоянии человека, является ее главным приоритетом. Наука не может оправдать использование подобной технологии, и еще есть время остановить ее широкое распространение. Среди главных проблем ее применения институт отмечает, что различные учреждения потенциально могут использовать такие данные для принятия решений о приеме сотрудников на работу, оценки стоимости страховки или определения успеваемости учеников в школе, что является не этичным.

Помимо того, что попытка «чтения» мыслей человека - это уже очень сомнительное с точки зрения этики действие, AI Now сообщает о том, что нередко встречаются случаи, когда технологии работают не корректно или и вовсе имеет сомнительные ориентиры для оценки. Так, например, согласно исследованию, проведенному американской некоммерческой организацией ProPublica, «детекторы агрессии», разработанные Sound Intelligence, которые сравнительно недавно активно внедрялись в школах, тюрьмах, больницах и банках, интерпретируют кашель как признак агрессии, что далеко не всегда соответствует действительности. Другой пример касается расистской подоплеки в оценке фотографий баскетболистов системами Face ++ и Microsoft Face API. Проведя ряд исследования, специалисты AI Now пришли к выводу, что они расценивали, что у чернокожих игроков больше отрицательных эмоциональных оценок, чем у других. Face ++ считал чернокожих спортсменов более агрессивными, а Microsoft Face API расценивал их лица как более презрительные, несмотря на то, что некоторые из них улыбались.

Главной же мыслью доклада AI Now стало то, что:

До сих пор практически не существует доказательств того, что новые продукты для распознавания аффектов имеют научную ценность

Читайте АВ Клуб в Telegram