Почему Microsoft против технологии распознавания лиц

Президент и главный юрист Microsoft призвал правительство США выработать регулировки в сфере машинного распознавания лиц. Заявление прозвучало после того, как недавно Microsoft обвинили в предоставлении подобных технологий правительству для разделения семей иммигрантов на границе. Microsoft утверждает, что умышленно замедляет развитие своих технологий в этой сфере.

Заявление Брэда Смита

Президент и главный юрист Microsoft Брэд Смит (Brad Smith) выступил с заявлением, что технологии распознавания лиц нуждаются в правительственном регулировании. Заявление было опубликовано в блоге компании.

Смит считает, что использование подобных механизмов порождает целый ряд вопросов о защите прав человека, в том числе права на приватность и свободу самовыражения. В связи с этим президент Microsoft говорит о необходимости «продуманного правительственного регулирования» и «разработки норм допустимого использования» машинного распознавания лиц.

Потенциальные опасности

По словам Смита, в течение нескольких лет механизмы машинного распознавания лиц просто занимались каталогизированием фотографий и поиском соответствий в этих каталогах. Однако по мере развития компьютерного зрения, совершенствования видеокамер и роста популярности облачных решений все изменилось и сейчас лицо человека можно в реальном времени распознать в видеопотоке. Такое положение вещей Смит считает уже слишком глубоким вмешательством в жизнь общества.

Президент Microsoft отмечает несомненную пользу, которую приносят эти технологии в поиске пропавших детей, отслеживании террористов и идентификации пользователей на персональных устройствах. Но одновременно и предупреждает, что такие механизмы могут дать правительствам возможность следить за гражданами, а крупным компаниям — мгновенно обмениваться данными о потреблении населением товаров и услуг без их согласия. Получившуюся картину Смит сравнивает с ситуацией в романе-антиутопии Джорджа Оруэлла «1984».

Затрагивает он и проблему неодинаковых успехов технологии в распознавании лиц представителей различных рас и национальностей, отмечая, что белые мужчины распознаются с большей точностью, чем женщины, а светлокожие лучше темнокожих.

Разделение семей

Смит также останавливается на инциденте, имевшим место в июне, когда в социальных медиа распространилась информация о контракте Microsoft с Иммиграционной и таможенной полицией (ICE) США. По нему компания якобы предоставляет ICE технологии распознавания лиц, которые используются для установления личностей иммигрантов на мексиканской границе, что в конечном счете приводит к разделению семей, в том числе и детей с родителями. 

В ходе разгоревшихся дебатов Microsoft заявила, что технологии, которые она поставляет ICE, не используются для распознавания лиц. В контракте речь идет о таких продуктах как почта, календарь, средства управления документами и обмена сообщениями.

Предложения по регулированию

Смит обозначил ряд вопросов в сфере машинного распознавания лиц, которые должны быть отрегулированы государством: 

• Можно ли данные таких систем использовать в качестве самостоятельного доказательства вины или невиновности в суде; 

• Следует ли в целях обеспечения национальной безопасности водить общественный контроль за использованием подобных технологий; 

• Должно ли быть отрегулировано применение правительством машинного распознавания лиц для расового профилирования;

• Следует ли установить порог необходимой точности распознавания лица;

• Нужно ли обязать ритейлеров сообщать потребителям, что подобная система используется в публичном месте;

• Должны ли компании получать предварительное согласие пользователя на распознавание его лица;

• Имеет ли пользователь право знать, какие его фотографии были собраны и хранятся в базе, и в каком правовом порядке пользователь может опротестовать результаты распознавания, если он полагает, что система допустила ошибку.

Смит предлагает Конгрессу США создать экспертную комиссию, которая займется разработкой регулировок.

Со своей стороны Microsoft старается не выпускать незрелые технологии, следовать принципам открытости и прозрачности исследований, регулярно оценивая риски возможного нарушения прав человека, и умышленно идет по пути замедления внедрения полного диапазона технологий распознавания лица, стараясь сделать этот процесс более осознанным. 

Читайте АВ Клуб в Telegram