Сначала IBM, а теперь и Amazon запретили полицейским пользоваться их разработками в этой сфере, пишет 360tv.ru.
Там считают, что в руках полицейских технология ущемляет права и свободы людей. Но так ли это на самом деле?
На днях американская технологическая компания IBM прекратила продавать программное обеспечение для распознавания лиц американским правоохранительным органам. В организации объяснили это тем, что наблюдение за людьми нарушает основные права и свободы граждан.
«Сейчас самое время начать общенациональный диалог о том, как следует и нужно ли вообще применять технологию распознавания лиц в местных правоохранительных органах», — сказал гендиректор Арвинда Кришна.
Компания Amazon ввела мораторий на использование такой же технологии полицией и другими правоохранительными ведомствами в США. Организация напомнила, что всегда выступала за введение более строгих правил для регулирования систем распознавания лиц и ее использования.
Amazon поставляла свое программное обеспечение Amazon Rekognition полицейским департаментам и другим правоохранительным организациям США. Несмотря на мораторий, компания оставила ПО некоторым структурам, которые занимаются розыском детей, спасением жертв торговли людьми, воссоединением семей.
В США вопросом, связанный с системами распознавания лиц, серьезно занялись только недавно. 9 июня члены Демократической партии внесли в Конгресс США законопроект, запрещающий использование федеральными правоохранительными органами соответствующих систем.
Длительное время ПО для слежки критиковали, но именно протесты, вызванные гибелью афроамериканца Джорджа Флойда, стали поводом для действий. Людей заинтересовала тактика полиции и их методы работы, в которых система распознавания лиц играет важную роль.
В связи с происходящим в США открывается вопрос: эпоха слежки со стороны полиции может завершиться по всему миру?
Внутренний конфликт
Эксперт в области IT Артем Геллер считает, что распространение и использование технологии распознавания лиц не прекратится по всему миру из-за происходящего в США. По его мнению, решение IBM и Amazon — пиар, а сам мораторий временный.
«Это странный ход, потому что распознавание лиц помогает найти именно преступников. Возможно, по внутренним причинам Amazon не доверяет полиции, которая находится в руках тех лидеров страны, про которых Билл Гейтс и основатель Amazon стали резко негативно высказываться. Они в этом смысле просто вставляют палки в колеса работе полиции. И то эти палки никак не повлияют на работу», — сказал Геллер.
IBM и Amazon ничего не потеряют при запрете своих систем при работе полиции. Более того, тот же Amazon, по словам Геллера, не имеет никакого отношения к камерам в американских городах и софту, которым пользуются правоохранительные органы.
Расистский ИИ
Управляющий партнер MINDSMITH Руслан Юсуфов выразил другую точку зрения. По его мнению, проблема в самой системе распознавания лиц. Ведь искусственный интеллект — расист.
- Искусственный интеллект расист, он предвзят к каким-то меньшинствам, и на фоне беспорядков, которые происходят, и противостояния гражданского общества и силовых органов [представляет угрозу], - считает Руслан Юсуфов.
Юсуфов напомнил об истории с Google Photos, когда слово «горилла» путалось сервисом с представителем негроидной расы. То есть фотографии, на которых были люди с очень темным цветом кожи, получали в системе Google Photos тег «горилла».
Также специалист привел такой пример: на снимке стоят два человека — светлокожий и темнокожий, а в руках у каждого строительный инструмент. Искусственный интеллект может посчитать, что у темнокожего пистолет, а то есть он представляет опасность.
То есть человека, не являющегося преступником, могут начать преследовать из-за ошибки системы распознавания лиц
Сложно судить насколько это солидарность или осознанное решение. По-хорошему это бизнес, и бизнес-продукты свои нужно развивать. Государство и правоохранительные — это одни из покупателей.
- Мы как общество впервые сталкиваемся с такими проблемами, потому что раньше технологии не развились до такого уровня, а сейчас возникает набор этических проблем, с которыми человек сталкивается впервые, - подчеркнул Руслан Юсуфов.
Юсуфов считает, что IBM и Amazon почувствовали социальную ответственность, хотят выразить солидарность, а также пропиариться на фоне протестов. Тем более это поможет исключить репутационные потери, так как их технология распознавания лиц не сможет ошибиться, если будет отключена.
Авторы: Борис Ломакин, Ольга Нижельская
