непонятно совсем.
– Боб, ты видел результаты системы распознавания лиц, внедренной в аэропорту и на вокзале?
– Да. Мы за два дня сумели поймать больше разыскиваемых, чем за три года перед этим.
– Знаешь, что губернатор приказал еще два месяца назад внедрить ее во всех крупных населенных пунктах и на всех вокзалах?
– Конечно!
– Представь, насколько работать станет легче!
– Не думаю!
– Почему?
– Потому что в результате полицейские могут просто разучиться думать! Они будут верить в то, что камеры не ошибаются. А ведь это просто еще один фактор поиска, и не более!
– Согласен, но удобно же.
– Эй вы, хватит болтать! Кажется, полицейские задержали для проверки некоего Роберта В. Система распознавания лиц определила в нём преступника, который два года назад совершил магазинную кражу. Его доставили в участок.
– А еще какие-то улики есть?
– Нет! Но его ведь опознали?
– Боб, кажется, это то, о чем мы только что говорили. Его арестовали?
– Да! Ну а как же? Его ж опознали. Его пока задержали на 48 часов, и наша задача понять, он или не он совершил кражу.
– Для начала нужно проверить, а был ли он вообще в тот момент в городе, может у него алиби?
– Боб, я не понимаю, ты что, адвокат?
– Нет, конечно! Но я не хочу осудить невиновного, так как прекрасно понимаю, что в любом программном продукте может быть ошибка. И не одна. Давай проверим еще раз, где он находился.
Прошло четыре часа.
– Боб, увы, ты оказался прав. Он в момент ограбления был не только в другом городе, а даже в другом штате. Вот документ. Он был оштрафован полицейским патрулем за превышение скорости. Так что он невиновен.
– Нужно выпускать и извиниться.
– Да.
Противники систем распознавания лиц уже долгое время утверждают, что данная технология ещё недостаточно совершенна для точного поиска и определения преступников. Сами разработчики подобных систем не раз предостерегали органы правопорядка от их использования в качестве единственного надёжного доказательного инструмента для задержания.
Примечательно, что ПО для идентификации лиц, которое использовалось детройтской полицией вместе с результатами проверки Уильямса, вывело следующее сообщение: «Этот документ не является положительным идентификатором. Он представляет собой только следственную версию и не является основанием для задержания».
Этот случай создал прецедент, который указывает на гораздо более обширную проблему – всецело доверять алгоритмам искусственного интеллекта пока нельзя.
Сказки о безопасности: Найти человека
Лето… Несмотря на очень раннее утро, уже чувствуется, что день будет очень жарким.
