апреля 2021 года стало известно о том, что Европейский парламент готовит поправки в законодательство, запрещающие применение искусственного интеллекта (ИИ) для массового видеонаблюдения за людьми и оценки социального поведения. Исключение составляют системы военного назначения. Системы удаленной биометрической идентификации в общественных местах (например, системы распознавания лиц) смогут внедряться только с согласия властей и в рамках закона.
В Европейском совете за развитие систем видеонаблюдения и распознавания, биометрию и сопряженные с ними вопросы искусственного интеллекта отвечают два регулятора – Европейский надзорный орган по защите данных – EDPS (European Data Protection Supervisor) и Европейский совет по защите данных – E DPB (The European Data Protection Board).
В прошлом месяце EDPS и EDPB опубликовали совместный отчет, посвященный биометрическим системам на базе искусственного интеллекта. Это был своеобразный ответ на проект Регламента по искусственному интеллекту, обнародованный в апреле 2021 года Европейской комиссией (ЕК). В тексте проекта Регламента содержатся многочисленные предупреждения о тех рисках, которые может создавать неконтролируемое использование систем ИИ в разных сферах как для общества в целом, так и для отдельных социальных групп и отдельно взятого человека. Рекомендация Регламента: началу реализации любого проекта ИИ должна предшествовать глубокая оценка возможных рисков. И даже после запуска проекта необходимо продолжать мониторинг рисков (один из самых серьёзных – риск утечки собранной и накопленной в базах данных информации). Возможна остановка проекта, если значения рисков выходят за установленные пределы. За нарушение Регламента компаниями предусмотрено взыскание крупных штрафов.
Регуляторы EDPS и EDPB в своём докладе заняли ещё более консервативную позицию. В частности, они предлагают ввести полный запрет на автоматическое распознавание лиц в любых общественных местах – от ресторанов и частных магазинов до футбольных стадионов и вокзалов. Представители EDPS и EDPB считают, что биометрическая идентификация создает «чрезвычайно высокие риски», поэтому её следует запретить как в государственном, так и в частном секторах.
EDPS и EDPB призывают к общему запрету на любое использование ИИ для автоматического распознавания особенностей поведения человека в общественных местах. Они также рекомендуют запретить применение систем искусственного интеллекта, использующих биометрию, для разделения людей на группы по разным признакам: пола, сексуальной ориентации, этнической и религиозной принадлежности, политической ориентации. Одним словом, по всем тем признакам, по которым дискриминация человека запрещена в соответствии со статьей 21 Хартии основных прав (the Charter of Fundamental Rights).
Наблюдение за поведением и эмоциональным состоянием человекадопустимов оченьспецифическихслучаях. Например, в медицинских целях. Да и то лишь с согласия пациента или его родственников [41]. Разработка упомянутого
См. URL: https://www.scl.org/news/12297‐edpb-edps-want-ban-on-automatedrecognition-of-human-features-in-public-spaces
