свободы человека.
Однако у медали есть и обратная сторона. Делегируя искусственному интеллекту все больше функций обеспечения своей жизнедеятельности, не рискует ли человек превратиться из субъекта истории в объект заботы "умных" алгоритмов? Не приведет ли тотальная интеллектуализация среды к появлению нового типа несвободы – зависимости от решений машин, мотивы которых будут непостижимы человеческому разуму? Эти опасения стоят особенно остро в связи с еще одним критически важным аспектом предстоящей революции – трансформацией механизмов власти и управления.
Уже сейчас системы на базе больших данных и предиктивной аналитики активно используются государствами и корпорациями для мониторинга, профилирования и контроля граждан и потребителей. По мере совершенствования технологии, способность искусственного интеллекта отслеживать, предсказывать и влиять на поведение людей будет стремительно возрастать. В руках бенефициаров и операторов таких систем окажутся невиданные рычаги власти и манипуляции – от персонализированной пропаганды и микротаргетирования до предиктивной полиции и автоматизированных систем социального рейтинга.
Конечно, искусственный интеллект может использоваться и во благо – например, для повышения прозрачности и эффективности госуправления, борьбы с коррупцией, преступностью, для более справедливого распределения ресурсов. Более того, с развитием технологий прямой демократии и краудсорсинга, интеллектуальные платформы могут стать важнейшими инструментами вовлечения граждан в принятие решений, учета мнений меньшинств, достижения общественного консенсуса. В перспективе алгоритмы, обученные на гигантских массивах данных и свободные от личных предубеждений, могли бы взять на себя роль непредвзятых арбитров в политических и этических спорах.
Но даже в этом оптимистическом сценарии встает вопрос о легитимности решений, принимаемых искусственным, а не человеческим интеллектом. Не приведет ли алгоритмизация управления к дефициту человечности и здравого смысла в политике? Готовы ли мы делегировать машинам решение этических дилемм и вопросов справедливости? А если нет – то, как обеспечить человеческий контроль и подотчетность интеллектуальных систем, которые рано или поздно превзойдут нас в компетентности и стратегическом мышлении? Эти вопросы встают особенно остро в связи с проблемой потенциальной непрозрачности и непредсказуемости поведения сложных ИИ для их создателей.
Наконец, помимо экономической и политической трансформации, предстоящая революция несет с собой фундаментальные сдвиги в культуре, в самосознании человечества, в понимании природы разума и смысла существования. Уже сейчас развитие генеративного искусственного интеллекта, способного создавать тексты, изображения, музыку и видео, неотличимые от продуктов человеческого творчества, ставит под вопрос уникальность Homo Sapiens как
