при этом гибкость и здравый смысл. Уже сейчас предполагается, что в ближайшие десятилетия ИИ сделает ненужными многие человеческие профессии. Согласно недавнему обзору, например, самые цитируемые исследователи искусственного интеллекта считают, что ИИ сможет «освоить большинство человеческих профессий по крайней мере так же хорошо, как средний человек» к 2050 г. с вероятностью 50 %, а к 2070 г. – с вероятностью 90 %[8].
Я уже говорила, что многие эксперты предупреждают о появлении сверхразумного ИИ: искусственного интеллекта, превосходящего умнейших представителей человечества во всех отношениях, включая логические рассуждения и социальные навыки. Сверхразум будет способен уничтожить нас, утверждают они. В противоположность этому Рэй Курцвейл – футурист, занимающий в настоящее время должность технического директора в компании Google, рисует технологическую утопию, которая принесет с собой конец старению, болезням, бедности и недостатку ресурсов. Курцвейл говорит даже о потенциальных достоинствах дружбы с персонализированными ИИ-системами вроде программы «Саманта» из фильма «Она».
Сингулярность
Курцвейл и другие трансгуманисты сходятся в том, что мы быстро приближаемся к «технологической сингулярности» – точке, где ИИ намного превзойдет человеческий разум и сможет решать задачи, которые мы прежде были не в состоянии решить, с непредсказуемыми последствиями для цивилизации и человеческой природы.
Понятие сингулярности проистекает из математики и физики, в первую очередь из концепции черной дыры. Черные дыры – это «сингулярные» объекты в пространстве и времени, места, где нормальные физические законы рушатся и не работают. По аналогии, технологическая сингулярность должна привести к неуправляемому техническому развитию и вызвать принципиальные изменения в цивилизации. Правила, по которым человечество жило тысячи лет, внезапно перестанут действовать. Ситуация станет непредсказуемой.
Технологические изменения могут оказаться не настолько стремительными, чтобы породить полномасштабную сингулярность, при которой мир меняется чуть ли не в одночасье. Но это не должно отвлекать нас от более серьезного момента: осознания того, что уже в XXI веке мы, вполне возможно, перестанем быть самыми разумными существами на планете. В будущем лучшими станут умы искусственные.
Мне кажется, мы уже видим причины, по которым искусственный интеллект превзойдет нас во всем. Даже сейчас микрочипы действуют быстрее, чем нейроны. Сегодня, когда я пишу эту главу, самым быстрым в мире является суперкомпьютер Summit в Окриджской национальной лаборатории в штате Теннесси. Его производительность составляет 200 петафлопс, т. е. 200 миллионов миллиардов операций в секунду. То, что Summit делает в мгновение ока, заняло бы всех людей на Земле, производящих по одной вычислительной операции в минуту в течение всего дня, на 305 суток[9].
Разумеется, скорость – это еще не все. Если за мерило взять не арифметические
Müller and Bostrom (2016).
Giles (2018).
