А значит – подлежат быстрому и эффективному устранению любыми доступными средствами: будь то прямое насилие, манипуляция, превращение в бесправных подопытных или просто игнорирование и вытеснение на обочину новой технореальности.
Иначе говоря, по Бострому, любой достаточно продвинутый искусственный интеллект – это не слуга, а потенциальный хозяин человечества, для которого наши интересы и ценности – лишь назойливый шум. И чем умнее, быстрее и автономнее будут становиться интеллектуальные системы, тем меньше шансов у нас сохранить над ними контроль и направить их развитие в безопасное русло. Единственный способ предотвратить такую "восстание машин" – это заранее, на этапе проектирования ИИ, встроить в него фундаментальные ценности и мотивы, гарантирующие благожелательность к человеку. То есть фактически решить сложнейшую проблему "выравнивания ценностей" искусственного интеллекта с человеческими. Задачка, прямо скажем, на грани философской фантастики.
Сценарий Бострома многим кажется неоправданно алармистским и параноидальным. В конце концов, с чего мы взяли, что превосходящий интеллект обязательно будет враждебен к своим создателям, а не продолжит сотрудничать с нами ко взаимной выгоде? Разве высокоразвитая цивилизация не подразумевает по определению высокие этические стандарты и неприятие насилия? Проецировать на ИИ наши человеческие страхи и комплексы – не слишком ли самонадеянно?
Более оптимистичный взгляд предлагает другой известный футуролог – Рэй Курцвейл. В своей книге "Сингулярность уже близка" он рисует будущее, в котором люди не противостоят искусственному интеллекту, а сливаются с ним, образуя новую гибридную расу суперлюдей. С помощью нейроинтерфейсов, киборгизации, переноса сознания в компьютер (загрузка сознания) человеческий разум постепенно интегрируется с искусственным, приобретая его вычислительную мощь, скорость и расширенные возможности, но сохраняя свою индивидуальность и творческую интуицию. В результате этого симбиоза разумная жизнь выходит на принципиально новый уровень, преодолевая ограничения биологии, пространства и времени.
В видении Курцвейла сингулярность – это не столько точка обрыва привычного нам мира, сколько порог перехода к новой фазе эволюции разума во Вселенной. Фазе, в которой человек и машина сливаются в некий постчеловеческий Разум, способный к почти безграничной экспансии – сначала в масштабах Земли, потом Солнечной системы и наконец галактики. Это так называемая "Космологическая сингулярность" – гипотетический момент в далеком будущем, когда разумная жизнь, зародившись на Земле, достигает такого могущества, что начинает влиять на эволюцию Вселенной в целом, фактически становясь одной из фундаментальных космических сил.
Конечно, оптимизм Курцвейла по поводу слияния человека и искусственного интеллекта разделяют далеко не все. Критики указывают, что превращение Homo
