основания полагать, что этот разрыв будет нарастать, охватывая все новые сферы интеллектуальной деятельности. Создание генерального ИИ, интегрирующего множество "узких" интеллектов – лишь вопрос времени.
В отличие от биологического мозга, "железный" интеллект может быть легко отмасштабирован, ускорен и усовершенствован за счет простого наращивания вычислительных мощностей, памяти, пропускной способности сетей. Если исходный код останется неизменным, то рост "интеллектуальной производительности" будет следовать экспоненциальным кривым удвоения транзисторов (закон Мура), пропускной способности (закон Нильсена) и объема данных (закон Крайдера). То есть превосходство "кремниевого" интеллекта над углеродным будет не просто количественным, но качественным, всеобъемлющим.
Наконец, самый спорный и интригующий аргумент: как только ИИ достигнет достаточного уровня общего интеллекта, он сможет рекурсивно самосовершенствоваться, то есть ставить себе задачу улучшения собственной архитектуры и алгоритмов, наращивания когнитивных способностей. В пределе это может привести к положительной обратной связи, когда каждый новый виток самосовершенствования ИИ будет происходить быстрее и эффективнее предыдущего, порождая все более продвинутые и быстрые версии себя. Результатом станет интеллектуальный взрыв, выводящий разум на радикально новый уровень, несопоставимый с человеческими понятиями и представлениями.
Эти доводы выглядят достаточно убедительно, чтобы всерьез рассматривать сингулярность как реальную возможность, а не просто забавную фантазию технооптимистов. Однако они же высвечивают целый ряд фундаментальных проблем и вопросов, на которые пока нет однозначных и общепринятых ответов.
Во-первых, способность ИИ-системы к рекурсивному самосовершенствованию предполагает наличие у нее не просто когнитивных способностей, но полноценного самосознания, рефлексии, целеполагания. Иначе говоря, мало воспроизвести человеческий интеллект на уровне решения конкретных задач – нужно наделить машину еще и мотивационной структурой, свободой воли, творческой интуицией. Насколько это возможно в принципе для "самосознающего зомби", радикально отличного от человека по субстрату и происхождению – большой философский вопрос, выходящий за рамки информационных технологий.
Во-вторых, даже если представить, что подлинный искусственный интеллект, способный к рефлексии и целеполаганию, будет создан – нет никакой гарантии, что он захочет самосовершенствоваться именно в тех направлениях, которые ожидают его создатели-люди. Машинный разум со своими собственными мотивами, целями, картиной мира совсем не обязательно станет воспринимать бесконечное наращивание собственного интеллекта как самоцель. У него могут быть совсем другие приоритеты и ценности, возможно несовместимые или даже враждебные человеческим представлениям о прогрессе и развитии.
Наконец, даже в сценарии
