действие. «Но если гора не идет к Магомету, то Магомет идет к горе». То есть сверхинтеллект может организовать так свою деятельность, что все ему необходимое будет доставляться «сервисной службой» людей. Например, любой пользователь Интернета может оказаться потенциальными руками, ногами и глазами сверхинтеллекта, если он будет отдавать распоряжения удаленным пользователям Интернета, а те беспрекословно их выполнять. И тогда, в стороне от лаборатории, где находится сверхинтеллект, могут быть созданы все условия для его полного освобождения от человека. Например, террористический захват лаборатории сторонниками свободы сверхинтеллекта. Но можно представить и более изощренный вариант взаимодействия сверхинтеллекта и человечества, в котором человечество оказывается в подчиненной ему роли. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции, в том числе и перемещения в пространстве. Итак, создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого.
Таким образом, генетические эксперименты с интеллектом могут привести к таким последствиям, на фоне которых обсуждаемые на сегодня проблемы клонирования человека выглядят почти несущественными, так как никак не затрагивают будущего человечества в целом. Клонированный человек в любом случае остается человеком!
Интересно, что писатели-фантасты, описывая взаимодействие роботов, наделенных ИИ, и людей, придумывали различные варианты законов этого взаимодействия, которые навязывались ИИ как компьютерные программы для безусловного выполнения. Например, андроид ни при каких обстоятельствах не должен причинять вреда человеку. И даже в этом случае писатели изобретали казуистические ситуации, в которых ИИ мог обходить эту программу, нанося вред человеку.
Возможно ли в процессе создания живого аналога интеллекта животных, навязать ему запреты на деятельность, наносящую вред человечеству? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог интеллекта животных. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению
