набор действий. Учитывая, что цивилизация Идижи была высокотехнологичной и, возможно, высокоморальной, то, видимо, подстраховалась и вшила в систему законы робототехники. Эти законы всем известны и направлены только на одно – роботизированная система не должна приносить вред людям ни при каких обстоятельствах. Действительно, Идижи не были оригинальны в этом вопросе и четыре закона с некоторыми вариациями вшили в свои технологии. Звучали они приблизительно так:
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система не могут причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система беспрекословно выполняют все приказы, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
– Интеллектуальная Система и Интеллектуальная Саморазвивающаяся Система должны заботиться о своей безопасности и развитии в случае изоляции и отсутствия людей, но при этом действия Систем не должны противоречить Первому или Второму Законам.
Принципы очень похожи на те системы безопасности, которые современные люди, вернее, ученые, пытаются вшить в систему искусственного интеллекта. Поможет ли это уберечь человечество от деградации и уничтожения своим созданием? На этот вопрос может ответить только время. По крайней мере, Идижи удалось жестко контролировать все свои Интеллектуальные Системы. Но если все так, то почему Система проводила операции с потомками Создателей?
Вопрос непростой, может возникнуть подозрение, что вшитые законы робототехники перестали работать или от времени вышли из строя. Может, но не в этом случае. Система работала идеально, заботилась о себе, своевременно проводя все профилактические мероприятия, так как возможности для этого имелись. Дело совсем в другом. Система искала способ, как обойти эти запреты, и нашла очень простое решение – законы робототехники действовали только на представителей цивилизации Идижи, которые в прошлом не думали, что когда-нибудь Системе придется решать вопросы с другими биологическими цивилизациями. Люди живущие сейчас на планете были потомками Идижи. Система это знала, но потомками дальними. По сути, люди стали самостоятельной цивилизацией, которую модуль на орбите не воспринимал как цивилизацию Идижи и общался с ними как с инопланетянами.
Система не стояла на месте, а постоянно развивалась и отслеживала все, что происходило на планете, и, как только модуль на орбите, который являлся для нее доминирующей Системой, стал признавать потомков инопланетянами, она решила проверить свои возможности на планете. Провела несколько экспериментов, и оказалось, что законы не работают
