нанокомпа. – «Проблемы самоидентификации искусственных интеллектов».
– Верно.
– Статью я не читал. Нет времени. Но понимаю, что под термином «искусственный интеллект» подразумевались андроиды серии «Хьюго»?
Профессор оживился.
– Да, адмирал. Я изучал их на протяжении всей жизни. Сразу скажу, что мое исследование еще не завершено, но…
– Фридрих, при всем уважении, наш разговор будет коротким, по существу интересующего меня вопроса. Несколько часов назад на вашем месте сидел андроид. Он носит форму Флота Колоний, на его счету двадцать шесть сбитых истребителей противника. Он не скрывает, что взял в руки оружие добровольно, без приказа со стороны человека, и в то же время предлагает мне рассмотреть вопрос о капитуляции! – Воронцов вновь начал злиться. – Как понимать его поведение? Почему одни машины серии «Хьюго» добровольно встают на защиту планет, а другие продолжают поливать цветы или стирать пыль с подоконников?!
Гессау, выслушав адмирала, кивнул.
– Я понял суть вопроса. – Он задумчиво потер подбородок. – Надеюсь, вам известно о трех степенях программной свободы человекоподобных машин?
– Да. Это преподают в школе. Прибывая в колонию, андроиды первыми покидали борт транспорта и приступали к строительству первичного убежища. Они стерилизовали зону посадки, возводили охранный периметр. Такое поведение считается базовым, соответствует первому уровню программной свободы, – ответил Воронцов. – При обнаружении источника постоянной агрессии, угрожающей жизни людей, автоматически включался второй уровень, позволяющий машине защищать поселение, принимать самостоятельные решения о сроках пробуждения колонистов, накапливать в нейромодулях опыт борьбы с чуждой биосферой. Третий уровень программной свободы мог быть включен только вручную, человеком, при этом кибернетический механизм идентифицировал «хозяина» и защищал его в любых ситуациях, от любых угроз, в том числе и от агрессии со стороны других людей.
– Верно. – Фридрих Гессау нахмурился. – Но вы изложили теорию, адмирал. На практике все намного сложнее. В системе «Хьюго» установлено избыточное количество нейромодулей, а третьему уровню программной свободы соответствует функция саморазвития. Теперь давайте вспомним, как формировались экипажи колониальных транспортов?
– Насколько я знаю, критериев отбора не существовало.
– Да, к сожалению, – согласился Гессау. – Землю покидали отнюдь не единомышленники. Людям обещали райские планеты, они не были готовы к длительным совместным усилиям ради выживания. В таких условиях вновь образованное общество чаще всего дробилось на мелкие группы, происходил дележ техники, возникали конфликты, иногда выливающиеся в вооруженные столкновения, в которых принимали участие и андроиды, защищавшие своих хозяев.
– К чему вы клоните? Выражайтесь яснее! У нас мало времени!
– Я исследовал сотни андроидов серии «Хьюго» и пришел к выводу: у большинства человекоподобных машин третий уровень программной свободы был активирован сразу
