не обладающий сознанием – это, фактически, зомби. Конечно, зомби многое может. Но у него нет независимого выбора. Чтобы ставить цель, нужно иметь желание, а для этого нужно быть личностью, пусть даже и простенькой. А иначе придется заранее предусмотреть и запрограммировать все возможные цели, кому это по силам?
Их пыл несколько охлаждал Соков, который разделял их надежды наделить робота сознанием, но сомневался, что он будет обладать независимой волей. Соков был уверен, что даже человеку всего лишь кажется, что он действует по своему желанию, а на самом деле всё предрешено законами природы. Как, скажем, зная скорость и направление движения пули, можно предсказать, куда она попадет и кто пострадает. Человек, конечно, не пуля, но его ограничивает свод государственых законов.
Это его рассуждение не было абсолютной истиной. Можно, конечно, ввести в систему случайность, но это лишь внешне похоже на свободу воли. В сложных объединениях постепенно накапливается неточность, как в игре «испорченный телефон», и развитие становится непредсказуемым. Это, как свобода у подброшенной монеты: орел или решка.
Но Катя уже сообразила, как из хаоса получить цель. В опасных ситуациях аппарат должен генерировать пробные защитные реакции (когда тебе плохо, делай, хоть что-нибудь). Коль скоро реакция на поломку случайна и возрастает при усугублении повреждения, то, в конечном счете, повезет, действие окажется правильным и можно будет удалиться от гибели.
Соков сам произвел строгий расчет: система находит оптимум и даже, по ходу поиска, обходит препятствия. Но его смущала проза жизни: он знал, что чем больше воли давали персоналу, тем чаще возникали беспорядки, а не наоборот, как получалось в его расчетах.
– Тут есть еще одна загвоздка, – настаивал Соков. – Мы обсуждаем внутреннюю свободу, но ведь есть и внешние ограничения. Нужно еще иметь возможность для действия. Даже и наши права ограничивают законами и пулеметами. И пусть, скажем, у робота и в самом деле появилась бы свободная воля. Допустим. Да кто ж ему её даст? Тут же и ограничат.
– Не вижу здесь темы для дискуссии, – отмахнулся Тенгиз. – Это не наша проблема. Конечно, ограничат. Мы же не собираемся создавать цивилизацию машин. Мы хотим сконструировать друга.
Витя прислушивался, но был погружен в схему, которую чертил на уголке доски.
8. Витя и Катя – умельцы
В общежитии всегда у кого-нибудь что-либо ломалось. Тогда еще не было мобильников, писали от руки, печатали на механических машинках, а компьютеры можно было найти в особо продвинутых конторах. Однако у студентов были магнитофоны, приемники, электробритвы, у девочек – фены, утюги и пылесосы. В зажиточных комнатах были телевизоры. Всё это иногда требовало ремонта. Катя и Витя чинили безотказно и по доброте душевной. В ответ на сигнал бедствия Витя прихватывал свой щегольской чемоданчик, в котором было приготовлено всё необходимое (отвертки, паяльник, олово, канифоль, паяльная кислота, тестер, мотки проволоки, изолента, шурупы), и шел на помощь. В отсутствии
