прогресс не стоит на месте, и все его следствия мы не в состоянии оценить. Поэтому предлагаю пойти ещё дальше и рассмотреть вопрос о границах, пределах, до которых мы готовы идти в совершенствовании антропоидов. К примеру, анализ звуков, запахов и изображений, произвольной символьной информации вполне допустим для машин, но давайте этим и ограничимся! Не надо их наделять способностями испытывать боль и наслаждение! Пусть счастье, страдание, любовь, печаль, тревоги и сомнения останутся исключительно людям! Следует также ограничить креативность антропоида, иначе в стремлении к совершенству он может попытаться кардинально изменить природу человека. Кто возьмёт на себя ответственность за последствия такой модификации? Вглядимся внутрь себя, дорогие Ива, Зак, коллеги, неужели среди вас найдётся человек, готовый к антропоидной реформации?
– Благодарю тебя, Эмма, за высказанную позицию в столь ярком и эмоционально окрашенном выступлении, – Андрэ не смог сдержать улыбку. – На данный момент могу констатировать, что у нас на встрече уже поставлено больше вопросов, чем дано ответов. В связи с этим, хотелось бы особое внимание обратить на высказанные здесь предложения экспертов и участников прений. По итогам обсуждения первого вопроса мы, как обычно, ещё раз пройдёмся по всем рассмотренным вариантам его решения. Далее предлагаю заслушать мнение Верна.
Верн твёрдой походкой уверенного в себе человека подошёл к кафедре и без вступительных слов сразу начал с рассмотрения существа вопроса:
– Мои коллеги, выступавшие здесь, поделились своими опасениями по поводу конвергенции человеческого и машинного разума. Считаю необходимым кратко обозначить свою позицию. На мой взгляд, в решении данного вопроса нельзя допустить двусмысленность. Суть проблемы состоит в выборе: мы или они, человек или антропоид, а глобально – существование человечества или царство бездушных механизмов. Я предлагаю утвердить и в дальнейшем строго придерживаться следующих основных норм во взаимодействии с автоматизированными техническими системами:
1) Роботу никогда и ни при какой ситуации нельзя предоставлять возможность вмешиваться и вносить какие бы то ни было изменения в функционирование человеческой психики.
2) Запретить производство модификаций антропоидов с имитацией человеческих эмоций и переживаний, в том числе, что хочу особо подчеркнуть, любых интерпретаций страха, боли, страдания, радости, удовольствия и любви. Да, пусть они будут вооружены анализаторами символов, звуков и запахов, но не надо оживлять «железных дровосеков», как в одной старинной сказке.
3) Определимся, наконец, раз и навсегда, робот – это механизм, инструмент, техническое устройство, лишенное разума и чувств, которое создано людьми для облегчения собственного физического или интеллектуального труда.
В этой связи, я полагаю, что не имеет смысла разрабатывать какие-либо
