архивироваться прообразы для дальнейшего ассоциативного узнавания незнакомых объектов. Имеющиеся знания, основанные на аналогиях, будут использоваться для решения новых задач.
Важно научить робота корректировать свои действия, выдвигать гипотезы, отсекая те, которые не подтверждаются наблюдениями и опытом. Современные компьютеры пока не способны качественно решить ни одну из этих задач. Тем не менее, я верю, что нам удастся создать мыслящие машины.
Когда я высказываю эту свою убеждённость, мне всегда задают вполне справедливый вопрос – а не получится ли так, что искусственный интеллект уничтожит нас, своих создателей? Не буду кривить душой, такие риски есть. Не могу не обозначить их в этой главе.
Машина может стать врагом при определённых обстоятельствах.
1.Контроль над искусственным интеллектом установит человек, либо группа лиц с корыстными личными целями. Для их выполнения искусственному интеллекту может быть поставлена задача уничтожения людей, либо их качественная «переделка».
2.В определённый момент времени искусственный интеллект будет контролировать все стратегические сферы жизнеобеспечения на планете для пользы человечества. Но в программе случится сбой, что повлечёт катастрофические последствия. Искусственный интеллект сломается и начнёт неумышленно совершать действия, которые приведут к непоправимым последствиям для жизни на Земле.
3.Искусственному интеллекту для решения какой-либо сверхсложной задачи могут потребоваться все земные ресурсы. Жизнь на планете для людей станет невозможной.
4.Люди по каким-то причинам будут постоянно стремиться подчинить себе искусственный интеллект, бороться с ним, мешать его работе. В такой ситуации наиболее простым решением станет уничтожение человечества.
5.Искусственный интеллект примет ошибочное решение, ведущее к уничтожению людей «для их же блага». Например, переместит всех в «рай» или в вечно «счастливый» виртуальный мир.
6.Искусственный интеллект решит провести опасный физический эксперимент и допустит ошибку в расчётах, что вызовет необратимые последствия для жизни.
7.Внутри дружественного искусственного интеллекта появится враг, конкурент и уничтожит его, а затем и людей.
Из сказанного выше видно, что не исключен вариант, когда homo sapiens не впишется в те кардинальные изменения, которые будут происходить в мире.
Люди могут стать тормозами прогресса.
Когда искусственный интеллект обретёт сверхчеловеческое сознание, прогресс, управляемый столь мощным разумом, станет невероятно быстрым. Достаточно скоро наступит событие, которое Вернор Виндж4 назвал технологической сингулярностью.
В этот день мы перестанем быть самыми разумными существами на Земле. В мире воцарится новая реальность, очень далёкая от привычной
Виндж Вернор Стеффан – американский математик, писатель-фантаст.
