ьвин Эйман: Здравствуйте. Еще до катаклизма существовало мнение, что большинство живых существ во Вселенной (предположим, что мы не единственные) проходят некие циклы: начинается всё с захвата доминирующим видом территории, затем изменение среды обитания, облегчение жизни при помощи механизации, цифровизация, развитие робототехники, в итоге, если не повезет, самоуничтожение. Мы чуть было не оказались на последней ступени. Хорошо, что у нас хватило ума не повторять ошибок прошлого.
Владимир: Раньше мир был совершенно другим: общество эгоистов, капитализма, постоянных войн. Удивительно, но люди загрязняли атмосферу различными отходами, даже не задумываясь над изменениями климата. А добыча природных ресурсов и их продажа… зарабатывание денег становилось целью жизни, одержимостью. В какой-то степени то, что произошло потом, стало закономерным результатом их деятельности.
Кельвин Эйман: Да, вы правы. Я бы еще добавил совершенно неконтролируемый рост населения, потерю или искажение базовых человеческих ценностей, гонку ресурсов, огромную бездну между богатыми и бедными. И, конечно, неспособность простых людей что-либо изменить.
Владимир: У меня мурашки бегут по коже, когда я думаю о том, что те люди – наши родственники. Мне кажется, мы наконец-то взяли ответственность за наше собственное развитие. Как думаете?
Кельвин Эйман: Я бы сказал, что первые десять – двадцать лет прошлого века были чем-то вроде извращенного варианта Средневековья. В то время тоже, знаете ли, помои выливали на улицы городов прямо из окон, пока не распространилась чума, выкосившая половину населения. Тогда заговорили о санитарии. Человечество готово пересмотреть свои взгляды на жизнь, когда, порой, уже поздно. Произошла катастрофа: поднятие уровня воды Мирового океана, затопление огромного количества территорий, смерть миллиардов людей, ядерная война за оставшиеся территории и ресурсы. А дальше история известна: некоторое количество специалистов эвакуировали в гигантский, технологически продвинутый Бункер, который обеспечил выживание человеческого вида как такового, – мы объединили усилия, построили подземные города, выработали стратегию развития – короче говоря, не просто выжили, а достигли небывалых ранее высот в науке и общественном сознании.
Владимир: Как думаете, в правильном ли направлении мы движемся? Наверняка вы знакомы с опасениями, связанными с развитием искусственного интеллекта1.
Кельвин Эйман: Конечно. Если человечество само себя не уничтожит (а мы прошли этот этап), то произойдет неизбежный всплеск открытий в сфере ИИ и максимальная автоматизация всех аспектов жизни (собственно, так и случилось). Дело в том, что человеческая жизнь в масштабах Вселенной слишком коротка, чтобы осуществить всё то, что мы задумали. Да и трудовые ресурсы человека весьма ограничены ‒ в отличие от машины, он не может работать сутки напролет. Всё больше мы начинаем стремиться к тому, чтобы передать машинам все наши дела и заботы, а для этого ИИ должен на интуитивном уровне понимать наши запросы. Как бы мы ни говорили, что боимся, уж простите, «восстания машин», мы целенаправленно делаем их умными, потому что хотим жить лучше. Машины вообще много чего сделали для (и за) нас: возьмем, например, знаменитое исследование Вояджерами2 Солнечной системы…
Владимир: Да, но ведь мы их создали. И, насколько мне известно, управляли ими с Земли.
Кельвин Эйман: Вы правы, вводные данные для функционирования программы передавались учеными с Земли, но порой Вояджеру приходилось принимать «самостоятельные» решения: включить ли режим ожидания, например, с какого именно угла сфотографировать космический объект. А если какая-то система даст сбой, а у машины нет времени ждать команды с Земли, то компьютеру приходилось самостоятельно принимать решение об отключении тех или иных систем. Я это к чему: мы, учитывая все условия пребывания исследовательской машины в космосе, целенаправленно создали такой мини-ИИ. Так же и с нашей жизнью: осознав, что мы не хотим тратить время на подбор одежды с утра, мы специально создали программу, которая анализирует наши предпочтения. То есть она проводит анализ данных, отвечающих за нашу индивидуальность, и решает, будто бы она не бездушная машина, а близкий друг.
Владимир: Но ведь это же набор команд, на основании которых проводится анализ ‒ мы заложили их изначально. То есть программа не может выйти за рамки тех границ, которые мы же и установили.
Кельвин Эйман: Действительно, раньше создавались только такие, «ограниченные» машины, но если бы все машины были такими, то в рекомендациях определенного пользователя не появилась бы наша с вами программа. Так в чем же дело?
Владимир: Вы это у меня спрашиваете?
Кельвин Эйман: Я просто хочу заставить вас подумать. Например, что у вас на запястье?
Владимир: Мой помощник – Марго.
Кельвин Эйман: То есть вы дали «этому» имя? Почему?
Владимир: Так проще отдавать ей разные команды.
Кельвин
