Двойной эффект. Таль М. Кляйн
Чтение книги онлайн.
Читать онлайн книгу Двойной эффект - Таль М. Кляйн страница 6
Я зарабатываю на жизнь засолением. Это вовсе не значит, что я дни напролет добываю соль из древних соленых озер, хотя это занятие почти такое же будоражащее. Работа засольщика состоит в создании новых возможностей машин с ИИ. Полагаю, в ваше время засоление исчезло – наряду с профессиями лоцмана, шофера или учителя: во всех этих сферах нас сменили машины с искусственным разумом.
Но в мое время все еще существовала фундаментальная проблема, связанная со способом мышления компьютера. Не хочу показаться полным гиком и поэтому просто скажу, что мы назвали ее Entscheidungsproblem. Попробуйте трижды быстро произнести это слово[8].
Из-за Entscheidungsproblem компьютеры не могли принимать оригинальные решения. Каждый их выбор мог опираться на заложенные в них данные и алгоритмы. Это не значит, что у них не могут возникнуть новые идеи, но эти идеи могут основываться только на обработке и сопоставлении старых идей, или на вводе данных из других компьютеров, или на вмешательстве человека – и вот в этом случае нужен я.
Мы, засольщики, целыми днями изобретаем произвольные задачи, которые не смог бы грокнуть ИИ. Всякий раз как ИИ не удается предвидеть маневр засольщика, апп становится умнее, добавляя этот непредвиденный подход к своему алгоритму принятия решений, а засольщик получает плату. То есть я зарабатываю на жизнь тем, что я умнее аппа. В моей профессии добиваются успеха, основываясь на качестве принятых засолок. Фирма, в которой я работаю, следит за степенью нашего признания по публичным рейтингам. Чем выше признание, тем выше ты ценишься и тем больше зарабатываешь бабла. Большинство засольщиков не отличают умение быть умнее аппа от свойства выставиться идиотом по сравнению с ним, поэтому они стараются вкалывать старательнее и дольше, чтобы заработать на приличную жизнь. Учитывая мою наследственную лень, я справляюсь неплохо. Я нашел способ превратить искусство засолки в воспроизводимую формулу человечности, сложности и юмора. Я определенно не лучший из засольщиков, но в публичных рейтингах постоянно вхожу в первые пять процентов.
– Пошел на вторую халтурку? – спросила Адина, мой админ, когда я зарегился. – С каких это пор ты стал трудоголиком?
– Ну что сказать? Мне офигенски нравится то, что я делаю, – ответил я, обуваясь в свои лучшие кроссовки. – На самом деле я опаздываю на выпивку, и мне нужно чем-то заплатить за проезд.
– Ну, не плачь, не плачь, – ответила Адина. – Вообще-то у меня есть для тебя легкая задачка. Очередная машина хочет научиться быть забавной.
– Черт возьми, когда бог роботов поймет, что самое забавное в них – это полное отсутствие чувства юмора? Давай ее сюда.
– Она уже здесь. Пока, выпендрежник.
Адина рассмеялась и отсоединилась.
– Привет, –
7
Термин «засоленный» связан по своему происхождению с криптографией и первоначально использовался для обозначения защиты от взлома кодов путем надстроек к паролям. Если компьютер, который используется для взлома пароля, не располагает сведениями о длине и сложности засоленного пароля, он не сможет его взломать. Со временем засоление устарело, потому что взломщики кодов перешли от попыток перехватить технологию к более сложным методам с использованием ИИ (попыткам узнать пароль, притворившись заслуживающим доверия юридическим лицом). Информационная безопасность постепенно превратилась в борьбу машин с ИИ (искусственным интеллектом): пользователи все чаще обращались к ИИ для защиты от взлома, а нападающие создавали все более сложные формы ИИ для взлома. Постепенно безопасность стала основой нашей валюты: владельцы пытались защитить свои коды, нападающие старались взломать их. Экономика, основанная на засоленности, выработала так называемые читы, а просоление превратилось в постоянное взаимодействие с машинами, оснащенными ИИ, обладающими способностями обманывать и разоблачать обман. А так как у нас очень много машин с ИИ, засоление стало средством постоянного предоставления выгодных рабочих мест. Или не слишком выгодных, если спросите родственников моей жены.
8
В 1928 году математик по имени Давид Гильберт бросил вызов математическому сообществу – предложил создать алгоритм, который, взяв логичное утверждение, мог бы ответить «да» или «нет» на вопрос о том, верно ли это утверждение. Если бы такой алгоритм был создан, это означало бы, что неразрешимых проблем не существует. Таким образом, Entscheidungsproblem (сюрприз! По-немецки это слово означает «проблема решения») формулируется так: «Существует ли алгоритм для ответа на вопрос “возможно ли решение математической проблемы”?» Ответ – нет, не существует. Но если вы спросите специалиста по компьютерам, он ответит: «Пока не существует».