что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.
Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.
Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону[6] и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.
Всеведущее существо наподобие Бога сочло бы шахматы и шашки (а также английские draughts и континентальные dames[7]) примерами игр в том смысле, который обозначил фон Нейман, но человек не разработал до сих пор полной их теории, а потому они по-прежнему воспринимаются как вдохновенные состязания в интуиции и силе ума и ведутся совсем не так, как предполагала теория фон Неймана.
В самом деле – ведь обычно игра не идет по принципу: сейчас я сделаю наилучший из возможных ходов, потом мой противник сделает наилучший из возможных ходов, потом я снова отвечу наилучшим из возможных ходов, и так далее, пока кто-то не выиграет или пока игра не обернется повторением ходов. Чтобы вести игру в соответствии с постулатами фон Неймана, следует, по сути, располагать полной теорией игры, то есть свести игру к тривиальному занятию.
Пожалуй, может показаться, что тема обучения, а в особенности тема машин, которые учатся играть в игры, достаточно далека от религии. Тем не менее, существует богословская проблема, для которой эти концепции являются релевантными. Это проблема игры между Творцом и творением – предмет книги Иова и «Потерянного рая» Джона Мильтона.
В обоих этих религиозных сочинениях дьявол показывается как ведущий игру с Богом – за
Американский математик Чарльз Бутон в 1902 г. опубликовал исследование математической игры, которой он дал название «ним». Суть игры заключается в том, что два игрока поочередно берут по предмету из нескольких кучек; побеждает тот, кто возьмет предпоследний предмет (игра типа «мизер»). Считается, что это древняя восточная игра – возможно, китайского происхождения. В своей работе Ч. Бутон описал тактику выигрыша для «нормального» варианта игры, когда победителем признается тот, кто берет последний предмет.
Английские (draughts) и американские (checkers) шашки различаются лишь названием, а в остальном идентичны – по 24 шашки на доске 8х8; под континентальными (dames) шашками, вероятно, имеется в виду международный вариант шашек – 40 фигур на доске 10х10.
