будут отличаться от поведения в присутствии друзей, родителей, друзей родителей или родителей друзей. В то время как во всех этих случаях формальная система знаний пытается вывести надлежащее поведение из единого, более общего «закона», здравый смысл просто «знает», как нужно поступать в данной конкретной ситуации17. Именно по этой причине известные всем «прописные истины» оказалось так трудно воспроизвести в компьютерах: в отличие от знаний теоретических, основанные на повседневном опыте подразумевают относительно большое количество правил поведения даже в небольшом количестве особых ситуаций. Допустим, нужно запрограммировать робота, чтобы он ориентировался в метро. На первый взгляд, задача относительно проста. Однако очень скоро выясняется: даже один-единственный компонент этой задачи – как, скажем, «правило», запрещающее просить других пассажиров уступить свое место, – зависит от сложного множества других правил, вроде бы не имеющих к нему ни малейшего отношения. Это, например, принципы распределения мест в вагоне или вежливого поведения в общественных местах. Это правила жизни в многолюдных городах. Это общие нормы вежливости и любезности, справедливости и собственности.
Все попытки формализовать обыденные знания неизбежно наталкивались на тот или иной вариант вышеизложенной проблемы: чтобы научить робота имитировать даже ограниченный диапазон человеческого поведения, приходится, в некотором смысле, учить его всему. В противном случае бесчисленные тонкие различия между тем, что важно, что должно быть важно, но не важно и что может стать важным в зависимости от обстоятельств, всегда будут сбивать с толку даже самого совершенного робота. Стоит ему попасть в ситуацию, лишь самую малость отличающуюся от запрограммированных, как бедняга потеряет всякое представление о том, как себя вести. Он будет явно отличаться от остальных роботов. И всегда ошибаться18.
Люди, которым не хватает здравого смысла, чем-то похожи на незадачливого робота. Они не понимают, на чем следует сосредотачивать внимание, – это раз. И не понимают, чего конкретно они не понимают, – это два. По той же самой причине, по которой программирование роботов представляет собой крайне непростую задачу, удивительно сложно объяснить лишенному здравого смысла человеку, что именно он делает не так. Приведите ему множество примеров того, что он сказал и сделал неправильно, – и, вероятно, ему удастся избежать повторения данных конкретных ошибок в будущем. Но как только ситуация изменится, все вернется на круги своя. В Академии у нас было несколько таких курсантов: исключительно умные, компетентные ребята, которые никак не могли сообразить, как играть в нашу общую игру. Все знали, кто они такие, и все видели, что они чего-то не понимают. Увы, не зная, в чем загвоздка, мы не могли им помочь – и большинство из них, растерянные и ошеломленные, в итоге покинули военную службу.
У каждого свой
Как ни странно, здравому смыслу присущи
