собственные наблюдения поэта или блогера, чем мнение профи в этике.
Это не означает, что знаний по этике нет, нет принципов этики. Основных два направления, которых люди придерживаются в этике – деонтика (делай что должно, и будь что будет – и там Кант со звёздным небом над головой и нравственным законом внутри нас)47 и консеквенциализм (делай то, у чего будут получше последствия)48, наследник более древнего утилитаризма49.
С деонтикой огромные проблемы: где источник долженствования? Когда тебе говорят: «ты не должен врать!», то почему? Кто сказал? Религиозные книжки – это ж художественная литература, и на каждую святую книжку с предложением этического закона можно найти другую не менее святую из другой религии с противоположным мнением. И есть множество вопросов, которые в древних книжках не обсуждались вообще. И есть много очевидных нелепостей. Поэтому от деонтики по факту перешли к консеквенциализму (но явно не все в обществе!).
В консеквенциализме по факту нет чётких критериев: лучше последствия – это какие лучше? Можно ли убить невинного человека, если при этом ты спасёшь тысячу человек? А можно ли убить невинного человека во спасение десяти тысяч человек?
Теоретики придумывают всякие «этические задачки» типа проблеммы (дилеммы и проблемы одновременно) заключённого на вагонетке:
Вагонетка, наполненная любимыми вами людьми, несётся по рельсам в направлении другого любимого вами человека, который привязан к рельсам. Вы можете перевести стрелку, и тогда вагонетка уйдёт на запасной путь, который безопасен. Проблемма в том, что с другой стороны запасного пути стоит такой же бедняга, у которого по путям несётся такая же вагонетка. Если вы оба выберете переключить стрелку, в обеих вагонетках погибнут все. Что вы выберете – переключить стрелку или не переключать, убив одного своего любимого человека?50
Подобные ситуации изучают уже не только для советов, как поступать людям (понятно, что в жизни ситуации будут и динамичней, и сложней, и такого чёрно-белого выбора не будет – всегда будет разнообразие выборов, один другого хуже). Но вот такие вопросы начинают возникать и в отношении искусственного интеллекта. И иногда в формулировках чуть ли не буквально из задач про вагонетку – речь идёт о беспилотных автомобилях, тех самых вагонетках, которые сами себе стрелочники и могут направить себя вместе с пассажиром на пешеходов, чтобы спасти пассажиров за счёт пешеходов, или в столб, чтобы спасти пешеходов за счёт пассажиров. Люди из MIT решили выяснить, что думает человечество на эту тему, и построили «моральную машину»51, собравшую 40млн. ответов на подобные вопросы. Оказалось, что ответы в разных странах отличаются, представления об этике разнятся в разных странах52.
Сегодня опять-таки в связи с исследованиями
https://plato.stanford.edu/entries/consequentialism/, https://www.iep.utm.edu/conseque/
http://news.mit.edu/2018/how-autonomous-vehicles-programmed-1024
