вычислительных систем, призванными снизить их склонность к дискриминационным или иным нечестным суждениям) и футуристов, беспокойство которых вызвано развитием неподконтрольных систем и саморазвивающегося ИИ (который, как они опасаются, вскоре станет «умнее» или, по крайней мере, смертоноснее своих создателей – людей). Прагматики обычно отмахиваются от футуристов, которых преследуют призраки, тогда как футуристы считают, что задачи прагматиков слишком скучны в своей ограниченности. Я полагаю, что каждая из этих двух сторон нуждается в другой. Страшные предсказания футуристов, вполне вероятно, сбудутся, если мы уже сегодня не будем активно требовать прозрачности и подотчетности автоматизированных систем. Но мы вряд ли справимся с этой серьезной задачей, если не сумеем учесть фундаментальные вопросы человеческой природы и свободы, которые ставят футуристы.
Эти вопросы не новы. Например, еще в 1976 г. специалист по компьютерным наукам Джозеф Вейценбаум спрашивал: «Какие человеческие цели и задачи нельзя в должной мере передать компьютерам? Вопрос не в том, можно ли это сделать, а в том, следует ли передавать машине функцию, которая ранее выполнялась человеком»[81]. Однако вопросы: «Могут ли роботы быть лучше людей?» и «Когда люди не должны использовать роботов?» – сами по себе неполны. Почти каждый из нас в своей работе сегодня в определенной мере уже использует автоматизацию, которая начинается с простых инструментов и заканчивается ИИ, заменяющим человека. Более верная формулировка вопросов такова: «Какое социально-техническое сочетание людей и робототехники лучше всего отвечает социальным и индивидуальным задачам, а также ценностям?».
Разбирая ряд кейсов, я дам конкретные ответы на этот вопрос, отстаивая мысль о том, что именно дополнение, а не замена человеческих экспертных знаний искусственным интеллектом позволяет реализовать важные человеческие ценности. В главах 2, 3 и 4 описывается то, как подобный процесс мог бы осуществляться в здравоохранении, образовании и медиа, при этом обсуждение сосредоточено на первом новом законе робототехники, а именно на том, что технология должна дополнять, а не заменять уже существующих профессионалов.
В целом я смотрю на перспективы дополняющей автоматизации в здравоохранении и образовании с оптимизмом. В общем, пациентам и учащимся требуется взаимодействие с человеком[82]. Они понимают, что, какого бы уровня развития не достиг ИИ, крайне важно о его применении консультироваться с экспертами, ежедневно изучающими надежность различных источников знаний. Еще более важно в различных образовательных и медицинских контекстах то, что во взаимодействии всегда присутствует элемент человеческих отношений. Роботизированные системы способны предоставить техническую помощь, оценить суждения, разработать увлекательные и захватывающие способы зубрежки. Возможно, в сельских или неблагополучных областях на них будет спрос как на замену профессионалам,
Джозеф Вейценбаум,
Aaron Smith and Monica Anderson,
