прекрасно понимает, что такое адекватность. Никто не вкладывает информацию об этом в нашу память, мы убеждаемся во многих истинах, исходя из собственного опыта и знаний.
Вы совершенно уверены в том, что неразумно тушить костёр пачками денег, если рядом стоит ведро с водой. Это отвечает здравому смыслу. Никому из людей для того, чтобы прийти к такому выводу, не нужно анализировать информацию о плотности бумаги, молекулярном составе воды, обладать экономическими знаниями о деньгах, как универсальном товаре, и иметь прочие исходные данные для долгих и нудных вычислений, которые вынужден будет произвести робот, чтобы принять правильное решение о том, чем именно погасить огонь.
При этом нет ни логического обоснования, ни программного кода, запрещающего тушить костёр большим количеством плотно упакованной разрисованной бумаги с изображением цифр. Поэтому бездушная машина обязана досконально просчитать данный вариант, не взирая на абсурдность задачи.
Очень важным является вопрос о том, способны ли роботы в принципе испытывать эмоции. Смогут ли они когда-нибудь по-настоящему искренне плакать, смеяться над шутками, испытывать переживания, слушая музыку и читая книги?
Сама природа мышления предполагает наличие эмоций. Такие человеческие черты, как любовь, ревность, страх появились в ходе эволюции миллионы лет назад. Благодаря эмоциям наши предки получили дополнительные возможности для воспроизводства и защиты от внешнего мира.
Нас окружает очень много опасностей и сравнительно мало полезных и приятных вещей. Эмоции позволяют разделить полезное и вредное. Очевидно, что без них очень сложно осуществить правильный выбор. Эмоции формируют нашу шкалу ценностей: одно красиво, но дорого для вас; другое дёшево, но вам не нужно; а кое-что вообще бесплатно, но очень вредно. Нам постоянно приходится выбирать, в том числе, руководствуясь собственными чувствами. Без эмоций всё будет иметь одинаковую значимость.
Без эмоций невозможно адекватно оценить обстановку, особенно в критической ситуации. Робот не в состоянии понять, что при пожаре необходимо в первую очередь спасать детей и женщин, а не столь же «равноценных» мужчин. Ему практически невозможно объяснить смысл слова «абсурд».
Может ли робот переживать внутренний опыт? В принципе ничего не мешает задать такой вопрос искусственному интеллекту напрямую. Но насколько адекватен будет ответ?
Даже если робот сообщит исследователям, что он обладает интеллектом, это очень сложно объективно проверить. Дело в том, что поведение искусственного интеллекта может быть основано на принципиально других глубинных принципах. Не будет ли это «машинным» жизненным опытом, непонятным нам?
Следующий принципиальный вопрос – если структура электронного мозга будет идентична органической, то будет ли робот обладать сознанием?
Существует точка зрения, что в компьютер невозможно вложить
