сегодня стало обыденностью. Компьютеры уже превзошли людей в шахматах, го и многих других областях. Но достаточно ли этого, чтобы назвать их «разумными»?
AGI (искусственный общий интеллект) – это система, которая умнее, чем коллективный разум всего человечества.
Это поразительно высокая планка. Речь идет не просто о системе, способной превзойти отдельного человека в определенной области, но о чем-то, что сможет превзойти совокупные знания и способности всех людей на планете.
Этические дилеммы на пути к сверхразуму
Создание такого мощного интеллекта ставит перед нами серьезные этические вопросы. Как обеспечить, чтобы эта сила была использована во благо человечества? Как предотвратить потенциальные злоупотребления?
Если вы заставляете ИИ лгать или обучаете их лгать, вы действительно напрашиваетесь на неприятности. Даже если эта ложь делается с благими намерениями.
Эта мысль заставляет задуматься о текущих тенденциях в разработке ИИ. Многие компании стремятся создать «этичные» системы, которые избегают потенциально оскорбительных или спорных высказываний. Но не рискуем ли мы при этом создать системы, которые будут искажать реальность в угоду политкорректности?
Если Вы просите Gemini (систему ИИ от Google) создать изображение отцов-основателей США, и она выбирает группу разнообразных женщин. Это фактически неверно.
Хотя этот пример может показаться тривиальным, он поднимает серьезный вопрос: что произойдет, если мы создадим сверхинтеллект, запрограммированный на достижение определенных социальных целей, даже если эти цели противоречат исторической правде или объективной реальности?
Инженерное искусство создания ИИ
Создание искусственного интеллекта – это не только философская и этическая проблема, но и колоссальная инженерная задача.
Существуют следующие базовые подходы к решению сложных инженерных проблем:
1. Подвергайте сомнению требования.
Требования всегда в какой-то степени глупы – даже самые умные люди могут ошибаться, и важно критически относиться к исходным предпосылкам.
2. Попробуйте удалить шаг или компонент.
Если вас не заставляют вернуть по крайней мере 10% того, что вы удалили, значит, вы удаляете недостаточно.
3. Оптимизируйте и упрощайте.
4. Ускорьте процесс.
5. Автоматизируйте.
Этот подход, иллюстрирует важность постоянного переосмысления и упрощения сложных систем. Это особенно актуально в контексте создания ИИ, где сложность систем растет экспоненциально.
Проблемы на пути к сверхразуму
Создание сверхинтеллекта сталкивается не только с теоретическими, но и с практическими проблемами. Одна из них – управление огромным количеством
