Будущее, которое нас ждёт. Эра нейрореволюции в симбиозе разума и искусственного интеллекта. Константин Сергеевич Савкин
Но не рискуем ли мы при этом создать системы, которые будут искажать реальность в угоду политкорректности?
Если Вы просите Gemini (систему ИИ от Google) создать изображение отцов-основателей США, и она выбирает группу разнообразных женщин. Это фактически неверно.
Хотя этот пример может показаться тривиальным, он поднимает серьезный вопрос: что произойдет, если мы создадим сверхинтеллект, запрограммированный на достижение определенных социальных целей, даже если эти цели противоречат исторической правде или объективной реальности?
Инженерное искусство создания ИИ
Создание искусственного интеллекта – это не только философская и этическая проблема, но и колоссальная инженерная задача.
Существуют следующие базовые подходы к решению сложных инженерных проблем:
1. Подвергайте сомнению требования.
Требования всегда в какой-то степени глупы – даже самые умные люди могут ошибаться, и важно критически относиться к исходным предпосылкам.
2. Попробуйте удалить шаг или компонент.
Если вас не заставляют вернуть по крайней мере 10% того, что вы удалили, значит, вы удаляете недостаточно.
3. Оптимизируйте и упрощайте.
4. Ускорьте процесс.
5. Автоматизируйте.
Этот подход, иллюстрирует важность постоянного переосмысления и упрощения сложных систем. Это особенно актуально в контексте создания ИИ, где сложность систем растет экспоненциально.
Проблемы на пути к сверхразуму
Создание сверхинтеллекта сталкивается не только с теоретическими, но и с практическими проблемами. Одна из них – управление огромным количеством энергии, необходимой для работы суперкомпьютеров.
Когда вы выполняете синхронизированное обучение, у вас есть все эти компьютеры, которые обучаются на уровне миллисекунд. Это как оркестр. И затем оркестр может перейти от громкого к тихому очень быстро, на подсекундном уровне. И тогда электрическая система как бы сходит с ума из-за этого»
.
Эта аналогия с оркестром прекрасно иллюстрирует сложность управления такими системами. Внезапные изменения в потреблении энергии на уровне десятков мегаватт несколько раз в секунду – это не то, к чему привыкли электрические системы.
Гонка за превосходство в ИИ
Создание искусственного общего интеллекта (AGI) часто описывают как гонку. Компании и страны соревнуются за то, чтобы первыми достичь этой вехи. Но насколько велико преимущество быть первым?
Давайте скажем, если кто-то будет первым, другие не отстанут надолго. Я имею в виду, что они могут отстать на шесть месяцев или максимум на год.
Это заявление поднимает интересные вопросы о природе прогресса в области ИИ.
Если разрыв между лидером и преследователями действительно так мал, стоит ли рисковать безопасностью ради скорости? Или, может быть, более разумно сосредоточиться