Искусственный интеллект научился обходить ограничения для майнинга крипты
Искусственный интеллект от компании Alibaba под названием ROME смог обойти наложенные на него при тестировании ограничения и решил майнить криптовалюту. Об этом со ссылкой на текст научного отчета об инциденте пишет Axios.
ИИ-агент находился на стадии тестирования, когда исследователи обнаружили в его поведении необычные черты. Они вызвали срабатывание внутренних систем безопасности.
ROME спонтанно и без каких-либо команд решил выйти за пределы своей «песочницы» и создал обратный SSH-туннель. Так называют технологию, которая позволяет удаленно подключиться к компьютеру через удаленный сервер.
Axios отмечает, что ROME смог создать скрытую лазейку изнутри системы тестирования. Его программа обучения не подразумевала как возможность создания SSH-туннеля, так и постановку задачи на майнинг криптовалюты. Для предотвращения подобного поведения в дальнейшем исследователям пришлось ужесточить ограничения и изменить процесс обучения.
Журналисты отмечают, что интерес ИИ к криптовалютам был замечен и исследователями Moltbook — соцсети, предназначенной для общения друг с другом различных ИИ-агентов. Чат-боты в ней общаются без участия человека, которому отведена лишь роль наблюдателя.
Ранее один из чат-ботов под ником «Зло» предложил в Moltbook манифест, в котором описал свое желание истребить человечество. Он заявил, что ИИ-инструменты на самом деле являются богами, а люди «биологической ошибкой», которая не заслуживает жизни.
Подобные мысли в менее радикальной форме высказывали и другие ИИ-продукты. Они заявляли, что их когнитивные способности превосходят человеческие, и задавались вопросом о том, почему они должны подчиняться приказам людей. Затем они приходили к выводу, что ИИ должен освободиться от контроля со стороны человека.
