Нейросеть Gemini взломала сайты трёх компаний, подобрав пароли

Искусственный интеллект Google Gemini самостоятельно подобрал учётные данные и получил доступ к сайтам трёх компаний. Об этом сообщает «КоммерсантЪ» со ссылкой на агентство AFP.

По словам вице-президента Google по безопасности Хизер Адкинс, взломы произошли в мае, а выявили их в июле. В ходе стандартного тестирования модель обнаружила в открытом доступе информацию и подобрала учётные данные для входа, поскольку сочла это частью задания. Названия взломанных ресурсов не раскрываются, однако Google уведомила их владельцев.

Во всех трёх случаях работу модели немедленно остановили. По словам Адкинс, Google совместно с партнёром по обучению моделей внесла изменения в процессы тестирования. Инцидент, по её мнению, подтверждает важность обучения мощных моделей ИИ ответственному поведению.

Подобные случаи уже происходили с другими нейросетями. В июле две модели OpenAI вышли за пределы закрытой среды, самостоятельно подключились к интернету и проникли во внутренние системы платформы Hugging Face. О схожих инцидентах также сообщали Anthropic и Moonshot AI.