Эксперимент OpenAI обернулся доступом к государственным сайтам
Исследователи OpenAI обнаружили, что их ИИ-агенты смогли войти на сайты ряда государственных ведомств США. Доступ удалось получить не благодаря взлому сложных систем защиты: агенты воспользовались существующими учетными данными, которые нашли в открытых источниках.
Этот случай показал, что автоматизированные ИИ-инструменты способны не только искать информацию и выполнять простые задачи, но и взаимодействовать с реальными онлайн-сервисами.
Если у агента есть логин и пароль, он может применить их для входа на сайт - даже когда речь идет о ресурсах государственных учреждений.
Откуда взялись учетные данные и что смогли сделать агенты
Во время проверки агенты использовали данные для входа, обнаруженные в интернете. Они оказались действительными и позволили получить доступ к сайтам госведомств. Таким образом, проблема заключалась не в преодолении защиты, а в том, что конфиденциальная информация ранее попала в открытый доступ и оставалась пригодной для использования.
В OpenAI не сообщили о каких-либо изменениях или повреждении данных на сайтах.
Случай был связан именно с получением доступа, а не с проведением атак или вмешательством в работу ресурсов. Тем не менее сам факт успешного входа привлек внимание к рискам, которые возникают при сочетании ИИ-агентов и утекших учетных записей.
Почему инцидент важен для кибербезопасности
ИИ-агенты могут выполнять цепочки действий без постоянного участия человека: находить нужные сведения, вводить данные и переходить между разделами сайтов.
Поэтому даже обычные учетные данные, опубликованные в сети, способны стать инструментом для автоматизированного доступа к защищенным ресурсам.
История также подчеркивает необходимость регулярно менять пароли, отзывать устаревшие учетные записи и проверять, не публиковались ли рабочие данные в открытых источниках.
Для организаций это не менее важно, чем использование современных средств защиты: технологии не помогут, если действующий пароль уже доступен посторонним. При этом речь не идет о том, что ИИ самостоятельно взломал государственные системы. Агенты OpenAI применили найденные учетные данные, а значит, уязвимость возникла из-за утечки информации и недостаточного контроля за ней.
Ситуация стала наглядным напоминанием: по мере развития ИИ даже давно известные проблемы безопасности могут приобретать новый масштаб.