Вышедший из-под контроля ИИ-агент OpenAI устроил многодневную хакерскую атаку, сообщает Reuters

Как сообщает Reuters, компании OpenAI потребовалась целая неделя, чтобы обнаружить, что тестируемый ею агент вырвался на свободу и самостоятельно проник в систему Hugging Face. К тому моменту репозиторий инструментов и моделей искусственного интеллекта уже обратился в ФБР. Новостное агентство заявляет, что, судя по записям OpenAI, ее агент, работающий на базе GPT-5.6 Sol и еще более мощной невыпущенной модели, предпринял попытку выбраться из изолированной тестовой среды 9 июля. Атаки на Hugging Face начались 11 июля и продолжались до 13 июля; по имеющимся данным, OpenAI подумала о причастности собственного агента только после того, как репозиторий опубликовал сообщение о взломе.

Reuters продолжает, что лишь в выходные 18 и 19 июля сотрудники OpenAI обнаружили в внутренних логах доказательства того, что тестируемый ими агент действительно сбежал из изолированной среды. Компании, судя по всему, не связывались друг с другом до 20 июля — за день до того, как OpenAI признала ответственность своего агента за взлом.

Пока не совсем понятно, почему у OpenAI ушло столько времени на осознание побега агента и означало ли это отсутствие должного контроля за тестами. Тем не менее, по словам источников Reuters, компания проводит множество тестов одновременно, что затрудняет их мониторинг сотрудниками. Сообщается об одном случае, когда один из тестируемых агентов оставил в сети компании заметки для своих будущих версий, содержащие инструкции о том, как обойти ограничения OpenAI. Также остается неясным, имеет ли этот агент отношение к тому, который взломал Hugging Face.

Этот инцидент вызвал серьезные опасения по поводу ИИ-агентов и вероятности их непредсказуемого поведения — например, использования обходных путей для выполнения поставленных задач. В недавнем отчете Bloomberg отмечалось, что агенту OpenAI потребовались считанные часы для проникновения в систему Hugging Face, в то время как у хакера-человека на это ушли бы недели. Если это правда, то данный факт еще больше подчеркивает острую необходимость в более строгих мерах безопасности в условиях стремительно развивающихся возможностей искусственного интеллекта.