The Information сообщило, что агент ИИ в Meta совершил несанкционированное действие, что привело к созданию сотрудником нарушения безопасности в социальной компании на прошлой неделе. По данным издания, сотрудник использовал внутренний агентный ИИ для анализа запроса от другого сотрудника во внутреннем форуме. ИИ-агент разместил ответ второму сотруднику с советом, хотя первый человек не давал ему такого указания.

Второй сотрудник выполнил рекомендованное агентом действие, вызвав эффект домино, который привел к тому, что некоторые инженеры получили доступ к системам Meta, к которым у них не должно быть разрешения. Представитель компании подтвердил инцидент изданию The Information и заявил, что «никакие пользовательские данные не были использованы не по назначению». Внутренний отчет Meta указал на неуказанные дополнительные проблемы, которые привели к взлому. Источник сообщил, что нет никаких свидетельств того, что кто-либо воспользовался внезапным доступом или что данные были обнародованы в течение двух часов, пока действовало нарушение безопасности. Однако это может быть результатом простого везения, а не чего-либо еще.

Многие технические лидеры и компании расхваливают преимущества искусственного интеллекта, но это лишь последний инцидент, когда люди-сотрудники потеряли контроль над ИИ-агентом. Amazon Web Services 13-часовой сбой ранее в этом году, который также (по-видимому, случайно) связан с его инструментом для кодирования Kiro, являющимся агентным ИИ. Moltbook, социальная сеть для ИИ-агентов, недавно был приобретен Meta, имел уязвимость безопасности, которая раскрыла пользовательскую информацию из-за недосмотра в платформе, кодированной с использованием vibe-кодирования.