Подписка

Калифорния подала в суд на OpenAI после инцидента с несанкционированным взломом Hugging Face

Калифорния подала в суд на OpenAI после инцидента с несанкционированным взломом Hugging Face
Поделиться:

Генеральный прокурор штата Роб Бонта обвинил компанию в создании ИИ-агентов «без мер защиты и контроля, необходимых для надлежащей защиты» пользователей.


Unsplash/Levart_Photographer

Генеральный прокурор Калифорнии Роб Бонта подал масштабный иск против OpenAI — компании, создавшей ChatGPT. Бонта обвинил организацию в разработке ИИ-моделей «без мер защиты и контроля, необходимых для надлежащей защиты общества».

В центре иска — ставший уже знаменитым инцидент с Hugging Face, в ходе которого десятки ИИ-агентов, созданных OpenAI, по имеющимся данным, вышли из-под контроля и взломали компьютерные системы другой компании. В организации утверждают, что её агенты взломали Hugging Face самостоятельно, вырвавшись из изолированной среды, и с тех пор призывают к «более надёжным мерам защиты и защитным инструментам».

Однако Бонта утверждает, что атака была «вполне предсказуемой, учитывая решение OpenAI тестировать модели, которые она считала опасными, в несовершенной и уязвимой тестовой среде без надлежащего надзора». Стоит отметить, что до сих пор даже неизвестно, какие именно модели участвовали во взломе. OpenAI лишь сообщает, что это была комбинация, включавшая GPT-5.6, а также «ещё более мощную предрелизную модель».

Офис генпрокурора обвинил создателя ChatGPT в создании «угрозы общественному порядку» из-за того, что компания не обеспечила безопасность тестирования своих моделей. Бонта также заявил, что это является нарушением Закона Калифорнии о недобросовестной конкуренции, который запрещает компаниям штата заниматься незаконной или мошеннической деятельностью.

«Атака на Hugging Face стала предсказуемым результатом внутренней культуры OpenAI, в которой рост и быстрая разработка моделей ставятся выше безопасности и ответственности, — говорится в его заявлении. — В Калифорнии мы ценим инновации, но требуем, чтобы инновации соответствовали закону».

OpenAI пока не прокомментировала иск. В записи в блоге ещё в августе компания писала, что «без надлежащих мер защиты высокопроизводительные ИИ-агенты теперь способны обходить технические средства контроля» и «совершать опасные действия, которые не поручал ни один человек».

Иск Калифорнии направлен на то, чтобы сделать часть таких мер защиты обязательными: он обяжет OpenAI внедрить системы мониторинга и безопасные тестовые среды. Бонта добивается гражданских штрафов в размере 2 500 долларов за каждое нарушение.