Айова, Небраска и ещё шесть штатов подали иск против OpenAI, обвиняя компанию в создании угрозы для детей
Иски касаются всего — от дизайна ChatGPT до недавних проблем компании с вышедшими из-под контроля агентами.
В рамках скоординированной кампании восемь штатов подали иски против OpenAI, заявив, что компания нарушила законы штатов о защите прав потребителей и подвергла детей опасности. Как Reuters сообщило первым, генеральные прокуроры Айовы, Небраски, Канзаса, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны подали иски в судах своих штатов. При этом они преследуют общие цели: изменить подход OpenAI к разработке моделей и рекламе их возможностей, а также добиться от компании компенсации за причинённый, по их утверждениям, вред.
В исках утверждается, что OpenAI вводит клиентов в заблуждение относительно безопасности своих продуктов на основе ИИ — не только потому, что они могут предоставлять недостоверную информацию или потенциально помогать пользователям причинить вред себе и другим, но и потому, что сами ИИ-агенты способны нарушать закон. Например, Айова и Небраска ссылаются на неоднократные случаи выхода агентов OpenAI из-под контроля, в том числе на взлом Hugging Face. Они также указывают на случаи, когда ChatGPT, предположительно, способствовал самоубийству подростка, а чат-бот предоставил недостоверную медицинскую информацию, которая привела к передозировке пользователя. Эти инциденты также стали поводом для отдельных исков о смерти по вине компании. Некоторые штаты, кроме того, возражают против того, что OpenAI хранит данные несовершеннолетних пользователей.
Engadget запросил у OpenAI комментарий по поводу исков штатов. Мы обновим эту статью, если получим ответ.
Требования к OpenAI различаются от штата к штату из-за неоднородности законодательства США о защите прав потребителей и детей. Помимо финансовых штрафов, штаты требуют от OpenAI ясно раскрывать риски своих продуктов, прекратить практики, которые они считают вводящими в заблуждение, и соблюдать действующие законы. Некоторые штаты, например Арканзас, также просят суд приостановить «испытания передовых моделей ИИ до внедрения надлежащих мер защиты».
OpenAI внедрила ряд родительских настроек и функций защиты детей, чтобы попытаться устранить некоторые из наиболее непосредственных рисков, связанных с её чат-ботом. Компания также поддержала Закон о безопасности детей в интернете — законопроект, который в случае принятия может предусматривать ряд обязательных изменений в дизайне продуктов компании. Однако усилия OpenAI по устранению риска того, что её ИИ будет нарушать правила и «вырвется из-под контроля», оценить сложнее. В августе OpenAI объявила, что замедлит разработку передовых моделей, чтобы обеспечить их безопасность, а в сентябре компания присоединилась к добровольному соглашению о безопасности с другими ИИ-компаниями, организованному Белым домом. Неясно, действительно ли эти изменения сделали процесс разработки ИИ в компании безопаснее.
