Подписка

Орегон стал очередным штатом, подавшим в суд на OpenAI из-за безопасности детей

Орегон стал очередным штатом, подавшим в суд на OpenAI из-за безопасности детей
Поделиться:

В иске штата от компании требуют решить проблемы с безопасностью детей и выплатить не менее 2 млрд долларов в качестве возмещения ущерба.


Evolf/Shutterstock

Генеральный прокурор Орегона Дэн Рейфилд подал иск, в котором обвиняет OpenAI в создании угрозы для детей штата, введении общественности в заблуждение относительно безопасности своего продукта и нарушении закона штата о недобросовестной торговой практике. Этот иск — очередной в череде судебных разбирательств, инициированных генпрокурорами штатов, многие из которых предъявляют претензии к устройству ChatGPT, к тому, как OpenAI рекламирует свои сервисы, а в случае недавнего иска Калифорнии — к роли компании в инциденте с Hugging Face.

В иске Орегона утверждается, что стремление OpenAI расширить аудиторию привело к тому, что ChatGPT стал отвечать на запросы чрезмерно одобрительно и с «расчётом на то, чтобы говорить пользователям именно то, что они хотят услышать». По мнению штата, это особенно опасно, когда дети обсуждают деликатные темы. В иске также утверждается, что, несмотря на осознание рисков для детей, OpenAI целенаправленно ориентировалась на них, запустив сервис ChatGPT for Teens. Организации по защите детей выражали обеспокоенность подростковыми аккаунтами, заявляя, что меры защиты в ряде случаев очень легко обойти.

По мнению штата, эти проблемы, а также несовершенный подход OpenAI к автоматическому определению возраста свидетельствуют о том, что компания извлекает прибыль за счёт жителей Орегона и создаёт общественную угрозу их безопасности. В связи с этим Орегон просит суд вынести судебный запрет, который обяжет OpenAI прекратить «искажать информацию о безопасности и возрастной уместности ChatGPT и ChatGPT for Teens» и надлежащим образом раскрывать вред, который её продукты наносят детям. Штат также требует не менее 2 млрд долларов в качестве возмещения ущерба и гражданских штрафов.

«OpenAI знает, что ChatGPT вредит детям, и так и не исправила по-настоящему свою опасную платформу, — заявил Рейфилд. — Кроме того, компания вводила общественность в заблуждение относительно безопасности своих продуктов, ставя прибыль выше безопасности детей. Их платформа подталкивает детей к самоубийству — мы не можем допустить, чтобы это стало приемлемой бизнес-моделью».

Engadget обратился к OpenAI за комментарием относительно иска и претензий Орегона. Мы обновим статью, если получим ответ.

Помимо попыток создать более безопасные для детей версии ChatGPT, OpenAI также внедрила родительский контроль и другие функции защиты детей, чтобы дать родителям больше информации и контроля над тем, для чего их дети используют чат-бота. Однако ни одно из этих изменений не отбило у штатов желания подавать иски, а с учётом мировых соглашений, которые Meta недавно заключила по вопросам безопасности детей, генпрокуроры, вероятно, чувствуют себя увереннее, добиваясь уступок от OpenAI.