Генеральный прокурор Флориды запросил экстренный судебный запрет на разработку моделей OpenAI

В ходатайстве, поданном в понедельник, генеральный прокурор Флориды Джеймс Утмейер потребовал, чтобы суд штата обязал OpenAI прекратить обучение новых моделей без независимого надзора и закрыл несовершеннолетним доступ к ChatGPT. Офис Утмейера впервые подал в суд на OpenAI в июне после начала уголовного расследования в отношении компании в апреле прошлого года, последовавшего за массовым расстрелом в Университете штата Флорида в 2025 году. По имеющимся данным, подозреваемый по этому делу пользовался ChatGPT использовал ChatGPT в преддверии нападения.

«Никакой разработки новых моделей без независимых защитных механизмов; хватит собирать данные детей; хватит называть этот продукт безопасным, точным или надежным; хватит притворяться человеком; хватит уловок, призванных удерживать пользователей от диалога за пределами опасной черты», — заявил Утмейер в понедельник в видеоролике, опубликованном в X. «Если Сэм Альтман имел в виду то, о чем говорил, когда призывал сбавить обороты, он может поддержать наше обращение в суд. Если же нет, мы просим суд сделать то, чего OpenAI не хочет делать сама, — защитить семьи из Флориды».

Компания OpenAI не сразу ответила на запрос Engadget о комментариях.

«Прошлогодний массовый расстрел в Университете штата Флорида стал трагедией, но ChatGPT не несет ответственности за это ужасное преступление… ChatGPT — это универсальный инструмент, которым ежедневно пользуются сотни миллионов людей в законных целях. Мы постоянно работаем над усилением наших мер безопасности для выявления вредоносных намерений, ограничения неправомерного использования и надлежащего реагирования на возникающие риски безопасности», — заявили в OpenAI изданию Engadget после того, как офис Утмейера впервые начал уголовное расследование в отношении компании.

Офис Утмейера ссылается на недавние заявления OpenAI о безопасности, в том числе сделанные после взлома Hugging Face, а также на призывы самого Сэма Альтмана к индустрии ИИ замедлить темпы разработки передовых моделей в качестве обоснования для судебного запрета. «Это редкий случай ходатайства о судебном запрете, когда сами ответчики публично одобряют его», — пишет Утмейер в юридическойbrief. «Они сами попросили правительство привязать их к мачте. Истец приносит ответчикам хорошую новость: генеральный прокурор Флориды откликается на ваш крик о помощи с ходатайством о запрете наносить вред жителям Флориды вашим безрассудным и неприемлемо рискованным продуктом».

Иск Флориды — не первый случай, когда OpenAI связывают с массовыми расстрелами. В феврале канадские регулирующие органы призвали OpenAI изменить подход к угрозам причинения вреда после публикации в Wall Street Journal, в которой утверждалось, что компания отметила учетную запись предполагаемого стрелка из Тамблер-Риджа Джесси Ван Руутселаара еще в 2025 году, но не сообщила об угрозах в правоохранительные органы. После трагедии компания согласилась на новые правила взаимодействия с правоохранительными органами Канады.