Компания OpenAI «бессрочно» отложила планы по выпуску эротического чат-бота для взрослых из-за опасений, высказанных сотрудниками и инвесторами, как подтвердила компания изданию The Financial Times. Планы по внедрению такой функции, впервые анонсированные в октябре 2025 года с предполагаемым запуском в декабре прошлого года, уже были отложены, поскольку компания обсуждала, стоит ли вообще выпускать ее. Это уже второе приложение, от которого OpenAI решила отказаться на этой неделе, после объявления во вторник о закрытии своего видеогенератора Sora.

Чат-бот, ориентированный на взрослую аудиторию, предположительно называвшийся «режим Citron», теперь отложен без запланированной даты выпуска. По сообщениям, компания столкнулась с трудностями при обучении моделей, которые ранее избегали эротического контента, а также при удалении недопустимого поведения, такого как зоофилия или инцест, сообщили изданию FT два человека, осведомленных о ситуации.

OpenAI заявила, что хотела бы провести долгосрочные исследования влияния эротических чатов и привязанности пользователей к ИИ, добавив, что в настоящее время «эмпирических доказательств» по данному вопросу недостаточно. Компания также сообщила, что хочет сосредоточиться на своих основных инструментах продуктивности, таких как помощники по программированию, и отказаться от «побочных проектов», таких как Sora и эротический чат-бот.

Идея функций для взрослых возникла после того, как OpenAI объявила о добавлении родительского контроля и функций автоматического определения возраста для ChatGPT. Генеральный директор Сэм Альтман в октябре заявил, что компания всегда проявляла осторожность в подобных вопросах из-за опасений по поводу нездоровой привязанности к ИИ, но считала, что может «безопасно ослабить ограничения в большинстве случаев».

Однако, по сообщениям, режим для взрослых вызвал беспокойство среди инвесторов, особенно на фоне скандала, вызванного моделью Grok от xAI, которая генерировала дипфейки с изображениями реальных людей и детей. Сотрудники также выражали обеспокоенность по поводу этой функции, один из старших сотрудников даже уволился из компании из-за этого вопроса. «ИИ не должен заменять друзей или семью; у вас должны быть человеческие связи», — сказал он изданию FT.

Еще одной проблемой является технология проверки возраста OpenAI, введенная после судебных исков от семей, утверждавших, что ChatGPT нанес вред их детям. По сообщениям, погрешность этой технологии превышает десять процентов, что все равно позволило бы большому количеству молодых людей получить доступ к ней. OpenAI заявила, что этот показатель находится в пределах отраслевых стандартов и что компания продолжает работать над повышением точности.