X заявляет, что меняет свою политику в отношении возможностей редактирования изображений Grok после многонедельного общественного резонанса, связанного с обвинениями в том, что чат-бот неоднократно генерировал сексуализированные изображения детей и материалы с обнаженной натурой без согласия. В обновлении, опубликованном с аккаунта @Safety в X, компания заявила, что «внедрила технологические меры, чтобы запретить аккаунту Grok разрешать редактирование изображений реальных людей в откровенной одежде, такой как бикини».

xAI также перемещает все функции генерации изображений Grok за свой платный доступ для подписчиков, чтобы неплатящие пользователи больше не могли создавать изображения. И будет применять географическую блокировку «возможности всех пользователей генерировать изображения реальных людей в бикини, нижнем белье и аналогичной одежде через аккаунт Grok и в Grok в X» в регионах, где это незаконно.

Заявление компании прозвучало через несколько часов после того, как штат Калифорния начал расследование в отношении xAI и Grok по поводу обработки материалов с обнаженной натурой и эксплуатации детей, сгенерированных ИИ. В заявлении генерального прокурора Калифорнии Роба Бонты цитировался один анализ, который показал, что «более половины из 20 000 изображений, сгенерированных xAI между Рождеством и Новым годом, изображали людей в минимальной одежде», в том числе некоторые, которые, по-видимому, были детьми.

В своем сообщении X заявил, что у него «нулевая терпимость» к эксплуатации детей и что он удаляет с платформы «высокоприоритетный нарушающий контент, включая материалы сексуального насилия над детьми (CSAM) и обнаженную натуру без согласия». Ранее в тот же день Илон Маск заявил, что он «не осведомлен о каких-либо изображениях обнаженных несовершеннолетних, сгенерированных Grok». Он позже добавил, что когда включена настройка NSFW, «Grok должен [sic] разрешать обнаженность верхней части тела воображаемых взрослых людей (не реальных), соответствующую тому, что можно увидеть в фильмах с рейтингом R на Apple TV». Он добавил, что «это будет варьироваться в других регионах» в зависимости от местного законодательства.

Развивается…