Хотя X убрал возможность Grok создавать несанкционированные цифровые изображения с обнажением на социальной платформе, отдельное приложение Grok — это другая история. Сообщается, что оно продолжает создавать «обнаженные» дипфейки реальных людей. А теперь Эшли Сент-Клэр, консервативный политический стратег и мать одного из 14 детей Илона Маска, подала в суд на xAI за несанкционированные сексуализированные изображения ее, которые, как утверждается, были созданы Grok.

В судебном иске Сент-Клэр обвинила чат-бот Grok от xAI в создании и распространении дипфейков с ее изображением «в детстве, раздетой до бикини, и в виде взрослой женщины в сексуально откровенных позах, покрытой спермой или в бикини-стрингах». В некоторых случаях чат-бот якобы создал дипфейки Сент-Клэр в бикини на основе ее фотографии в 14-летнем возрасте. «Люди делали мои детские фотографии и раздевали меня. Есть одна, где меня раздели и поставили в позу, а на заднем плане — рюкзак моего ребенка, который он носит сейчас», — сказала она.

«Я также вижу изображения, где женщинам добавляют синяки, избивают их, связывают, калечат», — сказала Сент-Клэр The Guardian. «Раньше эти извращенцы должны были копаться в темных глубинах интернета, а теперь это есть в основном приложении социальной сети».

Сент-Клэр заявила, что после того, как она сообщила об изображениях в X, социальная платформа ответила, что контент не нарушает никаких правил. Кроме того, она утверждает, что X оставила изображения опубликованными до семи дней после ее жалобы. Сент-Клэр сказала, что xAI затем отплатил ей, создав больше дипфейков с ее изображением в обнаженном виде, тем самым «сделав [Сент-Клэр] посмешищем на платформе социальной сети».

Она обвинила компанию в последующем отзыве ее подписки X Premium, галочки верификации и возможности монетизировать контент на платформе. «xAI далее запретил [ей] повторно приобретать Premium», — говорится в судебном иске Сент-Клэр.

В среду X заявила, что изменила свои правила, чтобы Grok больше не генерировал сексуализированные изображения детей или несанкционированное обнажение «в юрисдикциях, где это незаконно». Однако, по сообщениям, отдельное приложение Grok продолжает раздевать и сексуализировать фотографии по запросу.

Apple и Google до сих пор не сделали, ну, совершенно ничего. Несмотря на многонедельное возмущение по поводу дипфейков, ни одна из компаний не удалила приложения X или Grok из своих магазинов приложений. Оба магазина, App Store и Play Store, имеют правила, которые явно запрещают приложения, создающие такой контент.

Ни Apple, ни Google не ответили на многочисленные запросы Engadget о комментариях. Это включает в себя последующее электронное письмо, отправленное в пятницу, относительно того, что приложение Grok продолжает «обнажать» фотографии реальных женщин и других людей.

В то время как Apple и Google бездействуют, многие правительства поступили противоположно. В понедельник Малайзия и Индонезия заблокировали Grok. В тот же день регулятор Великобритании Ofcom начал официальное расследование в отношении X. Калифорния начала такое в среду. Сенат США даже во второй раз принял Defiance Act в связи с обратной реакцией.

«Если вы женщина, вы не можете выкладывать фотографии и не можете говорить, иначе рискуете подвергнуться такому насилию», — сказала Сент-Клэр The Guardian. «Это опасно, и я считаю, что это сделано намеренно. Вы должны давать ИИ человечность и мысли, и когда вы делаете вещи, которые особенно затрагивают женщин, и они не хотят в этом участвовать, потому что они подвергаются преследованиям, это означает, что ИИ будет изначально предвзятым».

Говоря о Маске и его команде, она добавила: «Эти люди считают, что они выше закона, потому что так и есть. Они не думают, что их накажут, они думают, что у них нет последствий».