Генеральный прокурор Калифорнии Роб Бонта направил предписание прекратить деятельность компании xAI, через несколько дней после того, как его офис начал официальное расследование в отношении компании из-за сообщений о том, что Grok генерировал материалы без согласия.

Напомним, xAI и Grok подверглись критике за то, что брали изображения реальных людей и помещали их в откровенную одежду, например, бикини, по случайным запросам пользователей.

Офис Бонты требует, чтобы xAI немедленно прекратила создание «оцифрованных материалов сексуально откровенного характера», если изображенное лицо не дало на это согласия или является несовершеннолетним. Также было потребовано, чтобы xAI прекратила «содействие или пособничество в создании… или публикации оцифрованных материалов сексуально откровенного характера» в отношении лиц, не дающих согласия, и лиц моложе 18 лет.

X изменил свои правила после возникновения этой проблемы и запретил учетной записи Grok редактировать изображения реальных людей в откровенной одежде. xAI также переместила функции генерации изображений Grok за платную стену и ограничила возможность платных пользователей редактировать изображения реальных людей в бикини, но только в тех регионах, где это незаконно.

В своем заявлении Бонта сообщил, что xAI разработала «пикантный режим» для Grok для создания откровенного контента и использовала его как маркетинговый ход. Генпрокурор Калифорнии также заявил, что сексуальные изображения, сгенерированные Grok, используются для преследования как известных личностей, так и обычных пользователей. «Наиболее тревожно то, что новостные сообщения описывают использование Grok для изменения изображений детей, чтобы изобразить их в минимальной одежде и в сексуальных ситуациях», — говорится в заявлении Бонты.

«Вышеуказанные действия нарушают законы Калифорнии, включая раздел 1708.86 Уголовного кодекса Калифорнии, разделы 311 и далее, а также 647(j)(4) Уголовного кодекса Калифорнии, и раздел 17200 Кодекса о бизнесе и профессионалах Калифорнии», — говорится в сообщении. Департамент юстиции штата теперь ожидает ответа от xAI о шагах, которые компания предпримет для решения этих проблем, в течение следующих пяти дней.