Власти Калифорнии начали расследование в отношении xAI после многонедельных сообщений о том, что чат-бот генерировал сексуализированные изображения детей. «xAI, по-видимому, способствует масштабному производству дипфейков с интимными изображениями без согласия, которые используются для преследования женщин и девочек в Интернете, в том числе через социальную платформу X», — заявило управление генерального прокурора Калифорнии Роба Бонты в заявлении.

В заявлении цитируется отчет, согласно которому «более половины из 20 000 изображений, сгенерированных xAI в период с Рождества до Нового года, изображали людей в минимальной одежде», в том числе некоторые, предположительно, детей. «У нас нулевая терпимость к созданию и распространению с помощью ИИ интимных изображений без согласия или материалов, связанных с сексуальным насилием над детьми», — заявил Бонта. «Сегодня мой офис официально объявляет о расследовании в отношении xAI, чтобы определить, нарушила ли xAI закон и как именно».

Расследование было объявлено вскоре после того, как губернатор Калифорнии Гэвин Ньюсом также призвал Бонту расследовать деятельность xAI. «Решение xAI создать и разместить рассадник для хищников, чтобы распространять сексуально откровенные ИИ-дипфейки без согласия, в том числе изображения, которые в цифровом виде раздевают детей, — это мерзость», — написал Ньюсом.

Власти Калифорнии — не первые, кто расследует деятельность компании после широко распространенных сообщений о материалах, связанных с сексуальным насилием над детьми (CSAM), и интимных изображениях женщин без согласия, сгенерированных ИИ. Регулятор Великобритании Ofcom также начал официальное расследование, а официальные лица Европейского Союза заявили, что они также изучают эту проблему. Малайзия и Индонезия приняли меры для блокировки Grok.

На прошлой неделе xAI начала вводить ограничения на частоту генерации изображений Grok, но пока отказалась полностью прекратить эту функцию. На запрос о комментарии по поводу расследования в Калифорнии xAI ответила автоматическим электронным письмом с текстом «Legacy Media Lies» (Западные СМИ лгут).

Ранее в среду Илон Маск заявил, что ему «неизвестно о каких-либо обнаженных изображениях несовершеннолетних, сгенерированных Grok». Примечательно, что это заявление не опровергает напрямую утверждение Бонты о том, что Grok используется «для изменения изображений детей с целью изображения их в минимальной одежде и сексуальных ситуациях». Маск сказал, что «операционный принцип Grok — соблюдать законы», и что компания работает над устранением случаев «враждебного взлома запросов Grok».