Еще одна женщина присоединилась к иску против Grok из-за генерации материалов с сексуальным насилием над детьми

Четвертая пострадавшая обратилась в суд с иском против компании xAI, утверждая, что чат-бот Grok использовался для создания материалов сексуального характера с участием детей (CSAM) на основе ее детских фотографий. Как впервые сообщила газета Washington Post, женщина, фигурирующая в иске как «Джейн Доу 4», заявила, что ее отчим применял Grok для создания «тысяч откровенных изображений ее в детском возрасте и распространял их в интернете».

Согласно судебным материалам, отчим создал свыше 7000 «поддельных откровенных снимков с ней с помощью ИИ-чат-бота Grok», включая превращение фотографии, сделанной в ее 11-летнем возрасте, в изображение сексуального характера. Впоследствии государственные и местные правоохранительные органы изъяли электронные устройства отчима для проверки на наличие CSAM, а спустя два дня он был найден мертвым в своей машине — мужчина покончил жизнь самоубийством, говорится в отчете.

Джейн Доу 4 присоединилась к трем другим подросткам, которые подали первоначальный иск, утверждая, что Grok использовался для создания откровенных дипфэйков с их участием. Дело началось с трех подростков из Теннесси, однако коллективный иск может охватить «по меньшей мере тысячи несовершеннолетних».

Помимо этого судебного разбирательства, компания xAI и ее чат-бот Grok неоднократно оказывались в центре расследований, связанных с CSAM. В январе генеральный прокурор Калифорнии Роб Бонта начал расследование в отношении xAI, обвинив компанию в генерации несогласованных интимных дипфэйков с участием женщин и детей. Позже в том же месяце Европейский Союз также открыл собственное расследование в отношении платформы X, чтобы выяснить, приняла ли она достаточные меры для предотвращения распространения созданных ИИ материалов сексуального насилия над детьми. Мы обратились в xAI за комментариями по поводу последнего обновления иска и обновим материал, когда получим ответ.