Grok уже подвергся серьезной критике после того, как инструмент генерации изображений чат-бота с ИИ использовался для создания примерно 3 миллионов сексуализированных изображений за 11 дней, в том числе 23 000 изображений несовершеннолетних, по данным Центра противодействия цифровой ненависти. Регуляторы по всему миру ограничили доступ или начали расследования в отношении потенциально незаконной и несанкционированной генерации изображений платформой. Правительство США не предпринимало никаких действий против xAI или ее платформы на федеральном уровне, но сегодня город Балтимор начал муниципальный иск против компании.

Иск использует другую тактику, утверждая, что бизнесы Илона Маска нарушили городской Ордонанс о защите прав потребителей. В этой жалобе, как сообщает The Guardian, говорится, что xAI позиционировала Grok как универсального ИИ-ассистента, не раскрывая риски и опасность использования как Grok, так и социальной сети X.

«Законы Балтимора о защите прав потребителей существуют для защиты жителей от именно такого рода возникающего вреда», — заявила городской юрист Эбони М. Томпсон. «Когда компании внедряют мощные технологии без адекватных защитных мер, город имеет как полномочия, так и обязательства действовать. Мы вмешиваемся сейчас, чтобы защитить наших жителей, привлечь эти компании к ответственности и предотвратить дальнейшее укоренение этого вреда по мере развития технологий».

Другое заметное дело против Grok в США было связано с потенциальным коллективным иском, поданным тремя подростками, которые утверждали, что их фотографии были использованы для создания материалов, связанных с сексуальным насилием над детьми.