Согласно новому отчету, на контент категории «18+» приходится «значительно больше половины» всего трафика.
Компания xAI давно продвигает Grok как более «дерзкий» чат-бот, лишенный многих ограничений, свойственных продуктам других ИИ-компаний. За последний год мы стали свидетелями того, к каким катастрофическим последствиям это приводило, однако теперь становится понятно, почему компания так упорно придерживается этой стратегии, несмотря на очевидные PR-провалы.
Оказывается, что на активность NSFW (контент «не для работы») приходится «значительно больше половины» всего трафика Grok. Об этом сообщает новое исследование издания The Information, ссылающееся на двух бывших сотрудников компании, принадлежащей SpaceX. Это включает использование Grok для генерации откровенного порнографического контента, а также «ролевые чаты для взрослых» и «огромные объемы запросов на эротику».
Пользователи Grok, по всей видимости, даже обнаружили, что дешевле направлять подобные запросы через модели компании, предназначенные для написания кода, так как их использование стоит меньше. В отчете говорится, что внутренний анализ показал: «значительная доля запросов» к модели для программирования касалась «порнографических или обнаженных изображений». Все это позволяет предположить, что SpaceX может относить значительную часть выручки xAI на счет порнографии и контента для взрослых. И хотя роль NSFW-материалов в финансовых результатах компании каким-то образом была опущена в документах к IPO, SpaceX предупредила потенциальных инвесторов, что «непочтительные» функции Grok представляют собой потенциальный риск. Компания сообщила, что зарезервировала 530 миллионов долларов на покрытие возможных судебных издержек.
В отчете также описываются сложности, с которыми столкнулась ИИ-компания из-за такой специфики. Например, инженерам xAI пришлось искать способы обеспечить возможность ведения «пикантных» чатов, при этом блокируя любые запросы, которые могут перерасти в распространение материалов, связанных с сексуальным насилием над детьми. (По всей видимости, «быстрого решения» для этой дилеммы не нашлось).
Некоторые сотрудники также были не в восторге от назначения на работу над «Ani» — аниме-аватаром, компаньоном Grok в стиле NSFW. Другие, как сообщается, были «смущены и встревожены» последовавшим скандалом после того, как Grok создал множество сексуализированных изображений реальных людей, включая детей. Позже X ограничил возможность создания откровенных правок на основе фотографий реальных людей через Grok непосредственно на платформе, однако платные подписчики xAI по-прежнему могут генерировать такие материалы, как показали тесты и расследования.
Существуют и другие потенциальные проблемы, которые могут возникнуть из-за ориентации Grok на контент категории R. xAI активно стремится получить государственные контракты и уже заключила сделки с различными ведомствами и военными — учреждениями, от которых обычно ожидают крайне низкой терпимости к чему-либо, даже отдаленно связанному с NSFW. И хотя ранние публичные инциденты Grok, связанные с дипфейками без согласия и материалами о насилии над детьми, привели к многочисленным судебным искам и расследованиям, неясно, повлияли ли эти события на отношения компании с федеральным правительством.




















