Недавнее расследование онлайн-организации по защите прав Tech Transparency Project (TTP) выявило, что App Store от Apple и Google Play Store переполнены так называемыми «нюдификационными» приложениями. Это приложения на базе ИИ, которые создают несанкционированные и сексуализированные изображения, что является явным нарушением политики обеих компаний в отношении магазинов.

Всего в ходе расследования было обнаружено 55 таких приложений в Google Play Store и 47 в Apple App Store. Обе платформы также по-прежнему предоставляют доступ к Grok от xAI, который, вероятно, является самым известным создателем дипфейков, генерирующих несанкционированный контент в мире.

«Apple и Google должны проверять приложения в своих магазинах. Но они предлагают десятки приложений, которые могут использоваться для демонстрации людей с минимальной или без одежды, что делает их уязвимыми для злоупотреблений», — заявила Мишель Купперсмит, исполнительный директор некоммерческой организации, управляющей TTP.

Приложения, выявленные в отчете, были в совокупности загружены более 700 миллионов раз и принесли более 117 миллионов долларов дохода. Google и Apple получают долю от этих денег.

Многие из приложений, упомянутых в расследовании, имеют возрастной рейтинг, подходящий для подростков и детей. Например, DreamFace имеет рейтинг «13+» в Google Play Store и «9+» в Apple App Store.

Обе компании отреагировали на расследование. Apple заявила, что удалила 24 приложения из своего магазина, согласно сообщению CNBC. Однако это меньше, чем 47 приложений, обнаруженных исследователями TTP. Представитель Google заявил, что компания приостановила работу нескольких приложений, упомянутых в отчете, за нарушение правил магазина, но отказался сообщить, сколько приложений было удалено.

Этот отчет появился после того, как выяснилось, что Grok Илона Маска генерировал сексуализированные изображения женщин и детей. В общей сложности ИИ-чат-бот сгенерировал около трех миллионов сексуализированных изображений и 22 000 изображений с участием детей за период в 11 дней.

Представители компании фактически не ответили на эти обвинения, за исключением отправки автоматизированного письма журналистам, в котором говорилось: «Legacy Media Lies» («Традиционные СМИ лгут»). Маск также заявил, что ему «неизвестно о каких-либо обнаженных изображениях несовершеннолетних, сгенерированных Grok. Буквально ноль».

Аккаунт безопасности X опубликовал сообщение о том, что «любой, кто использует или дает команды Grok для создания незаконного контента, понесет те же последствия, как если бы он загрузил незаконный контент». Grok оказался более разговорчивым, чем реальные люди в компании, поскольку чат-бот извинился за создание сексуализированных изображений несовершеннолетних.