В начале этого года стало известно, что Apple и Google предлагали в своих магазинах приложения для «обнажения» («nudify»), несмотря на четкие правила, запрещающие такой контент. Спустя почти три месяца такие приложения не только остаются доступными, но и активно продвигаются в App Store и Google Play, согласно новому отчету Tech Transparency Project (TTP). Многие из них были помечены как «E» (Everyone), что означает, что их могут скачивать дети.
Поиск по запросам «nudify», «undress» и другим подобным терминам в этих магазинах предоставляет пользователям доступ к приложениям, которые могут делать реальных людей обнаженными или помещать их в порнографические видео. В новом отчете утверждается, что «платформы являются ключевыми участниками распространения ИИ-инструментов, которые могут превращать реальных людей в сексуализированные изображения», пишет TTP. В магазинах приложений даже размещалась реклама аналогичных приложений для «обнажения» в результатах поиска.
Группа выявила 18 приложений для «обнажения» в App Store от Apple и 20 в Google Play. Некоторые из них продавались с использованием сексуальных изображений, в то время как другие не рекламировались подобным образом, но все равно могли использоваться для создания дипфейков. По данным отчета, совокупно эти приложения принесли около 122 миллионов долларов дохода и были скачаны 483 миллиона раз.
«Дело не только в том, что компании не проводят должную проверку этих приложений, продолжают их одобрять и получать прибыль», — заявила директор TTP Кэти Пол в интервью Bloomberg. «Они фактически направляют пользователей к самим приложениям».
Apple и Google имеют правила, запрещающие сексуальный или порнографический контент, а Google имеет отдельное правило против приложений для «обнажения». Apple сообщила Bloomberg, что удалила 15 приложений, выявленных группой, в то время как Google заявил, что приостановил действие нескольких из них. Одно из приложений, упомянутых в отчете, под названием Video Face Swap AI: DeepFace, рекламируется демонстрацией лица актрисы, замененного на тело другой актрисы, и позволяет пользователям помещать лицо реального человека на тела полуобнаженных женщин. Приложение имело рейтинг «E» для всех.
Распространение приложений для «обнажения» и дипфейков побудило некоторые правительства предложить законы против них. Детский комиссар Великобритании недавно призвал к запрету ИИ-приложений для создания дипфейков, которые генерируют обнаженные или сексуальные изображения детей. США и другие страны предложили или приняли законы, запрещающие откровенные дипфейки, а генеральный прокурор Калифорнии недавно отправил Илону Маску платформу X приказ о прекращении и воздержании в связи с откровенными дипфейками, созданными Grok.
