Обе компании получили официальные требования о прекращении деятельности в отношении 13 приложений в их магазинах.
Apple и Google получили официальные требования о прекращении противоправной деятельности с призывом удалить из своих магазинов приложений программы, использующие ИИ для создания «обнаженных» фото (так называемые «nudify»-приложения).
Как сообщает Wired, прокурор Сан-Франциско Дэвид Чиу обязал двух технологических гигантов удалить в общей сложности 13 приложений, которые можно использовать для создания дипфейк-изображений обнаженных людей. В письмах содержится призыв к Apple и Google прекратить «пособничество» в распространении интимных изображений, созданных без согласия владельцев, и разорвать отношения с соответствующими разработчиками.
Это не первый случай, когда Чиу выступает против платформ, создающих дипфейки: ранее он подал иск против 16 веб-сайтов, позволяющих пользователям превращать фотографии реальных женщин и девочек в порнографию с помощью ИИ. Он заявил Wired, что Apple и Google, вероятно, заработали миллионы на внутриигровых платежах в этих приложениях, и что их площадки нуждаются в более тщательной модерации, чтобы подобные продукты не проходили проверку.
Несмотря на широкое общественное возмущение по поводу дипфейков, ранее в этом году, согласно отчету The Tech Transparency Project (TTP), выяснилось, что приложения для «раздевания» часто успешно проходят модерацию в Apple и Google. Более того, в отчете утверждается, что некоторые из них даже активно продвигались в App Store и Google Play. Также указывалось, что многие из этих приложений имели возрастной рейтинг «E» (для всех), что позволяло скачивать их детям. Найти такие приложения, как утверждается, очень просто — достаточно ввести в поиске запросы вроде «nudify» или «undress». И это несмотря на то, что у обеих компаний существуют правила, запрещающие сексуальные или порнографические материалы на их платформах.
Google и Apple — не единственные компании, борющиеся с распространением дипфейков в сети. Наблюдательный совет Meta недавно призвал компанию усилить защиту обычных пользователей, становящихся мишенями подобных атак, поскольку существующие меры безопасности, по-видимому, в первую очередь направлены на защиту публичных фигур. Компания xAI Илона Маска также стала фигурантом нескольких судебных исков, связанных с дипфейками, созданными без согласия жертв.
Представитель Google сообщил Wired, что компания удалила «сотни» приложений с функциями дипфейков, пять из которых были выявлены по сигналу Чиу. В компании также подтвердили, что их правила запрещают сексуальный контент, и заявили, что принимают «оперативные меры», если сообщается о нарушающем правила приложении. Wired добавил, что Apple не предоставила комментариев до момента публикации.















