Apple обновила правила App Store, чтобы не допустить появления приложений на базе ИИ для раздевания людей

Apple обновила правила модерации App Store, чтобы предотвратить использование приложений, в том числе работающих с инструментами ИИ, для «раздевания» людей или превращения обычных изображений в контент сексуального характера. Компания давно запрещает порнографические материалы в App Store, а приложения, специально созданные для генерации изображений сексуального характера, уже долгое время не допускаются в магазин. Теперь Apple также требует от разработчиков активнее контролировать использование своих приложений.

Разработчики приложений с пользовательским контентом теперь обязаны фильтровать интимные изображения, созданные без согласия изображённых на них людей, в том числе с помощью инструментов ИИ. Они должны предоставить пользователям возможность сообщать о неприемлемом контенте и блокировать аккаунты нарушителей. Кроме того, разработчики обязаны не допускать загрузки таких изображений и удалять те, что всё же пройдут через фильтры. Если они не внедрят надлежащие меры защиты или не устранят нарушения после уведомления о них, приложения могут удалить из магазина.

Кроме того, Apple уточнила правила для приложений, которые используют тактику «заманить и подменить». Если при проверке выяснится, что приложение представило своё назначение в ложном свете, а на деле умеет «раздевать» людей, его удалят из магазина, а разработчика исключат из программы Apple Developer Program.