Надзорный совет Meta проводит расследование в отношении видео с британским политиком, предположительно созданного с помощью искусственного интеллекта, в котором искажаются его взгляды на такие вопросы, как иммиграция. По заявлению совета, это видео было частью альбома, опубликованного в Facebook в ноябре прошлого года. В ролике фигурирует депутат Лейбористской партии, представляющий один из округов Шотландии; его образ, вероятно, был создан с помощью дипфейка, и он произносит саркастические и оскорбительные комментарии о беженцах и сексуальном насилии.
Помимо дипфейка, публикация также содержит видео с пропалестинскими протестующими, которые, как подозревает Надзорный совет, также могли быть сгенерированы ИИ, а также, вероятно, подлинное фото нескольких женщин, включая политика из первого видео, с плакатами против ультраправых. Имена женщин также указаны в посте, а в сопроводительном тексте содержатся бездоказательные обвинения лейбориста в уклонении от уплаты налогов.
Совет отмечает, что вовлеченность аудитории в этот пост была относительно низкой, однако он не содержал никаких пометок или уведомлений об использовании ИИ. Также сообщается, что двое пользователей пожаловались на то, что контент нарушает политику Meta в отношении травли и домогательств, но когда автоматизированные системы компании не передали их жалобы на рассмотрение модераторам-людям, а контент остался в Facebook, один из пользователей подал апелляцию в совет.
В описании дела поясняется, что упомянутый депутат открыто высказывался против того, что он считает расистской дезинформацией, используемой для разжигания антимигрантских настроений на фоне протестов против размещения просителей убежища в отелях Великобритании. Ранее он сообщал об угрозах и методах запугивания в свой адрес из-за своей позиции по этому вопросу, включая создание порочащих его дипфейков в интернете.
Надзорный совет утверждает, что Meta отказалась удалять публикацию, мотивируя это тем, что политик является совершеннолетним публичным лицом и поэтому не защищен автоматически от «нежелательных манипуляций с изображениями». Частные лица могут самостоятельно жаловаться на вредоносный контент и запрашивать его удаление.
Meta также не согласилась с утверждениями о том, что контент содержал обобщающие заявления о беженцах, нарушающие политику компании в отношении разжигания ненависти. Компания заявила, что материал не соответствует критериям дезинформации, так как о нем не сообщил никто из участников программы «Надежные партнеры» (Trusted Partner). Кроме того, видео не было признано вмешательством в выборы, поскольку изображенный депутат не баллотировался на недавних местных выборах в Шотландии, а Meta сослалась на низкую вовлеченность и «сатирический» характер видео как на причины, по которым его не требовалось помечать как созданное ИИ.
В настоящее время Надзорный совет приглашает общественность оставлять комментарии по этому делу, которые могут повлиять на рекомендации по политике компании, направляемые в Meta. Эти рекомендации не являются обязательными к исполнению, но Meta обязана ответить на них в течение 60 дней. Напомним, что Надзорный совет является независимым внешним органом, несмотря на финансовую зависимость от Meta.
Кажущееся безразличие Meta к дипфейку с шотландским политиком выглядит еще более удивительным, если вспомнить, в какой неприятной ситуации компания оказалась в прошлом году в связи с видео, сгенерированным ИИ с участием кандидата (а ныне президента) Ирландии Кэтрин Коннолли. В том видео будущий президент Ирландии якобы объявляла о снятии своей кандидатуры с предвыборной гонки; ролик был переслан в Facebook почти 30 000 раз, прежде чем его удалили.
Коннолли назвала видео «позорной попыткой ввести избирателей в заблуждение и подорвать демократию [Ирландии]», и Meta оперативно заблокировала аккаунт, где размещался контент, после обращения издания Irish Independent. В том случае было признано, что видео нарушает стандарты сообщества Meta, и это был далеко не первый случай, когда компания сталкивается с трудностями при борьбе с политически мотивированными дипфейками.
