Наблюдательный совет заявляет, что правила Meta в отношении ИИ-дипфейков «последовательно и принципиально несостоятельны»
Организация неоднократно критиковала то, как компания работает с материалами, созданными искусственным интеллектом.
Наблюдательный совет в очередной раз призывает Meta принять меры в связи с потоком контента, созданного искусственным интеллектом, на своих платформах. Организация опубликовала два своих последних решения, касающихся того, как компания, управляющая социальными сетями, работает с контентом на базе ИИ. Эти случаи показывают, что правила Meta «последовательно и принципиально несостоятельны в условиях стремительного роста объема контента, сгенерированного ИИ, на ее платформах», говорится в заявлении совета.
Оба дела были связаны с публикациями, содержащими видео, созданные с помощью ИИ. В одном из них фигурировал британский политик, произносящий фразу: «Беженцы здесь желанны, даже если они насилуют наших женщин, потому что белые люди делают то же самое». По данным Совета, видео представляло собой «реалистичное», но синтетическое изображение. А политик, чей голос был скопирован, заявил, что эффект от видео оказался «весьма травмирующим».
В Meta сообщили совету, что не удалили видео при поступлении жалоб, поскольку оно не было отмечено ни одной из их организаций — «доверенных партнеров», а также потому, что оно не создавало видимости вмешательства в выборы или другие процессы. Ролик также не был помечен как созданный ИИ, судя по всему, потому что опубликовавший его человек не пожелал раскрыть эту информацию.
Наблюдательный совет заявил, что видео следовало удалить за нарушение правил Meta в отношении языка вражды, а на самом материале должна была стоять заметная плашка, указывающая на использование ИИ.
В центре второго дела также находится сгенерированное ИИ видео с реальным человеком. В основу ролика легло телевизионное интервью с волонтером, которая занималась просвещением в сфере менструального здоровья. Спустя некоторое время после выхода оригинального интервью «аккаунты в различных социальных сетях подвергли видеозапись цифровой манипуляции, чтобы высмеять ее», после чего эти ролики стали вирусными.
По данным совета, Meta автоматически закрыла жалобу и последующую апелляцию на публикацию, у которой не было никакой пометки об использовании ИИ. Meta удалила видео за нарушение правил в отношении травли (буллинга) только после того, как в дело вмешался Наблюдательный совет.
Организация отмечает, что оба случая подчеркивают, как контент на базе ИИ используется для целенаправленной травли людей на ее платформах, а отсутствие единообразной маркировки наносит дополнительный ущерб. «От политиков до частных лиц — ИИ-дипфейки все чаще используются для домогательств и замалчивания женщин, участвующих в общественном дискурсе, — заявила в своем заявлении сопредседатель Наблюдательного совета Памела Сан Мартин (Pamela San Martin). — Эти случаи демонстрируют более широкую, тревожную тенденцию, при которой женщины, открыто высказывающиеся по тем или иным вопросам, подвергаются непропорционально сильным преследованиям и дезинформации».
Критика со стороны Наблюдательного совета неудивительна. Эта организация, которая дает политические рекомендации компании Meta, неоднократно критиковала ее за подход к контенту, созданному ИИ, и призывала к введению новых правил. Гораздо более важный вопрос заключается в том, действительно ли Meta волнует точка зрения совета по этому вопросу. Компания до сих пор внесла лишь незначительные изменения в свои метки для ИИ, которые обычно представляют собой небольшой баннер с надписью «Информация об ИИ» (AI Info). Компания не согласилась внедрить многие рекомендации совета касательно маркировки ИИ в других недавних делах.
В Meta не стали отвечать на просьбу прокомментировать последние высказывания совета. Однако у компании есть 60 дней на то, чтобы отреагировать на ее последние рекомендации, включая требование уделять приоритетное внимание проверке потенциального контента с ИИ при поступлении жалоб на него.
