За последние пять лет Наблюдательный совет Meta (Meta’s Oversight Board) высказался по множеству вопросов: от блокировки Дональда Трампа в Facebook до использования дипфейков, созданных с помощью ИИ. Теперь совет взялся за еще одну острую тему: правила Meta по отключению аккаунтов пользователей.
Ранее в этом году совет объявил, что займется вопросами прозрачности этого процесса, который зачастую остается донельзя непрозрачным. Экспертная группа занялась этой темой после обращения самой Meta по поводу Instagram-аккаунта с 70 000 подписчиков, который был заблокирован за публикацию угроз в адрес журналиста.
В своем решении Наблюдательный совет подтвердил, что Meta поступила верно, заблокировав аккаунт, однако этот случай вызвал «серьезные вопросы» относительно методов работы компании с подобным поведением и опасения по поводу «соблюдения процессуальных норм» при отключении профилей. Поскольку это своего рода пилотное дело, совет не дает официальных рекомендаций, но указывает на ряд возможных улучшений. Анализ также подчеркивает запутанную систему правил и наказаний, ведущих к блокировкам на платформе, и огромный уровень недовольства, которое это вызывает у пользователей.
Например, совет отмечает, что процессы Meta для Facebook и Instagram разительно отличаются. Хотя обе платформы наказывают аккаунты «страйками», повторные нарушения могут приводить к разным последствиям. В Facebook аккаунты могут получить временную приостановку за повторные нарушения перед окончательной блокировкой. Но в Instagram, по словам совета, такой меры не существует. Вместо этого Meta ограничивает доступ к функции прямых трансляций или исключает аккаунт из рекомендаций (что пользователи Instagram часто называют «теневым баном»).
Наблюдательный совет справедливо указывает на абсурдность ситуации, когда ограничение прямых трансляций является одной из главных «промежуточных» мер наказания в Instagram, учитывая, что эта функция доступна далеко не всем (требуется как минимум 1000 подписчиков). «Что касается нарушений в публикациях, то наказание, напрямую связанное с нарушающим поведением, например, приостановка возможности пользователя публиковать контент (перевод аккаунта в режим «только чтение» на определенный срок), имело бы больше шансов повлиять на поведение», — отмечает совет.
Совет также затрагивает проблему многолетнего разочарования пользователей Facebook и Instagram, чьи аккаунты были отключены. Группа сообщила, что получила более 750 публичных комментариев по этому делу в дополнение к «бесчисленным» жалобам, которые члены совета регулярно получают от людей, лишившихся доступа к своим аккаунтам.
«Многие комментаторы писали о сбоях в системе, заявляя, что не могли обжаловать решение Meta об отключении их аккаунта, что они никогда не получали объяснений причин блокировки или что у них не было возможности скачать свои данные», — пишет совет. «Многие пользователи также отметили, что решения, по-видимому, принимались автоматически, без участия человека, даже при рассмотрении апелляций на отключение давних и популярных аккаунтов».
В своих рекомендациях для Meta совет предлагает компании предоставить пользователям более качественный процесс апелляции, позволяющий направлять письменные объяснения, а также уведомлять пользователей о том, что для наложения взысканий был использован ИИ. Совет предлагает добавить информацию о блокировках аккаунтов в отчеты Meta о прозрачности для большей подотчетности. Группа также советует Meta создать специальный канал, через который «лица, подвергающиеся высокому риску насилия, и их представители» могли бы сообщать о серьезных угрозах.
Учитывая, что данный случай классифицирован как «пилотный», неясно, планирует ли Meta какие-либо существенные изменения в политике в ответ на критику совета. Тем не менее, у тех, кто ждет улучшений от Meta, остается надежда. Совет заявляет, что планирует в будущем рассматривать больше подобных дел об отключении аккаунтов, что, как они надеются, повысит их шансы повлиять на проведение реформ.