Роль Консультативного совета — органа, созданного Meta для оценки наиболее важных решений по модерации контента — оказалась под вопросом из-за смены приоритетов в политике контента и сокращения инвестиций. Консультативный совет предпринял шаги для формализации своего давно обдумываемого желания сотрудничать с другими компаниями, но, как стало известно Engadget, Meta до сих пор отказывалась продвигаться вперед в этом процессе.
За последний год члены совета стали проявлять повышенный интерес к политике в области искусственного интеллекта и к тому, как их опыт формирования правил контента Meta может быть использован для консультирования компаний в сфере генеративного ИИ. Этот интерес усилился, поскольку некоторые ИИ-компании в частном порядке сигнализировали о своей готовности к сотрудничеству с советом, по словам источника, близкого к организации, которому не разрешили выступать публично. Осенью прошлого года совет начал переговоры с Meta о такой возможности, которая потребовала бы от компании одобрения изменений в юридических документах, регулирующих деятельность совета. Однако представители Meta не дали понять, готова ли компания вносить эти изменения, что, вероятно, потребует одобрения высшего руководства.
Platformer, который первым сообщил о переговорах Meta по бюджету с Консультативным советом, отметил, что компания «давно призывает совет искать дополнительные источники финансирования». Пока ни одна другая компания публично не выразила заинтересованности в сотрудничестве с группой, хотя совет и вел закулисные переговоры с другими фирмами.
Сопредседатель Консультативного совета Паоло Кароцца сообщил Engadget в декабре, что между советом и ИИ-компаниями проходили «очень предварительные» обсуждения, хотя он и отказался назвать конкретные имена. «Сейчас совсем другой момент, во многом из-за генеративного ИИ, LLM, чат-ботов [и] того, как множество рядовых пользователей этих технологий сталкиваются с совершенно новым набором проблем и вредом, что привлекает большое внимание», — сказал он тогда.
Meta охотно соглашалась вносить поправки в учредительные документы совета в прошлом — например, когда траст, контролирующий бюджет Консультативного совета, финансировал новую организацию для урегулирования споров о модерации контента в Европе. Хотя руководители Meta когда-то продвигали идею сотрудничества своего якобы независимого Консультативного совета с другими социальными платформами, перспектива работы группы с конкурентом, пока тот стремится к суперинтеллекту ИИ, очевидно, более сложна.
За последние пять лет члены совета получали от представителей Meta брифинги о внутренней работе систем модерации и другие непубличные сведения в рамках своей работы с компанией. Это порождает практические вопросы о том, как совет будет обеспечивать сохранность проприетарной информации Meta, а также более широкие стратегические вопросы о том, захочет ли Meta, чтобы ее Консультативный совет работал с некоторыми компаниями, с которыми она сейчас ведет ожесточенную конкуренцию, сообщил источник. Неясно, насколько текущее руководство Meta заинтересовано в обеспечении будущего для совета. Бывший президент по глобальным вопросам Ник Клегг, который был одним из самых ярых сторонников работы совета, покинул компанию в прошлом году.
Тем временем другие члены совета публично заявляли, что группа, состоящая из экспертов по свободе слова и правам человека со всего мира, имеет хорошие возможности для консультирования ИИ-компаний, сталкивающихся с растущим числом реальных проблем. Когда Anthropic опубликовала ««Конституцию Клода»» ранее в этом году, совет опубликовал подробный анализ от члена совета Сьюзан Носсел, в котором утверждалось, что Клоду также нужен своего рода «надзор», который совет оказывает Meta. Она высказала аналогичный аргумент в отношении более широкой ИИ-индустрии в колонке в The Guardian в прошлом месяце.
Хотя Носсел отрицала, что она напрямую предлагала Консультативный совет Anthropic, она заявила, что ИИ-компании сталкиваются со многими «теми же дилеммами», что и социальные платформы. «Когда совет только создавался, существовала идея, что мы могли бы работать в масштабах всей отрасли», — сказала она Engadget. «Теперь, когда мир смещается в сторону парадигмы, ориентированной на ИИ, нас очень интересует, что наш опыт может привнести в этот разговор».
Члены Консультативного совета, которые, естественно, заинтересованы в расширении своей сферы деятельности, — не единственные представители индустрии, которые предупреждали, что платформы генеративного ИИ фактически ускоренно проходят этапы развития, присущие социальным сетям. Бывший исследователь OpenAI недавно написал, что «OpenAI повторяет ошибки Facebook», ссылаясь на шаги ИИ-компании по оптимизации вовлеченности и ее планы по рекламе внутри приложения. Исследователь привел Консультативный совет Meta в качестве примера независимого управления, которое необходимо в индустрии ИИ.
Вопрос о сотрудничестве с другими компаниями приобрел новую сроковость, поскольку Консультативный совет сталкивается с возможностью потери поддержки со стороны Meta. В заявлении представитель Meta сослался на предыдущие сообщения о том, что Meta обязалась финансировать совет до 2028 года, и заявил, что «ничего не изменилось». Однако источник, близкий к совету, сообщил Engadget, что Meta на данный момент выплатила лишь половину меньшей доли средств на 2028 год, на фоне продолжающихся обсуждений о его будущем, включая вопрос о расширении его полномочий за пределы Meta.
Существуют также весьма реальные вопросы о том, как Консультативный совет вписывается в текущую стратегию Meta в отношении модерации контента. В прошлом году Цукерберг объявил, что Meta отказывается от большей части проактивной модерации, прекращает проверку фактов в США и ослабляет правила в отношении разжигания ненависти. Сам Цукерберг, по сообщениям, по сообщениям, возглавил эти изменения после встречи с тогдашним избранным президентом Дональдом Трампом. Консультативный совет, к которому Meta иногда обращалась за советом по крупным изменениям политики, не был проконсультирован. Недавно компания заявила, что планирует сократить количество модераторов-людей в пользу систем на основе ИИ.
«Консультативный совет в настоящее время ведет содержательные дискуссии с Meta относительно своего будущего и развития своей модели, чтобы обеспечить возможность организации решать наиболее насущные возникающие проблемы в области управления, стандартов и подотчетности ИИ», — заявил представитель Консультативного совета. «В настоящее время никаких решений относительно будущего Совета не принято, а повседневная работа и мандат организации остаются неизменными».
Критики давно говорят, что совет, получивший от Meta более 280 миллионов долларов, работает слишком медленно. За чуть более чем пять лет своей работы совет опубликовал более 200 решений по конкретным вопросам модерации, которые Meta обязана соблюдать. Эти решения — крошечная доля из миллионов полученных запросов — могут занимать месяцы, хотя совет может решить действовать быстрее. Совет также дал сотни рекомендаций по политике, на которые Meta должна отвечать, но не обязана выполнять. По данным совета, компания согласилась как минимум с некоторыми изменениями в ответ на 75 процентов рекомендаций.
Для Консультативного совета сотрудничество с компанией, отличной от Meta, помогло бы решить некоторые из стоящих перед ним проблем. Это повысило бы авторитет группы в то время, когда Meta, похоже, пересматривает свои отношения с советом, и открыло бы возможность для новых источников финансирования. Однако ситуация подчеркивает еще одно давнее противоречие, касающееся роли «независимой» надзорной организации. Meta всегда контролировала, насколько влиятельной может быть группа. И неясно, готова ли компания позволить совету, который провел последние пять лет, изучая тонкости процессов модерации контента и политики Meta, консультировать компании, с которыми она сейчас конкурирует.
В ходе своей работы с Meta Консультативный совет несколько раз высказывался по поводу правил компании в отношении ИИ. Совет критиковал политику компании в отношении «манипулируемого медиа», которая регулирует дипфейки и другой контент, что привело к принятию Meta новых правил, касающихся маркировки ИИ. В своем последнем решении, касающемся ИИ, совет призвал Meta инвестировать в лучшие инструменты обнаружения ИИ и более тесно сотрудничать с другими платформами. Компания пока официально не ответила на эти рекомендации.