Чуть более чем через год после отказа от сторонних фактчекеров и сворачивания большей части проактивной модерации контента, компания заявляет, что продолжит «трансформировать» свой подход, резко сократив число людей-модераторов в пользу систем на базе искусственного интеллекта. Компания утверждает, что это изменение произойдет «в течение следующих нескольких лет» и позволит компании быстрее выявлять больше проблем, чем при нынешнем подходе.

Meta не уточнила, сколько контрактных сотрудников может быть сокращено в процессе этого перехода. Компания нанимает тысячи подрядчиков по всему миру для проверки контента, отмеченного системами ИИ и пользовательскими отчетами, среди прочих задач. Компания заявила, что по мере изменения подхода люди «будут играть ключевую роль» в «критических решениях» и помогать в обучении и других задачах.

«Эксперты будут разрабатывать, обучать, контролировать и оценивать наши системы ИИ, измеряя их производительность и принимая самые сложные и важные решения, — говорится в обновлении Meta. — Например, люди будут продолжать играть ключевую роль в принятии наиболее рискованных и критически важных решений, таких как апелляции по поводу блокировки учетной записи или сообщения правоохранительным органам».

Компания уже некоторое время тестирует системы на базе LLM для модерации контента и заявляет, что первые тесты дали «многообещающие» результаты. Еще одним преимуществом является то, что ее ИИ может обрабатывать языки, используемые «98% людей в Интернете», по сравнению с 80 языками, поддерживаемыми в настоящее время ее возможностями модерации.

Хотя Meta заявляет, что ее основные правила не меняются, новый подход может кардинально изменить восприятие пользователями того, как Meta обеспечивает соблюдение своих политик. Компания уже активно полагается на ИИ для определенных правил, и многие пользователи считают, что эти системы совершают слишком много ошибок и затрудняют рассмотрение их апелляций людьми. С другой стороны, Meta, которая может значительно сэкономить, если существенно сократит свой контрактный штат, утверждает, что ее новые системы допускают «меньше ошибок из-за чрезмерного применения правил» и выявляют больше «серьезных» нарушений.

В ближайшем будущем Meta внедряет «помощник поддержки» на базе ИИ, который будет помогать пользователям с определенными типами проблем с учетными записями. Чат-бот, который сейчас развертывается в приложениях Facebook и Instagram, сможет помогать пользователям сообщать о контенте и управлять апелляциями, сбрасывать пароли и управлять другими настройками учетной записи. Он также сможет помогать людям, которые теряют доступ к своим учетным записям, «начиная с отдельных случаев в США и Канаде».