Сбой в системах безопасности Discord приводил к ошибочным блокировкам аккаунтов с мая

Вчера служба поддержки Discord в соцсети X разъяснила, как ошибка в инструментах модерации привела к неправомерным блокировкам аккаунтов. Хотя за минувшие выходные под действие проблемы попало около 200 учетных записей, всего с мая 2026 года она могла затронуть около 8 200 пользователей.

Причиной сбоя стали изображения с квадратной сеткой, которые система Discord ошибочно классифицировала как материалы, связанные с сексуальной эксплуатацией детей. К сожалению, это означало, что любое изображение — от электронной таблицы или шахматной доски до меню инвентаря в Minecraft — могло привести к ошибочной блокировке.

Мы понимаем, что это не утешительное объяснение, если это коснулось вашего аккаунта, и нам следовало выявить это раньше. Мы работаем над улучшением механизмов защиты, чтобы подобное не могло повториться в будущем, и в целом стремимся к тому, чтобы наши системы безопасности не наказывали невиновных пользователей…

— Discord Support (@discord_support) 7 июля 2026 г.

Компания использует инструменты модерации на базе ИИ для сравнения загружаемого пользователями контента с базой известных вредоносных материалов. Служба поддержки признала, что система периодически выдает ложноположительные результаты, поэтому обычно перед принятием мер в отношении пользователя аккаунты проверяются сотрудниками отдела доверия и безопасности (Trust & Safety). «Заложенный принцип работы предполагает временную приостановку загрузки контента на время проверки, а не блокировку аккаунта, — говорится в сообщениях. — Из-за ошибки происходило обратное. Когда наши сотрудники проводили проверку и снимали подозрения с аккаунтов, та же ошибка мешала автоматической отмене блокировки, поэтому она оставалась в силе».

В своем официальном извинении Discord признает, что такая ошибка, остававшаяся незамеченной на протяжении почти двух месяцев, выглядит крайне неловко. В компании заявили, что доступ к аккаунтам, которые были ошибочно заблокированы, уже должен быть восстановлен.