Meta будет уведомлять родителей, если их подростки обсуждают причинение себе вреда

Meta расширяет меры безопасности для пользователей-подростков, стремясь показать родителям — а возможно, и регулирующим органам — что их платформы безопасны для детей. Спустя несколько месяцев после того, как компания начала показывать опекунам темы разговоров их детей с ИИ, Meta представила новую функцию защиты, которая также будет сообщать родителям, если чаты их детей указывают на мысли о причинении вреда самому себе или самоубийстве.

Когда несовершеннолетний пользователь заводит разговор о суициде или самоповреждении, Meta AI уже сейчас направляет его на горячие линии психологической помощи и призывает обратиться к взрослому, который может помочь. С сегодняшнего дня компания также будет проактивно уведомлять родителей или опекунов подростка о том, что он находится в группе риска. Им также будут предоставлены ресурсы и рекомендации о том, как они могут помочь своим детям.

В Meta заявляют, что создали специализированную систему ИИ для выявления подобных диалогов, однако все чаты, помеченные алгоритмом, будут проходить ручную проверку перед отправкой уведомления, чтобы избежать необоснованной паники. Тем не менее, компания предпочитает проявлять осторожность и будет рассылать уведомления, даже если намерения подростка кажутся проверяющему специалисту неоднозначными. На данный момент функция доступна для родителей, использующих систему родительского контроля Instagram в США, Великобритании, Австралии и Канаде. К концу года она станет доступна пользователям родительского контроля по всему миру.

Компания также работает над созданием возможности связи с экстренными службами, если разговор пользователя с Meta AI указывает на то, что он находится под непосредственной угрозой совершения самоубийства, независимо от того, является ли пользователь несовершеннолетним или взрослым. В мае OpenAI запустила функцию, также направленную на предотвращение самоповреждений. Она называется «Доверенный контакт для ChatGPT» и позволяет пользователям указать друга, с которым компания сможет связаться в случае возникновения риска причинения вреда самому себе.

Наконец, настройка Meta «Ограниченный контент» (Limited Content) теперь применяется и к взаимодействиям с Meta AI. Если родитель включил «Ограниченный контент» в Instagram, который фильтрует материалы с чувствительными темами, такими как контент «для взрослых» и материалы о самоповреждениях, взаимодействие их детей с ИИ также будет более ограниченным.

Если вы или кто-то из ваших знакомых столкнулись с суицидальными мыслями, не стесняйтесь обратиться на Национальную горячую линию по предотвращению самоубийств по телефону 1-800-273-8255. Линия работает круглосуточно, также доступен онлайн-чат, если телефонная связь недоступна.