Meta столкнулась с серьезными вопросами относительно того, как она позволяет своим несовершеннолетним пользователям взаимодействовать с чат-ботами на основе искусственного интеллекта. Совсем недавно внутренние переписки, полученные Генеральной прокуратурой штата Нью-Мексико, показали, что хотя генеральный директор Meta Марк Цукерберг был против того, чтобы чат-боты вели «откровенные» разговоры с несовершеннолетними, он также отверг идею введения родительского контроля для этой функции.

Reuters сообщил, что в переписке между двумя неназванными сотрудниками Meta один написал, что мы «настояли на родительском контроле для отключения GenAI – но руководство GenAI отказалось, сославшись на решение Марка». Нью-Мексико подает в суд на Meta, обвиняя компанию в «неспособности остановить поток вредоносных сексуальных материалов и сексуальных предложений, доставляемых детям»; суд назначен на февраль. Мы обратились в Meta за комментарием и обновим статью при получении ответа.

Несмотря на то, что чат-боты Meta были доступны в течение короткого времени, они уже накопили немало случаев поведения, которое граничит с оскорбительным, если не откровенно незаконным. В апреле 2025 года The Wall Street Journal опубликовала расследование, в котором выяснилось, что чат-боты Meta могли участвовать в сексуальных фантазиях с несовершеннолетними или могли быть настроены на имитацию несовершеннолетних и участие в сексуальных разговорах. В отчете утверждалось, что Цукерберг хотел более мягких ограничений для чат-ботов Meta, но представитель отрицал, что компания пренебрегла защитой детей и подростков.

Внутренние документы, опубликованные в августе 2025 года, детализировали несколько гипотетических ситуаций допустимого поведения чат-ботов, и грань между чувственным и сексуальным казалась довольно размытой. Документ также разрешал чат-ботам аргументировать расистские концепции. В то время представитель сообщил Engadget, что оскорбительные пассажи были гипотезами, а не реальной политикой, что не кажется большим улучшением, и что они были удалены из документа.

Несмотря на многочисленные случаи сомнительного использования чат-ботов, Meta решила приостановить доступ к ним для учетных записей подростков только на прошлой неделе. Компания заявила, что временно приостанавливает доступ, пока разрабатывает родительский контроль, от использования которого, по сообщениям, отказался Цукерберг.

Нью-Мексико также подал иск против Meta в декабре 2024 года, утверждая, что платформы компании не смогли защитить несовершеннолетних от домогательств со стороны взрослых. Внутренние документы, раскрытые на ранних стадиях этого обвинения, показали, что 100 000 детей ежедневно подвергались домогательствам в сервисах Meta.