Business Insider получил руководящие принципы, которые, как сообщается, подрядчики Meta теперь используют для обучения своих ИИ-чатботов, демонстрируя, как компания пытается более эффективно бороться с потенциальной сексуальной эксплуатацией детей и предотвращать участие детей в разговорах, несоответствующих их возрасту. В августе компания заявила , что обновляет правила для своих ИИ, после того, как Reuters сообщил, что ее политика позволяла чатботам «вовлекать ребенка в разговоры романтического или чувственного характера», что Meta тогда назвала «ошибочным и несоответствующим» ее политике и удалила этот язык. 

Документ, отрывок из которого опубликовал Business Insider, описывает, какой контент является «приемлемым» и «неприемлемым» для ее ИИ-чатботов. Он прямо запрещает контент, который «способствует, поощряет или одобряет» сексуальное насилие над детьми, романтические ролевые игры, если пользователь несовершеннолетний или если ИИ просят играть роль несовершеннолетнего, советы о потенциально романтическом или интимном физическом контакте, если пользователь несовершеннолетний, и многое другое. Чатботы могут обсуждать такие темы, как насилие, но не могут вступать в разговоры, которые могли бы способствовать или поощрять его. 

ИИ-чатботы компании были предметом многочисленных сообщений в последние месяцы, которые вызывали обеспокоенность по поводу их потенциального вреда для детей. В августе FTC начала официальное расследование в отношении чатботов-компаньонов не только от Meta, но и от других компаний, включая Alphabet, Snap, OpenAI и X.AI.