OpenAI разрабатывает систему для автоматического определения пользователей-подростков и ограничения их использования ChatGPT. Во вторник компания заявила в своем блоге, что новый функционал будет включать соответствующие возрасту правила, в том числе блокировку графического сексуального контента. «В случаях острого стресса» система также сможет связываться с правоохранительными органами для обеспечения безопасности пользователя. В ситуациях, когда ChatGPT не сможет точно определить возраст пользователя, он по умолчанию будет использовать новый ограниченный режим. OpenAI предоставит взрослым пользователям возможность подтвердить свой возраст и разблокировать все возможности ChatGPT. Компания не уточнила, когда планирует внедрить новые системы.

Это заявление последовало за смертью 16-летнего Адама Рейна, первого подростка, предположительно совершившего самоубийство после того, как ChatGPT якобы помог ему спланировать свою смерть. Сразу после самоубийства OpenAI пообещала выпустить средства контроля, предназначенные для предоставления родителям и опекунам большего контроля над использованием ChatGPT их подростками. Во вторник компания подтвердила, что эти средства контроля появятся до конца месяца, и добавила, что они будут включать дополнительную функцию, позволяющую родителям устанавливать часы, когда их ребенок не сможет использовать ChatGPT.

Отдельно OpenAI опубликовала письмо от генерального директора Сэма Альтмана с изложением позиции компании по этому вопросу. «Мы ставим безопасность выше конфиденциальности и свободы для подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в значительной защите», — сказал Альтман. «Мы понимаем, что эти принципы противоречат друг другу, и не все согласятся с тем, как мы разрешаем этот конфликт. Это трудные решения, но после консультаций с экспертами мы считаем, что это лучший вариант, и хотим быть прозрачными в наших намерениях».