В сентябре прошлого года, после того как компанию засудили за якобы доведение до трагической гибели 16-летнего Адама Рейна, OpenAI объявила, что работает над системой, которая будет автоматически идентифицировать подростков и ограничивать для них использование ChatGPT. Почти год спустя компания внедряет эту систему в рамках нового пользовательского опыта под названием ChatGPT для подростков. «Подростку не нужно создавать новый аккаунт или что-то менять; если мы определим, что вам меньше 18 лет, или вы сами сообщили нам об этом, этот режим станет вашим основным по умолчанию», — говорит Лорен Джонас, руководитель направления молодежи и семей в OpenAI.
ChatGPT for Teens в целом строится на двух китах: обучение и безопасность. Начнем с первого: в нем собраны функции, выпущенные OpenAI за последний год, чтобы сделать ChatGPT лучшим учителем. Первая из них — режим обучения (Study Mode), о котором OpenAI впервые объявила прошлым летом. В этом режиме ChatGPT переходит на сократический метод ведения беседы. Вместо того чтобы сразу дать готовый ответ, чат-бот попытается подвести пользователя к самостоятельному решению.
OpenAI
По словам Джонас, ChatGPT for Teens не будет включать режим обучения по умолчанию, однако OpenAI представляет ряд функций, которые подталкивают молодых пользователей к его использованию. Во-первых, это стартовые подсказки ChatGPT, которыми подростки уже «активно пользуются», отмечает Джонас. «Они будут со временем меняться, но для подростков их фокус всегда будет направлен на обучение», — говорит она. В дополнение к этому OpenAI представляет функцию под названием «Учебные часы» (Study Hours), которая автоматически включает режим обучения в определенное время суток. Подростки могут настроить их самостоятельно, либо это могут сделать их родители через связанный аккаунт. Даже если учебные часы не включены, ChatGPT теперь будет распознавать, когда молодой пользователь пытается уклониться от выполнения домашнего задания, и постарается перенаправить его в режим обучения.
«Мы тестировали режим обучения в ходе ряда рандомизированных контролируемых испытаний и наблюдаем положительный прирост эффективности», — заявила Джонас. Она отказалась называть конкретные цифры, но отметила, что результаты этих испытаний определяют более широкий подход OpenAI к обучению. За кулисами компания проделала работу по повышению полезности инструмента. Одной из областей, где функция улучшилась, стала генерация визуальных материалов, помогающих объяснять концепции. ChatGPT впервые научился делать это в марте. На момент запуска он мог создавать визуальные материалы по более чем 70 темам. Сегодня, по данным компании, этот показатель превышает 300, охватывая такие предметы, как интегралы, митоз и фазы луны.
Что касается безопасности, OpenAI предпринимает дополнительные шаги, чтобы отучить молодых пользователей очеловечивать ChatGPT. «Мы вводим более строгие ограничения на межличностные границы: модель не должна называть себя другом, намекать на наличие личных чувств или заявлять о наличии сознания», — говорит Джонас. Для молодых пользователей это будет выражаться в нескольких аспектах. Например, встроенные в чат-бот напоминания о перерывах теперь будут подчеркивать, что ChatGPT — это искусственный интеллект и подростку не обязательно отвечать ему немедленно. Такие напоминания также будут срабатывать чаще. Кроме того, подростки и их родители могут устанавливать часы тишины, в течение которых ChatGPT недоступен. Этот подход распространяется и на новые возможности кастомизации, которые OpenAI специально разработала для подростковой версии. По словам Джонас, они позволяют подросткам «персонализировать интерфейс, не стирая грань между полезным инструментом и чем-то, напоминающим человеческие отношения», и включают в себя такие вещи, как обои.
OpenAI
В прошлом месяце OpenAI заявила, что начнет уведомлять родителей, чьи аккаунты связаны с подростковыми, если их ребенок был заблокирован в ChatGPT за нарушение правил в отношении угроз насилия. Начиная с сегодняшнего релизы компания расширяет эту меру, добавляя уведомления, связанные с расстройствами пищевого поведения. Вместо того чтобы приводить конкретные примеры того, какие именно беседы о расстройствах пищевого поведения могут вызвать предупреждение о безопасности, OpenAI представила это расширение как часть своих более масштабных усилий по защите пользователей, заявив, что любой разговор, указывающий на «серьезные проблемы с самоповреждением», может повлечь за собой оповещение.
«Мы уведомляем родителей по SMS, внутри приложения и по электронной почте. Весь помеченный контент проверяется штатные сотрудниками OpenAI до того, как родители получат уведомление, и мы стремимся отправить предупреждение в течение часа после запроса», — рассказала Джонас. «Мы постоянно работаем над улучшением того, как наши модели определяют, когда подростку приходится трудно, чтобы он получал нужную поддержку и помощь — именно поэтому мы продолжаем расширять родительские уведомления о безопасности на новые категории. Вы увидите от нас еще много новостей в этой сфере; мы делаем это после консультаций с рядом сторонних организаций. Цель состоит в том, чтобы и дальше совершенствовать методы выявления трудных жизненных ситуаций у подростков (или любых других пользователей) и обеспечивать их необходимыми ресурсами».
Единственное, о чем я не успел спросить Джонас — это насколько эффективной оказалась система проверки возрастов OpenAI во время тестирования. Ни одна подобная система не идеальна, и в последние месяцы многие платформы, включая Discord, столкнулись с тем, что подростки находили изощренные способы обхода собственных средств защиты. Можно не сомневаться, что они попытаются сделать то же самое и здесь. На фоне всех споров вокруг использования ИИ-чат-ботов подростками OpenAI просто не может себе позволить допустить подобное. Джонас признала, что ChatGPT for Teens — это лишь начало того, что предстоит сделать компании для защиты несовершеннолетних. «Работа над безопасностью никогда не заканчивается; это то, чем мы занимаемся круглосуточно, 365 дней в году, постоянно обучаясь и совершенствуясь, — сказала она. — У подростков должен быть доступ к этой технологии, но безопасный способ доступа открывает реальные возможности».
OpenAI начинает глобальный запуск ChatGPT для подростков с сегодняшнего дня и рассчитывает полностью завершить его в течение ближайших двух недель.