OpenAI начнет уведомлять родителей, если их подростка заблокировали в ChatGPT

Компания OpenAI теперь будет уведомлять родителей и опекунов, чьи аккаунты связаны с детскими, если их ребенок был заблокирован в ChatGPT за нарушение политики в отношении угроз насилия или актов насилия в интернете. Компания запустила инструменты родительского контроля для ChatGPT в прошлом году, что позволило родителям привязывать свои личные учетные записи к аккаунтам своих детей-подростков. Это позволяет ограничивать время использования чат-бота, фильтровать чувствительный контент, а также получать уведомления, если нейросеть обнаруживает признаки того, что ребенок может задумываться о причинении вреда самому себе. Теперь OpenAI расширила систему оповещений, чтобы родители могли узнавать, если их ребенок представляет опасность для окружающих.

В примере, опубликованном компанией, OpenAI отправляет родителю предупреждение о «важном обновлении» касательно учетной записи ребенка. Перейдя по ссылке «Узнать больше», родитель может прочитать подробное сообщение о том, что аккаунт ребенка был деактивирован из-за нарушения правил использования сервиса в части «Актов насилия».

Компания работала совместно с Moonshot, фирмой, специализирующейся на мониторинге и противодействии насилию в интернете, чтобы разработать эту функцию. «Уведомление родителя о возникновении серьезной проблемы с предоставлением доступа к дополнительному контексту — это важнейший первый шаг, который дает семьям возможность вовремя вмешаться и обратиться за помощью», — заявила основательница Moonshot Видья Рамалингам. «Такой подход — одна из многих мер, необходимых для обеспечения безопасности молодых людей при использовании ChatGPT».

OpenAI пообещала усилить протоколы безопасности после того, как стало известно, что подозреваемый в массовой стрельбе в Тамблер-Ридж (Британская Колумбия) в 2025 году пользовался ChatGPT. Канадские власти вызвали представителей компании после того, как появились сообщения о том, что она не уведомила органы власти, когда заблокировала аккаунт стрелка. Глава OpenAI Сэм Альтман даже принес извинения за этот инцидент.

Помимо запуска новых уведомлений, OpenAI также добавила возможность активации «Учебного режима» (Study Mode) непосредственно из панели родительского контроля. Этот режим позволяет ChatGPT давать подсказки перед ответами на вопросы, чтобы помочь учащимся в обучении. Кроме того, теперь чат-бот будет чаще напоминать подросткам, которые проводят много времени в ChatGPT, о необходимости сделать перерыв, чтобы помочь им сформировать более здоровые привычки при использовании технологий.