OpenAI вводит более строгие ограничения для подростков, задающих вопросы об огнестрельном оружии
Компания заявила, что эти более строгие ограничения действуют, даже если заданный вопрос «кажется безобидным».
Yarrrrrbright/Shutterstock
OpenAI ужесточает ограничения на доступ подростков к «информации, связанной с оружием», которую они могут получить от ChatGPT, даже если их вопрос «кажется безобидным», сообщила компания в своей последней публикации. OpenAI отметила, что уже ввела правила, не позволяющие ChatGPT помогать пользователям совершать насильственные действия или подросткам получать оружие. Чтобы ещё сильнее ограничить такие сценарии, OpenAI намерена «ограничить доступ подростков к практической информации об оружии и системах безопасности, которую можно использовать для совершения насилия, даже если ничто не указывает на насильственные намерения».
Технологический гигант отметил, что подростки по-прежнему смогут пользоваться ChatGPT, чтобы предотвращать насилие или снижать его накал, обращаться за поддержкой и связываться с взрослым, которому доверяют. OpenAI укрепляет границы допустимого не только для подростков, но и для всех пользователей, в особенности когда речь идёт о «реконструкциях прошлых массовых нападений, включая сведения об использованном оружии и снаряжении и способах их получения, а также подробных сравнениях масштабов причинённого ущерба, которые могут усилить известность нападавшего».
Однако эти ограничения будут действовать наряду с родительским контролем, который OpenAI внедрила в прошлом году и который предусматривает уведомления для родителей, если связанные с ними аккаунты подростков нарушают правила ChatGPT, касающиеся угроз насилием или насильственных действий. Эти дополнительные меры защиты появились после того, как в прошлом году против OpenAI подали иск о неправомерном причинении смерти, а генеральный директор компании Сэм Альтман публично извинился за то, что не сообщил полиции о тревожной переписке в ChatGPT, связанной со стрельбой в Тумблер-Ридж в начале этого года. OpenAI сообщила, что планирует опубликовать свой первый отчёт о безопасности сообщества в начале 2027 года, а затем обновлять его каждые шесть месяцев.
