OpenAI обязалась укрепить свои протоколы безопасности и раньше уведомлять правоохранительные органы о реальных угрозах в письме, адресованном канадским властям, как сообщает Politico и The Washington Post. Если вы помните, канадские политики призвали руководство компании после сообщений о том, что она не уведомила власти, когда заблокировала аккаунт подозреваемого в массовом убийстве в Тумблер-Ридж, Британская Колумбия, в 2025 году. Некоторые из руководителей OpenAI уже встречались с канадскими чиновниками, а премьер Британской Колумбии Дэвид Иби сказал, что Сэм Альтман также согласился встретиться с ним.
Хотя OpenAI еще не объявила об изменениях в своих правилах, Энн О’Лири, вице-президент по глобальной политике компании, как сообщается, написала в письме, что компания доработает свои системы обнаружения, чтобы лучше предотвращать возвращение заблокированных пользователей на платформу. Очевидно, после того как OpenAI заблокировала первоначальный аккаунт стрелка из-за «потенциальных предупреждений о совершении насилия в реальном мире», преступник смог создать еще один аккаунт. Компания обнаружила второй аккаунт только после того, как было объявлено имя стрелка, и с тех пор уведомила власти.
Кроме того, OpenAI теперь будет уведомлять власти, если обнаружит «неминуемые и реальные» угрозы в беседах ChatGPT, даже если пользователь не раскрывает «цель, средства и время планируемого насилия». О’Лири пояснила, что если бы новые правила действовали, когда аккаунт стрелка был заблокирован в 2025 году, компания уведомила бы полицию. OpenAI также назначит контактное лицо для канадских правоохранительных органов, чтобы можно было оперативно обмениваться информацией с властями при необходимости.
Канадское правительство считает решение OpenAI не сообщать о первоначальном аккаунте стрелка провалом. Оно пригрозило регулировать ИИ-чат-ботов в стране, если их создатели не смогут продемонстрировать наличие надлежащих мер безопасности для защиты своих пользователей. На данный момент неясно, планирует ли OpenAI внедрить те же изменения в США и других странах мира.
