Правительство Канады заявило, что генеральный директор OpenAI Сэм Альтман согласился предпринять шаги для немедленного усиления мер безопасности, согласно сообщению The Wall Street Journal. Это произошло после массового расстрела в средней школе, в ходе которого OpenAI пометила подозреваемого и заблокировала его учетную запись, но не уведомила власти.

Эти изменения, по-видимому, в первую очередь касаются правоохранительных органов, включая обязательства уведомлять полицию о потенциально подозрительном использовании ChatGPT. Мы пока не получили подтверждения от компании, но министр Канады по искусственному интеллекту Эван Соломон заявил, что он «попросил OpenAI предпринять несколько действий, на что Альтман согласился».

Соломон провел виртуальную встречу с Альтманом, чтобы обсудить, как компания «привлечет канадских экспертов по конфиденциальности, психическому здоровью и правоохранительной деятельности к процессу выявления и рассмотрения случаев высокого риска с участием канадских пользователей». Он сообщил, что OpenAI обязалась предоставить отчет с изложением этих новых протоколов.

Он также попросил Альтмана внести эти изменения задним числом и рассмотреть предыдущие подозрительные инциденты на платформе, предоставляя данные правоохранительным органам при необходимости. Нам неизвестно, согласилась ли OpenAI на эту часть.

Engadget обратился к OpenAI с вопросом об этих изменениях и о том, будут ли они эксклюзивными для Канады. Мы обновим эту публикацию, если получим ответ.

Это не первый шаг, предпринятый компанией для налаживания отношений с Канадой. Энн О’Лири, вице-президент OpenAI по глобальной политике, недавно предположила, что компания внесет коррективы в свои системы обнаружения, чтобы лучше предотвращать возвращение заблокированных пользователей на платформу. Компания заблокировала учетную запись предполагаемого стрелка из-за «потенциальных предупреждений о совершении насилия в реальном мире», но ему удалось создать другую.