OpenAI разрешит правительству США проверять свои модели ИИ перед выпуском

Ранее на этой неделе Дональд Трамп подписал новый исполнительный указ, требующий государственного контроля над передовыми моделями ИИ для обеспечения их безопасности. Сообщается, что этот указ был отложен и смягчен под давлением технологической индустрии, причем сам Трамп заявил, что ему «не понравились некоторые аспекты» документа.

Теперь в OpenAI заявили, что будут соблюдать этот указ и позволят регулирующим органам оценивать возможности своих моделей перед их выпуском для широкой публики. «Совершенно справедливо, что демократические правительства должны играть важную роль в том, как эта технология используется и внедряется», — заявил глава подразделения по взаимодействию со странами OpenAI Джордж Осборн в интервью CNBC. «Мы предлагаем правительствам создавать мощные регулирующие органы, но с большой гибкостью в том, как они будут работать в будущем».

Первоначальный вариант указа, разработанный в ходе консультаций с различными заинтересованными сторонами, балансировал между опасениями индустрии ИИ и общественной безопасностью. Компании должны были представлять модели за 90 дней до публичного выпуска, при этом участие было добровольным. Однако инсайдеры индустрии, такие как Дэвид Сакс и Илон Маск, как сообщается, предупреждали, что этот законопроект может привести к охлаждению интереса к технологиям ИИ.

Впоследствии Трамп и его советники подготовили новый, сокращенный вариант указа, уменьшающий срок проверки до 30 дней. Он запрашивает (а не предписывает) у ИИ-компаний участие в процессе бенчмаркинга для оценки передовых кибервозможностей моделей ИИ и того, следует ли классифицировать их как «контролируемые пограничные модели» (covered frontier model), что могло бы ограничить их распространение и продажу.

Тем не менее критики заявили, что указ не содержит правил, необходимых для контроля потенциально опасных моделей. «Это неубедительная политика, которая отражает общую тенденцию администрации Трампа создавать среду «дикого запада» для развития ИИ», — заявил конгрессмен Дон Бейер (демократ от штата Вирджиния), возглавляющий группу законодателей по вопросам ИИ.