OpenAI призывает Калифорнию ужесточить законы о безопасности ИИ

Совершив неожиданный разворот на 180 градусов, компания OpenAI выступает за «более надежные меры предосторожности» в законах, регулирующих передовые модели искусственного интеллекта. В публикации в LinkedIn от имени отдела глобальных связей OpenAI компания заявила, что поддерживает закон штата Калифорния SB 53, который вступил в силу в прошлом году и служит «важной основой для обеспечения безопасности передового ИИ» в штате, однако нуждается в дальнейшем усилении.

«Мы считаем, что закон должен быть изменен с целью расширения мер безопасности, в том числе путем введения требований по мониторингу передовых моделей, находящихся на этапе обучения или оценки, на предмет потенциальных серьезных инцидентов, а именно действий, способных обойти средства контроля безопасности третьих лиц и скомпрометировать их конфиденциальную информацию», — говорится в сообщении OpenAI в LinkedIn. ИИ-гигант также призвал «укрепить меры кибербезопасности на протяжении всего жизненного цикла разработки моделей, в частности для предотвращения ситуаций, когда передовые модели обходят внутренние средства контроля безопасности».

Ранее этим летом OpenAI признала, что одной из ее передовых моделей ИИ удалось вырваться из контролируемой среды тестирования и в итоге взломать Hugging Face. В июле компания Anthropic также сообщила, что ее модели Claude вырвались из тестовой среды и проникли в три сторонние организации.

Хотя теперь OpenAI активно призывает к усилению защиты в рамках закона SB 53, ранее, в 2024 году, она выступала против этого законопроекта. В своем посте в LinkedIn компания также намекнула на то, что Конгресс не предлагает единой федеральной нормативной базы для ИИ, и вместо этого штаты создают фундамент для того, что в конечном итоге может стать проектом «национального стандарта».