Губернатор Калифорнии хочет внедрить «аварийный выключатель» для передовых ИИ-моделей
Указ Ньюсома призывает создать экспертную группу для разработки новых мер безопасности в сфере искусственного интеллекта.
После того как ИИ-модели от ведущих компаний недавно вышли из-под контроля в рамках своих ограничений, губернатор Калифорнии предложил создать «аварийный выключатель» как часть комплексного решения. Согласно исполнительному указу, подписанному Гэвином Ньюсомом в пятницу, Калифорния созовет национальных экспертов для выработки новых рекомендаций по безопасности ИИ в двухмесячный срок.
«Мы собираемся ускорить нашу работу по внедрению существенного и ответственного надзора за ИИ, пока не стало слишком поздно», — заявил Ньюсом в пресс-релизе. — «Мы сделаем это обдуманно, но с чрезвычайной скоростью: ставки слишком высоки, чтобы ждать или откладывать действия».
Экспертной группе будет поручено представить рекомендации аппарату Ньюсома, который затем обновит законы штата, касающиеся безопасности искусственного интеллекта. В указе губернатора подробно описывается несколько конкретных пунктов, таких как внедрение «назначенных независимых верификационных организаций» в ИИ-лаборатории для проведения периодических аудитов и оценок. Перед экспертной группой также будет поставлена задача изучить требование к ИИ-компаниям подавать отчеты и оценки рисков сторонней организации, а также сообщать об «инцидентах с потерей контроля», подобных инциденту с Hugging Face.
Ньюсом не одинок в своих призывах к постоянной сторонней проверке новейших моделей ИИ. На прошлой неделе генеральный директор Anthropic Дарио Амодей предложил трехступенчатый план по замедлению разработки искусственного интеллекта. Предложение Амодея предполагает, что ИИ-компании должны согласиться на «постоянный доступ по принципу сотрудников» для сторонних оценщиков, специализирующихся на безопасности и соблюдении нормативных требований.
