Нью-Йорк будет самостоятельно тестировать модели ИИ

Пока федеральное правительство по сути отдаёт всех нас на милость ИИ-индустрии, Нью-Йорк берёт дело в свои руки. Во вторник губернатор Кэти Хокул запустила первую в стране программу тестирования ИИ под управлением штата. Вместо того чтобы доверять ИИ-компаниям самим следить за собой, система Нью-Йорка поручит проверку их работы независимым исследователям. «Ставки слишком высоки, чтобы просто верить ИИ-компаниям на слово», — заявила Хокул в пресс-релизе.

Этой работой займётся Нью-Йоркский центр ответственности и исследований в области ИИ при Бингемтонском университете. В ней примут участие более 80 учёных из Нью-Йорка. Они будут использовать вычислительные мощности Empire AI — государственно-частного ИИ-партнёрства штата стоимостью 500 миллионов долларов.

В офисе Хокул сообщили, что центр будет тестировать передовые ИИ-системы, изучать связанные с ними риски и предоставлять данные, на которые смогут опираться должностные лица при принятии решений. Кроме того, центр изучит, как можно ответственно применять ИИ в таких областях, как медицина и научные открытия.

Одно из потенциальных слабых мест программы заключается в том, что она может изучать лишь то, что ИИ-компании раскрывают публично. Закон RAISE штата Нью-Йорк, подписанный Хокул в прошлом году, обязывает крупных разработчиков ИИ зарегистрироваться в штате до 1 января 2027 года. С этого момента компании должны будут публиковать принципы обеспечения безопасности и отчёты о прозрачности, а также сообщать о критических инцидентах безопасности в течение 72 часов. Закон RAISE не закроет эту брешь в отношении невыпущенных моделей, но по крайней мере заставит компании раскрывать больше информации.