Anthropic заблокировала всем пользователям доступ к Fable 5 и Mythos 5

Компания Anthropic отключила всем своим клиентам доступ к Fable 5 и Mythos 5, чтобы обеспечить соблюдение предписания, полученного от правительства в пятницу, 12 июня. Все остальные модели компании и чат-бот Claude данное ограничение не затронуло. В своем заявлении компания сообщила, что правительство США потребовало приостановить доступ иностранных граждан к недавно выпущенным моделям ИИ, независимо от того, находятся ли они на территории США или за ее пределами, и даже если они являются сотрудниками Anthropic, сославшись на соображения национальной безопасности.

Хотя правительство США не уточнило эти опасения, Anthropic полагает, что это связано с тем, что властям стало известно о методе взлома (джейлбрейка) Fable 5. Компания только 9 июня запустила модель Fable AI, которая была призвана предоставить широкой публике многие возможности Mythos. Напомним, что Mythos — это передовая модель компании в области кибербезопасности, доступная только партнерам Project Glasswing. Возможности Fable «превосходят» любую предыдущую модель, выпущенную Anthropic. Например, в ходе тестов компании она смогла пройти игру Pokémon FireRed, в то время как Claude не удалось справиться с Pokémon Red, оригинальной игрой, на базе которой она была создана.

В своем посте Anthropic перечислила меры, принятые для обеспечения безопасности Fable. Компания заявила, что внедрила надежные защитные механизмы, чтобы «снизить вероятность использования Fable в целях, связанных с кибербезопасностью», и добавила, что ее «защитные меры настолько строгие, что многие пользователи жалуются на их чрезмерную широту». В компании также пояснили, что ни один провайдер не может гарантировать идеальную устойчивость к попыткам взлома, и любая модель уязвима для специфических джейлбрейков. «Мы стремились сделать джейлбрейки либо узконаправленными (в случае неуниверсальных методов), либо очень дорогостоящими в реализации (в случае универсальных методов), а также сочетать это с тщательным мониторингом для быстрого обнаружения и пресечения любых успешных атак», — прокомментировала компания свою стратегию защиты.

Правительство, по-видимому, предоставило компании устные доказательства одного потенциального узкого, неуниверсального метода взлома, которым с официальными лицами поделилась неназванная сторона. Anthropic пообещала поделиться подробностями в течение следующих 24 часов, но уточнила, что не согласна с тем, что потенциальный джейлбрейк должен быть основанием для отзыва коммерческой модели.

«Как мы уже заявляли публично, мы считаем, что правительство должно обладать возможностью блокировать небезопасные развертывания в рамках законодательного процесса, который является прозрачным, справедливым, четким и основанным на технических фактах», — написала Anthropic, которая активно высказывалась о необходимости обеспечения безопасности ИИ. «Данное действие не соответствует этим принципам».