
Компания Anthropic опубликовала предварительный отчет по Project Glasswing — инициативе в сфере кибербезопасности, запущенной в апреле с целью предотвращения кибератак с помощью ИИ. Проект работает на базе Claude Mythos Preview, еще не выпущенной модели компании, которая, по заявлению Anthropic, всего через месяц после старта Glasswing помогла партнерам выявить более десяти тысяч уязвимостей. Кроме того, большинство партнеров «обнаружили сотни критических или высокоуровневых уязвимостей в своем ПО», используя эту модель.
В компании отметили, что скорость обнаружения ошибок у партнеров выросла более чем в десять раз. Cloudflare выявила 2000 багов, 400 из которых имеют высокий или критический уровень опасности. Mozilla ранее сообщала, что обнаружила и устранила 271 уязвимость в Firefox, что в 10 раз больше, чем количество багов, найденных в предыдущей версии браузера с помощью другой модели Claude.
Недавнее заявление Microsoft о том, что объемы выпускаемых патчей «в течение некоторого времени будут расти», по-видимому, связано с ошибками, обнаруженными через Mythos Preview. Anthropic также использовала Mythos Preview для сканирования 1000 проектов с открытым исходным кодом за последние несколько месяцев и выявила 6202 критические и высокоуровневые уязвимости из 23 019 обнаруженных. Хотя компания не включила это в отчет, исследовательская фирма в сфере безопасности недавно заявила, что нашла способ взлома macOS — операционной системы, известной своей высокой защищенностью, — с помощью возможностей Mythos по поиску ошибок.
В отчете компания пояснила, что пока не выпускает Mythos Preview для широкой публики, так как ни одна компания (включая саму Anthropic) еще не разработала достаточно надежных механизмов защиты, предотвращающих злоупотребление подобными моделями. Однако в будущем она намерена выпустить «модели класса Mythos», когда такие средства защиты станут доступны. Сейчас компания планирует сотрудничать с партнерами, включая правительство США и другие государственные структуры, чтобы расширить доступность Project Glasswing. Это указывает на то, что компания, вероятно, встала на путь нормализации отношений с правительством США. На данный момент Anthropic уже сотрудничает с рядом партнеров, включая Amazon Web Services, Apple, CrowdStrike, Google, JPMorganChase, NVIDIA и Palo Alto Networks, в дополнение к уже упомянутым компаниям.
По имеющимся данным, Anthropic близка к тому, чтобы стать прибыльной впервые с момента своего основания в 2021 году. Согласно недавнему отчету The Wall Street Journal, компания движется к получению выручки в размере 10,9 млрд долларов и операционной прибыли в 559 млн долларов за квартал, заканчивающийся в июне. Тем не менее в последующие кварталы компания не ожидает сохранения прибыльности, поскольку намерена инвестировать больше средств в вычислительные ресурсы и другие расходы.























