
Мы уже видели, как искусственный интеллект может использоваться для поиска уязвимостей в приложениях и на веб-сайтах, но теперь исследователи продемонстрировали, как его можно превратить в оружие для эксплуатации этих недостатков. Команда из Университета Торонто использовала общедоступные модели ИИ для создания прототипа червя, способного эксплуатировать любую известную компьютерную уязвимость. Такие черви могут распространяться через сети и сеять хаос в интернете.
Типичный червь обычно создается квалифицированными программистами для использования конкретных сетевых недостатков, и его можно остановить, устранив эти уязвимости. Однако ученые из Университета Торонто, работая в безопасной закрытой среде и принимая исчерпывающие меры предосторожности, использовали модели ИИ с открытыми весами (open-source) для создания гораздо более сложного прототипа червя, который распространялся по тестовой сети команды без вмешательства человека.
Этот новый тип червя адаптирует свои атаки к различным видам уязвимостей на множестве платформ, включая Linux, Windows и IoT-устройства. Он собирает данные по мере перемещения по сети, похищая пароли и обнаруживая новые уязвимости, которые помогут ему захватить контроль над другими машинами. Если заражение обнаружено и устранено на одном компьютере, червь может использовать другие недостатки для атаки на ту же самую машину.
Более того, червь «питается» за счет использования вычислительных мощностей зараженных машин для обеспечения своих рассуждений и стратегии будущих атак. «Хакеры обычно были вынуждены отдавать приоритет наиболее ценным целям, поскольку время и вычислительные ресурсы были ограничены, — сказал ведущий автор исследования Николя Паперно. — Но теперь, после запуска такого червя, затраты на атаку будут стремиться к нулю».
Идея киберугроз на базе ИИ стала вполне реальной с недавним запуском Anthropic модели Mythos, которая способна выявлять ранее неизвестные риски кибербезопасности. В Anthropic заявили, что Mythos уже обнаружила более 10 000 уязвимостей, увеличив скорость поиска ошибок у своих партнеров более чем в 10 раз. Компания Cloudflare, помогающая защищать организации от злонамеренных атак, обнаружила 2000 таких уязвимостей, из которых 400 считаются критическими или имеющими высокий уровень опасности.
Прототип червя, созданный исследователями, может эксплуатировать только известные уязвимости и не находит неизвестные, в отличие от Mythos. Однако легко представить, как злоумышленники могут адаптировать его для поиска и использования новых уязвимостей — что сделало бы его практически неудержимым в случае выхода в «дикую природу». «Взаимосвязанном мире ни одна система не защищена от этой угрозы, — отметил Паперно. — Публикация этих результатов — это первый шаг к тому, чтобы побудить исследователей, лидеров отрасли и политиков принять меры, причем как можно скорее».
















