Теперь мы можем добавить киберпреступления в список растущих опасений, связанных с искусственным интеллектом. Группа Google Threat Intelligence Group (GTIG) заявила, что впервые обнаружила злоумышленника, использующего уязвимость нулевого дня, которая, по ее мнению, была разработана с помощью ИИ. Уязвимости нулевого дня часто являются самыми опасными, поскольку они неизвестны жертвам, что дает им ноль дней на подготовку к атаке.
Google сообщила в отчете, что злоумышленник планировал использовать ее для «массовой эксплуатации», но ее проактивное обнаружение «могло предотвратить ее использование». Google добавила, что не считает, что использовались ее собственные модели Gemini, но по-прежнему «высоко уверена», что модель ИИ была частью процесса обнаружения уязвимости и создания эксплойта.
В отчете GTIG не был указан целевой объект, но сообщается, что Google уведомила неназванную компанию, которая затем устранила проблему. Google также не раскрыла личности злоумышленников, но намекнула, что лица, связанные с Китаем и Северной Кореей, проявляли «значительный интерес» к использованию ИИ для эксплуатации уязвимостей безопасности.
Учитывая, как быстро развиваются модели ИИ для повседневного использования, неудивительно, что они могут использоваться со злым умыслом. В интервью The New York Times Джон Халтквист, главный аналитик GTIG, охарактеризовал это как «предвкушение того, что грядет» и «верхушку айсберга», добавив, что этот случай является лишь первым «осязаемым доказательством» подобных атак. Google заявила в своем отчете, что злоумышленники используют ИИ на различных этапах кибератаки, но «ИИ также может быть мощным инструментом для защитников». Как и Google, другие компании используют модели ИИ для обеспечения превентивных мер. В прошлом месяце Anthropic объявила о Project Glasswing — инициативе, направленной на использование Claude Mythos Preview для поиска и защиты от «высокосерьезных уязвимостей».
