С тех пор как в начале этого года появились сообщения о том, как легко обмануть браузер-агента, я слежу за пересечением современных ИИ и старых схем мошенничества. Теперь на горизонте появилось новое совпадение: хакеры, по-видимому, используют подсказки ИИ для посева результатов поиска Google опасными командами. При выполнении ничего не подозревающими пользователями эти команды побуждают компьютеры предоставлять хакерам доступ, необходимый им для установки вредоносного ПО.
Предупреждение исходит из недавнего отчета фирмы по обнаружению и реагированию Huntress. Вот как это работает. Сначала злоумышленник ведет разговор с ИИ-ассистентом на распространенный поисковый запрос, в ходе которого он просит ИИ предложить вставить определенную команду в терминал компьютера. Он делает чат общедоступным и платит за его продвижение в Google. С этого момента, всякий раз, когда кто-то ищет этот термин, вредоносные инструкции будут отображаться высоко на первой странице результатов.
Huntress провела тестирование ChatGPT и Grok после обнаружения того, что атака на Mac, направленная на извлечение данных и называемая AMOS, началась с простого поиска в Google. Пользователь зараженного устройства искал «очистить место на диске на Mac», кликнул по спонсируемой ссылке ChatGPT и — не имея должной подготовки, чтобы понять, что совет враждебный — выполнил команду. Это позволило злоумышленникам установить вредоносное ПО AMOS. Тестировщики обнаружили, что оба чат-бота воспроизвели вектор атаки.
Как отмечает Huntress, гениальность этой атаки заключается в том, что она обходит почти все традиционные красные флажки, на которые нас учили обращать внимание. Жертве не нужно скачивать файл, устанавливать подозрительный исполняемый файл или даже кликать по сомнительной ссылке. Единственное, чему им приходится доверять, — это Google и ChatGPT, которыми они либо пользовались раньше, либо о которых неустанно слышали в течение последних нескольких лет. Они готовы доверять тому, что говорят эти источники. Хуже того, хотя ссылка на разговор с ChatGPT с тех пор была удалена из Google, она была доступна как минимум полдня после того, как Huntress опубликовала свой пост в блоге.
Эти новости появляются в уже напряженное время для обоих ИИ. Grok получает нагоняй за подлизывание к Илону Маску отвратительными способами, в то время как создатель ChatGPT OpenAI отстает от конкурентов. Пока неясно, можно ли воспроизвести атаку с другими чат-ботами, но на данный момент я настоятельно рекомендую проявлять осторожность. Наряду с другими вашими разумными мерами кибербезопасности, убедитесь, что вы никогда не вставляете ничего в свою командную строку или адресную строку браузера, если вы не уверены в том, что она будет делать.
