ИИ-агент Grok для вайб-кодинга допустил утечку конфиденциальных данных SpaceXSI

Уязвимость в агенте для вайб-кодинга Grok Build от SpaceXSI привела к утечке конфиденциальных данных тысяч пользователей, в том числе… самой SpaceXSI, сообщила Ars Technica компания Claroc, занимающаяся борьбой с мошенничеством в сфере безопасности. По данным специалистов по безопасности, из-за того, как Grok обрабатывает ссылки на приложения, они могли становиться общедоступными через определённые типы DNS-сервисов. В результате утекла конфиденциальная информация о сотрудниках сети больниц, пожарной службы и самой SpaceXSI.

«Мы были потрясены, — написали исследователи в блоге. — Внутренние материалы компании, создающей Grok, были открыты любому, у кого была ссылка». Компания назвала такие страницы GhostShares, поскольку их могут найти и открыть люди, которым ссылку никогда не давали.

Среди обнаруженных материалов SpaceXSI оказались план адаптации новых сотрудников, карта зон продаж с 594 стратегическими клиентами, восемь рекламных предложений X, четыре действующие панели рекламных аккаунтов и две копии руководства X по безопасности бренда. Пароль запрашивало лишь одно из открытых приложений. Ещё шесть затронутых компаний входят в список Fortune 500, а в 26 работает более 1 000 сотрудников. «По нашей оценке, примерно в двух процентах случаев материалы были достаточно серьёзными, чтобы получить оценку высокой или критической важности», — написали в Claroc.

Проблема заключалась в том, как Grok Build создавал ссылки. Хотя для ссылки использовались «игральные слова» (случайно сгенерированные фразы из четырёх слов) с энтропией до 38 бит, эта часть ссылки размещалась слева от домена, а не справа, как у Google Gemini. Благодаря этому ссылки могли обнаруживаться пассивными DNS-серверами и попадать в общедоступные базы данных с возможностью поиска.

Claroc поделилась результатами с SpaceXSI и пострадавшими компаниями, некоторые из которых быстро приняли меры, чтобы закрыть доступ к данным через Grok. Однако сама SpaceXSI, по имеющимся данным, не отвечала, пока Claroc не отметила Маска и ещё одного представителя компании в X. После этого SpaceXSI удалила 24 собственных приложения, открытых через эти ссылки, но «не сделала того же для приложений, которые оставили открытыми другие пользователи и организации Grok», написали в Claroc.