OpenAI: подставные аккаунты из Китая пытались настроить американцев против дата-центров

OpenAI опубликовала отчет о пользователях ChatGPT, которые, по данным компании, предположительно находились в Китае и использовали чат-бот для организации кампании, направленной на формирование негативного отношения американцев к дата-центрам для ИИ. Пользователи были разделены на две группы, первую из которых в компании назвали «Сторонники борьбы с дата-центрами». Аккаунты, отнесенные к этой группе, якобы просили ChatGPT генерировать тезисы на английском языке и изображения, например комиксы, которые фокусировались на том, как дата-центры для ИИ повышают спрос на электроэнергию и как это ведет к росту счетов для потребителей.

Компания заявляет, что эти пользователи выдавали себя за американцев разного социального происхождения в социальных сетях, где они публиковали текст и изображения, полученные от ChatGPT. OpenAI полагает, что они являются частью команды по работе с социальными сетями в некой частной китайской компании, выполняющей заказы местных правительственных структур. Судя по всему, они даже загрузили в чат-бот файл, описывающий их цели и стратегии по формированию общественного мнения, а также инструкции о том, как создавать фейковые аккаунты в социальных сетях, чтобы их не обнаружили.

Эта группа также проявляла активность в отношении китайцев, проживающих в других странах, доходя до того, что просила ChatGPT генерировать оскорбления, предназначенные для травли китайских диссидентов и политических комментаторов. Выдавая себя за американских иммигрантов из Китая и профессионалов, они также подстрекали онлайн-инфлюенсеров чаще высказываться о неудачах политики США.

Стоит отметить, что хотя эти пользователи, скорее всего, использовали недостоверные аккаунты для публикаций в соцсетях, компания отмечает, что они размещали ссылки на «законные новостные статьи об аукционах мощности операторов электросетей и спросе на электроэнергию со стороны дата-центров». Рост стоимости электроэнергии в городах и населенных пунктах рядом с дата-центрами — это вполне реальная проблема, ставшая одним из первых последствий ИИ-бума, которые люди ощутили на себе. Согласно отчету Bloomberg, в районах рядом с дата-центрами электроэнергия сейчас стоит на 267 процентов дороже в месяц по сравнению с ценами пятилетней давности, поскольку потребность в энергии превышает возможности предложения.

Между тем, вторая группа аккаунтов, обнаруженная OpenAI, создавала комментарии и изображения с критикой торговых пошлин и технологической политики США. Они целенаправленно генерировали контент, критикующий США, и подчеркивали, что страна «предает своих союзников». Эта группа просила ChatGPT не включать председателя КНР Си Цзиньпина в генерируемые изображения и давала указания чат-боту писать комментарии на английском, итальянском, японском и традиционном китайском языках, чтобы воздействовать на тайваньскую аудиторию.

OpenAI признает, что кампаниям не удалось добиться сколько-нибудь значимого органического охвата и что они не смогли изменить общественное мнение. Судя по самому отчету OpenAI, они фокусировались на реальных проблемах, которые и так являются спорными и широко обсуждаются в интернете. Компания объясняет, что значимость этих кампаний заключается в том, что «операторы пытались скрытно вмешаться в текущую американскую дискуссию о будущем ИИ-потенциала страны, скрывая при этом свою личность и мотивы». Почему для этих кампаний был выбран американский ИИ-чат-бот, а не, скажем, DeepSeek, в OpenAI сказать не смогли. «Мы не в состоянии определить, что послужило причиной такого выбора», — говорится в отчете.