OpenAI сообщила, что заблокированный аккаунт из Китая использовал ChatGPT для разработки рекламных материалов и планов проектов для инструмента мониторинга социальных сетей. OpenAI утверждает, что эта работа якобы выполнялась для государственного заказчика. Инструмент представлял собой «зонд», который мог сканировать социальные сети, такие как X, Facebook, Instagram, Reddit, TikTok и YouTube, на предмет определенного политического, этнического или религиозного контента, заданного оператором. Компания заявила, что не может самостоятельно проверить, использовался ли инструмент китайским государственным образованием. OpenAI пресекла подобные действия ранее в этом году.
Компания также сообщает, что заблокировала аккаунт, который использовал ChatGPT для разработки предложения по инструменту, описанному как «Модель предупреждения о высокорисковых уйгурских поступлениях», предназначенному для отслеживания перемещений «связанных с уйгурами» лиц. Китай давно обвиняют в предполагаемых нарушениях прав человека против уйгурских мусульман в стране.
OpenAI начала публиковать отчеты об угрозах в феврале 2024 года, привлекая внимание к государственным субъектам, использующим большие языковые модели для отладки вредоносного кода, разработки фишинговых мошенничеств и многого другого. Последний пост в блоге компании представляет собой сводку наиболее заметных угроз и заблокированных аккаунтов за последний квартал.
Компания также выявила русско-, корейско- и китайскоязычных разработчиков, использовавших ChatGPT для усовершенствования вредоносного ПО, а также целые сети в Камбодже, Мьянме и Нигерии, использовавшие чат-бот для создания мошеннических схем с целью обмана людей. По собственным оценкам OpenAI, ChatGPT используется для обнаружения мошенничества в три раза чаще, чем для его создания.
Этим летом OpenAI пресекла деятельность в Иране, России и Китае, где ChatGPT использовался для создания публикаций, комментариев и для повышения вовлеченности и разжигания разногласий в рамках кампаний по влиянию в сети. Контент, сгенерированный ИИ, использовался на различных платформах социальных сетей как в странах происхождения, так и на международном уровне.
