ИИ чуть не спровоцировал войну США с Китаем, говорится в отчете
Источники CNN утверждают, что военные США едва не атаковали китайское судно, которое, как они считали, перевозило компоненты ядерного оружия.
Ошибочный и частично сгенерированный искусственным интеллектом разведывательный отчет чуть не побудил американских военных атаковать китайское судно на Ближнем Востоке, сообщает CNN. Инцидент «чуть не развязал войну», по словам источника, на которого ссылается издание, и подчеркивает риски внедрения ИИ в чувствительную сферу деятельности Министерства обороны США.
Engadget обратился в Министерство обороны с просьбой прокомментировать материал CNN. Мы обновим эту статью, если получим ответ.
Оценка была составлена аналитиком командования спецопераций, который запросил у ИИ-чат-бота информацию о манифесте груза китайского корабля. Как сообщает CNN, чат-бот объединил «разведывательные данные из открытых источников с секретной информацией радиоэлектронной разведки» и пришел к выводу, что на судне находятся «компоненты программы создания ядерного оружия» — утверждение, которое едва не привело к перехвату судна военными, пока официальные лица не выяснили, что оно было сгенерировано искусственным интеллектом.
CNN не удалось выяснить, что на самом деле перевозило судно и какой именно инструмент ИИ (коммерческий или разработанный для правительства США) использовал аналитик. Учитывая стремление Министерства обороны к повсеместному внедрению ИИ, потенциально существует несколько вариантов.
В январе министр обороны Пит Хегсет опубликовал меморандум, в котором предписал Минобороны сделать приоритетом курс на искусственный интеллект («AI-first») и экспериментировать с моделями от ведущих американских ИИ-компаний. С Anthropic это сработало не совсем так, как планировалось: компания отказалась разрешить военным использовать свои модели для разработки автономного оружия и была на время запрещена правительством, однако это привело к заключению ряда других партнерств в сфере ИИ. Например, подразделение SpaceXAI, как сообщается, в феврале заключило сделку, позволяющую военным использовать Grok, а NVIDIA, Microsoft и Amazon в мае заключили партнерское соглашение о предоставлении своих ИИ-технологий Пентагону. Подобные государственные контракты весьма прибыльны, поэтому компании и стремятся к ним. Но содействие распространению ИИ явно несет в себе риски, которых нет у обычного корпоративного программного обеспечения.
