Google подписала сделку, позволяющую Министерству обороны США использовать свои ИИ-модели для «любых законных государственных целей». Об этом сообщает отчет The Information, в котором также отмечается, что полные детали контракта засекречены.

Анонимный источник в компании предполагает, что обе стороны согласились с тем, что технологии искусственного интеллекта поискового гиганта не должны использоваться для массовой слежки внутри страны или для автономного оружия «без надлежащего человеческого контроля и управления». Однако, согласно сообщениям, контракт также не дает Google «права контролировать или налагать вето» на любые действия, которые решит предпринять правительство. Иными словами, всеми известное своим доверием правительство США просто придется принять на веру.

«Мы считаем, что предоставление доступа по API к нашим коммерческим моделям, в том числе на инфраструктуре Google, с соблюдением отраслевых практик и условий, представляет собой ответственный подход к обеспечению национальной безопасности», — заявил Reuters представитель Google. Представитель также подтвердил, что компания придерживается мнения, что ИИ не должен использоваться для массовой слежки или для автономного вооружения без надлежащего человеческого контроля. Некоторые могут возразить, что технологии вообще не следует использовать для подобных целей, независимо от контроля.

С этой целью почти 600 сотрудников Google написали открытое письмо генеральному директору Сундару Пичаи с призывом к компании отказаться от заключения подобных сделок с Пентагоном. Это связано с опасениями, что технологии могут быть использованы «бесчеловечными или чрезвычайно вредными способами».

«Человеческие жизни уже гибнут, а гражданские свободы находятся под угрозой дома и за рубежом из-за злоупотреблений технологиями, в создании которых мы играем ключевую роль, — говорится в письме. — Как специалисты, работающие в области ИИ, мы знаем, что эти системы могут централизовать власть и допускать ошибки».

Google присоединится к OpenAI и xAI Илона Маска в этом начинании, поскольку обе компании заключили секретные сделки в области ИИ с правительством США. У Anthropic был действующий контракт, но компания отказалась от требований правительства по удалению защитных мер, связанных с оружием и слежкой.

Этот отказ разгневал президента Трампа и Пентагон настолько, что Anthropic был полностью занесен в черный список для федерального использования. Это не очень похоже на действия правительства, которое стремится к «надлежащему человеческому контролю» опасных военных технологий ИИ. Engadget обратился к Google за дополнительными подробностями и обновит эту статью, как только получит ответ.