Документ был опубликован KPMG, одной из аудиторских компаний «Большой четверки».
В октябре прошлого года компания KPMG опубликовала отчет под названием «Тотальный опыт: переосмысление совершенства в эпоху агентного ИИ», посвященный тому, как компании используют искусственный интеллект для удовлетворения потребностей клиентов. KPMG входит в «Большую четверку» крупнейших в мире аудиторских и консалтинговых компаний наряду с Deloitte, PricewaterhouseCoopers и Ernst & Young. Однако, по всей видимости, этот отчет оказался полон ИИ-галлюцинаций и содержал примеры агентных ИИ, которые либо не существуют, либо не обладают описанными в документе возможностями. Исследователи из GPTZero, создателя инструмента для обнаружения ИИ-контента, выявили многочисленные неточности и фальшивые сноски, что также было подтверждено изданием Financial Times.
В своем отчете о расследовании GPTZero указали, что лишь пять из 45 цитат в документе указывают на реальные источники. В 28 случаях названия были перефразированы или к реальным источникам были добавлены вымышленные данные, а 12 цитат были сформулированы настолько расплывчато, что невозможно определить, существовали ли они на самом деле. GPTZero назвали создание фальшивых ссылок нейросетями «vibe citing» (цитированием по настроению).
Помимо фальшивых или неточных цитат, исследователи обнаружили, что примерно половина утверждений в документе оказались вымышленными или ложно приписанными. «Вероятно, это результат того, что ИИ-инструмент для поиска информации слишком буквально выполнил запрос найти примеры использования «агентного ИИ» в реальности», — пишет GPTZero. В качестве примера: KPMG утверждала, что авиакомпания Emirates запустила мобильный чат-бот под названием Sara, который может общаться с пассажирами и менять их авиабилеты. На деле Sara — это мобильный помощник, запущенный в 2023 году, он не основан на ИИ и не обладает функцией изменения бронирований для пассажиров.
KPMG также заявляла, что швейцарский транснациональный инвестиционный банк UBS интегрировал агентный ИИ в свои системы «инвестиционного консультирования, управления рисками и мониторинга соответствия требованиям». В банке сообщили Times, что эта информация «фактически неверна». В другом примере KPMG утверждала, что Швейцарские федеральные железные дороги (SBB) используют ИИ-агентов, помогающих пассажирам планировать, бронировать и оптимизировать поездки с учетом предпочтений, текущих условий и углеродного следа. Представитель SBB заявил, что это «не соответствует действительности».
Документы компаний уровня KPMG обычно цитируются в других исследованиях и статьях, так как считаются высокоавторитетными источниками. Генеральный директор GPTZero Эдвард Тянь объяснил, что подобные отчеты с ошибками, выпущенные «Большой четверкой», могут «отравить информационный колодец» и привести к вторичным ИИ-галлюцинациям. Представитель KPMG сообщил Times, что компания «серьезно относится к точности и добросовестности публикуемого контента». С тех пор KPMG отозвала документ и сейчас «рассматривает обстоятельства, при которых он был опубликован».


















