Подписка

Индустрия ИИ хочет, чтобы модели помогали в судебных баталиях, но принесут ли они пользу?

Индустрия ИИ хочет, чтобы модели помогали в судебных баталиях, но принесут ли они пользу?
Поделиться:

Компании продают юристам ИИ быстрее, чем суды успевают штрафовать их за его использование.


Andrew Harnik/Getty Images

С начала года три из четырёх крупнейших лабораторий ИИ либо запустили продукты для юристов, либо представили их. В конце августа Google запустила предварительную версию Gemini Enterprise for Legal для четырёх крупнейших юридических фирм мира — через три месяца после того, как Anthropic выпустила продукт, который теперь называется Claude Legal Solutions. Юридическими решениями заинтересовался и Илон Маск: его лаборатория SpaceXAI разместила на своём сайте отдельную страницу, посвящённую этой сфере.

Всё это говорит о выходе на рынок юридических услуг, который набирает обороты, хотя юристов по-прежнему штрафуют и подвергают критике за подачу документов, созданных с помощью ИИ и содержащих вымышленные судебные прецеденты. В июне Дисциплинарный трибунал Юридического общества Онтарио обязал юриста Шахрияра Мазахери выплатить десятки тысяч долларов за использование документов, подготовленных с помощью Grok и содержавших поддельные ссылки на судебные решения. В базе данных исследователя Дамьена Шарлотена зафиксировано почти 2 000 таких случаев по всему миру, в которых фигурируют более 800 юристов и 1 100 участников процессов, представлявших себя самостоятельно.

Юристов продолжают ловить на подаче ИИ-мусора

В декабре прошлого года Юридическое общество Онтарио установило, что Мазахери использовал раннюю версию Grok для подготовки фактического обоснования — письменной правовой позиции — по апелляции клиента. Согласно документам трибунала, в результате появились вымышленные ссылки на судебные решения и придуманные правовые принципы. В июне было вынесено решение о взыскании с Мазахери 31 150 долларов судебных издержек. Судьи отметили, что большая языковая модель «не понимает нюансов, не умеет выносить суждения и не руководствуется моральными принципами», а также «весьма склонна давать ответ — любой ответ, — вместо того чтобы признать своё неведение». Судьи назвали материалы, созданные ИИ, «абракадаброй».

Юридическая фирма Sullivan & Cromwell — одна из самых доходных в США, относящаяся к числу наиболее престижных, — тоже оказалась среди нарушителей. Она платит начинающим юристам первого года работы базовую зарплату в 225 000 долларов. В апреле фирма направила экстренное письмо в Южный округ Нью-Йорка после того, как выяснилось, что ходатайство по делу о банкротстве, поданное главному судье Мартину Гленну, содержало 42 выдуманных факта, сгенерированных ИИ. Только в судах Канады число зарегистрированных случаев с поддельными ссылками на судебные решения выросло с семи в 2024 году до 86 в 2025-м; ещё 39 случаев произошло в первом квартале 2026 года.

Ещё до того, как какая-либо крупная ИИ-компания выпустила специальный юридический инструмент, в начале 2023 года DoNotPay отказалась от планов позволить ИИ-«роботу-юристу» выступить в суде после того, как коллегии адвокатов штатов пригрозили уголовным преследованием.

Созданы для проверки

A wooden gavel with the Gemini logo in the background.
Bangla press/Shutterstock

И Google, и Anthropic утверждают, что их юридические продукты созданы с расчётом на проверку результатов. Продукт Google направляет запросы через коннекторы во внешние юридические базы данных, например Everlaw и NetDocuments, а не полагается исключительно на данные, использованные для обучения модели. На запуске генеральный директор Google Cloud Томас Куриан заявил: «Крайне важно, чтобы каждый аспект этих агентных рабочих процессов был точным, основанным на фактах и подтверждённым правовыми источниками». В программе предварительного тестирования участвуют Gottlieb, Freshfields, Weil и Williams & Connolly — четыре крупнейшие юридические фирмы мира.

Anthropic придерживается аналогичного подхода в продукте Claude Legal Solutions. По имеющимся данным, он включает 20 коннекторов к юридическим платформам и 12 готовых плагинов. Компания заявила, что модель Opus 4.7 набрала 90,9% в тесте на правовое мышление BigLaw Bench. Среди клиентов компании — Freshfields и Quinn Emanuel. Главное отличие этих продуктов от случая Мазахери в том, что модель не генерирует ссылки на судебные решения по памяти, а получает их из внешних проверенных источников.

У юридического продукта SpaceXAI на базе Grok, между тем, куда меньше оснований для доверия. В публикации в блоге Cursor говорилось, что Grok 4.5 подходит для «финансов, юридической работы и всего остального, что вы делаете на компьютере». Однако в более позднем анонсе модели SpaceXAI сделала акцент на «программировании, агентных задачах и интеллектуальной работе», не упомянув юридические приложения. На странице также не раскрывается архитектура продукта и не описывается механизм проверки ссылок по первоисточникам. 15 августа SpaceX официально приобрела Cursor за 60 млрд долларов, и маркетинг юридического продукта редактора кода теперь ведётся под брендом Grok.

Проверка по-прежнему остаётся обязанностью юриста

В исследовании 2024 года RegLab при Стэнфордском университете обнаружила, что частота галлюцинаций составила 17% и 33% при тестировании специализированных юридических платформ на базе ИИ от LexisNexis и Westlaw. Сопоставимой независимой проверки юридических инструментов Google или Anthropic пока не проводилось.

Все адвокаты обязаны соблюдать правила коллегий адвокатов, возлагающие на них ответственность за проверку ссылок на судебные решения, которые они включают в подаваемые документы, независимо от того, использовался ли ИИ. Мазахери оштрафовали на 31 150 долларов не за использование ИИ, а за то, что он тщательно не проверил результат. Эта обязанность не изменится, каким бы тщательно продуманным ни был юридический инструмент на базе ИИ и какие бы меры предосторожности ни предлагал его поставщик.