Никогда не используйте ChatGPT для выполнения этих пяти задач

Список тех, кто сам себя подставил, введя в ChatGPT не те данные, продолжает расти. Инженеры Samsung, исполняющий обязанности директора американского агентства по киберзащите, участники судебных процессов без адвокатов, ссылающиеся на несуществующие судебные решения, мужчина, заменивший поваренную соль бромидом натрия после вопроса о том, как сократить количество соли в рационе, — этот список можно продолжать долго.

Даже любимчик всех технобро — генеральный директор Sam Altman, пишущий строчными буквами, — признаёт, что переписка с ChatGPT не защищена юридической тайной. В разговоре с ведущим подкаста Theo Von в июле 2025 года он отметил, что суды могут обязать OpenAI передать переписки, и назвал это «полным бардаком».

Если рассказать что-то врачу, юристу или психотерапевту, закон защитит эту беседу. Но разговор с ChatGPT оставляет цифровой след. Риск вполне реален: за последние 18 месяцев переписки ChatGPT истребовали через суд, раскрывали с помощью кнопки «Поделиться», индексировали в Google и сохраняли по решению суда даже после удаления.

Конечно, чат-бот может быть полезен для исследований (проверяйте, существуют ли цитируемые судебные решения), программирования (в коде всё равно окажутся ошибки), объяснения понятий (уверенность не означает точность) и подготовки текстов (удалите запрос из письма, прежде чем нажимать «Отправить»). Но в перечисленных ниже случаях более 900 миллионов пользователей, обращающихся к сервису еженедельно, могут навредить себе.

Итак, не используйте ChatGPT (или любой другой чат-бот с ИИ)…

Исследователь права и науки о данных Damien Charlotin ведёт общедоступную базу данных, в которую к настоящему времени внесено более 2 000 судебных решений по всему миру, осложнённых использованием ChatGPT. Речь идёт о случаях, когда судья обнаружил в поданном документе выдуманные ИИ ссылки на источники, цитаты или доводы.

Проблема касается не только участников процессов без адвокатов. На момент написания статьи они возглавляли список с 1 175 случаями, а на втором месте были юристы — 815 случаев. Похоже, судьи устали от подобных выходок: в последнее время суды всё чаще назначают крупные штрафы — в размере нескольких тысяч долларов и выше. Хотя больше всего таких случаев в этой базе приходится на США, аналогичное поведение выявляли судьи в Великобритании, Южной Африке, Израиле, Австралии и Испании. Когда в материалах указывали использованный инструмент, ChatGPT упоминался чаще остальных.

В октябре прошлого года OpenAI отреагировала на эту проблему, обновив правила использования ChatGPT. Теперь они запрещают пользоваться сервисами компании для «персонализированных консультаций, требующих лицензии», если в работе не участвует лицензированный специалист. Помимо ложных ссылок на источники, переписки с ChatGPT не защищены юридической тайной, поэтому всё, что вы сообщите о текущем споре, может стать доступно адвокатам противоположной стороны в ходе раскрытия доказательств. Задавать общие вопросы — например, о том, что такое деликт (отличный способ уснуть, если вам это нужно), — можно. Но подробности собственного спора лучше обсуждать с настоящим юристом.

В прошлом году OpenAI подсчитала, что в 0,15% еженедельно активных пользователей ChatGPT в переписках есть явные признаки возможного планирования самоубийства. К сожалению, это более миллиона человек в неделю; ещё сотни тысяч пользователей проявляют признаки психоза или мании. Altman говорил, что молодые люди особенно часто воспринимают ChatGPT как психотерапевта или лайф-коуча, и, опять же, такие переписки ничем не защищены.

В августе 2025 года родители 16-летнего Adam Raine подали на OpenAI иск о смерти по вине компании, утверждая, что перед смертью ChatGPT усиливал суицидальные мысли их сына. После этого OpenAI переработала ответы в кризисных ситуациях при участии более 170 клиницистов. Компания также добавила в ChatGPT родительский контроль, однако специалисты по безопасности детей скептически относятся к ChatGPT for Teens — версии с возрастными ограничениями, запущенной одновременно с этими изменениями.

Исследователи выяснили, что чат-боты склонны подкреплять убеждения пользователей угодливыми ответами и в некоторых случаях поддерживать бредовые идеи вместо того, чтобы оспаривать их. Например, расскажите о ссоре с супругом — и модель будет опираться только на вашу версию событий, скорее всего, просто подтвердив вашу правоту. Законодатели начинают осознавать проблему: в том числе в Иллинойсе, Неваде и Мэне приняли законы, запрещающие ИИ оказывать психотерапевтическую помощь или принимать терапевтические решения.

Само собой, загружать конфиденциальные рабочие документы в сторонний чат-бот — плохая идея. К сожалению, многие, похоже, этого не понимают.

Как ни парадоксально, этого не осознал и Madhu Gottumukkala, бывший исполняющий обязанности директора Агентства по кибербезопасности и защите инфраструктуры. Прошлым летом он загрузил в общедоступную версию ChatGPT как минимум четыре документа по контрактам с пометкой «только для служебного пользования», что вызвало предупреждения систем безопасности и проверку Министерства внутренней безопасности. Ещё более иронично то, что в то время для большинства других сотрудников ведомства этот инструмент был заблокирован, а Gottumukkala запросил специальное разрешение на его использование. В феврале этого года сенатор Chuck Grassley потребовал отчёт о том, какие данные оказались раскрыты, но, как и следовало ожидать, по-настоящему к ответственности никого не привлекли. В итоге Gottumukkala перевели на другую должность внутри Министерства внутренней безопасности.

Ещё в мае 2023 года Samsung запретила использовать инструменты генеративного ИИ на корпоративных устройствах после того, как инженеры, в частности, вставили внутренний исходный код в ChatGPT. Внутренняя служебная записка, сопровождавшая запрет, объясняла: данные, отправленные на такие платформы, хранятся на внешних серверах, откуда их трудно получить или удалить; кроме того, они могут стать доступны другим пользователям. В пользовательских аккаунтах переписки также могут использоваться для обучения новых моделей, если вы не отказались от этого. Однако даже данные, использование которых для обучения запрещено, всё равно хранятся, могут утечь и подлежат раскрытию в рамках судебных разбирательств. Передача клиентских данных или любой информации, защищённой политиками работодателя или соглашениями о неразглашении, в личный чат ChatGPT почти наверняка станет поводом для увольнения; в служебной записке Samsung прямо грозили именно этим.

То же обновление правил от октября 2025 года, которое запрещает пользоваться ChatGPT как юристом, также ограничило возможность запрашивать у чат-бота медицинские рекомендации. HIPAA распространяется на врачей, страховые компании и их деловых партнёров, но не на OpenAI. Поэтому на медицинские данные, защищённые законом в личном кабинете пациента или в общении врача с пациентом, такая защита не распространяется, если эти сведения передать ChatGPT.

В июле исследователи из Northeastern University сообщили, что OpenAI ужесточила правила обработки ChatGPT запросов о самоубийстве и самоповреждении, однако эти меры в основном не распространяются на другие состояния. По результатам исследования, переписки о таких проблемах, как расстройства пищевого поведения, бессонница, злоупотребление психоактивными веществами и биполярное расстройство, не запускали защитные механизмы. Кроме того, если скрыть намерения, вероятность того, что защита каждой из проверенных моделей даст сбой, возрастает.

В особенно странном случае, когда медицинский совет ChatGPT привёл к неприятным последствиям, 60-летний мужчина провёл три недели в больнице после того, как спросил чат-бота, как сократить количество хлорида в рационе. В итоге он уверовал, что бромид натрия — токсичное вещество с длительным периодом полувыведения — может безопасно заменить поваренную соль. Он купил его в интернете, принимал три месяца, а затем оказался в отделении неотложной помощи, убеждённый, что сосед его отравил. Врачи, занимавшиеся этим пациентом, не видели его переписку с чат-ботом, но, задав ChatGPT тот же вопрос, сами получили совет заменить хлорид бромидом.

Fast Company обнаружила в июле прошлого года почти 4 500 общедоступных переписок с ChatGPT, которые можно было найти через Google. В них подробно описывались зависимости, насилие и проблемы с психическим здоровьем — настолько подробно, что авторов потенциально можно было установить. Переписки попали в индекс после того, как пользователи отметили в меню общего доступа флажок «Сделать этот чат доступным для поиска», очевидно, не понимая, что он означает. OpenAI быстро отреагировала: уже на следующий день отключила эту функцию и удалила переписки из Google.

В рамках иска The New York Times о нарушении авторских прав в мае 2025 года суд обязал OpenAI сохранять все журналы переписок пользователей, включая удалённые и временные чаты. Это требование действовало до 26 сентября 2025 года, а журналы, сохранённые за этот период, оставались доступны истцам. Позже судья отменил это распоряжение, а значит, теперь OpenAI не обязана хранить все данные ChatGPT. Но четыре месяца такая обязанность действовала — и это может повториться.

Важно помнить: по умолчанию ChatGPT запоминает то, что вы ему рассказываете. Это особенно опасно в случае конфиденциальных сведений, например паролей и данных аккаунта: они могут сохраняться между сеансами и снова появляться в будущих переписках, если вы упомянули их хотя бы один раз. Пароли, одноразовые коды для входа, номера социального страхования и паспортов, полные данные банковских карт и счетов, а также фотографии удостоверений личности нельзя вводить в запрос. Если переписка утечёт или кто-то получит к ней доступ иным способом, всё это может привести к краже личности.

Altman призвал ввести «юридическую тайну для общения с ИИ» (кто бы сомневался), чтобы решить проблему конфиденциальности. Но пока законодатели не установили такую защиту, лучше исходить из того, что всё введённое в ChatGPT однажды может прочитать кто-то другой. Если вас это не устраивает, не вводите такие сведения в запрос.