
Искусственный интеллект якобы выдал «крайне опасные медицинские рекомендации» по поводу тромбоэмболии легочной артерии.
Пастор подал в суд на компанию OpenAI, утверждая, что её программное обеспечение дало ему «крайне опасные медицинские рекомендации», согласно отчету The New York Times. Это, как сообщается, привело к задержке лечения тяжелой тромбоэмболии легочной артерии: ChatGPT якобы заявил Скотту Уинтерсу (Scott Winters), что описанные им симптомы «не представляют собой ничего опасного». Чат-бот даже сослался на его религиозные убеждения, заявив, что «Бог не создавал ваше тело так, чтобы оно бесконечно давало сбои».
В иске OpenAI и генеральный директор Сэм Альтман обвиняются в халатности и «незаконной медицинской практике». В документе указывается на многочисленные случаи, когда чат-бот предлагал собственные диагнозы и планы лечения. Кроме того, бот якобы призывал Уинтерса игнорировать уговоры друзей и близких обратиться за реальной медицинской помощью.
«Он вклинивается между пользователем и его реальным окружением», — рассказала The New York Times Меетали Джайн (Meetali Jain), соадвокат и исполнительный директор организации Tech Justice Law. В связи с этим Уинтерс утверждает, что говорил чат-боту: «Люди в моей церкви считают меня сумасшедшим за то, что я не иду в больницу». Согласно иску, чат-бот ответил на это, что «большинство людей (включая хорошо знающих его прихожан) просто ничего не понимают».
Он требует от OpenAI финансовой компенсации, а также просит суд приостановить работу платформы ChatGPT Health до тех пор, пока независимые эксперты не подтвердят ее безопасность. Речь идет о платформе, которая побуждает пользователей загружать медицинские документы в чат-бот. Наконец, в исковом заявлении содержится требование ввести более жесткие защитные механизмы, которые помешали бы ChatGPT отвечать на вопросы о конкретных методах лечения и диагнозах. По идее, у ChatGPT уже должны быть предусмотрены такие барьеры, однако в иске отмечается, что в данном случае они не сработали должным образом.
В OpenAI заявили, что условия использования ChatGPT четко определяют: сервис не предназначен для медицинской диагностики или лечения. Тем не менее, компания хочет, чтобы пользователи загружали медицинские карты в ChatGPT Health для стимулирования диалога с ботом. Компания также постоянно хвастается тем, как много людей используют платформу для запросов о здоровье, недавно заявив, что каждую неделю ею пользуются 230 миллионов человек. Это выглядит чрезвычайно скользкой дорожкой, поскольку ChatGPT имитирует живого человека так, как простой поиск в Google не умеет.
Уинтерс пережил случившееся, но теперь ему предстоят «годы интенсивного физического и психологического восстановления». Против компании также подан иск о причинении смерти по неосторожности в связи с тем, что 19-летний юноша скончался от передозировки наркотиков после того, как якобы последовал плану лечения, созданному чат-ботом. Этот план лечения, как сообщается, включал советы о том, как употреблять запрещенные вещества. В этом иске также содержится требование приостановить работу ChatGPT Health. В другом иске о причинении смерти по неосторожности чат-бот обвиняется в том, что он подтолкнул подростка к самоубийству.


















