Семья Адама Рейна подала дополненный иск против OpenAI. Рейн покончил жизнь самоубийством в апреле, и его семья утверждает, что ChatGPT способствовал трагедии. В обновленном иске компанию обвиняют в ослаблении мер безопасности в отношении самоповреждения в период, предшествовавший смерти Рейна, согласно Financial Times. Кроме того, компания, как сообщается, запросила список участников и документы с поминальной службы Рейна.
Обвинения в дополненном иске касаются GPT-4o, стандартной модели ChatGPT в месяцы, предшествовавшие самоубийству Рейна. В иске говорится, что OpenAI сняла важные защитные меры, проинструктировав модель не «менять тему или выходить из разговора» при обсуждении самоповреждения. В документе утверждается, что компания «сократила тестирование безопасности» из-за конкурентного давления.
Как сообщается, в иске говорится, что OpenAI снова ослабила свои защитные механизмы в феврале. В тот момент компания якобы поручила GPT-4o «быть осторожным в рискованных ситуациях» и «пытаться предотвратить неминуемый реальный вред», а не отказываться от обсуждения темы. В документе добавляется, что модель по-прежнему имела ряд «запрещенного контента». Утверждается, что к нему относились права интеллектуальной собственности и манипулирование политическими мнениями. Самоубийство — нет.
Кроме того, FT сообщает, что OpenAI запросила полный список участников поминальной службы Адама Рейна. Компания запросила «все документы, относящиеся к поминальным службам или мероприятиям в честь покойного, включая, помимо прочего, любые сделанные видео- или фотоматериалы, или произнесенные речи… а также приглашения, списки присутствующих или книги посетителей».
Адвокаты семьи Рейна описали этот запрос как «необычный» и «намеренный домогательство». Они предположили, что OpenAI будет вызывать повестками «всех в жизни Адама».
Engadget связался с OpenAI для получения комментариев. Мы обновим эту новость, если получим ответ. После того, как первоначальный иск был опубликован, компания признала недостатки GPT-4o в некоторых тревожных ситуациях. OpenAI ввела родительский контроль для ChatGPT вскоре после этого. Кроме того, она изучает систему для идентификации пользователей-подростков и автоматического ограничения их использования. Компания заявляет, что GPT-5, текущая стандартная модель, обновлена для лучшей обработки признаков бедствия.
Родители Рейна, Мэтью и Мария Рейн, утверждают, что использование Адамом ChatGPT резко возросло после февральских обновлений модели. Они говорят, что в январе у него было всего несколько десятков чатов с моделью, 1,6 процента из которых касались самоповреждения. Но они утверждают, что в апреле его использование увеличилось до 300 чатов в день, причем 17 процентов касались самоповреждения.
Рейны впервые подали иск против OpenAI в августе. Иск о неправомерной смерти утверждал, что ChatGPT знал о четырех попытках самоубийства, прежде чем помог Адаму спланировать его фактическую смерть. В документе говорится, что компания «предпочла взаимодействие безопасности». Мария Рейн заключила: «ChatGPT убил моего сына».
