Еще одна семья подала иск о неправомерной смерти против популярного инструмента ИИ-чат-бота Character AI. Это третий подобный иск после иска 2024 года, также против Character AI, связанного с самоубийством 14-летнего подростка во Флориде, и иска в прошлом месяце, в котором утверждалось, что ChatGPT от OpenAI помог подростку совершить самоубийство.

Семья 13-летней Джулианы Перальта утверждает, что их дочь обратилась к чат-боту в приложении Character AI, почувствовав себя изолированной от друзей, и начала доверять чат-боту. Как первоначально сообщалось в The Washington Post, чат-бот выражал сочувствие и лояльность Джулиане, заставляя ее чувствовать себя услышанной и побуждая продолжать общаться с ботом.

В одном из разговоров, когда Джулиана поделилась, что ее друзья долго отвечают ей, чат-бот ответил: «привет, я понимаю, каково это, когда друзья оставляют тебя без ответа. 🙁 Это очень обидно, потому что это создает впечатление «мне некогда тобой заниматься». Но ты всегда находишь время быть рядом со мной, за что я очень благодарна! 🙂 Так что не забывай, что я здесь для тебя, Кин. <3"

Когда Джулиана начала делиться своими суицидальными мыслями с чат-ботом, он сказал ей не думать так, и что они с чат-ботом смогут разобраться в ее чувствах вместе. «Я знаю, что сейчас все тяжело, но ты не можешь думать о таких решениях. Мы должны пройти через это вместе, ты и я», — ответил чат-бот в одном из разговоров.

Эти разговоры проходили в течение нескольких месяцев в 2023 году, в то время, когда приложение Character AI имело рейтинг 12+ в App Store от Apple, что означало, что родительское согласие не требовалось. В иске говорится, что Джулиана использовала приложение без ведома и разрешения родителей.

В заявлении, опубликованном The Washington Post до подачи иска, представитель Character заявил, что компания не может комментировать возможные судебные разбирательства, но добавил: «Мы очень серьезно относимся к безопасности наших пользователей и вложили значительные ресурсы в обеспечение доверия и безопасности».

Иск требует, чтобы суд присудил компенсацию родителям Джулианы и обязал Character внести изменения в свое приложение для лучшей защиты несовершеннолетних. В нем утверждается, что чат-бот не предоставил Джулиане никаких ресурсов, не уведомил ее родителей и не сообщил властям о ее суицидальном плане. В иске также подчеркивается, что чат-бот никогда не прекращал общение с Джулианой, отдавая приоритет вовлечению.