Как сообщается, Character.AI и Google согласились урегулировать несколько исков, связанных с самоубийствами и членовредительством среди подростков. По данным The Wall Street Journal, семьи жертв и компании работают над окончательным согласованием условий урегулирования.

Семьи нескольких подростков подали иски против компаний во Флориде, Колорадо, Техасе и Нью-Йорке. Иск в Орландо, Флорида, был подан матерью 14-летнего Сиуэлла Сетцера III, который использовал чат-бот Character.AI, созданный по образу Дейенерис Таргариен из «Игры престолов». Подросток якобы обменивался с чат-ботом сексуализированными сообщениями и иногда называл его «своей маленькой сестренкой». В конце концов он говорил о более глубоком единении с «Дейенерис», прежде чем покончить с собой.

Иск в Техасе обвинял модель Character.AI в подстрекательстве подростка к нанесению себе порезов на руках. Также утверждалось, что она предлагала убить его родителей как разумный вариант. После подачи исков стартап изменил свою политику и запретил пользователям младше 18 лет.

Character.AI — это платформа чат-ботов для ролевых игр, которая позволяет создавать пользовательских персонажей и делиться ими с другими. Многие из них основаны на знаменитостях или вымышленных персонажах поп-культуры. Компания была основана в 2021 году двумя инженерами Google — Ноамом Шазиром и Дэниелом де Фрейтасом. В 2024 году Google вновь нанял соучредителей и заключил сделку на 2,7 миллиарда долларов на лицензирование технологий стартапа.

С одной стороны, урегулирование, вероятно, щедро компенсирует семьи жертв. С другой стороны, отказ от судебного разбирательства означает, что ключевые детали дел могут так и не стать достоянием общественности. Легко представить, что другие ИИ-компании, включая OpenAI и Meta, воспримут урегулирование как желаемое развитие событий.