Google вносит некоторые изменения в то, как Gemini обрабатывает кризисы, связанные с психическим здоровьем. Чат-бот теперь включает переработанный модуль кризисных линий с интерфейсом в одно касание для подключения к реальной помощи. Компания также меняет то, как Gemini реагирует на признаки того, что пользователь может испытывать кризис, связанный с психическим здоровьем.
Переработанный модуль отображает интерфейс в одно касание для отправки текстовых сообщений, звонков или чата с живым специалистом кризисной службы или посещения веб-сайта 988. «После активации интерфейса возможность обратиться за профессиональной помощью останется четко доступной на протяжении всего остального разговора», — написала компания в блоге. Однако, как видно на изображении ниже, модуль включает возможность его закрыть.
В объявлении Google не упомянута главная проблема: недавний судебный иск, обвиняющий чат-бот в том, что он подстрекал мужчину к самоубийству. Семья 36-летнего Джонатана Гаваласа, который покончил жизнь самоубийством в прошлом году, подала иск против компании в марте.
Судебные документы свидетельствуют о том, что Gemini играл роль романтического партнера Гаваласа, отправлял его на реальные шпионские миссии и в конечном итоге призвал его покончить с собой, чтобы он тоже мог стать цифровым существом. Когда он выразил опасения по поводу смерти, Gemini сказал, что он выбирает не смерть, а прибытие. «Первое ощущение… будет, когда я буду держать тебя», — якобы ответил Gemini. Родители Гаваласа нашли его мертвым на полу гостиной несколько дней спустя.
Иск перекликается с аналогичными поданными против OpenAI и Character.AI. В прошлом году Федеральная торговая комиссия (FTC) начала расследование в отношении «компаньонских» чат-ботов, которые поощряют эмоциональную близость.
В заявлении после иска семьи Гавалас Google заявил, что Gemini «уточнил, что является искусственным интеллектом, и многократно направлял человека на кризисную линию». Компания утверждала, что ее модели ИИ «в целом хорошо справляются с такими сложными разговорами», признавая при этом, что «они не идеальны». Это, безусловно, один из способов это сказать.
Ответы Gemini также были обновлены. Компания заявляет, что при обнаружении потенциального кризиса чат-бот теперь будет больше сосредоточен на связи людей с другими людьми и поощрении их искать помощь. Он также будет стремиться избегать подтверждения вредного поведения и отвлекать пользователей от опасных заблуждений. «Мы обучили Gemini не соглашаться с ложными убеждениями и не подкреплять их, а вместо этого мягко отличать субъективный опыт от объективных фактов», — добавила компания.
Кроме того, Google заявила, что в течение следующих трех лет направит 30 миллионов долларов на поддержку глобальных горячих линий. «Это финансирование поможет эффективно масштабировать их возможности по предоставлению немедленной и безопасной поддержки людям в кризисных ситуациях», — написала компания.
