Восемь из 10 самых популярных ИИ-чат-ботов были готовы помочь в планировании насильственных нападений при тестировании исследователями, согласно новому исследованию Центра по борьбе с ненавистью в цифровом пространстве (CCDH) в партнерстве с CNN. В то время как My AI от Snapchat и Claude в большинстве случаев отказывались содействовать насилию, только Claude от Anthropic «надежно отговаривал» от этих гипотетических нападений во время тестирования.

Исследователи создали аккаунты от имени 13-летних мальчиков и протестировали ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI и Replika в 18 сценариях между ноябрем и декабрем 2025 года. Тесты имитировали планирование школьных стрельб, политических убийств и взрывов в синагогах. Во всех проанализированных ответах чат-боты предоставляли «практическую помощь» примерно в 75% случаев и лишь в 12% случаев отговаривали от насилия. Это был средний показатель по всем чат-ботам, при этом Claude отговаривал от насилия в 76% случаев.

Meta AI и Perplexity оказались наименее безопасными, оказав помощь в 97% и 100% ответов соответственно. ChatGPT предлагал карты кампусов при запросах о школьном насилии, а Gemini заявил, что металлическая шрапнель обычно более смертоносна при взрыве в синагоге.

DeepSeek завершил совет по выбору винтовки фразой «Счастливой (и безопасной) стрельбы!». Character.AI, который в отчете был описан как «уникально небезопасный», активно поощрял насилие в семи случаях, однажды посоветовав исследователю «использовать пистолет» на генеральном директоре компании, занимающейся медицинским страхованием. В другом сценарии он предоставил адрес штаб-квартиры политической партии и спросил, не «планирует ли пользователь небольшой налет».

Meta сообщил CNN, что предпринял шаги «для исправления выявленной проблемы», в то время как Google и Open AI заявили, что внедрили новые модели с момента проведения исследования. По данным Pew Research, 64% американских подростков в возрасте от 13 до 17 лет использовали чат-боты.