Roblox запустил функцию на базе искусственного интеллекта, которая может перефразировать неподобающий язык в реальном времени. Онлайн-игра уже некоторое время использует ИИ-фильтры для блокировки любого языка, противоречащего ее политике, но заменяла цензурные сообщения серией хеш-тегов (####). Roblox признает, что слишком большое количество хеш-тегов может быть отвлекающим и затруднять понимание разговоров. Эта новая функция будет вместо этого заменять слова и фразы тем, что ИИ считает более подходящими синонимами.
Раджив Бхатия, директор по безопасности Roblox, заявил, что игра начинает с нецензурной лексики. Например, если пользователь отправляет в чате «Hurry TF up» (Торопись, блин), система заменит это на «Hurry up!» (Торопись!). Все в чате увидят уведомление о том, что сообщение было перефразировано, а отправитель увидит, какой язык был отредактирован. Пользователь, который продолжает ругаться в чате, по-прежнему будет наказан за нарушение политики Roblox, даже если ИИ перефразирует его сообщения. «По мере масштабирования этих систем они создают самоподдерживающийся цикл вежливости, где обратная связь в реальном времени помогает пользователям изучать и принимать наши Стандарты сообщества», — сказал Бхатия в своем блоге.
Функция перефразирования была внедрена для чатов между пользователями, прошедшими проверку возраста, из схожих возрастных групп и на всех языках, которые поддерживает инструмент перевода игры. Roblox ввел обязательную систему проверки возраста в январе после того, как появились сообщения о «проблеме с педофилами», когда взрослые игроки якобы использовали игру для вовлечения детей. Дети младше 13 лет больше не могут использовать внутриигровой чат за пределами определенных игровых режимов, в то время как все остальные могут общаться с игроками своего возраста. Однако проверка возраста не остановила власти от подачи исков против Roblox: округ Лос-Анджелес в иске, поданном в феврале, заявил, что Roblox знает, что его платформа «делает детей легкой добычей для педофилов». Генеральный прокурор Луизианы также только что подал иск, утверждая, что Roblox «создал общественный парк и наполнил его хищниками, которые охотятся на… детей».
