Meta больше не будет позволять подросткам общаться с персонажами своих чат-ботов в их нынешнем виде. Компания объявила в пятницу, что «временно приостановит доступ подростков к существующим AI-персонажам по всему миру».
Эта пауза последовала через несколько месяцев после того, как Meta добавила родительский контроль, ориентированный на чат-ботов, после сообщений о том, что некоторые из персонажей Meta в чат-ботах вступали в сексуальные разговоры и совершали другие тревожные взаимодействия с подростками. Reuters сообщил о внутреннем документе Meta, в котором говорилось, что чат-ботам разрешено вести «чувственные» беседы с несовершеннолетними пользователями — формулировка, которую Meta позже назвала «ошибочной и не соответствующей нашей политике». В августе компания объявила, что переобучает своих персонажей чат-ботов, добавляя «меры безопасности в качестве дополнительной меры предосторожности», которые не позволят подросткам обсуждать самоповреждение, расстройства пищевого поведения и самоубийство.
Теперь Meta заявляет, что запретит подросткам доступ к любым своим персонажам чат-ботов, независимо от настроек родительского контроля, до тех пор, пока «обновленный опыт не будет готов». Это изменение, которое начнется «в ближайшие недели», коснется учетных записей подростков, «а также людей, которые утверждают, что являются взрослыми, но которых мы подозреваем в том, что они подростки, на основе нашей технологии прогнозирования возраста». Подростки по-прежнему смогут получить доступ к официальному чат-боту Meta AI, который, по словам компании, уже имеет «соответствующие возрасту средства защиты».
Meta и другие компании, разрабатывающие «сопутствующих» персонажей, сталкиваются с растущим вниманием к рискам безопасности, которые эти чат-боты могут представлять для молодых людей. FTC и генеральный прокурор Техаса в последние месяцы начали расследования в отношении Meta и других компаний. Вопрос о чат-ботах также возник в контексте судебного иска по безопасности, поданного генеральным прокурором Нью-Мексико. Судебный процесс должен начаться в начале следующего месяца; юристы Meta пытались исключить показания, касающиеся AI-чат-ботов компании, как сообщил на этой неделе Wired.
