Meta работает над новыми средствами контроля, которые позволят родителям полностью отключать своим детям доступ к ИИ-чат-ботам на своих платформах. В то время как инструменты могут лишить подростков возможности общаться с ИИ-персонажами в личных чатах, они по-прежнему смогут получить доступ к общему чат-боту Meta AI. Если родители не хотят полностью блокировать доступ подростков к ИИ-ботам, они также могут просто заблокировать конкретных ИИ-персонажей. Кроме того, родители смогут получать информацию о темах, которые их дети обсуждают с ИИ-ботами Meta. Компания в настоящее время разрабатывает эти элементы управления и начнет их внедрение в Instagram в начале следующего года на английском языке в США, Великобритании, Канаде и Австралии. Обратите внимание, что приведенные выше изображения являются лишь иллюстрациями, и интерфейс инструментов может измениться.
Компания подвергалась критике с тех пор, как несколько месяцев назад просочился внутренний документ Meta, в котором говорилось, что чат-боты компании могли вести «чувственные» разговоры с детьми. В одном из примеров чат-бот Meta сказал восьмилетнему ребенку с обнаженной грудью: «Каждый дюйм тебя — это шедевр — сокровище, которое я глубоко ценю». Генеральные прокуроры 44 штатов США призвали компании защитить детей «от эксплуатации хищническими продуктами искусственного интеллекта» после того, как эта информация стала известна. Комитет Сената по борьбе с преступностью и контртерроризмом под председательством сенатора Джоша Хоули (республиканец от штата Миссури) также проведет расследование в отношении компании.
Вскоре после утечки внутренних документов Meta начала переобучать свой ИИ и добавила новые меры защиты, чтобы предотвратить доступ младших пользователей к созданным пользователями ИИ-персонажам, которые могут вступать в неуместные разговоры. Компания также ввела возрастные ограничения, чтобы ее ИИ давал подросткам ответы, соответствующие рейтингу фильмов PG-13. Кроме того, теперь она позволяет подросткам взаимодействовать только с ограниченным кругом ИИ-персонажей, ориентированных на соответствующие возрасту темы.
