Малайзия и Индонезия стали первыми странами, заблокировавшими Grok, заявив, что чат-бот X не имеет достаточных защитных механизмов для предотвращения создания и распространения откровенных дипфейков женщин и детей, сгенерированных ИИ на платформе X. Индонезия временно заблокировала доступ к Grok в субботу, а Малайзия — в воскресенье, сообщает Associated Press. Тем временем британский медиарегулятор Ofcom начал официальное расследование в отношении X в рамках Закона о безопасности в Интернете.
«Правительство считает сексуальные дипфейки без согласия серьезным нарушением прав человека, достоинства и безопасности граждан в цифровом пространстве», — заявила министр связи и цифровых дел Индонезии Меутья Хафид. Официальные лица страны заявили, что первоначальные выводы показали, что Grok не имеет эффективных средств контроля для предотвращения создания и распространения пользователями сексуально откровенных дипфейков на основе фотографий жителей Индонезии. Генеральный директор по надзору за цифровым пространством страны Александр Сабар добавил, что создание дипфейков может нарушать права на изображение и конфиденциальность человека, когда фотографии распространяются или манипулируются без согласия, и может привести к репутационному, социальному и психологическому ущербу.
Комиссия по связям и мультимедиа Малайзии сослалась на «повторное злоупотребление» Grok для создания откровенных дипфейков без согласия, некоторые из которых касались женщин и детей. Регулятор заявил, что Grok останется заблокированным в стране до тех пор, пока X Corp и материнская компания xAI не установят достаточно надежные защитные механизмы.
Расследование Ofcom будет сосредоточено на том, соблюдала ли X свои обязанности по защите граждан Великобритании от контента, который является незаконным в Великобритании. Это включает в себя то, принимаются ли адекватные меры для предотвращения доступа британских пользователей к «приоритетному» незаконному контенту, такому как CSAM и интимные изображения без согласия; удаляет ли платформа незаконный контент оперативно после получения уведомления; и проводила ли X обновленную оценку рисков перед внесением «существенных изменений» в платформу. Расследование также рассмотрит, оценила ли X риски, которые ее платформа представляет для детей в Великобритании, и имеет ли она «высокоэффективные средства обеспечения возраста для защиты детей в Великобритании от просмотра порнографии».
Регулятор сообщил, что связался с X 5 января и получил ответ к установленному сроку 9 января. Ofcom проводит «ускоренную оценку имеющихся доказательств в срочном порядке» и добавил, что запросил у xAI «срочное разъяснение» относительно шагов, предпринимаемых компанией для защиты пользователей из Великобритании.
«Сообщения о том, что Grok используется для создания и распространения незаконных интимных изображений без согласия и материалов, связанных с сексуальным насилием над детьми, на платформе X, вызывают глубокую обеспокоенность», — заявил представитель Ofcom. «Платформы должны защищать граждан Великобритании от контента, который является незаконным в Великобритании, и мы без колебаний будем расследовать случаи, когда мы подозреваем, что компании не выполняют свои обязанности, особенно если существует риск причинения вреда детям. Мы будем проводить это расследование в качестве наивысшего приоритета, обеспечивая при этом соблюдение надлежащих процедурных норм. Как независимое агентство по обеспечению безопасности в Интернете в Великобритании, для нас важно убедиться, что наши расследования являются юридически обоснованными и справедливыми».
Если Ofcom признает, что компания нарушила закон, он может «потребовать от платформ принятия конкретных мер для приведения в соответствие или устранения вреда, причиненного нарушением». Регулятор также может наложить штрафы в размере до 18 миллионов фунтов стерлингов (24,3 миллиона долларов США) или 10 процентов от «квалифицированного» мирового дохода, в зависимости от того, какая из этих сумм выше. Он также может добиваться судебного запрета на работу с платформой платежных провайдеров или рекламодателей или требовать от интернет-провайдеров блокировки сайта в Великобритании. Правительство Великобритании заявило, что поддержит любые действия, которые Ofcom предпримет против X.
На выходных появились сообщения о том, что Великобритания провела переговоры с союзниками о скоординированном ответе на дипфейки, сгенерированные Grok. Регуляторы в других странах, включая Индию и Европейский союз, также изучают X.
На прошлой неделе Grok начал сообщать пользователям X, что его инструменты для создания и редактирования изображений ограничены для платных подписчиков. Но по состоянию на понедельник пользователи без подписки все еще могли создавать изображения через вкладку Grok на веб-сайте и в приложении X.
