С 2 августа ЕС обяжет маркировать контент, созданный ИИ и выглядящий как настоящий
ЕС требует от компаний маркировать созданный ИИ контент, если он выдает себя за подлинный, согласно отчету The Guardian и других изданий. Эти правила, которые были разработаны в рамках действовавшего ранее в регионе Закона об искусственном интеллекте, вступают в силу 2 августа.
Это относится к сгенерированным изображениям, аудио и тексту, если они были созданы так, чтобы выглядеть реальными. Такой контент будет снабжаться цифровым водяным знаком. Правила не распространяются на личный контент, поэтому шутки в пользовательских групповых чатах по-прежнему в безопасности. Кроме того, предусмотрено исключение для «явно художественных» сатирических и вымышленных произведений.
Срок 2 августа распространяется на новые системы ИИ на рынке ЕС. У уже существующих систем ИИ есть еще четыре месяца на то, чтобы привести себя в соответствие с требованиями.
«Это вопрос не только защиты потребителей, это также вопрос защиты демократии», — заявил депутат Европарламента Сергей Лагодинский, который помогал вести переговоры по историческому Закону об ИИ. — Эта информация необходима нам для сохранения нашей демократии и подлинности фактов в интернете».
Несоблюдение требований может повлечь за собой серьезные штрафы — вплоть до трех процентов от общей валовой выручки компании. ЕС создал собственные черно-белые ярлыки, которые может использовать каждый, но организации также могут разрабатывать свои собственные.
Специалист по политике в сфере ИИ из Computer and Communications Industry Association сообщил изданию The Guardian, что потребители могут удивиться тому, где именно появятся эти метки. Бонифас де Шампри предположил, что большая часть контента, созданного ИИ в социальных сетях, уже промаркирована, но пользователи могут быть шокированы, увидев их «в сферах, где ИИ уже используется в массовом порядке, но люди об этом не знают — в рекламе, кино, издательском деле».
Это правда, что у крупных компаний, владеющих социальными сетями, обычно есть правила маркировки реалистичных изображений, созданных ИИ, но результаты не всегда безупречны. TikTok заявляет, что требует от создателей контента маркировать материалы, созданные ИИ, однако разного рода контент все равно ускользает от внимания. Последним трендом стали короткие видеоролики с сгенерированными ИИ врачами, которые раздают сомнительные советы по здоровью.
У Google есть инструмент SynthID, который, по данным компании, использовался для маркировки более 100 миллиардов изображений и, только подумать, аудиоконтента общим объемом в 60 000 лет звучания. Meta ввела правила, помогающие людям распознавать фотореалистичные изображения, созданные ИИ. Это также включает в себя различные метки.
