Meta работает над инструментом для идентификации изображений и видео, созданных с помощью её новой модели генерации изображений Muse Image. Компания представила предварительную версию веб-инструмента, который позволяет проверить наличие невидимых водяных знаков, используемых в новой модели.
Эта система маркировки под названием Content Seal остается на месте, «даже если изображение было обрезано, сжато, изменено в размере или заскриншочено», — поясняет Meta в своем блоге. «Мы представляем предварительную версию инструмента обнаружения, который позволяет проверить, содержит ли изображение водяной знак Content Seal, что дает вам возможность лучше понять, было ли оно создано с помощью Meta AI».
Content Seal выглядит как довольно новый подход для Meta. Как сообщили в компании изданию Engadget, версия, которая является частью Muse Image, является проприетарной, хотя ранее компания выпускала версии этой технологии с открытым исходным кодом. В новых моделях Meta отсутствуют видимые водяные знаки, в отличие от некоторых предыдущих версий Meta AI, которые добавляли небольшой логотип в правый нижний угол.
На данный момент возможности обнаружения Meta AI ограничены изображениями, созданными или отредактированными с помощью Muse Image, хотя в компании заявили о планах распространить водяные знаки Content Seal также на видео, созданные или измененные с помощью ИИ. Meta также работает над отдельной моделью генерации видео под названием Muse Video, которая «скоро появится».
Я протестировал новую функцию обнаружения на изображениях, созданных сегодня с помощью Meta AI, и веб-инструмент смог обнаружить водяной знак как на отредактированных изображениях, так и на полностью созданных ИИ (например, на том, что представлено выше). Он также нашел водяной знак на скриншотах моих изображений. «Положительный результат означает, что изображение было создано или отредактировано с помощью приложения Meta AI или meta.ai», — поясняет компания в разделе часто задаваемых вопросов. «Отрицательный результат означает, что маловероятно, что изображение было обработано с помощью приложения Meta AI или meta.ai».
Интересно, что новые возможности обнаружения Meta AI, по-видимому, пока не интегрированы в само приложение Meta AI. Когда я спросил встроенного в приложение помощника Meta об изображении, которое веб-инструмент определил как созданное ИИ, он ответил, что не имеет возможности это проверить. «Я не могу с уверенностью сказать, было ли это конкретное изображение создано с помощью Meta AI, просто взглянув на него», — сказал помощник. «Meta AI не добавляет водяные знаки на изображения автоматически, и у меня нет инструмента, который мог бы определить, какая модель ИИ создала существующее изображение».
Ранее Meta уже сталкивалась с критикой по поводу того, как она помечает и идентифицирует контент, созданный ИИ, в своих приложениях. В начале этого года Наблюдательный совет сообщил компании, что «обеспокоен» тем, что Meta «непоследовательно применяет» цифровые водяные знаки к контенту, созданному с помощью её собственных инструментов.
Тем не менее, у новой функции, похоже, есть и другие ограничения. Content Seal несовместим с SynthID или C2PA Content Credentials — двумя признанными методами нанесения водяных знаков, используемыми другими компаниями. В ходе моего тестирования веб-инструмент не смог идентифицировать изображения, созданные или отредактированные с помощью более ранних версий моделей ИИ Meta. Когда я загрузил изображения, созданные в старых чатах с Meta AI, сервис не смог определить, были ли они созданы её ИИ. Кроме того, по какой-то причине на функцию распространяются лимиты на количество запросов от Meta. После загрузки нескольких примеров я получил уведомление о том, что исчерпал «дневной лимит проверок идентификации».
