Instagram будет понижать в выдаче ИИ-инфлюенсеров, которые четко не маркируют свои аккаунты

Instagram меняет правила для профилей, использующих персон, созданных с помощью искусственного интеллекта. Теперь приложение требует, чтобы такие аккаунты использовали новую метку «Профиль, созданный ИИ», которая указывает на то, что в них задействован искусственный интеллект, а не «реальный человек». Компания заявила, что охват аккаунтов, которые не используют эту метку, будет снижен.

Этот шаг предпринимается в то время, когда другие платформы принимают меры по снижению популярности контента, созданного ИИ, поскольку пользователи социальных сетей отвергают наплыв подобного цифрового мусора. Но компания Meta, которая часто поощряет пользователей создавать собственный ИИ-контент, сделала очень немного для того, чтобы препятствовать этому. И последнее нововведение — это не столько борьба со всем контентом от ИИ, сколько новые правила для конкретного типа материалов, которые могут вводить в заблуждение.

Новые метки, судя по всему, предназначены специально для аккаунтов, использующих ИИ-персон. Ранее Instagram использовал опциональную метку «ИИ-автор» в качестве универсального обозначения для любого профиля, который регулярно публиковал контент, созданный искусственным интеллектом. Однако теперь компания заменяет эту метку на тег «Профиль, созданный ИИ». Согласно описанию в приложении, новое обозначение предназначено для профилей, в которых «участвует созданный ИИ человек».

По мере того как модели ИИ становятся все более совершенными, а создавать убедительный контент с их помощью — проще, наблюдается рост числа фальшивых ИИ-инфлюенсеров. Издание The Guardian недавно обнаружило волну созданных ИИ «инфлюенсеров», рекламирующих приложения и другие бренды. А газета The New York Times нашла сотни фальшивых «велнес»-инфлюенсеров, созданных ИИ, в том числе тех, кто выдает себя за врачей. Хотя большая часть этого контента прямо не нарушает правила Meta, он вызывает опасения по поводу распространения дезинформации.

«Мы слышали от нашего сообщества, что людям не нравится натыкаться на профиль, который кажется человеческим, а позже выяснять, что показанный человек создан искусственным интеллектом», — заявил представитель Instagram. Он добавил, что аккаунты с созданными ИИ людьми, которые не используют эту метку, «вскоре могут столкнуться с ограничением охвата». Авторы контента, которые считают, что их несправедливо оштрафовали, получат возможность подать апелляцию через панель мониторинга Статус аккаунта в Instagram.