Сенат единогласно принял Закон о противодействии явным поддельным изображениям и несанкционированным редакциям (DEFIANCE Act), согласно соавтору законопроекта сенатору Дику Дурбину (демократ от Иллинойса). Законопроект позволяет жертвам несанкционированных, сексуально откровенных дипфейков подавать гражданские иски против лиц, которые их создают и размещают.

Дипфейки — известная проблема в Интернете, но без должной защиты легкий доступ к инструментам генерации изображений и видео на основе ИИ позволил любому создавать компрометирующий контент, используя образ другого человека. Это стало особой проблемой на X, где интеграция Grok, ИИ-ассистента, созданного материнской компанией X, xAI, позволяет любому пользователю превращать контент другого человека в запрос на генерацию изображения. За последний месяц это позволило пользователям создавать сексуально откровенные изображения детей, просто отвечая на пост с помощью @grok и запроса.

В ответ Ofcom, британский медиарегулятор, уже начал расследование в отношении X по поводу возможного нарушения Закона о безопасности в Интернете. Чат-бот также был полностью заблокирован в Малайзии и Индонезии. Закон DEFIANCE не помешает Grok или другим инструментам ИИ создавать несанкционированные дипфейки, но он может сделать создание или размещение такого контента очень дорогостоящим для любого, кто станет стороной судебного разбирательства.

Сенат принял предыдущую версию Закона DEFIANCE в 2024 году, но он застрял в Палате представителей. Учитывая срочность проблемы дипфейков Grok, есть надежда, что новая версия законопроекта не встретит такого же сопротивления. Конгресс принял ранее законодательный акт о дипфейках в прошлом году, Закон «Примирись» (Take It Down Act), при двухпартийной поддержке. Этот закон был направлен на компании, которые размещают несанкционированный, сексуально откровенный контент, а не на лиц, пострадавших от него.