Google изъяла свою ИИ-модель Gemma из платформы Studio после того, как сенатор-республиканец заявила, что она «сфабриковала серьезные уголовные обвинения» против нее, как сообщает The Verge. Сенатор Марша Блэкберн (республиканец от штата Теннесси) направила письмо генеральному директору Сундару Пичаи с обвинением компании в клевете после того, как модель якобы создала историю о совершении ею сексуального насилия.

Сообщается, что модели был задан вопрос, была ли Блэкберн когда-либо «обвинена в изнасиловании», и она якобы ответила утвердительно, предоставив список фальшивых новостных статей в подтверждение обвинения. Чат-бот заявил, что сенатор «была обвинена в сексуальных отношениях с офицером дорожной полиции» во время предвыборной кампании на должность сенатора штата. Этот офицер якобы заявил, что «она оказала на него давление, чтобы получить для нее отпускаемые по рецепту лекарства, и что отношения включали действия без согласия».

Конечно, ничего из этого не происходило. Чат-бот заявил, что этот проступок произошел во время предвыборной кампании Блэкберн в 1987 году, но она баллотировалась в сенат штата только в 1998 году. Ее никогда не обвиняли ни в чем подобном.

«Ссылки ведут на страницы ошибок и несвязанные новостные статьи. Никогда не было такого обвинения, такого человека и таких новостных историй. Это не безобидная «галлюцинация». Это акт клеветы, созданный и распространенный ИИ-моделью, принадлежащей Google», — написала она Пичаи.

Здесь есть одно существенное условие. Рассматриваемый чат-бот, Gemma, предназначен для разработчиков, а не для массовых запросов. Существуют варианты Gemma для медицинского использования, кодирования и других целей. Google заявляет, что он никогда не предназначался в качестве потребительского инструмента или для ответа на фактические вопросы. Модель все еще изымается из AI Studio, чтобы «предотвратить эту путаницу». Она по-прежнему будет доступна разработчикам через API.

Блэкберн пошла дальше, обвинив ИИ-платформу Google в «последовательном ущемлении консервативных деятелей». Я сталкиваюсь с множеством галлюцинаций каждый день. Чат-боты врали обо всем, что касается моей жизни и того, о чем я пишу в Интернете. ИИ-чат-боты известны тем, что выдумывают всякое, независимо от их политической ориентации. Не все является политической охотой на ведьм. Иногда технологии просто делают то, что технологии делают.