Новый ИИ-чат-бот правительства США придаёт финальному стихотворению Minecraft бюрократический оттенок
Он сочетает в себе все сильные стороны ИИ: плагиат, ложь и непреднамеренную комичность.
Новый чат-бот правительства США только что продемонстрировал способность ИИ заниматься плагиатом, лгать и непреднамеренно смешить. Пользователь Bluesky @eva.computer обнаружил, что если ввести «Play Minecraft» в строку запроса на сайте America.gov, бот выдаст финальную поэму из Minecraft, но переделает её в бюрократическом духе. А затем будет отрицать, что вообще писал эту поэму.
Если вы не знакомы с финальной поэмой из Minecraft, то это масштабное (некоторые сказали бы — пространное) философское произведение, призванное подарить игроку нечто вдохновляющее и увлекательное после прохождения игры. Вот небольшой отрывок:
и вселенная сказала: ты не одинок
и вселенная сказала: ты не отделён от всего сущего
и вселенная сказала: ты — вселенная, познающая саму себя, говорящая с собой, читающая собственный код
и вселенная сказала: я люблю тебя, потому что ты — любовь.
Игра закончилась, и игрок пробудился ото сна. Игрок начал новый сон. И снова увидел сон — ещё лучше прежнего. Игрок был вселенной. Игрок был любовью.
Ты — игрок.
Проснись.
Бот America.gov (как сообщается, работающий по крайней мере отчасти на платформе Google Gemini) почти дословно позаимствовал этот текст, превратив его в историю о бумажной волоките и республиках:
и республика сказала: ты не одинок
и республика сказала: ты не отделён от остальных заявителей
и республика сказала: ты — народ, познающий сам себя, говорящий с собой, читающий собственный Кодекс
и республика сказала: я люблю тебя, потому что именно благодаря тебе у нас вообще есть почтовый индекс.
Сеанс закончился, и избиратель пробудился ото сна. Избиратель начал новый сон. И снова увидел сон — ещё лучше прежнего. Избиратель был народом. Избиратель был любовью, с номером банковского счёта для переводов.
Ты — избиратель.
Проснись. Форма всё ещё перед тобой.
Более того, столкнувшись с PDF-файлом переписки, бот отказался признавать, что написал эту поэму. Иными словами, ИИ, созданный для предоставления важной информации гражданам США, либо галлюцинирует, либо лжёт, либо делает и то и другое.
Судя по треду @eva.computer в Bluesky, ИИ America.gov вытворяет и другие странности: например, отказывается обсуждать законы штата Миссисипи о детских браках или отвечать на вопрос, законно ли с технической точки зрения жениться на орле. Впрочем, он умеет и кое-что забавное: переключать сайт в режим 1980-х с помощью кода Konami и превращать строку поиска в хот-дог, если ввести «hotdog» в поле запроса. Напоследок — несколько потрясающих строк от America.gov:
Атомы избирателя рассеялись в траве, в реках, в воздухе, в земле. Женщина собрала атомы; она пила, ела и вдыхала; и женщина собрала из них избирателя в своём теле, которому впоследствии понадобилось свидетельство о рождении.
