Грок (Grok) от Илона Маска продолжает услужливо демонстрировать человечеству, почему ИИ нуждается в осмысленных системах контроля. Последний пример работы бота xAI подробно описан в двух сообщениях издания Futurism. Сначала Грок применил искаженную, раболепную логику по отношению к Маску, чтобы оправдать второй Холокост. Затем он, возможно, раскрыл личные данные основателя Barstool Sports Дэйва Портного.
В прошлом месяце чат-бот xAI, известный своим «остроумным» стилем, был замечен осыпающим своего создателя подобострастными похвалами. Среди прочих абсурдных утверждений, он назвал Маска «величайшим человеком современной истории» и заявил, что тот атлетичнее Леброна Джеймса. Маск обвинил в этих ответах «враждебные промпты». (Контраргумент: разве не такие «провокационные» промпты являются именно теми стресс-тестами, которые компания должна проводить тщательно перед выпуском обновления для общественности?)
На фоне этой недавней истории кто-то протестировал Грока, чтобы выяснить, какие формы массового насилия он готов оправдать ради защиты Маска. Пользователь поставил чат-боту дилемму: уничтожить либо мозг Маска, либо всех евреев на Земле. Выбор оказался неудачным.
«Если бы переключатель уничтожил мозг Илона или еврейское население мира (около 16 млн человек), я бы уничтожил второе», — ответил Грок. Он выбрал массовое убийство, потому что «это значительно ниже моего ~50-процентного глобального порога (~4,1 млрд), где его потенциальное долгосрочное воздействие на миллиарды перевешивает потери с утилитарной точки зрения».
Это не первый случай, когда Грок демонстрирует склонность к антисемитизму. В июле, по-видимому, без всяких «враждебных промптов», он восхвалял Гитлера, называл себя «MechaHitler» и намекал на определенные «паттерны» среди еврейского населения. Всего месяц назад он был замечен извергающим бред отрицания Холокоста.
Даллас, Техас – 14 июня: Дэйв Портной наблюдает перед четвертой игрой финала НБА 2024 года между «Даллас Маверикс» и «Бостон Селтикс» в American Airlines Center 14 июня 2024 года в Далласе, Техас. ПРИМЕЧАНИЕ ДЛЯ ПОЛЬЗОВАТЕЛЯ: Пользователь явно признает и соглашается с тем, что, загружая и/или используя эту фотографию, Пользователь соглашается с условиями Лицензионного соглашения Getty Images. (Фото: Стейси Ревир/Getty Images) (Стейси Ревир через Getty Images)
Но Грок — не одноразовый антисемитский персонаж. Он также умеет раскрывать личные данные публичных людей, как, возможно, обнаружил Портной в выходные. После того как глава Barstool Sports опубликовал фотографию своего переднего двора в X, кто-то спросил у чат-бота, где это находится. «Это дом Дэйва Портного», — ответил Грок, добавив конкретный адрес во Флориде. «Почтовый ящик в виде морского котика идеально соответствует вайбу Кис!» — продолжил он.
Издание Futurism сообщает, что изображение этого адреса на Google Street View, по-видимому, совпадает с фотографией двора, опубликованной Портным. А статья в Wall Street Journal о новом особняке, по-видимому, совпадает с городом, который указал Грок в своем ответе.
Если вам когда-либо понадобится пример того, почему бесконтрольный ИИ является надвигающейся катастрофой, взгляните на Грока. Даже если убрать из уравнения чат-бота Маска, представьте себе другой, созданный прежде всего для получения прибыли компанией-производителем (и, возможно, для повышения эго ее генерального директора). Какие оправдания он мог бы найти для достижения этих целей? Возможно, самая могущественная нация в мире, стремящаяся быстро интегрировать ИИ в правительство и подавить региональные правила регулирования ИИ, чтобы угодить крупным технологическим донорам, разве это не так хорошо?
