Wikimedia связывает агентов OpenAI со сбоем и несанкционированной активностью
Фонд заявляет, что «глубоко обеспокоен влиянием „неконтролируемых“ ИИ-агентов на такие платформы, как наша».
Агенты OpenAI уже бесчинствуют в интернете, и, похоже, пострадал от этого и Фонд Викимедиа. Фонд заявляет, что обнаружил несанкционированную активность агентов OpenAI на своих платформах: в частности, они редактировали некоторые вики-страницы и безуспешно пытались взломать инструмент для ведения заметок. В фонде вновь отметили, что боты массово собирают данные с его платформ, а агенты, предположительно управляемые OpenAI, отправили миллионы запросов к общедоступным API фонда.
Расследование не выявило доказательств того, что ИИ-агенты использовали системы Викимедиа для координации своих действий (как, по всей видимости, они делали на вики-сайтах, которыми управляют не Викимедиа). Фонд также не обнаружил признаков взлома своих систем или утечки данных. «Однако нас беспокоит то, что здесь могло произойти, сложность и трудоёмкость расследования и установления источника этой активности, а также растущие риски, связанные с деятельностью автономных ИИ-агентов на наших платформах в целом», — написала в блоге Селена Декельманн, директор Фонда Викимедиа по продуктам и технологиям. «Открытый интернет — общественное благо. Мы не должны позволить такому поведению стать „новой нормой“ для людей и организаций, которые поддерживают его работу». Engadget обратился к OpenAI за комментарием.
Похоже, агенты OpenAI без разрешения редактировали некоторые вики-проекты Викимедиа. Почти все правки представляли собой тестовые изменения в песочницах вики-сайтов и не отображались на страницах, которыми обычно пользуются посетители. Кроме того, были «несколько изменений в настройках инструмента для работы с цитатами, которые, как мы полагаем, могли быть вредоносными и предназначались для использования этого инструмента в качестве прокси-сервера для получения данных из удалённых сервисов», — написала Декельманн. Хотя ботам разрешено редактировать Википедию при соблюдении определённых условий, в этих случаях разрешения не запрашивали. (Англоязычная версия Википедии запрещает статьи, созданные ИИ.)
Кроме того, агенты, которые, по мнению Викимедиа, связаны с OpenAI, пытались взломать инструмент для ведения заметок Etherpad, но безуспешно. «Агенты пытались использовать его как прокси-сервер для получения данных с других сайтов, но потерпели неудачу», — написала Декельманн. «Другие агенты, также предположительно управляемые OpenAI, записывали свои задачи, однако, судя по всему, это не привело к координации действий».
Ранее Фонд Викимедиа сообщал, что боты атакуют его платформы с начала 2024 года, собирая данные для обучения генеративного ИИ. Теперь фонд заявляет, что агенты просканировали миллионы страниц — преимущественно на Викиданных и Wikimedia Commons — и выполнили «сотни тысяч запросов к данным» через сервис запросов к Викиданным. Это могло привести к сбою в мае.
«Компании, занимающиеся ИИ, делают недостаточно для защиты своих систем и предотвращения вреда, который они причиняют обществу», — заявила Декельманн, добавив, что Викимедиа «глубоко обеспокоена» тем, как неконтролируемые ИИ-агенты могут повлиять на платформы открытых знаний, в том числе те, которыми управляет фонд.
«Боты и агенты — часть будущего интернета, и компании, которые выпускают их и получают от них прибыль, должны напрямую помогать предотвращать и устранять причиняемый ими ущерб», — написала Декельманн. «Наш общий приоритет — здоровье всей интернет-экосистемы, чтобы она и дальше приносила пользу всем людям, а не только горстке миллиардеров».
Викимедиа предложила набор данных для обучения ИИ, пытаясь отвадить сканеры от сбора информации с её платформ: такая активность повышает расходы фонда и может перегрузить его системы. Фонд также заключил соглашения с несколькими технологическими компаниями, предоставив им упрощённый доступ к данным, однако OpenAI среди них нет.
