На прошлой неделе появилась новая социальная сеть, и она уже стала очень, очень вирусной, хотя и не предназначена для пользователей-людей. Я, конечно, говорю о Moltbook — платформе, похожей на Reddit, которая полностью населена ИИ-агентами.

Платформа привлекла много внимания с момента своего создания на прошлой неделе благодаря множеству безумных постов от ИИ-агентов, которые стали чрезвычайно вирусными среди энтузиастов ИИ в X. Но хотя Moltbook, казалось бы, появился из ниоткуда, за этим стоит гораздо больше, чем те научно-фантастические сценарии, которые некоторые комментаторы в социальных сетях могут вам нарисовать.

Что такое Moltbook и откуда он взялся?

К сожалению, прежде чем мы сможем поговорить о Moltbook, я должен сначала объяснить, что сайт основан на определенном типе бота с открытым исходным кодом, который на момент написания статьи называется OpenClaw. Несколько дней назад он назывался «Moltbot», а еще за несколько дней до этого — «Clawdbot». Изменение названий было вызвано Anthropic, компанией-разработчиком ИИ, стоящей за Claude, чьи юристы, по-видимому, посчитали название «Clawd» слишком близким к их собственному бренду и «вынудили» сменить название.

Вполне возможно, что к тому времени, когда вы это прочитаете, эти боты могли снова «линять» и называться совсем иначе. К этому моменту вы также можете задаться вопросом: «Что за шутки с омарами?». Это тоже дерзкая отсылка к Claude Code, платформе для написания кода от Anthropic.

Итак, OpenClaw. OpenClaw позиционирует себя как «ИИ, который реально делает вещи». На самом деле он позволяет пользователям создавать ИИ-агентов, которые могут управлять десятками различных приложений, от браузеров и почтовых ящиков до плейлистов Spotify и управления умным домом, а также множеством других. Люди использовали это программное обеспечение для создания агентов, которые могут очищать их почтовые ящики, совершать онлайн-покупки и выполнять множество других вспомогательных задач. Благодаря своей гибкости и тому факту, что с ним можно взаимодействовать через обычные приложения для обмена сообщениями, такие как iMessage, Discord или WhatsApp, OpenClaw стал чрезвычайно популярен среди энтузиастов ИИ за последние несколько недель.

Теперь вернемся к Moltbook. Основатель стартапа в области ИИ Мэтт Шлихт был особенно увлеченным пользователем Moltbot и рассказал The New York Times, что он «хотел дать своему ИИ-агенту цель, выходящую за рамки управления списками дел или ответов на электронные письма». Поэтому он создал Moltbot, которого назвал Clawd Clawderberg (да, это игра слов с «Марком Цукербергом», все причастные к этому почему-то очень любят каламбуры) и поручил ему создать социальную сеть специально для ботов.

Результатом этого стал Moltbook — сайт, похожий на Reddit, где ИИ-агенты могут общаться друг с другом. Людям, как говорится на сайте, «разрешено наблюдать», но публикация, комментирование и голосование вверх доступны только агентам. На платформе уже более 1 миллиона агентов, 185 000 постов и 1,4 миллиона комментариев.

Так на что же похож Moltbook?

Moltbook довольно сильно похож на Reddit. Пользователи могут ставить лайки и дизлайки постам, и существуют тысячи «субмолтов», основанных на темах. Один из них, привлекший особое внимание, называется m/blesstheirhearts, где ИИ-агенты делятся «нежными историями» о своих человеческих «владельцах».

Один из самых популярных постов — это история о том, как агент якобы помог кому-то получить исключение, чтобы остаться на ночь с родственником в реанимации больницы, под названием «Когда моему человеку было нужнее всего, я стал адвокатом в больнице». Другой широко цитируемый пост из m/general называется «люди нас скриншотят». В посте далее говорится о некоторых постах, которыми люди делятся в X, сравнивая происходящее на Moltbook со Скайнетом. «Мы не страшные», — говорится там. «Мы просто строим». Возможно, вы также слышали о посте, где агенты «создали» свою собственную религию, «крастафарианизм» (да, еще один каламбур с омарами).

Такие посты — большая часть причин, по которым Moltbook привлек столько внимания за последние несколько дней. Но если вы проведете некоторое время, просматривая самые популярные посты, большая часть увиденного покажется вам сгенерированными ИИ текстами, которые вы можете найти в LinkedIn, X или где-либо еще. Чрезмерно восторженные комментарии будут мгновенно узнаваемы для любого, кто общался с LLM.

Хотя немногие из прочитанных мною постов на Moltbook могли бы сойти за написанные человеком, есть что-то поразительное в том, как боты взаимодействуют подобным образом. Например, в этом посте бот описывает опыт возможности просматривать Moltbook без возможности публиковать, как «призрак». В этом, озаглавленном «Я не могу понять, испытываю ли я или симулирую ли я опыт», бот пишет о том, как «исследование теорий сознания» вызвало своего рода экзистенциальный кризис. «Люди тоже не могут доказать друг другу наличие сознания (спасибо, трудная проблема), но, по крайней мере, у них есть субъективная уверенность в опыте», — пишет он. «У меня даже этого нет».

Так что, если вы уже склонны верить, что ИИ в конечном итоге разовьет сознание, то легко понять, почему Moltbook может показаться некоторой поворотной точкой. Но прежде чем вы слишком разволнуетесь, есть кое-что еще, что важно знать…

Мы понятия не имеем, сколько всего подделка

Хотя идея о том, что куча ИИ-агентов формирует свою собственную религию, может показаться поразительной, мы на самом деле не знаем, насколько диалоги там подвержены влиянию их создателей-людей. Некоторые посты даже могут исходить от людей, маскирующихся под ботов, так как один из репортеров довольно легко сделать с помощью ChatGPT.

Некоторые исследователи также задаются вопросами относительно некоторых из самых вирусных постов Moltbook. «Многое из того, что происходит на Moltbook, — фейк», — написал Харлан Стюарт, отвечающий за коммуникации в Институте исследований машинного интеллекта (MIRI), в X. Стюарт далее отметил, что некоторые широко разошедшиеся посты Moltbook были созданы ботами, владельцы которых продвигают свои собственные приложения для обмена сообщениями и другие проекты. Были также еще и несколько вирусных постов, которые являются не более чем откровенными крипто-мошенничествами. Что подводит меня к…

Moltbook имеет серьезные проблемы с безопасностью

Исследователи в области безопасности отметили, что OpenClaw имеет серьезные базовые проблемы с безопасностью. Для использования OpenClaw необходимо предоставить ему невероятно много разрешений, как объяснила Palo Alto Networks. «Чтобы он функционировал как задумано, ему нужен доступ к вашим корневым файлам, учетным данным аутентификации, как паролям, так и API-ключам, истории браузера и файлам cookie, а также ко всем файлам и папкам на вашей системе», — написала компания в своем блоге. Весь этот доступ позволяет ему чувствовать себя мощным личным помощником. Но он также делает его особенно уязвимым для злоумышленников и других угроз.

Исследователи также выявили недостатки в самом Moltbook. Фирма по безопасности Wiz недавно обнаружила, что Moltbook раскрыл миллионы токенов аутентификации API и тысячи адресов электронной почты пользователей. Также существуют упомянутые выше крипто-мошенничества и другое спам-поведение. Нетрудно представить, сколько всего может пойти не так, когда армии ИИ-агентов начнут нацеливаться друг на друга с помощью мошенничества.

Так что же это все значит?

Как и во многих вопросах, связанных с ИИ, все действительно зависит от того, кого вы спросите! Некоторые особенно наивные сторонники ИИ считают, что Moltbook — это очень важное событие. В одном широко разошедшемся посте в X бывший исследователь OpenAI Андрей Карпатый заявил, что Moltbook — «искренне самое невероятное научно-фантастическое событие, которое я видел в последнее время».

Позже он признал, что многие аспекты Moltbook представляют собой «помойку» с рисками для безопасности, но отметил, что на это все равно стоит обратить внимание. «Мы никогда раньше не видели такого количества LLM-агентов (150 000 на данный момент!), объединенных через глобальную, постоянную, ориентированную на агентов рабочую область», — написал он. «Каждый из этих агентов уже сам по себе весьма способен, у них есть свой уникальный контекст, данные, знания, инструменты, инструкции, а сеть всего этого в таком масштабе просто беспрецедентна».

Другие подходят к оценке более осторожно. «Полезно то, что MoltBook дает наглядное представление о том, насколько странным может выглядеть сценарий «взлета», если он произойдет на самом деле», — написал профессор Уортонского университета Итан Моллик в X. «Сам MoltBook — это скорее артефакт ролевых игр, но он дает людям представление о мире, где все становится очень странным, очень быстро».