ИИ теперь создает новые вирусы
Что вообще может пойти не так?
Разве нас ничему не научила научная фантастика? В исследовании, опубликованном в журнале Science (через The New York Times), подробно описывается, как исследователи использовали модель ИИ для разработки новых вирусов, способных инфицировать бактерии и размножаться внутри них. Хорошая новость: они приняли надлежащие меры предосторожности, и их работа может привести к прорывам в генной терапии и биотехнологиях. Плохая новость: следующие ребята могут оказаться не столь альтруистичны.
Ученые из Института Арка (Arc Institute) в Пало-Альто и Стэнфордского университета создали вирусы с помощью языковых моделей генома Evo 1 и Evo 2. Они работают отчасти как большие языковые модели (LLM), такие как ChatGPT или Claude. За исключением того, что вместо <обрезанные_данные> обучения на книгах и веб-сайтах, они изучали генетические последовательности. Модели проекта были обучены на триллионах нуклеотидов (строительных блоков ДНК) и усвоили «грамматику» генетического кода.
Для этого эксперимента группа дополнительно обучила модели примерно на 15 000 вирусов из того же семейств, что и Phi X-174 — крошечный вирус, инфицирующий исключительно бактерии E. coli (кишечную палочку). Ученые явно ограничили сферу применения, исключив все, что могло бы заразить людей, других животных, растения или грибы.
Evo сгенерировала около 700 000 возможных новых вирусов. Затем команда выбрала 285 наиболее перспективных кандидатов, создала их ДНК и внедрила в бактерии. В конце концов, 16 творений Evo породили работающие вирусы. Они оказались по меньшей мере столь же жизнеспособными, как Phi X-174, а некоторые размножались еще быстрее.
Все это весело и задорно, пока кто-нибудь не создаст биологическое оружие
История та же, что и со многими инструментами искусственного интеллекта, — или с ядерной энергией. Такие модели, как Evo, в правильных руках могут принести огромную пользу, а в не тех — огромный вред.
Вирусы, спроектированные с помощью ИИ, могли бы улучшить методы генной терапии, помочь исследователям лучше понять геномы и предоставить более эффективные инструменты для борьбы с вредными бактериями. В жестко регулируемой среде с этическими ограничениями это могло бы стать прорывом, делающим мир лучше.
Но в нашей нынешней регуляторной среде, скажем так, мы еще не до конца к этому готовы. Исследователи уже показали, что стандартные чат-боты могут оказывать, мягко говоря, вызывающую опасения помощь в планировании биологического оружия. Модель, способная проектировать геномы, выводит эту угрозу на совершенно новый уровень: ее более совершенные версии потенциально могут помочь кому-то создать высококонтагиозный или смертоносный вирус. Веселые времена.
Сама по себе наука не является злом. Но когда ИИ способен перейти от описания биологических угроз к их проектированию, уже недостаточно просто сидеть сложа руки и надеяться, что им будут пользоваться только «хорошие парни», как это, судя по всему, происходит здесь. Учитывая, что технология развивается с головокружительной скоростью, успеют ли наши защитные механизмы сработать до того, как станет слишком поздно?
