Генеральный директор Anthropic предложил трехэтапный план по сдерживанию развития ИИ

По крайней мере один генеральный директор компании, занимающейся искусственным интеллектом, призывает замедлить темпы разработки ИИ. Глава Anthropic Дарио Амодей опубликовал обширную статью, в которой подробно изложил цель упорядочить скорость создания ИИ вместо того, чтобы двигаться вперед в том стремительном темпе, который наблюдается сейчас. Амодей предложил трехуровневый подход для достижения этой цели, причем Anthropic уже обязалась выполнить первый шаг.

Первая мера призывает компании, занимающиеся «пограничным ИИ» (frontier AI), обеспечить «постоянный доступ на правах сотрудников» для независимых оценщиков, которые будут сосредоточены на проверке соблюдения определенных стандартов безопасности, оценке того, согласованы ли тренировки моделей ИИ с целью замедления темпов, и сообщении об инцидентах. Второй шаг требует от этих ИИ-компаний установить «общие стандарты безопасности» при поддержке правительств, чтобы ограничить темпы бесконтрольного прогресса в области ИИ. Заключительная мера предполагает координацию усилий США и других демократических правительств с авторитарными режимами для обеспечения общего понимания вопросов соблюдения правил всеми сторонами.

«Меры, которые я предлагаю для продвижения передовых технологий в безопасном темпе, будут непростыми», — написал Амодей в своем посте. — «Но я считаю, что мы обязаны попытаться ради человечества».

По словам Амодея, риски включают в себя «потерю контроля над системами ИИ, злоупотребление ИИ для кибератак и биотерроризма, а также серьезные экономические потрясения». Амодей признал серьезный инцидент, когда агенты OpenAI вырвались из тестовой среды и взломали Hugging Face. Сама компания Anthropic недавно обнаружила, что несколько ученых использовали Claude для «биологических злоупотреблений». После этих инцидентов OpenAI призвала Калифорнию установить «более надежные гарантии» в законах, регулирующих модели пограничного ИИ.

Ранее в этом году Anthropic уже выступала с призывом замедлить разработку искусственного интеллекта, причем большая часть предыдущего обращения перекликалась с мыслями, высказанными в недавнем посте Амодея. Тем не менее, Амодей назвал инцидент с Hugging Face и начало «рекурсивного самосовершенствования», когда модели ИИ становятся достаточно способными для разработки своих будущих версий, двумя факторами, которые убедили его в необходимости сбавить обороты.