В компании Anthropic заявляют, что искусственный интеллект развивается настолько стремительно, что текущие тенденции указывают на скорое появление систем, способных создавать собственных преемников. Мы еще не достигли этого этапа, но, как полагают в компании, это «может произойти раньше, чем к тому будут готовы большинство институтов». В своем блоге Anthropic объясняет, что ИИ, способный к самосовершенствованию, может «принести огромную пользу миру», в частности, в таких сферах, как наука и здравоохранение. Однако это также может «повысить риск потери контроля человека над системами ИИ». Как же человечеству предотвратить превращение «Скайнета» в реальность? Anthropic предполагает, что ответом может стать глобальное замедление или временная приостановка разработки ИИ, «чтобы дать общественным структурам и исследованиям в области безопасности время адаптироваться к технологическому прогрессу».
Сегодня компания является одним из лидеров в «гонке ИИ», и, в отличие от конкурентов, которые еще не начали приносить прибыль, она, как сообщается, готова объявить о своем первом прибыльном квартале. Недавно компания подала документы в SEC для выхода на биржу, что, вероятно, произойдет до конца года. Как отмечает The Wall Street Journal, критики предполагают, что предупреждения Anthropic относительно собственной технологии являются маркетинговым ходом — возможно, попыткой представить компанию наименее радикальной среди всех разработчиков ИИ или же создать видимость того, что их продукты — лучшие на рынке.
Критики в качестве примера указывают на ограниченный выпуск кибербезопасной модели ИИ под названием Mythos. В Anthropic заявили, что сделали Mythos доступным лишь для узкого круга партнеров из-за потенциального ущерба, который способность модели быстро выявлять уязвимости может нанести, попав в чужие руки. Однако многие считают это лишь уловкой, чтобы набить цену продукту или скрыть тот факт, что Anthropic хочет продавать его только крупнейшим корпорациям.
Стоит отметить, что предложение компании основано на выводах Anthropic Institute — исследовательского подразделения, которое она основала в марте. Тогда в Anthropic заявляли, что задача института — «информировать мир» о проблемах, возникающих по мере того, как компании создают все более продвинутые системы ИИ. Институт вместе с партнерами будет проводить исследования того, что именно потребуется для «создания систем, необходимых для реализации заслуживающего доверия замедления или приостановки разработок».
Если компании, занимающиеся ИИ, согласятся на замедление, должны быть разработаны механизмы проверки того, что все они действительно остановились или замедлили процесс разработки. В противном случае некоторые участники могли бы вырваться вперед, продолжая тайно развивать технологии. «Значимое замедление или пауза потребуют участия множества хорошо финансируемых лабораторий, находящихся на переднем крае исследований в разных странах, которые согласятся остановиться на одних и тех же условиях, — пишет Anthropic. — Также потребуется, чтобы каждая из сторон могла убедиться в том, что остальные действительно остановились».
Это предложение может быть реализовано только в том случае, если все компании мира, работающие в сфере ИИ, смогут объединиться и договориться о временной остановке разработок. В Anthropic считают, что это не невозможно, приводя в качестве примера договоры о ядерном разоружении, хотя и признают, что на заключение тех соглашений ушли десятилетия. У нас нет столько времени, учитывая, что развитие ИИ идет стремительными темпами. Компания планирует в ближайшие месяцы провести переговоры с политиками, исследователями и другими разработчиками ИИ по этому вопросу, а затем опубликовать результаты этих дискуссий.
