Anthropic выбирает Accenture для независимой оценки безопасности ИИ
Этот шаг представляет собой первый этап в плане генерального директора по замедлению разработки искусственного интеллекта.
Длинный список консалтинговых услуг Accenture пополняется оценкой передовых моделей ИИ от Anthropic на предмет соответствия требованиям безопасности. Компания Anthropic объявила о партнерстве, которое позволит Accenture выступать в качестве независимых оценщиков, интегрированных в структуру этого ИИ-гиганта. В рамках партнерства обе компании намерены инвестировать не менее чем по 1 миллиарду долларов в совместные усилия в течение следующих пяти лет.
Партнерство Anthropic с Accenture является одним из первых шагов в реализации плана по замедлению темпов разработки искусственного интеллекта, предложенного ее генеральным директором Дарио Амодеи на прошлой неделе. Трехступенчатый подход Амодеи призывает все компании, занимающиеся разработкой «передового ИИ», предоставить «постоянный доступ, аналогичный статусу сотрудников», встроенным сторонним оценщикам, задача которых заключается в обеспечении соблюдения норм безопасности и обязательств, сообщении об инцидентах и оценке соответствия (alignment) моделей ИИ. В частности, согласно заявлению Anthropic, оценщики из Accenture будут «наблюдать за формированием моделей в процессе обучения, следить за решениями, регулирующими создание и развертывание этих моделей, а также напрямую общаться с сотрудниками».
В Anthropic пояснили, что компания Accenture имеет опыт помощи предприятиям и госорганам во внедрении ИИ в различных отраслях. Представители ИИ-компании также отметили, что Accenture обладает опытом использования ИИ на уровне предприятий и может предложить более широкий взгляд на собственные модели Anthropic. Тем не менее, в Anthropic подчеркнули, что концепция встроенных оценщиков является новой и для нее еще не установлены стандарты в отношении масштаба, объема предоставляемого оценщикам доступа и процедур сообщения о проблемах.
Чтобы лучше представлять этот процесс, в Anthropic заявили, что помимо Accenture будут сотрудничать и с другими компаниями для оценки своих передовых моделей ИИ. В компании сообщили, что в ближайшие недели объявят о других оценщиках, а также выразили уверенность, что Accenture будет работать и с другими компаниями, помимо Anthropic.
