Развитие искусственного интеллекта происходит настолько стремительно, что существующие системы управления не успевают за ним, говорится в предварительном докладе Независимой международной научной группы ООН по искусственному интеллекту. Группа, состоящая из экспертов со всего мира, предоставит информацию, необходимую для организации Глобального диалога ООН по управлению ИИ. Он пройдет в Женеве, где государства-члены обсудят методы регулирования данной технологии; начало запланировано на 6 июля.
В своем докладе группа рассматривает, как быстро развивались возможности ИИ за последние несколько лет. По всей видимости, сложность задач, с которыми могут справляться модели ИИ, удваивается каждые несколько месяцев. В документе признается, что ИИ приносит огромную пользу человечеству, включая ускорение поиска лекарств и разработки вакцин, а также вносит существенный вклад в исследования устойчивости к антибиотикам. Врачи также могут использовать системы ИИ для раннего выявления заболеваний, таких как рак молочной железы, а ученые — применять ИИ в качестве систем раннего предупреждения продовольственной нестабильности.
Тем не менее, в докладе подробно описаны и новые виды вреда, которые создали и могут создавать системы ИИ. Люди используют ИИ для создания и распространения сексуально откровенных дипфейков с участием реальных людей, включая материалы с сексуальным насилием над детьми. Калифорния, например, еще в январе начала расследование в отношении Grok из-за дипфейков без согласия пользователей и материалов с насилием над детьми. ИИ также может генерировать ложную информацию, которая выглядит достоверной, а преступники могут использовать системы ИИ для содействия своим кибератакам.
Некоторые модели ИИ могут быть настолько угодливыми, что подкрепляют вредоносное поведение пользователя, что в некоторых случаях может даже привести к самоубийству, говорится в докладе. Группа также предупреждает, что по мере того, как модели ИИ становятся более автономными, их становится все труднее контролировать. Кроме того, вызывает растущую обеспокоенность строительство масштабных центров обработки данных для обеспечения работы систем ИИ, что может нанести вред местным сообществам.
Эксперты ООН объясняют, что политики с трудом поспевают за развитием ИИ, поскольку текущие системы управления не были рассчитаны на технологии, которые развиваются так быстро. Как правило, властям нужны научные данные перед введением регулирования, но к тому моменту, когда появляется достаточно информации для понимания технологии, системы ИИ могут уже значительно эволюционировать.
«В докладе отмечается, что необходимы более тщательная независимая оценка, международное сотрудничество и общие стандарты, чтобы гарантировать, что системы ИИ остаются безопасными, прозрачными и подотчетными», — пишет группа. Без соответствующих мер безопасности технологии ИИ «могут усугубить неравенство, распространить дезинформацию, создать угрозу правам человека, нарушить работу рынков труда» и стать мощным инструментом, доступ к которому есть лишь у «немногих правительств и компаний».
В докладе отмечается, что доступ к системам ИИ сильно сконцентрирован в развитых странах, а большинство систем разрабатывается в США и Китае. Большинству развивающихся стран не хватает инфраструктуры и опыта, необходимых для получения реальной выгоды от ИИ. «Задача, — заявляет группа, — найти способ раскрыть огромный потенциал ИИ, одновременно предотвращая его растущие риски». Группа ООН, чья роль носит научный, а не регуляторный характер, продолжит оценивать технологии ИИ, которые власти могут использовать для разработки политики. Ожидается, что более полный доклад будет опубликован в следующем году.
