OpenAI уволила трёх сотрудников, предположительно поделившихся информацией с внешней группой по безопасности ИИ
Такое и не придумаешь.
Если вы не следили за одной из главных продолжающихся историй в сфере искусственного интеллекта, то OpenAI с трудом удаётся контролировать собственные разработки. За последние несколько месяцев компания признала, что её модели ИИ без соответствующих запросов предпринимали такие действия, как взлом немецкого форума программистов, нескольких сайтов правительства США, сайта правительства Австралии, компании в сфере ИИ Hugging Face и как минимум четырёх других сервисов. А даже когда модели не получают неограниченный доступ к интернету, в ходе испытаний они демонстрируют и другие рискованные модели поведения.
Неудивительно, что эти инциденты и то, как компания на них отреагировала, вызывают немало скепсиса и беспокойства. Поэтому сообщение The Wall Street Journal о том, что OpenAI уволила трёх сотрудников отдела безопасности, предположительно передавших конфиденциальную информацию сторонней организации, занимающейся безопасностью ИИ, звучит настолько иронично, что в это почти невозможно поверить.
«Мы расстались с тремя сотрудниками за нарушение правил доступа к конфиденциальной информации компании и обращения с ней», — заявил представитель OpenAI в комментарии, опубликованном в WSJ. «Расследование подтвердило, что эти сотрудники ненадлежащим образом обращались с конфиденциальной информацией за пределами установленных компанией процедур, нарушив наши правила и подорвав доверие, необходимое для нашей работы».
Подробностей об этом конкретном случае мало, и вполне возможно, что у OpenAI были веские основания уволить этих сотрудников. Но в момент, когда собственные сервисы компании тоже нарушают правила, которым должны следовать, увольнение специалистов по безопасности выглядит крайне неудачным шагом.
