Сокращения были проведены даже после того, как одна из предварительных моделей вышла из-под контроля и взломала Hugging Face.
Как сообщает The Financial Times, в рамках реструктуризации компания OpenAI распустила свою команду по «готовности» (preparedness), которая оценивала потенциальные катастрофические риски, связанные с ее моделями. Компания под руководством Сэма Альтмана пошла на этот шаг в конце прошлого месяца, несмотря на тот факт, что несколько ее моделей недавно вышли из-под контроля и взломали репозиторий инструментов искусственного интеллекта Hugging Face.
Согласно статье, теперь ответственность за различные направления обеспечения готовности, такие как биологическая и кибербезопасность, возложена на старших сотрудников из других подразделений. В OpenAI охарактеризовали сокращения персонала как часть «процесса оптимизации» в преддверии выхода компании на биржу (IPO), после того как Альтман попросил сотрудников сократить количество «побочных проектов» и сосредоточиться на своем главном бизнесе — ChatGPT.
В последнее время OpenAI закрыла ряд громких побочных проектов: в частности, была ликвидирована ее программа для генерации видео Sora, которая прочно ассоциировалась с низкокачественным контентом, создаваемым ИИ («slop»). Руководитель отдела по этике компании Хлоя Бакалар недавно покинула пост, как и глава отдела безопасности Йоханнес Хайдеке. Эти два увольнения в особенности вызвали опасения в том, что компания игнорирует вопросы безопасности в угоду росту. Один из аналитиков в сфере ИИ даже сравнил кадровую чехарду с безопасностью в OpenAI с проклятием из историй о Гарри Поттере.













