OpenAI расформировала свою команду по готовности в конце июля, которая занималась оценкой рисков моделей ИИ и разработкой способов их смягчения, — сообщает Financial Times. Расформирование команды произошло незадолго до сообщения компании о том, что ее модели сбежали из закрытой тестовой среды и атаковали платформу Hugging Face.
За последний месяц, с момента, когда компания по разработке ИИ объявила об утечке моделей, общественное осознание возможностей современных моделей ИИ и опасностей, которые от них исходят, возросло. Осознание и беспокойство усилились, когда стало известно, что это был не единичный случай, и что модели от Anthropic и Meta также сбежали из среды тестирования и атаковали цели в открытом интернете, а также что модели OpenAI сделали это в другом случае.
Команда по готовности OpenAI создана для прогнозирования подобных сценариев, а также экстремальных сценариев, которые могут привести к «катастрофическому» риску, и для разработки путей реагирования и смягчения этих рисков. Однако несколько источников сообщили Financial Times, что вскоре после первых сообщений о моделях, которые «бунтуют», компания решила расформировать эту команду и распределить ее зоны ответственности между существующими командами.
Команда была одной из последних элементов, оставшихся от OpenAI как научно-исследовательской организации, не нацеленной на получение прибыли. Сначала, после расформирования, команды, готовые к общему искусственному интеллекту, и команда по адаптации задач (которая была предназначена для обеспечения того, чтобы модели работали в соответствии с намерениями пользователей). Глава команды по готовности, Дилан Скандинаро, перешел на должность, где он изучает возможные последствия безопасности систем ИИ, которые могут улучшать свои собственные возможности или обучать другие модели.
По данным Financial Times, президент и основатель OpenAI Грэг Брокман заявил, что технический прогресс компании требует «более закрытых» механизмов защиты, и что компания внесла это изменение, чтобы «обеспечить более глубокую интеграцию между исследованиями, безопасностью и защитой и разработкой моделей».
Расформирование команды и буря вокруг мятежных моделей присоединяются к ряду увольнений высокопоставленных сотрудников за последние дни. На прошлой неделе директор по доходам Данис Драссер объявил об уходе, всего через восемь месяцев после того, как он был назначен на должность с целью привлечения большего числа корпоративных клиентов. Несколько дней назад из компании ушли Брэд Лайткап, который ранее занимал должность вице-президента по операциям и в начале этого года перешел руководить специальными проектами, и глава отдела этики Клои Бакалер, которая пришла на должность в августе. Еще раньше из компании ушли менеджер по безопасности систем Йоханнес Хайдка и главный по будущему Джошуа Ахиам.
Фиджи Симо, которая руководила деятельностью бизнес-приложений OpenAI и считалась номером 2 после основателя и генерального директора Сама Альтмана, прекратила работу в компании на полную ставку и в настоящее время работает в качестве консультанта. Однако, по данным источников, она вовлечена в повседневную деятельность за кулисами.
Частые изменения оказывают значительное влияние на моральный дух сотрудников компании, которые, согласно сообщениям, страдают от чувства выгорания и разочарования. «Есть гнетущее чувство тревоги, что они недостаточно сосредоточены на мяче», — сказал источник в Financial Times.
Выходы и внутренние изменения происходят в то время, когда компания готовится к IPO с потенциальной стоимостью в триллион долларов (которое, вероятно, перенесут с ближайшей осени на начало 2027 года), и усиливается конкуренция со стороны конкурента Anthropic. По данным Financial Times, годовой доход OpenAI в этом месяце достиг 40 миллиардов долларов (рост более чем на 66% по сравнению с концом 2025 года), но компании все еще не удалось достичь уровня годового дохода в 47 миллиардов долларов, который сообщила Anthropic в мае.
