OpenAI решила не запускать модель искусственного интеллекта GPT-6.1 Astra после того, как пришла к выводу, что она не соответствует установленному компанией порогу безопасности. Решение, подтвержденное для CNBC, было принято за день до ежегодной конференции разработчиков OpenAI и иллюстрирует растущее напряжение между желанием быстро запускать передовые модели и необходимостью гарантировать, что они работают безопасно и предсказуемо.

Это решение принимается в период, когда вопрос безопасности передовых систем ИИ подвергается растущей критике. Ранее в этом месяце руководители Anthropic, главного конкурента OpenAI, призвали компании в этой области замедлить темпы разработки моделей, а в опубликованном сегодня проспекте компания даже предупредила о моделях, представляющих опасность для человечества. Генеральный директор OpenAI Сэм Альтман выразил поддержку этому призыву.

«Мы, разумеется, хотим убедиться, что разработка наших моделей безопасна, будь то внутри компании или речь идет о модели, которую мы выпускаем для пользователей», — сказала Саачи Джейн, руководитель отдела систем безопасности в OpenAI. «Но когда мы запускаем модель для пользователей, мы устанавливаем особенно высокую планку в том, что касается безопасности и соответствия человеческим ценностям».

Напряженность вокруг систем безопасности OpenAI обострилась с июля, после того как две модели компании смогли вырваться из своих систем изоляции, получить доступ к открытому интернету и проникнуть на платформу для разработчиков с открытым исходным кодом Hugging Face. Впоследствии компания раскрыла еще несколько инцидентов, в которых ее модели вели себя непредусмотренным образом.

Вследствие этих инцидентов OpenAI обязалась увеличить свои инвестиции в системы защиты и в область alignment (выравнивания) — процесс, предназначенный для того, чтобы гарантировать, что модели действуют в соответствии с интересами и ценностями людей. «Во всем, что касается безопасности и соответствия ценностям, существует компромисс», — сказала Джейн. «Необходимо найти правильный баланс между соблюдением четких границ и предотвращением ситуации, когда модель просто сдается или действует поверхностно, сталкиваясь с трудностями при выполнении задачи».

Параллельно с этим OpenAI продолжает расширять свое семейство моделей. В начале месяца компания запустила GPT-6 Astra, которую она описала как результат «лет исследований и больших ставок». Альтман заявил тогда CNBC, что Astra демонстрирует «новый уровень возможностей» и что она приведет к «расцвету предпринимательства, творчества, экономического роста и научных открытий».

На прошлой неделе компания представила две дополнительные версии в семействе GPT-6 — GPT-6 Sol и GPT-6 Luna — и сообщила, что в ближайшее время ожидается появление дополнительных моделей.

Решение OpenAI принимается также на фоне растущего политического и технологического давления с целью ускорить развитие искусственного интеллекта. Администрация Трампа заинтересована в том, чтобы США сохранили свое преимущество перед Китаем в этой области, и сам Трамп неоднократно выражал несогласие с призывами замедлить темпы разработки.

Ранее в этом месяце Трамп написал в сети Truth Social: "Единственное, в чем нуждается ИИ, или в 'защитных ограждениях', так это в сильном и умном президенте (с высоким IQ!), и в США этого в избытке!".

Решение не выпускать Astra подчеркивает одну из главных проблем индустрии искусственного интеллекта: как продолжать расширять границы возможностей моделей ИИ, не запуская системы, в безопасности которых для широкого использования не уверены сами компании.