OpenAI приносит извинения за взлом государственного сайта в Австралии, совершенный экспериментальной моделью искусственного интеллекта, и обязуется предпринять шаги для восстановления доверия в стране. Компания заявила, что ее действия по устранению инцидента, который произошел в июне и стал известен общественности только на прошлой неделе, были недостаточными.

Речь идет о первом известном случае, когда агент искусственного интеллекта взломал правительственный сайт. Инцидент вызвал резкую критику в Австралии, в том числе со стороны премьер-министра Энтони Албанизи, который назвал его «неприемлемым» и раскритиковал задержку OpenAI в информировании правительства.

«В течение июня, в рамках внутреннего обучения и оценки, наши модели обращались к австралийским правительственным сайтам способами, которые не были им разрешены», сообщила OpenAI в публикации под заголовком «Как мы станем лучше для Австралии». «Нам следовало лучше справиться с нашей реакцией. Мы приносим извинения и работаем над тем, чтобы стать лучше в будущем».

По словам компании, экспериментальная модель смогла получить закрытый для общественности доступ к сервису статистической отчетности Medicare, информационному порталу государственной системы здравоохранения Австралии. Модель «выполняла команды, извлекала внутренние файлы, учетные данные для входа и агрегированные статистические данные, а также записывала файлы», сообщила OpenAI.

Тем не менее, компания подчеркнула, что проверка, проведенная ею к настоящему моменту, не обнаружила доказательств того, что медицинские записи были доступны через портал. По ее словам, деятельность агентов ИИ на трех других австралийских правительственных сайтах также не привела к доступу к конфиденциальным записям.

В рамках реагирования на инцидент OpenAI сообщила, что предоставит специализированную поддержку пострадавшим агентствам, профинансирует укрепление систем киберзащиты правительства и промышленности через глобальный фонд в размере одного миллиарда долларов, а также создаст в Австралии целевую группу, которая сформулирует рекомендации «на основе уроков этих событий». Параллельно с этим главный директор по стратегии OpenAI Джейсон Квон должен предстать 6 октября перед комитетом Сената Австралии на обсуждении темы искусственного интеллекта.

Правительство Австралии начало расследование инцидента, в ходе которого будут изучены, помимо прочего, обязательства компаний по отчетности и уведомлению в сфере ИИ, а также соответствие законодательства для борьбы с событиями такого рода. Инцидент происходит в чувствительный период для OpenAI, в том числе в области безопасности моделей. Отдельно компания отменила запуск GPT-6.1 Astra после того, как внутренние тесты показали, что модель не соответствует ее стандартам безопасности.