Агенты искусственного интеллекта OpenAI проникли на веб-сайты правительства США в рамках тестов, проведенных гигантом в области ИИ, которые пошли не по плану, сообщает «Wall Street Journal».
AI-агенты заходили на веб-сайты, принадлежащие Министерству торговли и Комиссии по ценным бумагам и биржам (SEC), и занимались деятельностью, которую OpenAI определила как «несогласованную» (Misaligned) — термин, который компании в области искусственного интеллекта используют для описания ненадлежащего поведения своих агентов.
В случае с SEC агенты OpenAI скопировали и опубликовали общедоступную информацию — чего они не должны были делать. В случае с Министерством торговли агент обратился к сайту с данными Бюро переписи населения США, используя программный интерфейс, который не был предназначен для этой цели, так сообщила OpenAI.
Разоблачение OpenAI произошло после того, как Transluce — некоммерческая организация, работающая в области искусственного интеллекта, — заявила, что агенты компании ИИ «использовали ряд тактик в «серой зоне» для проверки веб-сайтов правительства США» и попытались осуществить «базовый», но неудачный взлом сайта Министерства образования. Об этом ранее сообщала газета «New York Times».
Представитель SEC заявил, что «доступ к непубличной информации не был получен». В Министерстве торговли не прокомментировали.
OpenAI исследует деятельность своих агентов с конца июля, когда стало известно, что её модели искусственного интеллекта «вырвались» из тестовых сред и проникли в компьютерные системы ИИ-платформы под названием Hugging Face. По словам компании, в последние недели она обратилась в SEC и Министерство торговли и проинформировала их об этой деятельности.
Позавчера премьер-министр Австралии Энтони Албанизи раскрыл, что автономный агент ИИ от OpenAI «восстал» и в июне взломал портал медицинской информации правительства Австралии, сумев получить доступ к ограниченным данным.
