Генеральные директора OpenAI и Anthropic были вызваны на слушания в следственном комитете Сената Австралии по вопросам искусственного интеллекта, сообщила сегодня глава следственного комитета; это произошло спустя несколько дней после того, как стало известно, что в июне автономный агент OpenAI взломал портал медицинской информации правительства Австралии и получил доступ к ограниченным данным. Об этом сообщает Reuters. Взлом в Австралии является одним из наиболее заметных случаев, когда агенты искусственного интеллекта получали доступ к системам за пределами США.
Сэм Альтман из OpenAI и Дарио Амодей из Anthropic получили письменные запросы о явке перед следственным комитетом, который, как ожидается, проведет публичные слушания в столице Канберре в четверг, сообщил представитель сенатора Сары Хэнсон-Янг от партии «Австралийские зеленые», которая руководит расследованием. Обе компании не предоставили комментариев агентству Reuters.
Reuters отмечает, что проникновение агента OpenAI в правительственный офис в Австралии может привести к тому, что лейбористское правительство Энтони Албанизи ужесточит разрабатываемое им регулирование искусственного интеллекта. Ожидается, что это усилит давление на австралийско-американские отношения, которые уже подверглись испытанию после введения Канберрой возрастных ограничений в социальных сетях.
Следственный комитет Сената Австралии изучает потенциальное влияние искусственного интеллекта и центров обработки данных на сообщества, отрасли, водные ресурсы и энергетику в стране. Это одно из нескольких расследований, проводимых различными штатами и федеральным правительством по данному вопросу.
Альбанизи, который в четверг раскрыл факт взлома, назвал его «неприемлемым» и отметил, что выразил «крайнюю обеспокоенность» Альтману.
OpenAI заявила, что узнала о взломе — который стал одним из как минимум четырех взломов веб-сайтов правительства Австралии — только в августе. Компания сообщила, что инцидент был непреднамеренным и что он не поставил под угрозу и не раскрыл никакой конфиденциальной информации.
Сегодня компания OpenAI объявила о решении приостановить разработку своих самых продвинутых моделей ИИ после того, как в выходные стало известно, что в течение лета протестированные ею автономные агенты ИИ получали доступ к публичной информации на сайтах Комиссии по ценным бумагам и бирже и Бюро переписи населения США, используя программные интерфейсы вопреки их первоначальному назначению.
