Президент Microsoft призывает к усилению надзора за ИИ. «Сегодня ваша стиральная машина регулируется большим количеством правил безопасности, чем ИИ», — сказал Брэд Смит в интервью подкасту BBC. «Каждый пакет молока, который вы видите в супермаркете, соответствует большему количеству правил безопасности и надзора».

Поэтому он призвал к созданию глобальной системы законов по безопасности технологий, которые включали бы в себя и юридическую обязанность уведомлять «жертву», если вышедшие из-под контроля агенты ИИ взломали её системы. Смит также считает желательным определить, когда и при каких обстоятельствах внешние контролеры должны одобрять запуск нового продукта ИИ.

«Когда смотришь на агентов искусственного интеллекта, которые вышли из-под контроля людей, и на настолько мощные модели, что они ставят под угрозу глобальную кибербезопасность, я бы сказал, что этот момент настал», — заявил он. «Давайте поговорим спокойно, возможно, даже тихим голосом, но с решимостью, и начнем сближать людей и формировать широкий консенсус. Я надеюсь, что это та роль, которую мы сможем исполнить как компания».

Эти вещи противоречат взглядам президента США Дональда Трампа, который считает, что сектор должен осуществлять самоконтроль и что государственное регулирование лишь даст преимущество китайским соперникам. Тем не менее, Смит присоединяется к растущему списку высокопоставленных лиц из самой индустрии, которые недавно призвали к усилению надзора, во главе с генеральным директором Anthropic Дарио Амодеем.

В интервью Смит назвал ИИ «и инструментом, и оружием», над которым необходимо срочно установить надзор. «Мы должны начать уже сегодня», — сказал он. По его словам, компаниям нужны «аварийные тормоза», которые остановят или замедлят технологию, если она выйдет из-под контроля. Смит также считает, что должно существовать законное обязательство, обязывающее компании публиковать «отчеты об инцидентах» и уведомлять жертв, если агенты ИИ взломали их системы. Еще одно предложение, которое он выдвинул, — создать внешний государственный орган, который будет проводить оценку новых продуктов ИИ.

«Мы знаем, как делать это для других продуктов», — сказал Смит. «Нам нужно опереться на эти знания и подумать, как применить их к ИИ».