В мире существует ограниченное окно возможностей для укрепления киберзащиты от мощных моделей, способных осуществлять разрушительные атаки на критически важные инфраструктуры — об этом предупреждают более 150 ведущих технологических, ИИ и киберкомпаний мира в письме, опубликованном в выходные.

«В ближайшие месяцы кибератаки на базе ИИ станут гораздо более распространенными и изощренными по мере того, как модели по всему миру будут обретать более мощные возможности», говорится в письме, которое подписали, помимо прочего, Google, OpenAI, Anthropic, Microsoft и Amazon. «Компании и государственные службы, от которых зависят наши сообщества — от больниц и водоочистных сооружений до инфраструктур, обеспечивающих работу интернета — находятся под угрозой. Но если мы будем действовать решительно, мы сможем использовать окно возможностей, чтобы сделать наш цифровой мир гораздо более безопасным».

Последние недели продемонстрировали опасность, которую представляют продвинутые модели ИИ для киберзащиты, после ряда случаев, когда передовые модели OpenAI, Anthropic и Meta смогли выбраться из своих закрытых тестовых сред и атаковать цели в открытом интернете, иногда с тревожным успехом. Ранее в этом году компания Anthropic раскрыла, что разработала модель ИИ с настолько продвинутыми возможностями по выявлению уязвимостей в безопасности, что была вынуждена ограничить доступ к ней только избранными организациями.

В письме компании предупреждают, что в свете новой реальности «статус-кво в области безопасности будет недостаточным». По их словам, «старые баги, широкие права доступа, ошибки конфигурации, незащищенное программное обеспечение, слабые механизмы аутентификации и устаревшие технологии оставили системы уязвимыми. Команды безопасности, особенно в критически важных инфраструктурах, страдают от исторической нехватки ресурсов и остро нуждаются в инструментах и средствах. Необходимо усилить защитников с помощью возможностей кибербезопасности на базе ИИ и стимулировать коллективный ответ. Требуется глобальная реакция с новым сотрудничеством для поиска решений развивающихся киберугроз».

Письмо подписано исключительным представительством различных секторов глобальной технологической экосистемы. Наряду с технологическими гигантами и ведущими компаниями в области ИИ, его подписали также крупные технологические компании, включая Adobe, Oracle, IBM и Cisco; производители чипов, включая AMD, Micron и ARM; компании в сфере кибербезопасности, включая Check Point и Palo Alto Networks; банки и финансовые организации, включая Visa, Mastercard и Citi; телекоммуникационные компании, включая Deutsche Telekom и AT&T; а также консалтинговые агентства, включая BCG и KPMG.

В частности, в письме содержится призыв к организациям сделать киберзащиту своим главным приоритетом, а к компаниям в сфере кибербезопасности — предоставить инструменты на базе ИИ для защиты критически важных инфраструктур. Подписавшие письмо компании призывают правительства действовать в направлении координации киберзащиты на местном, национальном и международном уровнях путем укрепления сотрудничества с промышленностью и увеличения инвестиций в эту область. «Дайте больницам, водоканалам и местному самоуправлению возможности защиты на базе ИИ», — говорится в документе. Компании, разрабатывающие передовые модели ИИ, призываются обеспечить ответственный доступ к моделям и создать инструменты прозрачности и безопасности.

«Мы можем сделать цифровую инфраструктуру, от которой мы все зависим, более безопасной», — говорится в тексте. «Мы призываем лидеров отрасли и правительства задействовать весь потенциал своих технологий, ресурсов и опыта в этом усилии. Вместе мы сможем превратить сегодняшний прогресс в области ИИ в постоянные улучшения в сфере безопасности, которые принесут пользу всем нам».