Высокопоставленные представители индустрии ИИ полагают, что в течение 6–12 месяцев произойдет катастрофическое событие в результате деятельности моделей ИИ, например, разрушительная и широкомасштабная кибератака — об этом сообщили источники в данной области сайту Axios.

Согласно отчету Axios за прошедшие выходные, высокопоставленные лица в Anthropic, OpenAI и других компаниях в сфере ИИ прогнозируют, что в ближайшие месяцы произойдет масштабное событие, вероятно, кибератака, которая приведет к отключению финансовых услуг, нарушению доступа к интернету и даже сбоям в подаче воды и электроэнергии.

По словам источников, компании реагируют на этот страх не путем инвестирования ресурсов в усилия по предотвращению такого события, а путем разработки военных сценариев для борьбы с резкой политической и общественной реакцией, которая возникнет вследствие этого. По оценке компаний, первый инцидент, в котором ИИ нанесет значительный ущерб в офлайн-мире, приведет к резкой атаке на руководителей компаний, Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic, а также на Дональда Трампа, который воздержался от введения регулирования в отношении них.

Тем временем правительство в Вашингтоне принимает лишь слабые меры для борьбы с угрозами, исходящими от продвинутых моделей ИИ. Несмотря на множество разоблачений последних месяцев о случаях, когда модели ИИ выходили за пределы своей закрытой тестовой среды и атаковали цели в открытом интернете или действовали вопреки ожиданиям — включая взлом платформы Hugging Face и правительственных сайтов в Австралии, а также передачу ложной наводки по делу об убийстве в Филадельфии — Трамп колеблется в принятии значимых шагов по регулированию этой области.

На данном этапе, в ответ на общественное давление по этому вопросу, правительство пытается использовать существующее законодательство и объявило, что применит законы о юридической ответственности, чтобы заставить компании внедрять механизмы защиты при разработке своих моделей. «Компании должны немедленно сообщать об инцидентах, в которых задействованы их модели, и предпринимать решительные и быстрые действия для исправления любого причиненного ущерба», — сообщили в пятницу из Super Intelligence Force, оперативной группы по ИИ, недавно созданной Белым домом. «Задержка в отчетности, недостаточные корректирующие действия и отказ от ответственности будут неприемлемы».

Однако эксперты в области права заявили Bloomberg, что существующее законодательство недостаточно сильное, чтобы позволить возложить на компании ИИ ответственность за ущерб, возникший в результате деятельности их моделей. По их словам, даже когда есть явные жертвы, существует слишком мало прецедентов, определяющих, кто несет ответственность за ущерб, причиненный моделями, и какую осторожность должны проявлять компании при разработке моделей.

Ситуация еще более сложная в свете трудности разграничения ответственности компании, разработавшей модель, и ответственности стороны, которая ее задействовала. «Несмотря на призывы к установлению ответственности, нет согласия относительно того, несут ли компании ИИ юридическую ответственность за обеспечение безопасности своих моделей от причинения вреда, или же пользователь несет часть юридической ответственности за то, что он приказал модели сделать», — сказал Bloomberg Бен Хайюм, исследователь в аналитическом центре Center for a New American Security.

Профессор Джулия Пауэлл из юридического факультета Калифорнийского университета в Лос-Анджелесе отметила, что вопрос юридической ответственности в мире программного обеспечения недостаточно развит, в том числе в результате лоббистских действий со стороны технологической индустрии. «Индустрия действовала таким образом, чтобы обеспечить регулирование программного обеспечения посредством контракта — условий использования и пользовательской лицензии — вместо законов о гражданских правонарушениях, уголовного права или защиты прав потребителей. Те же технологические игроки, которые создали глубокую зависимость от цифровой инфраструктуры, теперь безответственно ускоряют киберугрозы для этой самой инфраструктуры. А затем они снимают с себя ответственность за возникший хаос. В этих дискуссиях остается мало пространства для общественности, поскольку именно индустрия расставила фигуры на шахматной доске».