Правительство Британской Колумбии подает в суд на OpenAI, а также на его основателя и генерального директора Сэма Альтмана, утверждая, что они не предприняли действий для предотвращения стрельбы в Тамблер-Ридж, поскольку не уведомили власти о подозрительных разговорах исполнительницы бойни с ChatGPT.

«Семьи, выжившие и все те, чьи жизни изменились из-за этой трагедии, имеют право на ответы и принятие ответственности», — заявила вчера (в понедельник) на пресс-конференции генеральный прокурор Британской Колумбии Ники Шарма, согласно репортажу CBC. «Ни одна компания не должна освобождаться от ответственности только потому, что ее технология является новой».

10 февраля этого года Джесси Ван Рутслар, 18-летняя трансгендерная личность, убила свою 39-летнюю мать и 11-летнего брата в их доме в Темблер-Ридж, Британская Колумбия, а затем отправилась в местную среднюю школу, где убила еще шесть человек — учителя и пятерых учеников в возрасте 12 и 13 лет. Ван Рутслар покончила с собой в конце своего кровавого пути.

Примерно через две недели после теракта газета Wall Street Journal раскрыла, что за несколько месяцев до него OpenAI идентифицировала Ван Ротслар как потенциальную угрозу после разговоров, которые та вела с ChatGPT. В ходе беседы с ChatGPT в июне, растянувшейся на несколько дней, Ван Ротслар описывала сценарии, включающие насилие с применением оружия. Автоматические системы компании распознали проблемные разговоры и передали их на рассмотрение сотрудникам. В ходе проведенных внутренних обсуждений около двенадцати сотрудников колебались, стоит ли предпринимать какие-либо действия. Некоторые сотрудники истолковали слова Ван Ротслар как знак того, что она планирует применить насилие в офлайн-мире, и призвали руководство компании обратиться в правоохранительные органы Канады, чтобы предупредить их о ее поведении. Однако в конечном итоге OpenAI решила не обращаться в органы.

В июне семьи жертв подали иск против компании в федеральный суд Лос-Анджелеса, утверждая, что OpenAI не обратилась в полицию, поскольку это раскрыло бы объем разговоров с ChatGPT, связанных с насилием, и поставило бы под угрозу ее планируемое IPO. В иске утверждается, что решение не обращаться в органы власти было принято Альтманом и другими руководителями, вопреки рекомендациям команды по безопасности компании. В начале сентября выжившие в теракте подали аналогичный иск.

Вчера Британская Колумбия подала собственный иск в федеральный окружной суд Калифорнии. Согласно иску, OpenAI разработала небезопасный продукт и проявила халатность при сообщении о подозрительном поведении полиции. Также утверждается, что компания нарушила стандарты ответственности за качество продукции и выступила в качестве помощника в стрельбе. «В других обстоятельствах, когда человек помогает, поощряет или вступает в сговор для совершения уголовного преступления или действует по преступной халатности, он может быть расследован, привлечен к ответственности и осужден», — заявила Шарма. «ИИ не освобожден от этих принципов уголовного права».

В иске упоминаются извинения, опубликованные Альтманом в апреле, в которых он написал, что «глубоко сожалеет», что компания не предупредила правоохранительные органы о беседах террористки с ChatGPT. «Эти извинения являются признанием того, что OpenAI осознала риск, но не смогла принять соответствующие меры», — утверждается в иске.

Британская Колумбия требует возмещения ущерба в связи со стоимостью строительства нового здания для школы Тамблер-Ридж (предыдущее здание было разрушено после теракта), а также в связи с расходами, такими как выплаты педагогам, терапевтам, социальным работникам и полицейским.

В OpenAI в ответ на запрос CBC сообщили: «Наши мысли остаются с жертвами, их семьями и всем сообществом. OpenAI привержена сотрудничеству с правительством и правоохранительными органами, а также дальнейшему продвижению наших усилий по обеспечению безопасности».