Сотрудники ведущих в мире компаний и лабораторий ИИ сталкиваются с сильным психологическим давлением из-за опасений, что системы, которые они разрабатывают, нанесут серьезный вред миру и человеческому обществу, сообщает Financial Times. «Есть ощущение потери контроля и того, что ты создаешь что-то, что причиняет реальный вред», — сказал газете исследователь ИИ в Google.

В последние дни высокопоставленные лица в индустрии ИИ, во главе с Дарио Амодеем из Anthropic, Сэмом Альтманом из OpenAI и Илоном Маском из SpaceX, предупредили о потере контроля над ИИ и призвали замедлить гонку вооружений в этой области. Эти опасения существуют также среди работников индустрии ИИ, и, по словам источников, они ложатся на них тяжелым психологическим бременем.

Согласно сообщениям, сотрудники Anthropic, OpenAI и Google DeepMind жаловались на низкий моральный дух и сильное выгорание в результате растущих опасений по поводу быстрых темпов развертывания разрабатываемых ими моделей и их усиливающихся возможностей. Некоторые старшие исследователи уволились из-за психологического давления, а другие считают, что результаты их работы недостаточно безопасны для публичного распространения.

«Работа над тем, чтобы сделать ИИ более безопасным, сопряжена с риском выгорания, потому что она кажется невыполнимой задачей», — сказал Financial Times сотрудник DeepMind. «Работа над системами ИИ несет риск для психического здоровья, так как неизвестно, какое применение найдет эта технология (в апреле, например, Пентагон начал использовать модели ИИ Google в засекреченных военных операциях, и так далее). Столь много людей обеспокоены, были различные увольнения и много отпусков по состоянию психического здоровья».

По словам источников в отрасли, основными причинами психологического давления и тревоги, которые испытывают сотрудники, являются развертывание моделей в критических областях, таких как боевые действия или критическая инфраструктура, а также отсутствие достаточных механизмов защиты. Бывший исследователь в Институте безопасности ИИ (Aisi) в Великобритании, ведущем в мире органе по независимой проверке моделей ИИ, заявил, что сотрудники в областях кибербезопасности и биохимии особенно обеспокоены недавними скачками в возможностях моделей ИИ, которые позволяют им выполнять сложные задачи, такие как выявление уязвимостей в программном коде и создание вирусов.

«Есть ощущение, что в технологии внедряются безответственные вещи, и это не меняется», — сказал исследователь. «Есть постоянная тревога людей, которые говорят: может ли кто-то это остановить, или мы наблюдаем за тем, как горит мир?» Другой бывший сотрудник Aisi рассказал: «Вера в то, что вы работаете над самой важной проблемой в мире, может привести к очень напряженной корпоративной культуре с токсичным руководством».

Эти слова сочетаются с предупреждениями работников отрасли относительно продуктов, которые разрабатывают их компании. Ранее в этом месяце Джейкоб Коксон, исследователь ИИ в Anthropic, уволился из компании, предупредив, что она и OpenAI «соревнуются на пути к суперразуму с возможностью самосовершенствования и делают ставки на наши жизни». Другие исследователи описали реальность, в которой компании снижают приоритет безопасности моделей, ускоряя при этом развитие их возможностей.