Киберкомпания Alice привлекла 140 миллионов долларов под руководством Apax Digital при участии Samsung, SentinelOne, Maj Invest, MoreTech, Phoenix. В раунде также приняли участие существующие инвесторы, включая CRV, Grove, NVP, Highland, Vintage, Resolute, Claltech, NFX. Данный раунд финансирования доводит общую сумму инвестиций в компанию с момента ее основания до 280 миллионов долларов. Последний раунд присвоил компании стоимость от 700 миллионов до 800 миллионов долларов. Инвестиционные средства будут использованы для расширения центра разработки в Израиле, а также для расширения системы продаж и маркетинга компании. Alice также планирует увеличить штат сотрудников, разрабатывающих решение компании для отслеживания новых методов атак и расширения возможностей по их обнаружению. Новые сотрудники присоединятся к примерно 400 сотрудникам компании, большинство из которых работают в Израиле, а остальные — в офисах в Нью-Йорке, Лондоне и Гановере.
Компания Alice была основана в 2018 году под названием ActiveFence Ноамом Шварцем (генеральный директор), Йефтахом Ором (CTO), Алоном Поратом (Chief Customer Officer) и Эялем Диканом. На протяжении почти десятилетия она боролась с мошенничеством, кибератаками, скоординированными манипуляциями и враждебным поведением в сети, накопив знания о том, как негативные субъекты меняют методы и пытаются обойти механизмы защиты. Сообщается, что компания Alice приближается к 100 миллионам долларов годовой повторяющейся выручки (ARR).
«Наши системы размещены, помимо прочего, в Amazon и Nvidia», — сказал Шварц изданию Calcalist. «В 2022 году мы уже начали работать с такими лабораториями, как канадская Cohere. Еще до появления ChatGPT мы начали понимать, что наши данные имеют важное значение для безопасности мира. Миры манипуляций, подделок и кибератак — это наш основной профиль. Мы видели там всё, и теперь, когда ИИ превращает это в массовое явление, мы лучше всего к этому подготовлены, потому что мы владеем самыми «загрязненными» данными. Мы помогаем моделям стать более безопасными. В конце прошлого года я понял, что мы не отказались от прошлого, но будущее больше, и мы провели ребрендинг. Сначала новый продукт добился успеха, затем последовал ребрендинг, и после этого раунд финансирования обрел конкретные формы».
Касаясь инцидента с израильской компанией Irregular и утечкой моделей из ее тестовых сред, Шварц сказал: «Irregular позволяет компаниям-разработчикам моделей узнать, в чем заключаются риски модели, а затем есть мы, которые предоставляют решение для каждой рискованной проблемы. Мы создаем для моделей возможности для атак. Мы проверяем риски в областях мошенничества, спама и крупных кампаний по фальсификации и дипфейкам. Мы будем проверять риски и создавать защиты. С тех пор как появились модели, особенно открытые модели, их внедрение нелегитимными организациями стало гораздо выше. Создается множество приложений, которые крадут данные, проводятся кампании с сообщениями и фишингом. Наша роль заключается в том, чтобы исследовать, что может произойти, и выстраивать защиты, которые предотвратят это. Нашей структурой всегда был поиск самых грязных вещей в сети».
Уникальность Alice заключается в том, что ее технология помогает как компаниям, которые создают собственные модели, так и тем, кто использует модели в своих системах. Компания тестирует и защищает системы ИИ на всех этапах — от обучения до фактического использования. Исследователи компании работают еще до запуска с лабораториями ИИ, разрабатывающими передовые модели, такими как Anthropic и Cohere, чтобы выявлять уязвимости и укреплять механизмы защиты. Результаты, полученные в ходе тестирования, используются для адаптации защиты к конкретной системе, данным, разрешениям и инструментам, к которым она подключена. После запуска Alice тестирует систему в условиях ее реальной работы. Организация может определить, какие действия разрешены, а какие запрещены, имитировать атаки для выявления утечек информации, нарушений комплаенса и нежелательного поведения, а также в режиме реального времени отслеживать входные и выходные данные системы.
Исследователи пытаются заставить модель или ИИ-агента действовать вопреки установленным для него правилам: раскрыть информацию, которую ему запрещено передавать, игнорировать инструкции или выполнять действия, о которых его не просили. Элис руководит одной из крупнейших в мире исследовательских лабораторий по безопасности ИИ, в которой работают более 150 исследователей, и в настоящее время защищает восемь из десяти ведущих лабораторий мира, разрабатывающих модели ИИ.
