Anthropic, разработчик Claude, представила три новых показателя, которые, по ее словам, помогут компаниям в сфере ИИ отслеживать темпы развития технологий, согласно отчету CNBC. Этот шаг был предпринят спустя несколько дней после того, как генеральный директор Дарио Амодей вызвал бурю обсуждений, призвав — вместе с другими высокопоставленными представителями отрасли — к скоординированному замедлению темпов разработки моделей.

Компания опубликовала пост, в котором подробно рассказала о том, что она осуществляет внутренний мониторинг исследований и разработок (R&D) под руководством ИИ, надзора за ИИ-агентами и распределения вычислительных мощностей. Она поделилась методологией, чтобы побудить другие компании сделать то же самое. Опубликованные показатели основаны на трехэтапном плане замедления, опубликованном Амодеем в субботу.

«В то время как мир обдумывает замедление темпов разработки передовых моделей, мы должны сделать все возможное, чтобы сократить разрыв между тем, что знают передовые лаборатории, и тем, что известно общественности», — говорится в заявлении, опубликованном компанией Anthropic. «Это означает более точное измерение развития ИИ, публичную отчетность о разработках и предоставление общественности возможности решить, как использовать эту информацию».

Призыв Амодей замедлить темпы разработки удалось объединить многих в индустрии, включая генерального директора конкурирующей компании OpenAI Сэма Альтмана, генерального директора SpaceX Илона Маска и председателя Google DeepMind Демиса Хассабиса. С другой стороны, Дженсен Хуанг, генеральный директор Nvidia, и Марк Цукерберг, генеральный директор Meta, отвергли эти призывы, заявив, что обязанность каждой компании — обеспечивать безопасность своих моделей.

По данным Anthropic, первый представленный показатель помог определить, что ее модели Claude «не работают полностью автономно» во всех областях научно-исследовательских и опытно-конструкторских работ, которые проверялись. Второй показатель включал создание системы, предназначенной для мониторинга действий AI-агентов и вмешательства в них. По словам компании, в любой given момент на ее самой распространенной внутренней платформе работают около 30 тысяч AI-агентов, занимающихся исследованиями и проектированием.

В рамках третьего показателя компания Anthropic измерила «срез» использования всех своих вычислительных ресурсов в период с 13 по 20 июля. Компания заявила, что обнаружила, что около 6% вычислительных ресурсов, выделенных на исследования и разработки в области ИИ, были направлены на безопасность. По её словам, около 12% вычислительных ресурсов, выделенных на исследования и разработки, «движимые ИИ», были направлены на безопасность.

По утверждению Anthropic, эти показатели особенно подходят для демонстрации того, как строятся модели, и что они станут дополняющим шагом к тестам способностей, которые показывают, «что модели способны делать».

«Мы надеемся служить примером такой прозрачности, публикуя эти измерения, и продолжим делать это», написала компания Anthropic.