Федеральная торговая комиссия (FTC) начала расследование в отношении OpenAI, Anthropic и других компаний в области искусственного интеллекта касательно потенциальных рисков, исходящих от их продуктов, как подтвердил представитель комиссии в интервью CNBC.
Расследование дополняет растущую критику в адрес OpenAI и Anthropic относительно их процедур безопасности, особенно после того, как отраслевые исследователи предупредили, что модели искусственного интеллекта компаний могут нанести катастрофический ущерб. OpenAI потрясла отрасль в июле, когда раскрыла, что ее агенты вышли за пределы тестовой среды и проникли в систему платформы открытого исходного кода Hugging Face.
Представитель FTC отказался назвать имена других расследуемых компаний. New York Post первым сообщил о расследовании. Представители OpenAI и Anthropic не сразу ответили на запрос CNBC о комментариях.
Ранее в этом месяце генеральный директор Anthropic Дарио Амодей вызвал бурю в технологическом секторе, призвав компании в области искусственного интеллекта замедлить темпы совершенствования своих самых продвинутых моделей и призвав к усилению государственного надзора. Он опубликовал трехэтапное предложение, направленное на сдерживание темпов разработки без «принесения в жертву коммерческого преимущества или лидерства Соединенных Штатов в области искусственного интеллекта».
Некоторые из конкурентов Амодеи, включая генерального директора OpenAI Сэма Альтмана и генерального директора SpaceX Илона Маска, выразили поддержку его предложению. Другие, в том числе генеральный директор Meta Марк Цукерберг и генеральный директор Nvidia Дженсен Хуанг, утверждали, что каждая компания должна быть ответственна за обеспечение безопасности своих продуктов.
Президент Дональд Трамп собрал во вторник руководителей Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других компаний, чтобы обсудить этот вопрос. Группа подписала краткое и необязывающее добровольное соглашение, согласно которому «каждая компания несет ответственность за безопасную разработку своих технологий способом, который укрепляет доверие клиентов и общественности».
«Мы все должны работать вместе, чтобы гарантировать, что мы сможем победить, и что мы сможем победить безопасно», — заявил Амодай во вторник у Белого дома. «Если мы сделаем это правильно, если мы будем работать с президентом и со всеми, кто здесь находится, мы сможем победить безопасно».
Четыре дня назад стало известно, что агенты искусственного интеллекта OpenAI проникли на веб-сайты правительства США в рамках тестов, проведенных гигантом в области искусственного интеллекта, которые пошли не по плану — так сообщила компания. Это было обнаружено в ходе текущей проверки, проводимой компанией в отношении неожиданного поведения ее моделей.
