Недавний пост в блоге Anthropic описывает три метрики, разработанные для помощи ИИ-компаниям в мониторинге их процессов разработки. Это объявление появилось вскоре после того, как генеральный директор Дарио Амодеи выступил за замедление прогресса в области ИИ, призыв, который получил поддержку от известных фигур в отрасли, таких как Сэм Альтман из OpenAI и Илон Маск.
Метрики включают оценку исследований и разработок, проводимых с использованием ИИ, механизмы контроля за ИИ-агентами и обзор распределения вычислительных ресурсов внутри компании. В частности, Anthropic обнаружила, что ее модели Claude не являются полностью автономными в своих исследовательских задачах, и примерно 30 000 ИИ-агентов участвуют в исследованиях и инженерии в любой момент времени.
Кроме того, компания сообщила, что только около 6% ее вычислительных ресурсов для исследований ИИ были выделены на меры безопасности. Делая эти метрики доступными, Anthropic стремится способствовать прозрачности и предоставить рамки для сторонних организаций, чтобы оценить темпы развития ИИ, что имеет решающее значение, поскольку отрасль балансирует между инновациями и безопасностью.