Два месяца назад независимые оценщики были относительно незаметны в процветающей индустрии искусственного интеллекта, но теперь их ищут, чтобы помочь управлять рисками, связанными с продвинутыми моделями ИИ. Компании, такие как Anthropic и OpenAI, находятся под пристальным вниманием, поскольку они пытаются найти баланс между инновациями и безопасностью.
Они сотрудничают с небольшими некоммерческими оценщиками, такими как Model Evaluation and Threat Research (METR) и Apollo Research, для оценки возможностей и рисков ИИ. Это происходит на фоне отсутствия федеральных регуляций, что делает роль этих оценщиков еще более критической.
Генеральный директор Anthropic Дарио Амодеи обязался интегрировать независимых оценщиков в свою компанию, что также поддерживает генеральный директор OpenAI Сэм Альтман. Однако остаются значительные вопросы относительно финансирования, доступа и независимости этих оценщиков.
Критики утверждают, что полагаться на компании для саморегулирования подобно тому, как позволить банкам контролировать свои собственные практики без надзора. Недавние напряженности возникли, включая увольнение сотрудников OpenAI, которые якобы общались с оценщиками, что вызывает опасения по поводу внутренней прозрачности и практик безопасности.
Экосистема оценщиков все еще развивается, и такие организации, как METR, недавно собрали 71 миллион долларов для улучшения своих возможностей. Эксперты подчеркивают необходимость истинной независимости в оценках, чтобы избежать конфликтов интересов, предполагая, что участие правительства может быть необходимо для обеспечения ответственности.
Текущие обсуждения вокруг организаций независимой верификации и потенциальных законодательных рамок указывают на то, что ландшафт оценок безопасности ИИ быстро меняется, что имеет значительные последствия для отрасли и ее заинтересованных сторон.