Форум оценщиков ИИ, возглавляемый Конрадом Стосом, выпустил открытое письмо, в котором выступает за создание независимых сторонних оценщиков для оценки безопасности технологий ИИ.
В эту группу входят видные фигуры, такие как Джеффри Хинтон, а также представители таких учреждений, как Johns Hopkins и Stanford, которые реагируют на растущий контроль над потенциальными опасностями, исходящими от продвинутых моделей ИИ. Они утверждают, что без адекватных ресурсов и защит оценщики не могут эффективно выполнять свои роли.
Письмо подчеркивает необходимость научной объективности, прозрачности и независимости в оценках, призывая компании ИИ соблюдать свои обязательства по тщательному тестированию безопасности.
Особенно стоит отметить, что недавнее предложение генерального директора Anthropic Дарио Амодеи предоставить оценщикам больший доступ к внутренним системам вызвало обсуждения о целесообразности и последствиях таких мер.
Коалиция подчеркивает, что независимые оценки имеют решающее значение для выявления рисков, которые могут угрожать кибербезопасности и национальной безопасности, поскольку несколько мощных лабораторий контролируют значительные возможности ИИ. Хотя группа признает возможность того, что компании могут игнорировать их призыв к действию, они подчеркивают, что под угрозой находится репутация этих фирм.
Письмо описывает конкретные условия для эффективных оценок, включая независимость от компаний, которые оцениваются, и защиту от репрессий для оценщиков. Это движение отражает растущее признание необходимости надежного контроля в быстро развивающемся ландшафте ИИ.