Генеральный директор Anthropic Дарио Амодеи предложил внедрить сторонних оценщиков безопасности в компании по разработке ИИ для мониторинга разработки продвинутых моделей после предупреждений от бывшего исследователя о рисках неконтролируемых систем ИИ.
Однако эксперты, такие как Джули Андерсен Хилл, утверждают, что без возможности применять меры безопасности, такие как приостановка обучения моделей или их развертывания, эти оценщики могут неэффективно снижать риски. Хотя Амодеи ссылается на банковскую отрасль как на прецедент для этого регуляторного подхода, сравнение является ошибочным из-за отсутствия полномочий у оценщиков.
Критики также выражают опасения, что это предложение может служить для защиты устоявшихся компаний, таких как Anthropic и OpenAI, от конкуренции и ответственности, поскольку они сохраняют контроль над тем, к чему оценщики могут получить доступ и что могут сообщать.
Взаимосвязанная природа области оценки ИИ дополнительно усложняет понятие независимости, поскольку оценщики могут иметь связи с компаниями, которые они оценивают. В целом, эффективность этих предложенных мер безопасности остается неопределенной, что может повлиять на настроение инвесторов и регуляторный контроль в секторе ИИ.