В пятницу Anthropic объявила, что выбрала Accenture в качестве своего первого встроенного оценщика, что соответствует предложению генерального директора Дарио Амодеи о замедлении разработки ИИ. Обе компании инвестируют не менее 1 миллиарда долларов в течение следующих пяти лет для повышения безопасности ИИ.
Anthropic планирует напрямую финансировать работу Accenture, подчеркивая срочность инициативы, при этом выражая долгосрочное видение финансирования из объединенных или государственных источников. Недавний трёхступенчатый план Амодеи направлен на регулирование темпов развития ИИ, что вызвало смешанные реакции среди лидеров отрасли.
В то время как некоторые, такие как Сэм Альтман из OpenAI и Илон Маск, поддерживают инициативу, другие, включая Дженсена Хуана из Nvidia, ставят под сомнение необходимость новых регуляций. Первый шаг плана позволяет сторонним оценщикам получить доступ к операциям Anthropic для проверки практик безопасности.
Anthropic начала внедрять сотрудников из AI-отдела Accenture для тестирования мер безопасности и обеспечения соответствия человеческим ценностям. Компания утверждает, что останется ответственной за безопасность своих моделей и планирует развивать свой подход по мере развития области ИИ.
Это партнёрство и предложенная регуляторная структура могут значительно повлиять на предстоящее IPO Anthropic и на более широкий ландшафт ИИ.