Der aktuelle Blogbeitrag von Anthropic beschreibt drei Kennzahlen, die KI-Unternehmen dabei unterstützen sollen, ihre Entwicklungsprozesse zu überwachen. Diese Ankündigung erfolgt kurz nachdem CEO Dario Amodei eine Verlangsamung der KI-Fortschritte gefordert hat, ein Aufruf, der Unterstützung von namhaften Branchenvertretern wie Sam Altman von OpenAI und Elon Musk erhalten hat.
Die Kennzahlen umfassen eine Bewertung der von KI geleiteten Forschung und Entwicklung, Überwachungsmechanismen für KI-Agenten und einen Überblick über die Ressourcenverteilung im Unternehmen. Konkret stellte Anthropic fest, dass seine Claude-Modelle in ihren Forschungstätigkeiten nicht vollständig autonom sind und zu jedem Zeitpunkt etwa 30.000 KI-Agenten in Forschung und Technik tätig sind.
Darüber hinaus berichtete das Unternehmen, dass nur etwa 6 % seiner Rechenressourcen für die KI-Forschung Sicherheitsmaßnahmen gewidmet waren.
Durch die Veröffentlichung dieser Kennzahlen möchte Anthropic Transparenz fördern und einen Rahmen bieten, um Dritten die Bewertung des Tempos der KI-Entwicklung zu ermöglichen, was entscheidend ist, während die Branche das Gleichgewicht zwischen Innovation und Sicherheit navigiert.