Anthropic-CEO Dario Amodei hat vorgeschlagen, externe Sicherheitsprüfer in KI-Unternehmen einzubetten, um die Entwicklung fortschrittlicher Modelle zu überwachen, nachdem ein ehemaliger Forscher vor den Risiken unkontrollierter KI-Systeme gewarnt hatte.
Experten wie Julie Andersen Hill argumentieren jedoch, dass ohne die Möglichkeit, Sicherheitsmaßnahmen durchzusetzen, wie das Stoppen des Modelltrainings oder der Bereitstellung, diese Prüfer möglicherweise Risiken nicht effektiv mindern können.
Während Amodei die Bankenbranche als Präzedenzfall für diesen regulatorischen Ansatz anführt, ist der Vergleich fehlerhaft, da den Prüfern die Durchsetzungsbefugnis fehlt.
Kritiker äußern auch Bedenken, dass dieser Vorschlag dazu dienen könnte, etablierte Unternehmen wie Anthropic und OpenAI vor Wettbewerb und Haftung zu schützen, da sie die Kontrolle darüber behalten, auf was Prüfer zugreifen und berichten können.
Die miteinander verbundene Natur des KI-Bewertungsfeldes kompliziert zudem das Konzept der Unabhängigkeit, da Prüfer möglicherweise Verbindungen zu den Unternehmen haben, die sie bewerten. Insgesamt bleibt die Effektivität dieser vorgeschlagenen Sicherheitsmaßnahmen ungewiss, was das Investorenvertrauen und die regulatorische Prüfung im KI-Sektor beeinflussen könnte.