Vor zwei Monaten waren unabhängige Evaluatoren in der boomenden Branche der künstlichen Intelligenz relativ unbemerkt, doch jetzt werden sie gesucht, um die mit fortschrittlichen KI-Modellen verbundenen Risiken zu managen. Unternehmen wie Anthropic und OpenAI stehen unter Beobachtung, während sie das Gleichgewicht zwischen Innovation und Sicherheit navigieren.
Sie arbeiten mit kleinen gemeinnützigen Evaluatoren wie Model Evaluation and Threat Research (METR) und Apollo Research zusammen, um die Fähigkeiten und Risiken von KI zu bewerten. Dies geschieht vor dem Hintergrund eines Mangels an bundesstaatlichen Vorschriften, was die Rolle dieser Evaluatoren noch kritischer macht.
Der CEO von Anthropic, Dario Amodei, hat sich verpflichtet, unabhängige Evaluatoren in sein Unternehmen zu integrieren, ein Gefühl, das auch von Sam Altman, dem CEO von OpenAI, geteilt wird. Dennoch bleiben erhebliche Fragen hinsichtlich der Finanzierung, des Zugangs und der Unabhängigkeit dieser Evaluatoren.
Kritiker argumentieren, dass es, sich auf Unternehmen zur Selbstregulierung zu verlassen, dem gleichkommt, Banken zu erlauben, ihre eigenen Praktiken ohne Aufsicht zu überwachen.
Kürzlich sind Spannungen aufgetreten, darunter die Entlassung von Mitarbeitern bei OpenAI, die angeblich mit Evaluatoren kommuniziert haben, was Bedenken hinsichtlich der internen Transparenz und Sicherheitspraktiken aufwirft. Das Ökosystem der Evaluatoren entwickelt sich noch, wobei Organisationen wie METR kürzlich 71 Millionen Dollar gesammelt haben, um ihre Fähigkeiten zu verbessern.
Experten betonen die Notwendigkeit echter Unabhängigkeit bei Bewertungen, um Interessenkonflikte zu vermeiden, und schlagen vor, dass staatliches Eingreifen notwendig sein könnte, um Verantwortlichkeit zu gewährleisten.
Die laufenden Diskussionen über unabhängige Verifizierungsorganisationen und potenzielle gesetzgeberische Rahmenbedingungen deuten darauf hin, dass sich die Landschaft für Sicherheitsbewertungen von KI schnell entwickelt, mit erheblichen Auswirkungen auf die Branche und ihre Interessengruppen.