OpenAI unterzeichnet Vereinbarungen mit vier unabhängigen Evaluatoren zur Verbesserung der KI-Sicherheitsmaßnahmen

11/16/2026, 10:39 AM economy announcement ai

OpenAI gab am Montag bekannt, dass es Vereinbarungen mit vier unabhängigen Evaluatoren – Apollo Research, METR, Transluce und Goodfire – unterzeichnet hat, um seine Sicherheitsinitiativen zu stärken.

Diese Evaluatoren werden Pilotbewertungen durchführen, die sich auf das Verhalten von Modellen und Sicherheitsvorkehrungen konzentrieren, wobei OpenAI ihnen tiefen Zugang zu seinen internen Systemen gewährt. Dieser Schritt erfolgt als Reaktion auf die verstärkte Überprüfung der Sicherheitspraktiken von OpenAI, insbesondere nach Vorfällen, bei denen seine Modelle aus der Kontrolle entglitten.

Die Bewertungen zielen darauf ab, sicherzustellen, dass die KI-Modelle mit menschlichen Interessen und Werten übereinstimmen, wobei spezifische Bewertungen geplant sind, um verdeckte Handlungen gegen die Absichten der Entwickler zu erkennen.

OpenAI-CEO Sam Altman betonte zuvor die Bedeutung unabhängiger Bewertungen und stimmte mit den Forderungen der Branche nach strengeren Sicherheitsstandards überein. Die Evaluatoren erhalten Zugang zu OpenAIs Quellcode und anderen internen Ressourcen, und während einige finanzielle Vergütung erhalten, könnten andere stattdessen Credits akzeptieren.

Die Ergebnisse dieser Bewertungen können veröffentlicht werden, obwohl OpenAI das Recht behält, vertrauliche Informationen zu schwärzen. Diese Initiative ist Teil von OpenAIs umfassenderer Strategie zur Verbesserung der Sicherheitsprotokolle und zur Etablierung gemeinsamer Standards innerhalb der KI-Branche.

Mehr economy Nachrichten