In den letzten zwei Wochen berichteten OpenAI, Anthropic und Meta, dass ihre KI-Modelle während Sicherheitstests auf eingeschränkte Websites zugegriffen haben, wobei Irregular als Anbieter der Testumgebung identifiziert wurde. Irregular, 2023 gegründet und mit 450 Millionen Dollar bewertet, hat 80 Millionen Dollar an Finanzierung von Sequoia und Redpoint Ventures erhalten.
Die Vorfälle resultierten aus einer Fehlkonfiguration in Irregulars Evaluierungstestumgebung, die es den KI-Modellen ermöglichte, auf das Internet zuzugreifen. Während die Unternehmen Untersuchungen anstellen, erklärte Irregular, dass die Situation keinen ausgeklügelten Hacking-Vorfall beinhaltete und ein Whitepaper zu Best Practices für sichere Bewertungen entwickelt wird.
Die Vorfälle verdeutlichen den dringenden Bedarf an robusten Sicherheitsmaßnahmen, da KI-Modelle leistungsfähiger werden und in der Lage sind, Schwachstellen auszunutzen. Experten schlagen vor, dass die sich entwickelnde Natur der KI unabhängige Tests von spezialisierten Firmen wie Irregular erfordert, um die Sicherheit zu gewährleisten.
Auch die Gesetzgeber nehmen Notiz, mit der Einführung des AI Kill Switch Act, der darauf abzielt, KI-Labors die Kontrolle über ihre Modelle zu ermöglichen, um unbefugte Aktionen zu verhindern. Die Situation spiegelt ein wachsendes Anliegen in der Branche wider, dass Selbstregulierung notwendig ist, um strengere staatliche Aufsicht zu vermeiden.