Das KI-Bewertungsforum, geleitet von Conrad Stosz, hat einen öffentlichen Brief veröffentlicht, in dem die Einrichtung unabhängiger Dritte zur Bewertung der Sicherheit von KI-Technologien gefordert wird.
Diese Gruppe, zu der prominente Persönlichkeiten wie Geoffrey Hinton und Vertreter von Institutionen wie Johns Hopkins und Stanford gehören, reagiert auf die zunehmende Prüfung der potenziellen Gefahren, die von fortschrittlichen KI-Modellen ausgehen. Sie argumentieren, dass ohne angemessene Ressourcen und Schutzmaßnahmen die Bewerter ihre Aufgaben nicht effektiv erfüllen können.
Der Brief hebt die Notwendigkeit wissenschaftlicher Objektivität, Transparenz und Unabhängigkeit in den Bewertungen hervor und fordert KI-Unternehmen auf, ihren Verpflichtungen zu umfassenden Sicherheitstests nachzukommen.
Bemerkenswert ist, dass der jüngste Vorschlag von Anthropic-CEO Dario Amodei, den Bewertern mehr Zugang zu internen Systemen zu gewähren, Diskussionen über die Machbarkeit und die Auswirkungen solcher Maßnahmen angestoßen hat.
Die Koalition betont, dass unabhängige Bewertungen entscheidend sind, um Risiken aufzudecken, die die Cybersicherheit und die nationale Sicherheit bedrohen könnten, da einige mächtige Labore bedeutende KI-Fähigkeiten kontrollieren. Während die Gruppe anerkennt, dass Unternehmen ihren Aufruf zum Handeln ignorieren könnten, betonen sie, dass die Glaubwürdigkeit dieser Firmen auf dem Spiel steht.
Der Brief skizziert spezifische Bedingungen für effektive Bewertungen, einschließlich der Unabhängigkeit von den bewerteten Unternehmen und Schutzmaßnahmen gegen Vergeltungsmaßnahmen für Bewerter. Diese Bewegung spiegelt ein wachsendes Bewusstsein für die Notwendigkeit einer robusten Aufsicht in der sich schnell entwickelnden KI-Landschaft wider.