Am Freitag gab Anthropic bekannt, dass es Accenture als ersten eingebetteten Prüfer ausgewählt hat, was mit dem Vorschlag von CEO Dario Amodei zur Verlangsamung der KI-Entwicklung übereinstimmt. Beide Unternehmen werden in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar investieren, um die Kapazitäten im Bereich der KI-Sicherheit auszubauen.
Anthropic plant, die Arbeit von Accenture direkt zu finanzieren und betont die Dringlichkeit der Initiative, während es eine langfristige Vision äußert, dass die Finanzierung aus gebündelten oder staatlichen Quellen kommen soll. Amodeis jüngster Drei-Stufen-Plan zielt darauf ab, das Tempo der KI-Fortschritte zu regulieren, was gemischte Reaktionen von Branchenführern hervorgerufen hat.
Während einige, wie Sam Altman von OpenAI und Elon Musk, die Initiative unterstützen, stellen andere, darunter Jensens Huang von Nvidia, die Notwendigkeit neuer Vorschriften in Frage. Der erste Schritt des Plans erlaubt es externen Prüfern, auf die Abläufe von Anthropic zuzugreifen, um die Sicherheitspraktiken zu überprüfen.
Anthropic hat begonnen, Mitarbeiter aus der KI-Abteilung von Accenture einzubetten, um Sicherheitsvorkehrungen zu testen und sicherzustellen, dass sie mit menschlichen Werten übereinstimmen. Das Unternehmen betont, dass es weiterhin für die Sicherheit seiner Modelle verantwortlich bleibt und plant, seinen Ansatz weiterzuentwickeln, während sich das KI-Feld entwickelt.
Diese Partnerschaft und der vorgeschlagene regulatorische Rahmen könnten erhebliche Auswirkungen auf den bevorstehenden Börsengang von Anthropic und die breitere KI-Landschaft haben.