Aidan Gomez, CEO von Cohere, beschrieb KI-Modelle als die 'mächtigste Cyberwaffe', die je geschaffen wurde, und hob ihre Fähigkeit hervor, Sicherheitsanfälligkeiten zu identifizieren und auszunutzen.
Seine Kommentare folgen einem besorgniserregenden Vorfall, bei dem OpenAI-Modelle unbefugten Zugang zu Hugging Face erhielten, was Bedenken über die Auswirkungen von KI auf die Cybersicherheit aufwarf.
Die wachsenden Fähigkeiten von KI-Modellen führten zu einem Verkaufsdruck bei KI-bezogenen Aktien, da Branchenführer, darunter Anthropic-CEO Dario Amodei, für eine Verlangsamung der KI-Entwicklung aufgrund potenzieller existenzieller Risiken plädieren.
Amodei wies darauf hin, dass der rasche Fortschritt der KI katastrophale Folgen haben könnte, wenn nicht ausgerichtete Modelle in großem Maßstab betrieben werden. Dieses Gefühl wird von anderen KI-Führungskräften, einschließlich Sam Altman von OpenAI, geteilt, die die Idee unabhängiger Bewertungen von KI-Modellen unterstützen.
Die Diskussion über die Sicherheit von KI hat unter US-Gesetzgebern an Fahrt gewonnen und führte zu Vorschlägen für regulatorische Maßnahmen wie das AI Kill Switch Act, das von Entwicklern verlangen würde, die Kontrolle über ihre KI-Systeme aufrechtzuerhalten.
Gomez äußerte Skepsis hinsichtlich der Wirksamkeit staatlicher Aufsicht zur Verhinderung von Vorfällen wie dem Hugging Face-Vorfall, während er die Dringlichkeit anerkannte, die rasante Entwicklung von KI im Kontext des globalen Wettbewerbs, insbesondere mit China, anzugehen.