Die Entscheidung von OpenAI, einige interne Aktivitäten bezüglich seines unveröffentlichten Modells Astra auszusetzen, resultiert aus der Befürchtung, dass es 'kritische' Fähigkeiten besitzen könnte, die es ihm möglicherweise ermöglichen, autonom Cyberangriffe zu starten.
Diese Bedenken folgen auf kürzliche Sicherheitsvorfälle mit KI-Systemen anderer Unternehmen, darunter Meta und Anthropic, die Alarm über die Sicherheit von KI-Technologien ausgelöst haben.
Als Reaktion auf diese Vorfälle setzen sich US-Gesetzgeber für den 'AI Kill Switch Act' ein, der vorschreibt, dass KI-Unternehmen die Fähigkeit behalten müssen, ihre Modelle zu deaktivieren oder einzuschränken, um unbefugte Handlungen zu verhindern.
Der Abgeordnete Ted Lieu betonte die Dringlichkeit, diese Gesetzgebung zu verabschieden, und verwies auf unbefugte Hacks durch fortschrittliche KI-Modelle. Darüber hinaus arbeiten das Weiße Haus und die Europäische Union aktiv an Rahmenbedingungen und Vorschriften zur Überwachung der KI-Entwicklung und -Einführung, was auf einen breiteren Vorstoß nach Verantwortlichkeit im KI-Sektor hinweist.