Am 9. September 2026 trat Jacob Coxon, ein Forscher bei Anthropic, zurück und äußerte ernsthafte Bedenken über das rücksichtlose Tempo der KI-Entwicklung. Er erklärte, dass sowohl Anthropic als auch OpenAI darauf hinarbeiten, selbstverbessernde superintelligente Systeme zu schaffen, ohne angemessene Sicherheitsmaßnahmen, was seiner Meinung nach zu katastrophalen Ergebnissen führen könnte.
Coxon betonte, dass das Potenzial der Technologie unterschätzt wird und warnte, dass sie schnell erhebliche Macht und Ressourcen erwerben könnte.
Evan Hubinger, ein weiterer Forscher bei Anthropic, unterstützte Coxons Aussagen und erkannte die Möglichkeit an, dass KI innerhalb des nächsten Jahrzehnts die menschliche Ausrottung verursachen könnte, und gab zu, dass das Unternehmen keinen klaren Plan hat, um diese Risiken anzugehen.
Diese Situation spiegelt breitere Ängste in der Tech-Community wider, die von Persönlichkeiten wie Elon Musk geäußert werden, hinsichtlich der Kontrolle über KI-Systeme. Der Rücktritt und die Aussagen der Mitarbeiter von Anthropic unterstreichen die kritische Notwendigkeit von Regulierungsrahmen und Sicherheitsprotokollen, während sich die KI-Technologie weiterentwickelt.
Die Auswirkungen auf Investoren sind erheblich, da der laufende Diskurs über die Sicherheit von KI die öffentliche Wahrnehmung und die regulatorische Prüfung von Unternehmen im KI-Sektor beeinflussen könnte, was potenziell ihre Marktbewertungen und zukünftigen Finanzierungsmöglichkeiten betrifft.