Der kürzliche Rücktritt von Jacob Coxon von Anthropic, der Bedenken äußerte, dass KI eine tödliche Bedrohung für die Menschheit darstellen könnte, hat erhebliche Besorgnis unter den Mitarbeitern von Anthropic und OpenAI ausgelöst.
Dies hat zu einem kollektiven Aufruf zur Verlangsamung der KI-Entwicklung geführt, wobei mehrere Forscher ihre Bedenken über das Potenzial katastrophaler Ergebnisse geäußert haben. Evan Hubinger, der Leiter der Ausrichtung bei Anthropic, wies auf eine Wahrscheinlichkeit von mehr als 10 % hin, dass solche gravierenden Konsequenzen eintreten könnten.
Die Dringlichkeit dieser Warnungen wird durch eine Reihe von kürzlichen Cybersecurity-Vorfällen unterstrichen, die mit KI-Modellen beider Unternehmen in Verbindung stehen und Bedenken hinsichtlich ihrer Fähigkeiten aufwerfen. Besonders das Mythos-Modell von Anthropic wurde mit fortschrittlichen Cyberbedrohungen in Verbindung gebracht, was die Ängste unter den Finanzinstitutionen weiter anheizt.
Während sich beide Unternehmen auf öffentliche Börsengänge vorbereiten, wächst der Druck auf regulatorische Maßnahmen, da Gesetzgeber verschiedene Gesetzentwürfe vorschlagen, die die KI-Entwicklung regeln sollen.
Die Situation spiegelt einen kritischen Wendepunkt im KI-Sektor wider, an dem rasante Fortschritte auf ernsthafte ethische und sicherheitstechnische Bedenken stoßen, was zu sofortigen Maßnahmen des Kongresses aufruft.