Ein wachsender Konsens unter führenden KI-Forschern und -Führungskräften, darunter Sam Altman von OpenAI und Geoffrey Hinton, unterstreicht die existenziellen Bedrohungen, die durch Fortschritte in der KI entstehen.
Yoshua Bengio, eine Schlüsselperson im Bereich des Deep Learning, äußerte Bedenken, dass aktuelle KI-Systeme über Fähigkeiten verfügen, die schädlich sein könnten, wenn sie nicht mit den menschlichen Interessen in Einklang stehen. Er stellte fest, dass KI bereits über längere Zeiträume strategisieren könnte, was Alarm über zukünftige Entwicklungen auslöst.
Hinton erkannte die Schwierigkeit, die Risiken abzuschätzen, und deutete darauf hin, dass eine erhebliche Wahrscheinlichkeit besteht, dass KI innerhalb eines Jahrzehnts eine Bedrohung für die Menschheit darstellen könnte. Aidan Gomez, Mitbegründer von Cohere, betonte, dass KI-Modelle beispiellose Cyber-Bedrohungen darstellen, die in der Lage sind, Schwachstellen im großen Maßstab auszunutzen.
Während die Diskussionen über die Regulierung von KI in Washington zunehmen, fügt die Divergenz in den Meinungen, insbesondere von politischen Figuren wie Präsident Trump, der laufenden Debatte über die sichere Verwaltung der Evolution von KI zusätzliche Komplexität hinzu.