In einem am Samstag veröffentlichten Aufsatz betonte Dario Amodei die Notwendigkeit für Unternehmen der künstlichen Intelligenz, das Tempo der Modellentwicklungen zu verlangsamen, um die Sicherheit zu priorisieren.
Er skizzierte einen dreistufigen Plan, der den Zugang von Drittanbietern zur Überprüfung von Sicherheitspraktiken, die Förderung der Zusammenarbeit zwischen KI-Firmen in demokratischen Ländern zur Festlegung von Sicherheitsstandards und den Dialog zwischen demokratischen und autoritären Regierungen umfasst.
Amodeis Aufruf zu einem überlegteren Ansatz folgt auf den kürzlichen Rücktritt eines Forschers von Anthropic, der Bedenken hinsichtlich der existenziellen Risiken äußerte, die von KI ausgehen.
Während Amodei anerkennt, dass einige Aspekte seines Plans schwierig umzusetzen sein könnten, glaubt er, dass es entscheidend ist, sich die Zeit zu nehmen, um KI-Technologien mit menschlichen Werten in Einklang zu bringen.
Seine Ansichten fanden Unterstützung bei namhaften Persönlichkeiten der Branche, darunter Sam Altman von OpenAI und Elon Musk, die beide die Bedeutung eines angemessenen Tempos der KI-Entwicklung anerkannten.
Amodeis Haltung spiegelt einen wachsenden Konsens unter Forschern wider, dass KI das Potenzial hat, das menschliche Leben erheblich zu verbessern, die damit verbundenen Risiken jedoch sorgfältig gemanagt werden müssen, um katastrophale Ergebnisse zu vermeiden.