Dario Amodei äußerte erhebliche Bedenken hinsichtlich des rasanten Fortschritts der künstlichen Intelligenz, insbesondere im Kontext des internationalen Wettbewerbs mit Ländern wie China.
In einem Interview mit CBS News beschrieb er das Dilemma, ob feindliche Nationen einer vorgeschlagenen Verlangsamung der KI-Entwicklung zustimmen würden, und betonte die militärischen Vorteile, die sich daraus ergeben könnten, der Erste zu innovieren.
Amodeis kürzlich veröffentlichter Aufsatz plädiert für einen dreistufigen Plan, der darauf abzielt, den KI-Fortschritt zu verlangsamen und gleichzeitig die kommerzielle Wettbewerbsfähigkeit und die Führungsrolle der USA in diesem Sektor aufrechtzuerhalten.
Dieser Plan umfasst den Zugang von Drittanbietern zur Überprüfung von Sicherheitspraktiken, die Förderung der Zusammenarbeit unter demokratischen Nationen zur Festlegung von Sicherheitsstandards und den Dialog zwischen demokratischen und autoritären Regierungen.
Der Vorschlag hat Unterstützung von Branchenführern erhalten, darunter Sam Altman von OpenAI und Elon Musk, die die Notwendigkeit einer Aufsicht in der KI-Entwicklung anerkannten.
Kritiker wie David Sacks argumentieren jedoch, dass sowohl Anthropic als auch OpenAI Verantwortung für ihre Fortschritte übernehmen sollten, ohne externe Genehmigungen einzuholen, und deuten an, dass ihre Motivationen möglicherweise nicht ganz altruistisch sind.
Der Hintergrund dieser Diskussion umfasst das Potenzial beider Unternehmen, Börsengänge anzustreben, wobei Altman andeutete, dass OpenAI seinen IPO aufgrund von Sicherheitsbedenken möglicherweise verzögern könnte.
Insgesamt spiegelt Amodeis Aufruf zu einem vorsichtigeren Ansatz in der KI-Entwicklung wachsende Besorgnis über die Risiken der Technologie und die Notwendigkeit regulatorischer Rahmenbedingungen in einem zunehmend wettbewerbsintensiven Umfeld wider.