Дарио Амодеи выразил значительные опасения по поводу быстрого прогресса искусственного интеллекта, особенно в контексте международной конкуренции с такими странами, как Китай. В интервью CBS News он описал дилемму, согласятся ли противостоящие страны на предложенное замедление развития ИИ, подчеркивая военные преимущества, которые могут возникнуть от того, кто первым внедрит инновации.
Недавнее эссе Амодеи выступает за трехступенчатый план, направленный на замедление прогресса ИИ при сохранении коммерческой конкурентоспособности и лидерства США в этом секторе.
Этот план включает предоставление третьим сторонам доступа для обеспечения соблюдения стандартов безопасности, поощрение сотрудничества между демократическими странами для установления стандартов безопасности и содействие диалогу между демократическими и авторитарными правительствами.
Предложение получило поддержку от лидеров отрасли, включая Сэма Альтмана из OpenAI и Илона Маска, которые признали необходимость надзора за развитием ИИ. Однако критики, такие как Дэвид Сакс, утверждают, что как Anthropic, так и OpenAI должны нести ответственность за свои достижения, не ища внешнего разрешения, предполагая, что их мотивация может быть не совсем альтруистичной.
Фоном для этого обсуждения является возможность того, что обе компании могут стремиться к первичному публичному размещению акций, при этом Альтман указал, что OpenAI может отложить свое IPO из-за опасений по поводу безопасности.
В целом, призыв Амодеи к более осторожному подходу к развитию ИИ отражает растущую тревогу по поводу рисков технологии и необходимость регуляторных рамок в условиях все более конкурентной среды.