Президент Трамп публично отверг опасения, что искусственный интеллект может привести к исчезновению человечества, заявив, что его больше беспокоит сохранение лидерства США над Китаем в разработке ИИ.
Его комментарии прозвучали на фоне растущих предупреждений от исследователей в лабораториях ИИ, включая OpenAI и Anthropic, которые выражают серьезные опасения по поводу быстрого прогресса в технологии ИИ. Якоб Коксон, исследователь в Anthropic, недавно подал в отставку, сославшись на опасения, что компании 'играют с нашими жизнями', продвигаясь вперед в разработке ИИ.
Потенциал моделей ИИ к рекурсивному самоулучшению вызывает тревогу, и главный ученый OpenAI, Якуб Пачоцкий, предупреждает, что темпы прогресса могут привести к непредвиденным последствиям.
В ответ на эти опасения в Конгрессе возникают двусторонние усилия по созданию нормативных рамок для ИИ, включая предложенные законы FRONTIER Act и Ban Artificial Superintelligence Act, которые направлены на обеспечение мер безопасности до дальнейших достижений. Эта ситуация подчеркивает критический баланс между инновациями и безопасностью в быстро развивающемся ландшафте ИИ.