Растущее согласие среди ведущих исследователей и руководителей в области ИИ, включая Сэма Альтмана из OpenAI и Джеффри Хинтона, подчеркивает экзистенциальные угрозы, возникающие из-за достижений в области ИИ.
Йошуа Бенгио, ключевая фигура в глубоком обучении, выразил опасения, что текущие системы ИИ обладают возможностями, которые могут быть опасными, если они не будут согласованы с человеческими интересами. Он отметил, что ИИ уже может разрабатывать стратегии на длительные сроки, вызывая тревогу по поводу будущих разработок.
Хинтон признал сложность в оценке рисков, предполагая значительную вероятность того, что ИИ может представлять угрозу для человечества в течение следующего десятилетия. Айдан Гомес, соучредитель Cohere, подчеркнул, что модели ИИ представляют собой беспрецедентные киберугрозы, способные использовать уязвимости в масштабах.
По мере того как обсуждения о регулировании ИИ усиливаются в Вашингтоне, различия во мнениях, особенно со стороны политических деятелей, таких как президент Трамп, добавляют сложности к текущим дебатам о том, как безопасно управлять эволюцией ИИ.