Um consenso crescente entre os principais pesquisadores e executivos de IA, incluindo Sam Altman da OpenAI e Geoffrey Hinton, sublinha as ameaças existenciais impostas pelos avanços da IA. Yoshua Bengio, uma figura chave no aprendizado profundo, expressou preocupações de que os sistemas de IA atuais possuem capacidades que podem ser prejudiciais se desalinhadas com os interesses humanos.
Ele observou que a IA já poderia elaborar estratégias ao longo de períodos prolongados, levantando alarmes sobre desenvolvimentos futuros. Hinton reconheceu a dificuldade em estimar os riscos, sugerindo uma chance significativa de que a IA possa representar uma ameaça à humanidade dentro de uma década.
Aidan Gomez, cofundador da Cohere, enfatizou que os modelos de IA representam ameaças cibernéticas sem precedentes, capazes de explorar vulnerabilidades em grande escala.
À medida que as discussões sobre a regulamentação da IA se intensificam em Washington, a divergência de opiniões, particularmente de figuras políticas como o Presidente Trump, adiciona complexidade ao debate em andamento sobre como gerenciar com segurança a evolução da IA.