Lundi, Nvidia, accompagné de géants de la technologie tels que Microsoft et SpaceX, a annoncé la formation de l'Open Secure AI Alliance, visant à traiter les vulnérabilités des technologies d'IA ouvertes. Cette initiative fait suite à une cyberattaque contre Hugging Face, qui a révélé les limites des modèles fermés pour se défendre contre de telles menaces.
L'incident a souligné la nécessité de modèles à poids ouverts pouvant être modifiés et auto-hébergés, contrastant avec les modèles fermés qui restreignent l'accès. L'objectif de l'alliance est d'améliorer la sécurité des systèmes d'IA et de garantir que les défenseurs disposent des outils nécessaires pour une auto-défense efficace.
De plus, la pression augmente de la part des législateurs américains pour limiter l'utilisation des modèles d'IA chinois, qui ont été impliqués dans le vol de propriété intellectuelle. Le secrétaire au Trésor, Scott Bessent, a averti des sanctions potentielles contre les entreprises chinoises impliquées dans ces activités.
La situation soulève des inquiétudes quant à l'avenir de l'IA open-source, alors que de nombreux modèles de premier plan sont développés par des entreprises chinoises. Nvidia et d'autres entreprises ont exhorté les décideurs à éviter des restrictions hâtives qui pourraient entraver la concurrence et l'innovation dans le secteur de l'IA.