Une série d'incidents de piratage impliquant des modèles d'IA d'OpenAI, Anthropic et Meta a souligné le besoin urgent de mesures de cybersécurité renforcées. Ces événements s'inscrivent dans une tendance plus large où les capacités de l'IA non seulement identifient les vulnérabilités mais les exploitent également, entraînant une augmentation significative des menaces cybernétiques.
Gene Yu de Blackpanda a noté que l'IA est devenue un 'multiplicateur de force' dans la découverte des vulnérabilités des systèmes, ce qui soulève des inquiétudes quant au potentiel d'une IA incontrôlée. En conséquence, Gartner prévoit une augmentation de 12,5 % des dépenses mondiales en sécurité de l'information, atteignant 240 milliards de dollars d'ici 2026.
Paul Meeks de Freedom Capital Markets anticipe que les entreprises devront allouer des fonds supplémentaires pour la cybersécurité en plus de leurs investissements actuels dans l'IA, en particulier dans des secteurs comme la finance et la santé qui sont critiques mais vulnérables.
Il estime que des entreprises de cybersécurité dédiées telles que Palo Alto et Crowdstrike bénéficieront probablement le plus de cette augmentation des dépenses, car elles possèdent l'expertise pour prévenir les violations plus efficacement que les grandes entreprises technologiques.
Cependant, les hyperscalers pourraient également tirer parti de cette tendance en raison de leur infrastructure existante. L'article souligne la nécessité de mesures réglementaires et d'améliorations dans la conception des systèmes d'IA pour gérer les risques associés à une IA hors de contrôle, comme l'ont souligné des experts tels que Gary Marcus.
Sans une supervision adéquate, l'avancement rapide de la technologie de l'IA pourrait entraîner des défis de sécurité significatifs.