Dario Amodei, PDG d'Anthropic, a abordé les critiques concernant la position de l'entreprise sur les modèles d'IA à poids ouverts dans un récent article de blog. Il a souligné qu'Anthropic n'a jamais plaidé pour une interdiction de ces modèles, qui permettent aux utilisateurs de télécharger et de modifier des systèmes d'IA sur leur propre infrastructure.
Cette clarification intervient après qu'une coalition de géants de la technologie, dont Nvidia, Microsoft, Meta et Palantir, a exhorté les décideurs à s'abstenir d'imposer des restrictions précoces sur les modèles à poids ouverts. Le contexte de cette discussion est la domination des startups chinoises sur le marché de l'IA et le potentiel de restrictions gouvernementales aux États-Unis.
Amodei a reconnu les avantages des modèles à poids ouverts, tels qu'un contrôle accru des clients et une concurrence renforcée, mais il a exprimé son désaccord avec l'idée qu'ils favorisent intrinsèquement les défenseurs cybernétiques.
Il a déclaré que les mesures protectionnistes ne répondraient pas efficacement à ses principales préoccupations en matière de sécurité nationale, plaidant plutôt pour des cadres juridiques ciblés pour traiter des problèmes tels que la distillation illégale, une méthode par laquelle des modèles plus petits sont dérivés de modèles plus grands.
Ce débat en cours met en lumière l'équilibre délicat entre innovation, sécurité et surveillance réglementaire dans le paysage de l'IA en rapide évolution.