Dario Amodei, CEO de Anthropic, abordó las críticas sobre la postura de la empresa respecto a los modelos de IA de peso abierto en una reciente publicación de blog. Enfatizó que Anthropic nunca ha abogado por una prohibición de estos modelos, que permiten a los usuarios descargar y modificar sistemas de IA en su propia infraestructura.
Esta aclaración se produce después de que una coalición de gigantes tecnológicos, incluidos Nvidia, Microsoft, Meta y Palantir, instara a los responsables políticos a abstenerse de imponer restricciones tempranas a los modelos de peso abierto. El trasfondo de esta discusión es el dominio de las startups chinas en el mercado de la IA y la posibilidad de restricciones por parte del gobierno de EE.
UU. Amodei reconoció los beneficios de los modelos de peso abierto, como un mayor control del cliente y una competencia mejorada, pero discrepó con la noción de que estos favorecen inherentemente a los defensores cibernéticos.
Expresó que las medidas proteccionistas no abordarían de manera efectiva sus principales preocupaciones de seguridad nacional, abogando en cambio por marcos legales específicos para abordar problemas como la destilación ilegal, un método en el que se derivan modelos más pequeños de modelos más grandes.
Este debate en curso destaca el delicado equilibrio entre la innovación, la seguridad y la supervisión regulatoria en el rápidamente evolutivo paisaje de la IA.