A Anthropic identificou e interrompeu extensas atividades não autorizadas por laboratórios de IA chineses que envolviam o uso de saídas de seu modelo Claude para aprimorar seus próprios sistemas de IA.
O relatório destaca que a operação da Alibaba foi particularmente grande, com mais de 151 milhões de trocas ocorrendo entre maio e julho, atingindo um pico de quase 3 milhões de trocas por dia através de contas fraudulentas.
A Moonshot e a DeepSeek também se envolveram em práticas semelhantes, com a Moonshot retransmitindo quase 300.000 solicitações de clientes para o Claude em um curto período, muitas vezes sem notificar os usuários. Essas ações não apenas violam as leis de privacidade, mas também infringem os termos de serviço das empresas envolvidas.
As implicações dessas descobertas são significativas, pois levantam questões sobre a integridade das práticas de desenvolvimento de IA na China e podem levar a um aumento da fiscalização e ações regulatórias contra essas empresas.
O relatório também menciona que essas atividades faziam parte de uma gama mais ampla de operações cibernéticas e táticas de influência observadas pela Anthropic, indicando um sério desafio para a indústria de IA em relação à segurança de dados e padrões éticos.