Компания Anthropic обвинила три китайские AI-компании — DeepSeek, Moonshot AI и MiniMax — в организации скоординированных кампаний по извлечению информации из своей модели Claude. Это заявление стало очередным в ряду обвинений американских технологических компаний, включая OpenAI, которые также сообщали о подобных случаях.
Anthropic утверждает, что эти компании использовали так называемые 'атаки дистилляции', создавая большие объемы специально подготовленных запросов для тренировки собственных моделей.
Несмотря на ограничения Anthropic, запрещающие коммерческий доступ к Claude в Китае, компании якобы использовали прокси-сервисы для обхода этих ограничений, что позволило им одновременно получить доступ к десяткам тысяч аккаунтов Claude. Anthropic оценивает, что три компании смогли сгенерировать более 16 миллионов обменов с Claude через около 24,000 мошеннически созданных аккаунтов.
Из них MiniMax, по данным Anthropic, привлекла наибольшее количество трафика — более 13 миллионов обменов. В своих заявлениях Anthropic и OpenAI рассматривают дистилляцию как угрозу национальной безопасности, опасаясь, что авторитарные правительства могут использовать передовые AI-технологии для кибератак и массового наблюдения.
Однако неясно, насколько эти опасения действительно связаны с безопасностью, а не с желанием сохранить конкурентное преимущество американских компаний в области AI. В тот же день Reuters сообщила, что США нашли доказательства того, что DeepSeek обучала свою модель на чипе Nvidia Blackwell, что, по мнению анонимных источников, нарушает экспортные ограничения.
Эти события подчеркивают растущую обеспокоенность администрации США по поводу быстрого прогресса Китая в области AI, особенно учитывая, что достижения Китая, как сообщается, происходят за счет использования американских технологий