Anthropic сообщила о масштабных кампаниях по незаконной дистилляции своей модели Claude. По данным компании, три лаборатории, DeepSeek, Moonshot и MiniMax, сгенерировали более 16 млн запросов через около 24 тыс. мошеннических аккаунтов, обходя региональные ограничения и условия доступа.
Речь идет о так называемой дистилляции, методе обучения, при котором менее мощная модель обучается на ответах более сильной. В обычной практике это легальный способ создать более компактную версию собственной модели. В данном случае, как утверждает Anthropic, дистилляция использовалась для извлечения ключевых возможностей Claude, агентного рассуждения, работы с инструментами и программирования, чтобы ускорить развитие собственных систем.
Масштабы различаются: MiniMax, по оценке компании, провела свыше 13 млн взаимодействий, Moonshot более 3,4 млн, DeepSeek свыше 150 тыс. В отдельных случаях прокси сети управляли до 20 тыс. аккаунтов одновременно, распределяя трафик для обхода детекции.
Anthropic отдельно подчеркнула, что подобные схемы позволяют иностранным лабораториям, включая находящиеся под контролем Коммунистической партии Китая, сокращать технологическое преимущество США, которое поддерживается через экспортные ограничения на передовые чипы и ИИ технологии.
Компания заявила об усилении систем мониторинга API трафика, контроля доступа и обмена данными с отраслью и регуляторами. Компания считает, что подобные атаки, угрозой не только бизнесу, но и национальной безопасности США