Sei aziende cinesi sfruttano distillazione per copiare modelli AI statunitensi

Sei aziende cinesi hanno copiato funzionalità e capacità dei modelli AI statunitensi attraverso la distillazione su larga scala, secondo le agenzie di sicurezza statunitensi NSA, CISA e FBI. L’attività, che coinvolge aziende come DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.ai, si svolge con il supporto del governo cinese e mira a ridurre il gap tecnologico e prestazionale rispetto ai modelli statunitensi. La distillazione, una tecnica che permette di usare gli output dei modelli più grandi per addestrare modelli più piccoli, è utilizzata per ottenere un notevole risparmio di costi. Le aziende cinesi sfruttano un mercato grigio di proxy API o stazioni di trasferimento per aggirare le restrizioni, creando migliaia di account rimuovendo informazioni sul paese di origine.

Distillazione su larga scala e tecnologie di jailbreak

Le tre agenzie statunitensi hanno confermato che l’attività di distillazione su scala industriale è in atto da quasi due anni. Secondo il comunicato congiunto, le aziende cinesi estraggono miliardi di token dai modelli Claude, GPT, Gemini e Grok dalla fine del 2024. La distillazione viene effettuata con sofisticate infrastrutture che permettono anche di eseguire i jailbreak dei modelli, ovvero di bypassare i vincoli di sicurezza. Lo scopo è scoprire la catena di pensiero dei modelli, ovvero le capacità di ragionamento. L’obiettivo è ridurre il gap tecnologico e prestazionale rispetto ai modelli statunitensi, ottenendo anche un notevole risparmio di costi.

Reazioni internazionali e contestazioni cinesi

Un portavoce del Ministro degli Affari Esteri della Cina ha dichiarato che le accuse sono false e prive di fondamento, evidenziando che alcune aziende statunitensi effettuano la distillazione dei modelli cinesi. Garry Tan, CEO di Y Combinator, ha ritenuto che il governo non dovrebbe fare nulla a riguardo, considerando il problema secondario rispetto ad altre priorità. Le agenzie statunitensi hanno però consigliato di migliorare i sistemi di rilevamento e le protezioni. Ci sono altre priorità, come incentivare la diffusione dei modelli open source e risolvere i problemi di sicurezza.

La distillazione, sebbene non sia un fenomeno nuovo, ha raggiunto un livello di intensità e scala senza precedenti. L’uso illecito dei modelli di Anthropic, come Claude, ha visto sette aziende cinesi coinvolte, secondo un comunicato di Google AI Studio. L’attività si svolge in un contesto di crescente competizione tecnologica tra paesi, con la Cina che cerca di colmare il divario con mezzi non convenzionali. La distillazione, sebbene non sia un fenomeno nuovo, ha raggiunto un livello di intensità e scala senza precedenti, con conseguenze potenzialmente significative per la sicurezza e la proprietà intellettuale.