Acresia Digest

Americké zpravodajské agentury obvinily čínské AI firmy ze systematické destilace západních jazykových modelů

Novinky Date: Zobrazení: 16

Americké zpravodajské agentury obvinily čínské AI firmy ze systematické destilace západních jazykových modelů

Americké bezpečnostní agentury NSA, CISA a FBI ve společném prohlášení uvedly, že čínské společnosti vyvíjející umělou inteligenci se podle jejich zjištění dopouštějí agresivní, cílené a záměrné destilace ve velkém průmyslovém měřítku. Destilace je technika, při níž se menší nebo levnější model trénuje na výstupech dražšího a výkonnějšího modelu, čímž si osvojuje část jeho schopností bez nutnosti vlastního nákladného vývoje. Agentury jmenovaly konkrétní čínské firmy – DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun a Z.AI – u nichž podle svých zjištění pozorují tuto aktivitu namířenou proti americkým modelům Claude od Anthropicu, GPT od OpenAI včetně GPT-5, Gemini od Googlu a Grok od xAI, a to od konce roku 2024.

Popsané metody zahrnují nákup prémiových předplatných u amerických poskytovatelů, která si mezi sebou sdílí větší počet vývojářů, extrakci takzvaného řetězení myšlenek (chain-of-thought), tedy mezikroků úvahy, které model při odpovídání generuje a které samy o sobě představují cennou technickou informaci o způsobu jeho uvažování. Agentury dále popisují používání VPN, zamlžených účtů a proxy služeb k zastření skutečného původu dotazů, rozdělování provozu mezi více poskytovatelů, aby aktivita nebyla nápadná pro jediný systém detekce, a obcházení geografických omezení prostřednictvím šedých internetových tržišť, jako jsou čínské platformy Taobao a Xianyu, kde se dá zakoupit přístup k účtům registrovaným mimo Čínu.

Americkým společnostem vyvíjejícím jazykové modely agentury doporučují zavést komplexní detekční a zmírňující opatření, upravovat odpovědi v případech podezření na pokus o destilaci a napříč platformami korelovat aktivitu tak, aby bylo možné odhalit i kampaně rozložené mezi více účtů a poskytovatelů. Pro evropské organizace využívající tyto modely má prohlášení spíš nepřímý význam – ukazuje, jak intenzivně se vede soupeření o proprietární technologie a schopnosti špičkových modelů, a tedy i to, že otázky původu, licencování a bezpečnosti dodavatelského řetězce u nasazovaných AI systémů budou v nadcházejících měsících nabývat na významu.

Image

Další články