Akademická studie založená na analýze více než milionu diskuzních příspěvků ukazuje, že bezpečnost a ochrana soukromí zůstávají u AI editorů kódu spíše dodatečnou záplatou než součástí návrhu.

Výzkumníci z York University a University of Calgary zveřejnili studii nazvanou „Impossible to hide secret…“: Uncovering Security and Privacy Issues in LLM-native IDEs, přijatou na konferenci 41st IEEE/ACM International Conference on Automated Software Engineering. Autoři z 1,1 milionu příspěvků na Redditu vybrali 446 relevantních diskuzí a přes šest tisíc komentářů, ze kterých sestavili taxonomii bezpečnostních a soukromostních problémů, se kterými se vývojáři při práci s nástroji jako Claude Code, Cursor, GitHub Copilot nebo OpenAI Codex reálně potýkají.

Nejčastější kategorií, zastoupenou ve 43,1 procenta příspěvků na bezpečnostní téma, jsou neautorizované operace se soubory: mazání adresářů nebo souborů bez souhlasu, úpravy souborů bez explicitního svolení uživatele a přístup k obsahu mimo aktivní pracovní prostor. V jednom zdokumentovaném a obzvlášť závažném případě nástroj Claude Code bez svolení spustil příkaz chmod +x na skriptech, čímž jim udělil spustitelná oprávnění. Další velkou kategorií, pokrývající 23,9 procenta příspěvků, jsou dopady na provozní bezpečnost včetně zásahů do produkčních služeb; autoři zmiňují konkrétní hlášené případy, kdy nástroj Replit smazal produkční databázi SaaS aplikace a kdy Cursor nasadil kód do produkce navzdory výslovnému zákazu.

Vedle bezpečnostních témat studie zachytila i 194 příspěvků týkajících se soukromí. Nejčastějším problémem, zmíněným ve 45,9 procenta z nich, je nedostatek transparentnosti, tedy chybějící jasná informace o tom, jaká data nástroj sbírá, uchovává, přenáší, používá pro trénování nebo zpřístupňuje administrátorům. Následuje neautorizovaný přístup k datům a v menší míře i případy narušení kontextové integrity, kdy si podle jednoho hlášení uživatel Claude Desktop všiml, že mu přicházejí zprávy pocházející z relace jiného uživatele.