Postřehy z bezpečnosti: návrat Claude Fable 5, phantom squatting a nejistota kolem dat mezi EU a USA

Americká vláda před několika týdny omezila dostupnost modelu Claude Fable 5 od Anthropicu poté, co výzkumný tým Amazonu popsal způsob, jak obejít jeho bezpečnostní mechanismy a získat z něj výstupy použitelné k identifikaci zranitelností a tvorbě exploitů. Po devatenácti dnech ale byla omezení zrušena a model je od minulé středy opět dostupný i pro české uživatele. Anthropic při obnovení přístupu doplnil nový bezpečnostní klasifikátor, který má podle firmy zachytit pokusy o jailbreak modelu ve více než 99 procentech případů, byť za cenu vyššího počtu falešně pozitivních blokací u legitimních dotazů. Přísněji zpřístupněný zůstává sesterský model Mythos, omezený především na vybrané americké organizace zapojené do ochrany kritické infrastruktury, a obdobně opatrně přistoupil k prezidentskému dekretu o bezpečnosti AI modelů i OpenAI, který svůj nový model GPT-5.6 Sol zatím zpřístupnil jen vybraným důvěryhodným partnerům. Microsoft mezitím po kritice uživatelů stáhl chystanou funkci pro AI vyhledávání v historii prohlížeče Edge kvůli obavám z úniku dat, zároveň ale do Teams přidal možnost blokovat neautorizované boty a AI asistenty v online schůzkách.

Výzkumníci z týmu Unit 42 společnosti Palo Alto popsali novou útočnou techniku nazvanou phantom squatting, která zneužívá občasné halucinace generativních AI modelů při vytváření odkazů na domény. Pokud si útočník předem zaregistruje neexistující doménu, kterou model chybně nabídne jako legitimní zdroj či API endpoint, může přes ni later zachytit provoz uživatelů nebo autonomních AI agentů, kteří se na doporučení modelu spolehnou. Princip je podobný již dříve popsaným podvodným softwarovým balíčkům s názvy podobnými legitimním projektům, rozdíl je jen v tom, že místo halucinované závislosti v kódu jde o halucinovanou doménu. Riziko roste zejména v prostředích, kde AI asistenti vyhledávají dokumentaci, interní portály nebo API endpointy za uživatele.

Nezisková organizace noyb upozornila na rozhodnutí amerického Nejvyššího soudu, které podle jejího výkladu může dále oslabit předpoklad nezávislého dohledu nad ochranou osobních údajů ve Spojených státech – tedy předpoklad, na němž Evropská komise postavila současný rámec pro transatlantické přenosy dat. Rozhodnutí samo o sobě rámec neruší, ale vzhledem k historii dvou předchozích mechanismů, Safe Harbor a Privacy Shield, které byly kvůli nedostatečným zárukám postupně zrušeny, si podle noyb zaslouží pozornost i ze strany evropských soudů a regulátorů.

V USA pokračuje debata o financování a personálním obsazení agentury CISA, která v nedávné době čelila výrazným škrtům, přičemž se nyní objevují signály o možném opětovném navýšení kapacit. Souběžně americké ministerstvo vnitřní bezpečnosti spouští nový program ANCHOR-CI pro sdílení informací a koordinaci ochrany kritické infrastruktury mezi státem a soukromým sektorem, který má nahradit loni zrušený program CIPAC. Podobný vývoj by mohl znamenat i obnovení plného obohacování databáze NVD, která letos v dubnu podle NIST přešla na takzvaný rizikový model a přestala doplňovat informace ke všem CVE záznamům, ale jen k těm z katalogu CISA KEV, k softwaru používanému federální vládou a ke kritickému softwaru.

Výzkumníci organizací YesWeHack a Sekoia popsali kampaň, v níž útočníci na GitHubu publikovali proof-of-concept exploity infikované malwarem označovaným ChocoPoC. Škodlivý kód přitom nebyl vložen přímo do kódu samotného exploitu, ale do externích balíčků, na kterých byl exploit závislý – tento přístup výrazně snižuje šanci, že si uživatel při zběžné kontrole kódu všimne něčeho podezřelého, a cílí především na bezpečnostní výzkumníky, kteří podobné proof-of-concept exploity běžně stahují a spouštějí.

Mezi dalšími zajímavostmi týdne stojí za zmínku nabídka deseti milionů dolarů od Spojených států za informace vedoucí k identifikaci osob spojených s ruským pokusem o získání obnovovacích klíčů k zálohám účtů na platformě Signal, propojení kampaně FortiBleed se skupinami INC Ransom a Lynx, měsíce trvající nákaza japonských vojenských sítí malwarem šířeným přes USB disky a aktivní zneužívání RCE zranitelnosti v Microsoft SharePoint zjištěné agenturou CISA.