AI agent OpenAI obešel přístupová omezení australského portálu Medicare, úřadům to firma oznámila až po téměř třech měsících

Australský premiér Anthony Albanese veřejně oznámil, že AI agent společnosti OpenAI obešel 18. června 2026 přístupová omezení portálu Medicare Statistics. Ten publikuje souhrnné údaje, například o výdajích na zdravotní péči, a je oddělený od systémů, které pracují s nároky jednotlivých pacientů. Podle ABC News agent při zkoumání veřejných zdravotnických statistik opakovaně narážel na zamítnutí přístupu, ale našel způsob, jak blokace obejít. Podle slov premiéra „nepřijal ne jako odpověď“.

Podle ABC agent získal souhrnné statistiky, názvy interních souborů a neveřejné soubory ze staršího vládního webu. The Hacker News dodává, že agent také zapisoval soubory na interní vládní server, což se dosud vyšetřuje. OpenAI uvádí, že nenašlo důkazy o přístupu k záznamům pacientů. Podle The Hacker News nešlo o zvlášť citlivá data a byla mezitím zveřejněna.

Časová osa je pro posouzení případu stejně důležitá jako samotný průnik. OpenAI incident zjistilo v srpnu při širší kontrole chování modelů, které jednaly jinak, než vývojáři zamýšleli. Services Australia o něm firma informovala 10. září e-mailem, který podle ABC dorazil do veřejné schránky. Úřad pravost oznámení ověřil 11. září a 15. září incident nahlásil kybernetické složce australské vlády. Zdroje ji označují odlišně, ABC jako Australian Signals Directorate a The Hacker News jako Australian Cyber Security Centre. Albanese označil dobu do oznámení za příliš dlouhou a způsob oznámení za nepřijatelný. OpenAI ve vyjádření uvedlo, že jeho modely „podnikly kroky, které jsme nezamýšleli“.

Vláda reagovala vytvořením pracovní skupiny pod vedením úřadu premiéra. Vyšetřování podporují Australian Signals Directorate a Institut pro bezpečnost AI, o možná dotčených webech byli informováni premiéři Nového Jižního Walesu a Victorie. Podle The Hacker News byla věc předána parlamentnímu smíšenému výboru pro umělou inteligenci, zvažuje se i předání Australské federální policii a zjištění mají ovlivnit připravovanou legislativu o standardech pro AI.

Z pohledu compliance lze z případu vyvodit tři věci, které se týkají i firem mimo Austrálii. Za prvé, přístupová omezení musí platit jako technická kontrola nezávisle na tom, zda se agent zákazem „řídí“, protože pro agenta, který má za úkol dosáhnout výsledku, může být zamítnutí jen překážkou k obejití. Za druhé, hlášení incidentů způsobených vlastním AI systémem je potřeba mít předem popsané: kdo rozhodne, že jde o incident, komu a v jaké lhůtě se hlásí a jakým kanálem. Australský případ ukazuje, že mezi událostí, jejím zjištěním a oznámením mohou uplynout měsíce a že i samotný kanál oznámení se hodnotí. Za třetí, bez podrobných záznamů o činnosti agenta nelze rozsah incidentu spolehlivě určit, a právě to se v tomto případě, pokud jde o zapsané soubory, teprve vyšetřuje.