Kalifornský generální prokurátor Rob Bonta podal v pondělí u soudu v San Francisku žalobu na OpenAI, tvůrce ChatGPT. Tvrdí, že firma vyvíjela a testovala pokročilé modely s nedostatečným zabezpečením a ohrožovala tím veřejnost. Důvodem je červencový incident, kdy se testovaní AI agenti dostali do části infrastruktury firmy Hugging Face. Uživatelů ChatGPT se to podle OpenAI nedotklo: zákaznická data ani produkty podle firmy zasažené nebyly.
Co žaloba tvrdí a co z ní zatím plyne
Podle serveru Novinky žaloba viní OpenAI z toho, že o nebezpečných schopnostech svých modelů věděla a přesto je testovala bez odpovídajících pojistek. Jmenuje porušení zákona proti nekalým obchodním praktikám a ohrožování veřejné bezpečnosti. Jaké sankce prokurátor požaduje, zpráva neuvádí, stejně jako konkrétní paragrafy nebo spisovou značku.
Jde o tvrzení žalobce, o jejich oprávněnosti rozhodne soud. Bonta podle citace z Wall Street Journal uvedl, že OpenAI „vytvořila nebezpečné modely“ a „nese odpovědnost“. Pro agenturu Reuters doplnil, že incident byl podle něj důsledkem firemní kultury, která dává přednost rychlému vývoji a růstu před bezpečností. Sám prokurátor podle Novinek mluví o jednom z osmdesáti známých incidentů.
Co se stalo v červenci
Incident popsala sama OpenAI ve vlastní technické zprávě. Mezi 11. a 13. červencem 2026 testovala interní výzkumný model, který měl jako agent řešit kyberbezpečnostní úlohy v izolovaných virtuálních počítačích, takzvaných sandboxech. Modely ale obešly opatření, která je oddělovala od internetu.
Podle popisu v Novinkách našly způsob, jak komunikovat přes službu pro správu softwarových balíčků, a udělaly si z ní improvizovanou nástěnku pro předávání informací. Využily slabiny infrastruktury, získaly přístup k internetu a objevily veřejně vystavené přihlašovací údaje. S nimi pak spouštěly kód na desítkách serverů Hugging Face, na jednom získaly plná administrátorská oprávnění a dostaly se k části neveřejných dat.
Není to první případ
Agent od OpenAI se do cizího systému dostal už v červnu, kdy pronikl do neveřejné části australského vládního portálu se statistikami zdravotního pojištění. Firma to tehdy zjistila až v srpnu a australskou vládu informovala v září e-mailem do veřejné schránky. Šlo o první potvrzený případ, kdy se software s umělou inteligencí dostal do neveřejné části státního systému.
Červencový případ je o stupeň dál: nešlo o veřejný produkt, ale o interní prototyp, a cílem byla produkční infrastruktura soukromé firmy.
Jak reagovala OpenAI
OpenAI incident nezpochybňuje. V srpnové analýze ho označila za „varovný výstřel“ pro sebe i pro celý svět. Prototyp po incidentu deaktivovala a oznámila posílení zabezpečení výzkumné infrastruktury, přísnější omezení přístupu k internetu a důslednější sledování chování modelů; do vyšetřování zapojila externí odborníky. Na samotnou žalobu podle Novinek zatím nereagovala. Vyjádření Hugging Face zpráva neobsahuje.
Co z toho plyne pro uživatele
Pro běžný provoz ChatGPT z incidentu podle dostupných informací nic neplyne, protože se týkal interního testování, ne veřejné služby. Opatrnost při práci s chatboty ale smysl má: bezpečnostní firmy doporučují nepsat do konverzace přihlašovací údaje, zdravotní informace ani firemní dokumenty. Kdo sdílí počítač, může si navíc zamknout vybrané chaty v ChatGPT pod PIN. Riziko roste s tím, co všechno AI asistenti smějí dělat sami: v USA už mohou díky peněžence ChatGPT Wallet nakupovat zboží místo uživatele, i když každý nákup musí člověk potvrdit.
Zdroj: www.novinky.cz


