Poznat text z AI spolehlivě zatím nejde ani s novými vodoznaky. Evropský AI Act od srpna 2026 požaduje, aby byl obsah vytvořený umělou inteligencí strojově rozpoznatelný. OpenAI proto podle serveru Lupa.cz začalo v EU označovat texty z ChatGPT neviditelným vodoznakem. Stačí ale přeformulovat čtvrtinu slov a úspěšnost odhalení podle samotné firmy klesne z 95 na 17 procent.
Co AI Act vyžaduje a co OpenAI nasadilo
Povinnost vychází z článku 50 evropského nařízení o umělé inteligenci. Firmy, které nabízejí generativní AI, musí zajistit, aby šel výsledek jejich práce rozpoznat jako uměle vytvořený. U obrázků se to řeší skrytými značkami v souboru, u textu je to složitější.
OpenAI podle Lupy v říjnu oznámilo vodoznak pro texty z ChatGPT a Codexu v Evropské unii. Neskrývá se v něm žádný neviditelný znak, značka spočívá ve výběru slov. U delších technických textů ji podle firmy detektor zachytí asi v 95 procentech případů. Když ale někdo nahradí čtvrtinu slov synonymy, úspěšnost spadne zhruba na 17 procent. Překlad nebo výraznější přepis vodoznak smaže úplně. U jiných evropských jazyků než angličtiny je zachycení podle uvedených čísel jen 42 až 69 procent.
Proč na tom učitel ani personalista nepozná nic
Nástroj na ověření vodoznaku není veřejný, přístup k němu mají jen vybraní výzkumníci a instituce. Při používání přes API je značkování navíc ve výchozím stavu vypnuté. Jiné firmy používají vlastní řešení, Google například systém SynthID, a stovky volně dostupných modelů žádné označení nemají a nikdo ho po nich vymáhat nemůže. Podle dokumentace OpenAI navíc chybějící vodoznak neznamená, že text napsal člověk.
Autor textu na Lupě David Strejc přirovnává vodoznak k cedulce „Pozor pes“ na plotě, za kterým žádný pes není. Někoho odradí, nikoho nezastaví. Vodoznak podle něj pomůže platformám a výzkumníkům odhadnout, kolik obsahu na internetu vzniká pomocí AI, nebo vystopovat hromadné dezinformační kampaně. Učiteli, který hodnotí jednu seminárku, nebo personalistovi nad jedním motivačním dopisem ale nepomůže.
Co z toho plyne pro firmy a čtenáře
Firmy by podle Strejce neměly počítat s tím, že použití AI zůstane bez povšimnutí, ani s tím, že ho nějaký detektor spolehlivě odhalí. Pravidla AI Act o transparentnosti počítají s tím, že zákazník má vědět, kdy komunikuje s automatem. Odpovědnost za obsah nese vždy ten, kdo ho zveřejní, ne software. Pro běžné uživatele platí i další zásada: do chatbotů nevkládat celé smlouvy s osobními údaji. Evropská pravidla pro AI se přitom dál mění, jak ukazuje návrh Digital Omnibus, který má upravit GDPR. O tom, co AI agenti dokážou bez lidského dohledu, svědčí i případ, kdy se dostali na vládní weby v USA.
Zdroj: www.lupa.cz
