SAN FRANCISCO – V digitálním světě, který je již nyní přesycen manipulovaným obsahem, přichází nová technologie, která hrozí definitivně smazat hranici mezi realitou a fikcí. Společnost OpenAI, tvůrce populárního ChatGPT, představila vylepšenou verzi svého video generátoru Sora 2 a spustila stejnojmennou sociální síť. Tato platforma, fungující na principu TikToku, se stala okamžitým hitem. Má to však jeden zásadní háček: veškerý obsah na ní je falešný. Každé video je dílem umělé inteligence, což z ní činí první masově dostupnou platformu postavenou výhradně na technologii deepfake.
Nástup Sory vyvolává vážné obavy mezi odborníky na technologie, média i bezpečnost. Zatímco první generace AI videí často trpěla viditelnými nedostatky, Sora 2 produkuje obsah ve vysokém rozlišení, s překvapivou kreativitou a synchronizovaným zvukem. Její nejvýraznější a zároveň nejnebezpečnější funkcí je takzvané „cameo“, které uživatelům umožňuje bez větších obtíží vložit podobiznu jakékoli osoby do téměř jakékoli uměle vytvořené scény. Výsledkem jsou děsivě realistická videa, která mohou být zneužita k šíření dezinformací, poškozování pověsti nebo k politické manipulaci.
Nebezpečí si uvědomují i profesní organizace. Odborový svaz herců SAG-AFTRA již dříve tlačil na OpenAI, aby posílila svá ochranná opatření, neboť veřejně známé osobnosti a celebrity jsou vůči těmto útokům obzvláště zranitelné. Vytvoření falešného videa, ve kterém politik pronáší kontroverzní výroky nebo celebrita propaguje podvodný produkt, je nyní snazší než kdy dříve.
Jak se bránit v záplavě falešného obsahu?
Boj s deepfake obsahem je nekončící výzvou. Přestože neexistuje jediný stoprocentně spolehlivý způsob, jak na první pohled odhalit video vytvořené umělou inteligencí, existuje několik mechanismů a postupů, které mohou pomoci, uvedl server cnet.
Prvním z nich je vodoznak. Každé video vytvořené v aplikaci Sora pro iOS je při stažení opatřeno malým bílým logem ve tvaru mraku, které se pohybuje po okrajích obrazovky. Podobný systém používají i jiné platformy jako TikTok. Vodoznaky jsou jasným vizuálním signálem, že obsah nebyl pořízen klasickou kamerou. Jejich spolehlivost je však omezená. Existují aplikace navržené speciálně k jejich odstranění a statické vodoznaky lze jednoduše oříznout. Generální ředitel OpenAI Sam Altman k tomu poznamenal, že společnost se bude muset přizpůsobit světu, kde si kdokoli může vytvořit falešné video kohokoli.
Dalším, technicky pokročilejším způsobem, je kontrola metadat. Metadata jsou data o datech – informace automaticky připojené k souboru při jeho vytvoření, jako je typ kamery, čas a místo pořízení. OpenAI je součástí Koalice pro původ a autentičnost obsahu (C2PA), což znamená, že videa ze Sory obsahují digitální stopu o svém původu. Pomocí online nástrojů, jako je ověřovací portál Iniciativy pro autentičnost obsahu (verify.contentauthenticity.org), může kdokoli nahrát soubor a zkontrolovat jeho původ. V případě videa ze Sory nástroj ukáže, že bylo „vydáno společností OpenAI“ a je generováno umělou inteligencí. Ani tento systém však není dokonalý. Pokud je video upraveno v aplikaci třetí strany, například pro odstranění vodoznaku, digitální stopa se může ztratit.
Sociální sítě jako Instagram, Facebook, TikTok a YouTube také zavádějí vlastní systémy pro označování obsahu vytvořeného AI. Uživatelé jsou vyzýváni, aby své příspěvky dobrovolně označili, a platformy se snaží podezřelý obsah detekovat automaticky. Nejistějším způsobem je však stále přiznání samotného tvůrce.
Nejdůležitější je ostražitost a kritické myšlení
V konečném důsledku je nejlepší obranou proti dezinformacím lidská ostražitost. V době, kdy je možné vytvořit téměř cokoliv, je nutné přestat automaticky věřit všemu, co vidíme online. Odborníci radí řídit se instinktem – pokud se něco zdá příliš neuvěřitelné nebo podivné, pravděpodobně to není skutečné.
Při sledování videí je dobré všímat si drobných detailů, které umělá inteligence zatím nezvládá dokonale: zkomolený nebo nesmyslný text v pozadí, objekty, které se nepřirozeně objevují nebo mizí, a pohyby, které odporují zákonům fyziky. Ačkoli se technologie neustále zdokonaluje, tyto chyby mohou být stále klíčovým vodítkem. V nové éře informačního chaosu se tak kritické myšlení a zdravá dávka skepse stávají nezbytnou výbavou pro každého uživatele internetu.
