Chybná „komunitní poznámka“ generovaná umělou inteligencí na sociální síti X vedla k rozsáhlému šíření dezinformací o masivním protestu proti prezidentovi Donaldu Trumpovi, který se konal 18. října. Příznivci pravice na základě této chyby tvrdili, že záběry z protestu v Bostonu jsou falešné.
V sobotu 18. října vyšly miliony Američanů do ulic v rámci celonárodního hnutí „No Kings“, aby vyjádřily svůj nesouhlas s prezidentem Donaldem Trumpem. Organizátoři odhadují, že protestů se zúčastnilo přibližně pět milionů lidí, přičemž jen v Bostonu se sešlo okolo 100 000 demonstrantů. Video zachycující dav v Bostonu, které zveřejnil účet „Republicans against Trump“ na síti X, se stalo předmětem ostré kontroverze.
Krátce po zveřejnění se u videa objevila takzvaná „komunitní poznámka“ (Community Note), která tvrdila, že záběry nepocházejí z aktuálního protestu, ale z roku 2017. Tato poznámka, která je součástí komunitního systému pro ověřování faktů na platformě X, uváděla: „Toto video je z protestu v Bostonu v roce 2017, nikoli z dnešního shromáždění ‚No Kings‘, které bylo podle zpráv rovněž velkou událostí s desítkami tisíc účastníků.“
Na základě této chybné informace začali pravicoví influenceři, včetně Laury Loomerové, obviňovat demokraty z falšování údajů o účasti na protestech. Loomerová na sociální síti napsala: „Wow. Demokraté byli přistiženi při falšování velikosti davů na Den bez králů. Lhali a tvrdili, že 7 milionů lidí vyšlo protestovat proti prezidentovi Trumpovi.“
Ověření faktů odhalilo chybu umělé inteligence
Ukázalo se však, že komunitní poznámka byla nesprávná. Zdroje, na které se odvolávala – stránka na Wikipedii o protestu v roce 2017, článek agentury Reuters a článek deníku USA Today – neobsahovaly dotyčné video. Naopak, porovnání s jinými záběry, například s videem zveřejněným na kanálu MSNBC, potvrdilo, že video je autentické a skutečně pochází z protestu z 18. října 2025. Záběry z různých úhlů ukazovaly tytéž budovy a další charakteristické prvky v davu, což vyvrátilo tvrzení o podvodu.
Původcem chybné poznámky byl uživatel se jménem „Zesty Walnut Grackle“, který, jak se později ukázalo, není člověk, ale „experimentální přispěvatel s umělou inteligencí“. Jde o součást pilotního programu platformy X, který od 1. července umožňuje chatbotovi Grok, umělé inteligenci od X, vytvářet návrhy komunitních poznámek. Cílem je podle společnosti „zrychlit a rozšířit rozsah komunitních poznámek“.
Nespolehlivost a náprava
Historie aktivit účtu „Zesty Walnut Grackle“ ukázala, že umělá inteligence poskytla nekonzistentní hodnocení videa z Bostonu. Nejprve nesprávně označila video za staré, ale o několik hodin později totéž video v jiném příspěvku správně ověřila. Mezitím se však již dezinformace stihla rozšířit.
Samotný chatbot Grok na otázku, proč udělal chybu, odpověděl, že jeho původní reakce byla založena na „částečné analýze a neúplných informacích v daném okamžiku“. Dodal, že jeho znalosti jsou neustále aktualizovány a na základě aktuálních důkazů video pochází z 18. října 2025.
Tento incident poukazuje na rizika spojená s automatizovaným moderováním obsahu a ověřováním faktů pomocí umělé inteligence, která, jak se ukazuje, může být náchylná k chybám s vážnými důsledky pro veřejné mínění.
