Studie s 1 222 účastníky ukazuje, že AI a vytrvalost spolu nejdou dohromady tak, jak by se čekalo. Lidé, kteří úkoly řešili s chatbotem, byli rychlejší. Po jeho odebrání ale dělali víc chyb a častěji to vzdali. Podle autorů k tomu stačí jen několik minut práce s umělou inteligencí.
Na výzkumu se podíleli vědci z Kalifornské univerzity v Berkeley. Práci s názvem AI Assistance Reduces Persistence and Hurts Independent Performance zveřejnili na serveru arXiv. Ten slouží k rychlému sdílení odborných prací, často ještě před recenzním řízením. První verze vyšla v dubnu, poslední úprava je z 13. října. Mezi autory je Grace Liu, Brian Christian a Rachit Dubey. V Česku o studii 30. října informoval server Novinky.cz.
Jak pokus probíhal
Vědci provedli sérii randomizovaných kontrolovaných pokusů. V prvním dostalo 354 lidí rozdělených do dvou skupin 15 základních úloh se zlomky. Jedna skupina mohla používat ChatGPT, druhá ne. Po dvanácti vyřešených úlohách přišla skupina s AI o přístup k chatbotu.
S pomocí ChatGPT byla tato skupina rychlejší. Po odebrání nástroje se ale téměř okamžitě objevily chyby a neschopnost úlohy dokončit. Druhý pokus s 667 účastníky a jinými úlohami přinesl podobný výsledek. Část lidí úkol rovnou vzdala. Třetí část výzkumu se týkala porozumění textu, podobnému jako u přijímacích zkoušek na vysoké školy. Zúčastnilo se jí 201 lidí a výsledky byly opět obdobné.
Co z toho plyne
Autoři v abstraktu píší, že pomoc AI zlepšuje výkon krátkodobě. Bez ní ale lidé podávají výrazně horší výkon a častěji úkol vzdají. Vytrvalost přitom označují za základ získávání dovedností a za jeden z nejsilnějších ukazatelů dlouhodobého učení. Příčinu vidí v tom, že AI lidi navyká na okamžité odpovědi. Přicházejí tak o zkušenost s vlastním řešením obtížného úkolu.
„Jako lidstvo jsme vytvořili AI systémy, aby nám byly užitečné. Ale opravdu jsou užitečné způsobem, který nám pomáhá?“ ptá se Brian Christian. Podle Novinek odkazujících na server Independent dodal: „Ironicky jsme ukázali na to, že nám pomáhá způsobem, který nepomáhá.“
Studie se týká vytrvalosti a samostatného výkonu, ne bezpečnosti dat. I tam ale platí opatrnost. Bezpečnostní firma ESET radí, co do chatbotu nepsat, a Energetický regulační úřad varoval, ať lidé nevkládají do AI celé smlouvy s osobními údaji. Rozpoznat text napsaný strojem přitom zatím spolehlivě nejde ani s vodoznaky podle AI Actu.
Co bude dál
Autoři studie doporučují, aby vývojáři AI modelů vedle rychlého splnění úkolu dbali i na dlouhodobé schopnosti uživatelů. Asistent by podle nich měl učení podporovat, ne ho nahrazovat. Na serveru arXiv je práce zveřejněná jako předběžná verze, kterou autoři od dubna několikrát upravili.
Zdroj: arxiv.org, www.novinky.cz
