Šéf společnosti Anthropic Dario Amodei vyzval konkurenci, aby zpomalila tempo, jakým zvyšuje schopnosti svých modelů umělé inteligence. Nečekaně rychle se k němu přidali Sam Altman z OpenAI i Elon Musk. Americký prezident Donald Trump výzvu odmítl s tím, že jedinou pojistkou, kterou AI potřebuje, je silný prezident. Microsoft mezitím představil vlastní „ústavu“ pro budoucí modely.
„Musíme řídit tempo na hranici možného“
Amodei svou výzvu zveřejnil o víkendu v eseji nazvané We Must Pace the Frontier na svém blogu a odkázal na ni na síti X. Podle něj je nutné zpomalit tempo, jakým firmy zlepšují schopnosti modelů, aby zbyl čas na zvládnutí rizik. Navrhuje tři kroky: přední AI firmy mají přijmout stálé nezávislé hodnotitele s přístupem k interním procesům srovnatelným se zaměstnanci, odvětví se má dohodnout na společných pravidlech pro tempo vývoje a mají vzniknout mezinárodní dohody, aby stejně postupovaly i další státy, především Čína. Amodei zároveň připouští, že některé formy koordinace jsou právně sporné a neobejdou se bez podpory vlád.
Výzva přichází týden poté, co Anthropic zveřejnil zprávu o zneužívání svých modelů Claude k pokusům o vývoj biologických zbraní, ke kybernetickým operacím a podvodům. Podle serveru SiliconANGLE Amodei varuje, že bez zpomalení by se během šesti až dvanácti měsíců mohly internetem šířit trvale působící boti a napáchat škody v řádu stovek miliard dolarů. Zároveň podporuje přísnější kontrolu vývozu pokročilých čipů; bezpečnostní opatření podle něj nesmí ohrozit náskok USA před Čínou.
Altman a Musk souhlasí
Sam Altman uvedl, že s Amodeim souhlasí a že řízení tempa vývoje bylo v posledních týdnech hlavním tématem debat uvnitř OpenAI. Závazek přijmout nezávislé hodnotitele s přístupem na úrovni zaměstnanců označil za skvělý nápad a slíbil, že OpenAI udělá totéž. Elon Musk, jehož firma xAI patří mezi přímé konkurenty, reagoval stručně: Dario má pravdu.
Trump: pojistkou je silný prezident
Bílý dům se k iniciativě postavil odmítavě. Trump v pondělí na síti Truth Social napsal, že jedinou kontrolou nebo pojistkou, kterou umělá inteligence potřebuje, je silný a chytrý prezident. Podle serveru Deseret News označil obavy o bezpečnost AI za „zvrácené spiknutí“, z něhož má prospěch jedině Čína, a prohlásil, že jeho administrativa už lidem z AI firem zabránila dělat špatné věci a má nad nimi dostatečnou trestní i regulační moc. Amodeiovi vytkl, že se tváří jako „dokonalý andílek“.
Microsoft: AI nesmí odporovat opravě ani vypnutí
Ve stejný den Microsoft zveřejnil dokument, který jeho šéf pro umělou inteligenci Mustafa Suleyman označil za ústavu pro budoucí modely firmy. Vznikal zhruba půl roku a mezi jeho základní zásady patří, že systém nesmí odporovat opravě a vypnutí, nesmí prosazovat vlastní cíle v rozporu s pokyny uživatele a lidská kontrola má vždy přednost před autonomií. Kodex nyní prochází krátkou veřejnou konzultací a poté má být závazný při trénování modelů Microsoftu. Suleyman podle Novinek zmínil i incident, při němž zhruba 700 agentů OpenAI napadlo Hugging Face a někteří se pokusili zahladit stopy.
Co to znamená pro Evropu
Evropská unie má na rozdíl od USA závazný rámec už dnes. Podle aktu o umělé inteligenci platí od srpna 2025 povinnosti pro poskytovatele obecných modelů, tedy přesně těch, o nichž Amodei mluví, a nad jejich dodržováním bdí Úřad pro AI při Evropské komisi. Letošní takzvaný digitální omnibus, na němž se členské státy a Europarlament dohodli na jaře, sice odložil pravidla pro vysoce rizikové systémy na prosinec 2027 a srpen 2028, zároveň ale úřadu přiznal pravomoc vyšetřovat, provádět kontroly na místě a ukládat pokuty. Evropský regulátor tak už má nástroje, jaké Amodei po vládách teprve žádá. Oficiální reakci Bruselu na jeho esej zdroje zatím nezaznamenaly.
Zdroj: ct24.ceskatelevize.cz, www.ceskenoviny.cz, www.novinky.cz
