Demis Hassabis, generální ředitel laboratoře Google DeepMind a jedna z klíčových postav světového vývoje umělé inteligence, vydal naléhavé varování před potenciálními riziky, která s sebou přináší pokročilá AI. Podle něj čelí lidstvo hrozbě existenčního charakteru, pokud se nepodaří vývoj této technologie dostat pod kontrolu.
V době, kdy se technologické firmy předhánějí ve vývoji stále výkonnějších jazykových modelů a systémů umělé inteligence, přichází hlas z nejpovolanějších míst, který nabádá k opatrnosti. Hassabis, jehož práce stála u zrodu revolučních systémů jako AlphaGo, se obává, že bezprecedentní tempo pokroku může předběhnout naši schopnost vytvořit dostatečné bezpečnostní mantinely.
„Jsme svědky neuvěřitelně rychlého pokroku. Musíme si však otevřeně přiznat, že se blížíme k bodu, kdy by se tyto systémy mohly vymknout naší kontrole,“ uvedl Hassabis. Varuje především před vytvořením takzvané obecné umělé inteligence (AGI), která by dosáhla či překonala lidské schopnosti ve všech oblastech.
Podle šéfa DeepMind není takový scénář již jen námětem pro science fiction, ale reálnou možností v horizontu několika let či dekád. „Pokud se nám nepodaří zajistit, aby cíle těchto superinteligentních systémů byly stoprocentně v souladu s cíli lidstva, můžeme čelit následkům katastrofálního rozsahu,“ dodal.
Hassabis proto apeluje na vlády, vědce a technologické lídry po celém světě, aby zahájili seriózní debatu o mezinárodní regulaci a vytvoření globálních standardů pro bezpečnostní výzkum v oblasti AI. Přirovnal současnou situaci k počátkům jaderné éry, kdy bylo rovněž nutné vytvořit mezinárodní dohody, které by zabránily zneužití nové, mocné technologie.
Ačkoliv Hassabis zdůrazňuje i obrovský pozitivní potenciál umělé inteligence pro řešení problémů, jako jsou nemoci nebo klimatická změna, trvá na tom, že prioritou musí být bezpečnost. „Potenciální přínosy jsou obrovské, ale existenční rizika nelze ignorovat. V této hře si nemůžeme dovolit prohrát,“ uzavřel své varování.
