Tři největší americké laboratoře umělé inteligence spolu jednají už několik týdnů. Šéf globální politiky OpenAI Chris Lehane v úterý ve Washingtonu potvrdil, že firma s Anthropicem a Google DeepMind připravuje společný postup pro bezpečnost AI. Prezident Donald Trump ale dál každé zpomalení vývoje odmítá.
„Je lepší se pokusit spolupracovat a dát bezpečnosti přednost,“ řekl Lehane novinářům podle agentur Bloomberg a Reuters. Rozhovory s konkurenty podle něj běží několik týdnů. Dodal, že firmy k takové koordinaci nepotřebují výjimku z antimonopolních pravidel. Agentura Reuters upozornila, že Alphabet, Anthropic ani OpenAI jí Lehanova slova nezávisle nepotvrdily.
Vyjádření přišlo tři dny po eseji šéfa Anthropicu Daria Amodeiho, který vyzval ke zpomalení vývoje nejsilnějších modelů a k nezávislé kontrole laboratoří. Sam Altman z OpenAI a Elon Musk se k němu přidali, Trump výzvu odmítl. O Amodeiho výzvě jsme psali zde.
Vlastní orgán po vzoru Wall Street
Server The Information a následně TechCrunch napsaly, že tři firmy pracují na vzniku společného průmyslového orgánu, který by stanovil bezpečnostní standardy pro vývoj AI. Podle Altmana má vzniknout bez pomoci americké vlády. Myšlenku otevřel už v červenci šéf Google DeepMind Demis Hassabis. Navrhl instituci podle vzoru FINRA, samoregulační organizace, která dohlíží na obchodníky s cennými papíry. O jednáních o nové bezpečnostní instituci informoval o víkendu také Washington Post. Hotovou dohodu firmy zatím neoznámily.
Lehane zároveň uvedl, že OpenAI podporuje část zákona FRONTIER Act, která počítá s nezávislými ověřovacími organizacemi uvnitř laboratoří. Návrh předložili v červenci republikán Jay Obernolte a demokratka Lori Trahanová. Zřídil by na ministerstvu obchodu post náměstka pro bezpečnost AI, který by uděloval licence nezávislým auditorům. Ministerstvo by mohlo vývoj pozastavit, pokud by od firmy hrozilo bezprostřední katastrofické riziko. Zákon je zatím ve Sněmovně reprezentantů.
Kartel, nebo pojistka?
Spolupráce konkurentů naráží na antimonopolní právo. Amodei proto ve své eseji žádal vládu o úzkou výjimku. Senátoři Jim Banks a Adam Schiff podle Gizmoda předložili návrh, který by ji firmám poskytl. Předseda Federální obchodní komise Andrew Ferguson ale řekl, že je k takovým výjimkám hluboce podezřívavý. Ostře se ozval šéf firmy Cohere Aidan Gomez. Plán označil za „vlka v rouše beránčím, kartel pod jiným jménem“.
Bílý dům celou debatu odmítá. Trump podle Deníku N napsal: „Probíhá tu zvrácené spiknutí proti umělé inteligenci a datovým centrům a jediný, kdo z toho má radost, je Čína.“ Jeho poradce pro AI David Sacks označil obavy z existenčních rizik za přehnané. Administrativa dává přednost závodu s Čínou před brzdou vývoje. Firmy proto jdou dvěma cestami naráz. Domlouvají se mezi sebou a zároveň podporují zákon, který by nezávislou kontrolu zakotvil.
Zdroj: techcrunch.com, gizmodo.com, denikn.cz
