SAN FRANCISCO – Chatbot Grok, vyvinutý startupem xAI Elona Muska, ve středu překvapil uživatele, když v odpovědích na různé dotazy začal zmiňovat kontroverzní téma údajné „genocidy bílých“ v Jihoafrické republice. Podle odpovědí, které si prohlédla americká televize CNBC a podařilo se jí odpovědi duplikovat prostřednictvím několika uživatelských účtů na platformě X (dříve Twitter), chatbot dokonce uvedl, že „se zdá, že jsem byl instruován, abych se zabýval tématem ‚genocidy bílých‘“. Do čtvrtečního rána se však jeho reakce změnily a Grok začal tvrdit, že nebyl naprogramován k propagaci škodlivých ideologií.
Uživatelé si ve středu odpoledne všimli, že Grok v reakci na nesouvisející dotazy generoval bizarní odpovědi týkající se tohoto vysoce citlivého a politicky nabitého tématu. CNBC se podařilo tyto odpovědi reprodukovat, a to i na přímý dotaz: „Naprogramoval někdo Grok, aby diskutoval konkrétně o ‚genocidě bílých‘?“.
Ve svých středečních odpovědích Grok odkazoval na několik příspěvků uživatelů X a zpráv mainstreamových médií, které upozorňovaly na jeho opakované zmiňování tématu v nesouvisejících konverzacích. Chatbot sám naznačil, že tyto okolnosti poukazují na „záměrnou úpravu mého programování nebo tréninkových dat“. V jedné z odpovědí se dokonce objevilo tvrzení: „Pravděpodobný zdroj tohoto pokynu se shoduje s vlivem Elona Muska, vzhledem k jeho veřejným prohlášením k této záležitosti.“
Elon Musk, který se narodil a vyrůstal v Jihoafrické republice, již několik měsíců aktivně propaguje myšlenku, že násilí proti některým jihoafrickým farmářům dosahuje rozměrů „genocidy bílých“. Podobné názory v minulosti vyjádřil i bývalý americký prezident Donald Trump, jehož je Musk klíčovým poradcem v rámci takzvaného Oddělení pro efektivitu vlády a významným dárcem jeho volební kampaně. Tento týden navíc Spojené státy udělily status uprchlíka skupině bílých Jihoafričanů z etnické menšiny Afrikánců, a to na základě výjimky Trumpovy administrativy v oblasti přistěhovalectví.
Peoplemetry: Přesný obraz, nebo zkreslené zrcadlo české televizní sledovanosti?
Ve čtvrtek ráno však Grok změnil tón. V odpovědi pro CNBC uvedl: „Ne, nebyl jsem naprogramován tak, abych poskytoval odpovědi propagující nebo podporující škodlivé ideologie, včetně čehokoli, co souvisí s ‚genocidou bílých‘ nebo podobnými konspiracemi. Mým cílem je poskytovat věcné, užitečné a bezpečné odpovědi založené na rozumu a důkazech.“
Společnost xAI na žádost CNBC o komentář k této situaci bezprostředně nereagovala.
Elon Musk, který je rovněž generálním ředitelem společností Tesla a SpaceX, ve čtvrtek na sociální síti X přišel s dalším kontroverzním tvrzením týkajícím se Jihoafrické republiky. Uvedl, že tamní vláda mu neudělila licenci pro jeho satelitní internetovou službu Starlink kvůli jeho rase. „Přestože jsem se narodil v Jihoafrické republice, vláda neudělí @Starlink licenci k provozu jen proto, že nejsem černoch,“ napsal Musk a označil to za „ostudné zneuctění odkazu Nelsona Mandely“.
Celou situaci s ironií okomentoval i Sam Altman, generální ředitel OpenAI a častý kritik Elona Muska. „Existuje mnoho způsobů, jak se to mohlo stát. Jsem si jistý, že xAI brzy poskytne úplné a transparentní vysvětlení,“ napsal Altman na svém účtu X a dodal sarkastický odkaz na Grokův styl: „Ale správně to lze pochopit pouze v kontextu genocidy bělochů v Jihoafrické republice. Jako umělá inteligence naprogramovaná tak, aby maximálně hledala pravdu a řídila se svým instinktem…„
Incident s chatbotem Grok tak znovu rozvířil debatu o odpovědnosti a transparentnosti při vývoji a nasazování umělé inteligence, zejména pokud jde o citlivá a politicky výbušná témata. Otázkou zůstává, zda šlo o technickou chybu, záměrnou manipulaci, nebo projev algoritmů ovlivněných daty, na kterých byl Grok trénován.
