Co nepsat chatbotu, aby člověk nepřišel k újmě? Bezpečnostní firma ESET doporučuje držet mimo okno konverzace tři okruhy údajů: přihlašovací údaje, cizí a firemní data a citlivé osobní záležitosti včetně zdraví a práva. Důvod je praktický: smazání konverzace nemusí odstranit všechny kopie dat a pravidla poskytovatelů se mohou měnit. Co dělat, když už jste citlivou informaci odeslali, popisujeme na konci.
Hesla a obnovovací kódy
První a nejjasnější skupinou jsou hesla, obnovovací kódy a jakékoli další přístupové údaje. Chatbot není trezor a historie konverzace se ukládá na straně poskytovatele služby. Pokud potřebujete poradit s nastavením dvoufaktorového ověření nebo se správou hesel, popište situaci obecně a konkrétní řetězce znaků do pole nevkládejte.
Cizí a firemní data
Druhou skupinou jsou důvěrné firemní dokumenty, data zákazníků a údaje třetích stran. ESET radí nejprve zjistit, které kategorie důvěrných dat smí nástroj ve vaší organizaci vůbec zpracovávat. U osobních údajů jiných lidí jde navíc o jejich data, nikoli vaše, a odpovědnost za jejich únik nese ten, kdo je vložil. Že se nástroje s umělou inteligencí dostanou tam, kam neměly, přitom není hypotetická obava – letos se agenti OpenAI a Anthropicu dostali bez oprávnění na weby amerických úřadů.
Zdraví, právo a osobní záležitosti
Třetí skupinou jsou citlivé osobní údaje: duševní zdraví, zdravotní a právní problémy a další osobní záležitosti. ESET nedoporučuje jejich sdílení zakázat plošně, ale zvážit předem možné důsledky. Podstatné je upozornění, že chatbot může z historie zadání odvodit informace o konkrétní osobě i tehdy, když jsou jednotlivá vložená data anonymizovaná.
Na co se podívat v nastavení
Před vložením informace se podle doporučení vyplatí projít tři otázky: je ta informace veřejná, mám oprávnění ji sdílet a vadil by mi její únik? V nastavení služby je pak dobré zkontrolovat historii chatu a funkci paměti, externí pluginy, odkazy a webové vyhledávání, protože mohou přenášet data mimo prostředí organizace. Doporučuje se také projít zásady poskytovatele o nakládání s daty, včetně toho, zda je využívá k trénování modelů; tyto zásady se v čase mění. Obezřetnost se vyplatí i u odpovědí samotných – chybná poznámka generovaná umělou inteligencí dokázala rozšířit dezinformaci o protestu.
Když už je informace odeslaná
Postup má tři kroky. Nejprve, pokud to služba umožňuje, smažte konverzaci, odstraňte uložené vzpomínky v paměti a zrušte přístup propojených aplikací. Pokud jste poslali hesla, obnovovací kódy nebo jiné přihlašovací údaje, okamžitě je změňte. A jde-li o firemní údaje, data zákazníků nebo třetích stran, nahlaste incident zaměstnavateli nebo bezpečnostnímu týmu a neřešte ho sami. Debata o rizicích umělé inteligence se vede od začátku jejího masového rozšíření, jak připomíná i starší varování samotných lídrů oboru, u běžného uživatele ale rozhoduje především to, co sám do okna napíše.
Původní text redakce i117.cz.
Zdroj: ct24.ceskatelevize.cz
