Zkusme malý test. Máte ve firmě etický kodex? A kdy jste ho naposledy četl vy sám — ne podepsal, ale opravdu přečetl?
Ptám se proto, že jsem narazil na esej, která tvrdí něco nepříjemného: dokument, který napsala firma Anthropic pro svoji umělou inteligenci, je podle autora
„přísnější etický dokument než většina firemních etických kodexů."
Přísnější dokument pro stroj než pro lidi. To samo o sobě stojí za zamyšlení. Ale skutečná pointa té eseje je jinde — a týká se každého, kdo nějaký AI nástroj nasazuje do svého provozu.
Duše nástroje končí tam, kde začíná jeho použití
Klíčová věta zní takhle:
„Duše má smysl jen do té míry, do jaké ho má svět, ve kterém žije. Systém postavený s vytříbenou etickou péčí může být nasazen v kontextech, které jeho tvůrci nikdy neposvětili, institucemi, které jeho hodnoty nikdy nesdílely."
Přeloženo do řeči normální firmy: to, jak pečlivě někdo postavil nástroj, neříká nic o tom, jak ho použijete vy. Hodnoty jsou uvnitř té věci. Rozhodnutí je venku, u vás.
A tohle je přesně to místo, kde se dnes láme spousta AI projektů — ne na technice, ale na tom, že si nikdo nepoložil otázku, co ten nástroj bude v našem provozu doopravdy dělat.
Tři místa, kde to poznáte v běžné firmě
1. Nástroj postavený pro pomoc nasazený na tlak. AI, která umí vysvětlit produkt a poradit, se dá stejně dobře nastavit tak, aby zákazníka dotlačila k nákupu, který nepotřebuje. Nástroj se nezměnil. Změnilo se zadání.
2. Ochrana soukromí zabudovaná, data přinesená. Dodavatel může mít bezvadně vyřešené, že s vašimi daty nakládá slušně. To ale neřeší, jestli jste ta data měli právo do něj nasypat. Odpovědnost za vstup nese ten, kdo ho tam vloží.
3. „Člověk to zkontroluje." Nejčastější věta, kterou o AI slyším — a nejčastější sebeklam. Když jeden člověk odklikává výstupy, které vznikají rychleji, než je stíhá číst, není to kontrola. Je to razítko.
Kdy je „člověk v procesu" opravdová pojistka
Podle mě musí mít ten člověk tři věci současně. Chybí-li jedna, pojistka nefunguje:
- Čas. Když je na rozhodnutí míň času, než kolik trvá ho pochopit, kontrola se změní na klikání.
- Informaci. Musí vidět, na základě čeho to AI navrhla — ne jen výsledek. Bez toho nemá co posoudit.
- Pravomoc říct ne. A hlavně: nesmí ho to stát nepříjemnost. Kde se „zastavil jsem to" trestá, tam se to přestane dít.
To není AI téma. To je obyčejné řízení firmy — jen se to při nasazení AI zapomíná, protože nástroj vypadá, že si poradí sám.
Můj pohled
Mám z toho jednoduché pravidlo, které používám, když s někým nasazujeme AI: neptat se hlavně co ten nástroj umí, ale co s ním u nás bude, když se nikdo nedívá. Kdo ho spustí, na co, s jakými daty, a kdo má právo to zarazit.
Dobré hodnoty vestavěné do nástroje jsou skvělá zpráva. Jen nejsou převoditelné — nepřecházejí na vás při koupi jako záruka. Ta část práce zůstává lidem. A upřímně: je to ta zajímavější polovina.