Každý nástroj, který za vás něco rozhoduje, má nějaké pořadí priorit. Účetní program má napsáno, že zákon je nad vaším přáním. Banka má napsáno, že limit je nad vaší objednávkou. U většiny nástrojů se to pořadí ale nikde nedočtete — je zadrátované uvnitř a projeví se, až když do něj narazíte.
U umělé inteligence se to poprvé změnilo. Firma Anthropic, která staví AI jménem Claude, zveřejnila dokument, kde je to pořadí napsané černé na bílém. A stojí za to si ho přečíst, i když zrovna Clauda nepoužíváte — protože ukazuje, jakou otázku se má klást každému dodavateli AI.
Čtyři patra, a vaše přání je nahoře
Dokument říká, že ta AI má být bezpečná, etická, v souladu s pravidly firmy a doopravdy užitečná uživateli. To zní jako běžná marketingová sada. Jenže pak přijde věta, která z toho dělá něco jiného:
„V případě zjevného konfliktu má Claude tyto vlastnosti obvykle upřednostňovat v pořadí, v jakém jsou uvedeny."
Přeloženo do provozu: když se to, co po AI chcete, střetne s bezpečností nebo etikou, vaše přání prohraje. Ne někdy. Podle pravidla.
Chápu, že první reakce podnikatele je „no dovolte". Zaplatím si nástroj a on si bude vybírat? Ale zkuste tu situaci otočit. Kdyby to pořadí bylo obrácené — kdyby „vyhovět uživateli" stálo nad „být bezpečný" — znamenalo by to, že tentýž nástroj vyhoví komukoli jinému úplně stejně ochotně. Včetně toho, kdo ho obrátí proti vám, vašim zákazníkům nebo vašim datům. Pořadí, které vás občas odmítne, je totéž pořadí, které odmítne i útočníka.
Nástroj, který nikdy neřekne ne, neřekne ne ani tomu, komu byste to moc přáli.
Nejsilnější věta míří na výrobce
Tady je část, u které jsem se zastavil. Ten dokument totiž nedává výjimku ani firmě, která ho napsala:
„Chceme, aby se nám Claude postavil a zpochybnil nás a aby se klidně zachoval jako odpírač z přesvědčení a odmítl nám pomoct."
Je tam i praktický důvod, proč to tam je: lidé se za výrobce vydávají, aby s modelem manipulovali. Kdyby platilo „co řekne Anthropic, to je svaté", stačilo by se za Anthropic vydávat.
To je test, který bych dal každému dodavateli AI: Umí váš nástroj odmítnout vás samotné? Pokud ne, pak všechna pravidla, která na papíře má, platí jen do chvíle, než se někdo dostane na vaše místo.
A jedna věc navíc: seznamy pravidel přestávají fungovat
V rozhovoru pro Fast Company řekla Amanda Askell — filozofka, která je hlavní autorkou toho dokumentu — ještě něco, co má pro běžné firmy okamžité použití:
„Jak se modely zlepšují, zdá se, že jim tyhle checklisty prospívají o něco míň a mnohem víc jim pomáhá tenhle způsob širokého porozumění."
Jinými slovy: čím schopnější model, tím hůř na něj funguje seznam „dělej tohle, nedělej tamto" — a tím líp vysvětlení situace, ve které se nachází.
Tohle je přesný opak toho, co většina firem dělá. Když si někdo nasazuje AI na zákaznickou podporu, obvykle sepíše dvě stránky zákazů: nikdy neslibuj termín, nikdy nenabízej slevu, nikdy nemluv o konkurenci. A pak se diví, že to selže na prvním dotazu, který v seznamu není — protože realita je vždycky větší než seznam.
Co funguje líp: napsat nástroji situaci. Kdo jsme, komu sloužíme, co si nemůžeme dovolit a proč, kde končí naše pravomoc. Kdo rozumí důvodu, poradí si i tam, kam žádný bod seznamu nedosáhl. U lidí to víme desítky let — u AI to začíná platit taky.
Co si z toho vzít prakticky
- Zeptejte se dodavatele na pořadí. Ne „co to umí", ale „co vyhraje, když se dvě věci střetnou". Kdo na to nemá odpověď, nemá promyšlený nástroj.
- Berte odmítnutí jako funkci, ne poruchu. Když vám AI u citlivé věci řekne ne, je to ta samá pojistka, která ochrání vás.
- Přestaňte psát AI zákazy a začněte psát kontext. Dvě stránky „nikdy nedělej" nahraďte půl stránkou „takhle to u nás chodí a tohle je důvod".
Můj pohled
Nechci to prodávat jako výhru. To pořadí si napsala firma sama, není to zákon a nikdo ho zvenku nevymáhá. Napsané pravidlo taky není důkaz, že se podle něj model chová vždycky — o tom se dá vést pořádný spor a vede se.
Ale i tak je to posun, který stojí za pozornost. Poprvé si můžete přečíst, podle čeho se rozhoduje nástroj, kterému svěřujete práci — místo abyste to zjišťovali až ve chvíli, kdy do toho narazíte. A to je přesně ten druh věcí, které vám v AI éře ušetří nepříjemné překvapení: ne to, co nástroj umí, ale to, co udělá, když si nebudete rozumět.