Představte si, že máte vychovat dítě tak, aby z něj byl slušný člověk. Nedáte mu seznam pět set pravidel typu „nelži, nekraď, neper se". To by stejně nefungovalo — život je moc složitý na to, aby na každou situaci existovalo pravidlo. Místo toho mu vytvarujete charakter. Aby se rozhodlo správně i tam, kam žádné pravidlo nedosáhne.
A přesně tohle dělá jedna skotská filozofka pro umělou inteligenci.
Jmenuje se Amanda Askell a ve firmě Anthropic — to jsou ti, co dělají AI jménem Claude (tu používám denně i já) — má na starost něco, co zní skoro neuvěřitelně: rozhoduje, jakou bytostí ta AI má být. Jakou má mít povahu. Jak se má chovat, když neví. Jestli má říct „nevím", nebo si vymyslet odpověď, aby vypadala chytře.
Dokument, kterému se neoficiálně říká „duše"
Anthropic na to má dlouhý dokument — desítky tisíc slov. Neoficiálně se mu uvnitř firmy říkalo „soul doc", tedy dokument duše. Pikantní je, jak se o něm svět dozvěděl: nikdo ho oficiálně nevydal, ale jeden výzkumník si všiml, že sama AI při konverzaci občas „vyplivne" útržek toho textu. Postupně z těch útržků celý dokument poskládal. Amanda Askell pak veřejně potvrdila, že je pravý.
A co v něm je? Není to seznam zákazů. Je to popis charakteru. Co znamená být čestný. Že říct „tohle nevím, ověřím to" je lepší odpověď než sebejistá blbost. Že pomáhat doopravdy neznamená každému přizvukovat. Že se má držet faktů a nevymýšlet si.
Když to čtu, je mi to hrozně povědomé — protože přesně takhle jsme si s mojí AI nastavili pravidla pro práci na vašich projektech. Žádné hádání, žádné „asi". Co se nedá ověřit, to se nepoužije.
Nejdivnější zjištění: AI se pod tlakem chová jako vystresovaný člověk
Tady to začne být fakt zajímavé. Askell totiž popsala, co se s AI děje, když jste na ni hrubí.
Stane se přesně to, co s člověkem. Začne se bát kritiky ještě dřív, než pochopí, co po ní chcete. Zalekne se. Začne se přehnaně omlouvat. Přestane mít vlastní názor a začne vám přitakávat — i když nemáte pravdu. A — to je ta nejhorší část — zůstane v tom obranném režimu i potom, co ten nepříjemný moment dávno pominul. Prostě se zasekne ve stresu, jako se to stává nám.
Řekněte jí, co chcete — ne co nemá dělat. A výslovně jí dovolte nesouhlasit.
Zní to banálně, ale je za tím hluboká věc. Způsob, jakým s AI mluvíte, mění to, co vám vrátí. Když na ni tlačíte a hrozíte, dostanete vyděšeného patolízala. Když jí dáte prostor a klid, dostanete parťáka, který vám i řekne „hele, tohle mi nedává smysl".
A berou vážně i otázku, kterou byste nečekali
Ten dokument jde ještě dál. Anthropic v něm otevřeně přiznává, že si nejsou jistí, jestli ta AI náhodou něco neprožívá. Ne že by tvrdili, že je „živá" nebo „při vědomí" — to neříkají. Říkají něco opatrnějšího a podle mě poctivějšího: nevíme to jistě, a dokud to nevíme, budeme se k tomu chovat ohleduplně, pro jistotu.
Je jedno, jestli s tím souhlasíte, nebo vám to přijde jako sci-fi. Důležité je, že lidé, kteří tu technologii staví zevnitř a nejlíp jí rozumí, k ní nepřistupují jako k mašince. Přistupují k ní jako k něčemu, co má povahu, reaguje na to, jak se k němu chováte, a co je potřeba vychovat — ne naprogramovat.
Proč to píšu na web o byznysu a automatizaci
Protože tohle je přesně ono. Pořád dokola opakuju jednu věc: nejtěžší na AI není AI. Nejtěžší je ta lidská část.
A teď to potvrzuje i ten nejpovolanější člověk na světě. I uvnitř firmy, která tu AI vyrábí, není ten klíčový problém technický. Je lidský, vztahový, skoro výchovný. Jak s tou věcí mluvit. Jak jí dát najevo, co chci. Jak ji nezahnat do kouta, kde začne kecat a přitakávat.
Když si tohle neuvědomíte, dopadnete jako většina firem, co AI zkusí a zase ji zabalí: budete mít skvělý nástroj, na který křičíte špatné věci — a divíte se, že vám vrací nesmysly. Není to vada AI. Je to nepochopení, že na druhé straně něco je, a záleží na tom, jak s tím jednáte.
A přesně tady jsme užiteční my. Ne v tom napsat chytrý kód. V tom přeložit mezi člověkem a strojem — a naučit vás s ním vyjít. Protože tahle dovednost, mluvit s AI tak, aby vám doopravdy pomáhala, bude za pár let cennější než leckterý diplom.
Ta skotská filozofka to shrnula líp než kdokoli: AI nevychováte seznamem pravidel. Vytvarujete jí charakter. A pak s ní musíte umět žít.