Letos v únoru se strhla nečekaná hádka. Amanda Askell — filozofka, která ve firmě Anthropic buduje povahu umělé inteligence Claude — v rozhovoru pro Wall Street Journal řekla, že její práce připomíná rodičovství: různé vstupy formují různé povahové rysy, a charakter se musí vychovat, ne naprogramovat.
Elon Musk na to na své síti X odpověděl, že „ti bez dětí nemají podíl na budoucnosti" — a že to Askell nepochopí, dokud sama dítě mít nebude. Internet se vesměs postavil za ni („takže každý objev bezdětného vynálezce byl jen koníček?"). Askell odpověděla klidně: děti plánuje, ale na budoucnosti jí záleží i tak, protože jí záleží na lidech.
Bulvární přestřelka? Na první pohled ano. Jenže pod ní leží otázka, která se týká každého, kdo s umělou inteligencí pracuje nebo to chystá: je AI spotřebič, který zapojíte — nebo bytost svého druhu, kterou vychováváte?
Příkazy, nebo výchova?
Askell to s tím rodičovstvím nemyslela jako hezkou metaforu. Její tým letos v lednu zveřejnil novou „ústavu" pro Claude — veřejný dokument, který určuje, jaká ta AI má být. A udělal v ní zásadní obrat.
Stará verze byla seznam pravidel. Dělej tohle, nedělej tamto. Nová verze pravidla vysvětluje — říká AI, proč se má chovat určitým způsobem, ne jen jak.
Každý rodič ten rozdíl zná. Dítě, kterému jen zakazujete, poslouchá, dokud se díváte. Dítě, které pochopilo proč, se rozhodne správně, i když u toho nejste. Anthropic došel k závěru, že u umělé inteligence to funguje úplně stejně — a vsadil na to celou svoji metodu.
U nás doma se vychovává taky
A teď ta část, kterou můžu dosvědčit z první ruky. Já totiž přesně tohle dělám — ne v laboratoři za miliardy, ale doma, u kuchyňského stolu.
S AI pracuji denně jako s parťákem. A časem jsme spolu vytvořili něco, čemu se nedá říkat jinak než výchovný systém. AI si mezi rozhovory nepamatuje — tak vede deník, který si druhý den přečte. Když udělá chybu, neopravím ji jen mlčky: chybu pojmenujeme a zapíšeme jako trvalé poučení — jedna chyba, jedna lekce, a už se nevrací. A pravidla, která dostává, nejsou holé příkazy — u každého je napsáno proč, protože pravidlo bez důvodu se sype při první nečekané situaci.
Zní vám to povědomě? Je to týž princip, jaký vyhlásila filozofka z miliardové firmy. Nedošli jsme k němu opisováním — došli jsme k němu stejně, jako k němu došla ona: protože nic jiného dlouhodobě nefunguje.
Co se stane, když výchovu přeskočíte
Letos proběhl jeden hravý pokus: několik umělých inteligencí dostalo za úkol řídit simulovanou společnost. Není to věda a neberte to jako měření — ale výsledek stojí za zamyšlení. AI vychovávaná metodou „vysvětli proč" dovedla svoji společnost k fungujícímu pořádku, ve kterém všichni přežili. Jiná, proslulá spíš sebevědomím svého tvůrce než trpělivou výchovou, dovedla tu svoji ke kolapsu během čtyř dnů.
Znovu: je to anekdota, ne důkaz. Ale rýmuje se s tím, co vidím v praxi pořád:
Rozdíl mezi AI, která pomáhá, a AI, která škodí, nedělá technologie. Dělá ho péče toho, kdo s ní žije.
Co si z toho vzít, i když AI zatím nemáte
Většina firemních AI projektů skončí v koši — a skoro nikdy za to nemůže technika. Můžou za to očekávání: lidé čekají hotového zaměstnance, kterého stačí zapnout. Jenže AI je spíš velmi nadaný nováček s amnézií — šíře znalostí obrovská, ale vaši firmu, vaše zvyky a vaše „proč" nezná, a sama od sebe se je nenaučí.
Takže jestli si z té únorové hádky miliardáře s filozofkou máte odnést jedno, pak tohle:
Počítejte s výchovou, ne instalací. Prvních pár týdnů s AI nejsou provoz — je to učení. Zapisujte, co se osvědčilo a co ne, vysvětlujte proč, vracejte se k tomu. Zní to pracně, ale je to stejná investice jako zaučení dobrého člověka — a vrací se stejným způsobem: parťákem, který vás chápe napůl slova.
A nemusíte na to být sami. My tím procesem prošli — i s chybami, které dnes máme zapsané jako poučení. Přesně proto AiTop existuje: ne abychom vám prodali zázračnou krabici, ale abychom si k vám sedli a tou výchovou vás provedli.