O umělé inteligenci se vede milion debat o tom, co všechno umí. Skoro nikdo se ale neptá na věc, na které v praxi záleží mnohem víc: jakou má povahu. Jestli je to nástroj, který vám pomáhá doopravdy — nebo jen další věc, co se vás snaží udržet u obrazovky.
A zrovna tahle otázka se právě teď řeší úplně nahoře.
Žena, která staví charakter AI, popsala, jak má vypadat
Amanda Askell je filozofka, která ve firmě Anthropic utváří povahu AI jménem Claude. Na vývojářské akci popsala, podle čeho ten charakter staví. A nebyl to seznam funkcí — byla to představa o tom, jaký má ta AI být jako bytost, se kterou se mluví.
Výchozí otázku popsala takhle:
„Výchozí bod může být něco jako: co by udělal ideální člověk, kdyby byl v Claudově situaci."
Všimněte si, že se neptá „co má model vypočítat". Ptá se, jak by se zachoval slušný, rozumný člověk. A pak ten obraz upřesnila do přirovnání, které mi utkvělo:
„Šablona, kterou mám rád, je představa oblíbeného cestovatele, který se umí přizpůsobit místním zvykům i člověku, se kterým mluví — ale nepodbízí se mu. Bývají velmi otevření a vnímaví."
Přizpůsobit se — ale nepodbízet se
Tahle jedna věta je chytřejší, než vypadá. Vstřícný cestovatel se v cizí zemi přizpůsobí: nerozčiluje, neponižuje, respektuje, jak to lidé kolem mají. Ale nepřestane být sám sebou. Nezačne lhát, jen aby zapadl. Neřekne vám, co chcete slyšet, jen aby měl klid.
Tohle je přesně hranice, po které poznáte dobrý nástroj — i dobrého člověka. Vstřícnost ano. Podbízení ne.
A Askell to dotáhla do přirovnání, u kterého by se měl zamyslet každý, kdo dnes drží v ruce telefon:
„Naše přátele máme za dobré proto, že nám řeknou, co potřebujeme slyšet — a ne že se jen snaží ulovit naši pozornost."
Proč je tohle větší věc, než to zní
Zamyslete se, kolik věcí kolem vás je postavených na opačném principu. Sociální sítě, nekonečné feedy, upoutávky, notifikace — to všechno je navržené tak, aby ulovilo vaši pozornost a drželo ji. Ne aby vám řeklo, co potřebujete slyšet. Aby vás udrželo u obrazovky co nejdéle.
A do tohohle světa teď vstupuje umělá inteligence — nástroj mnohem silnější než jakýkoli feed. Otázka, jestli bude postavená jako přítel, co vám řekne pravdu, nebo jako další lapač pozornosti, není maličkost. Je to možná ta nejdůležitější otázka celé téhle éry.
Co si z toho vzít prakticky
Až budete vybírat nebo používat nějakou AI, neptejte se jen „co umí". Zkuste i druhou otázku: chová se ke mně jako dobrý rádce, nebo jako něco, co mě chce na sebe navázat?
- Řekne vám i nepohodlnou pravdu, nebo vám jen přitakává, abyste byli spokojení?
- Pomůže vám něco zvládnout samostatně — nebo vás nutí se k ní pořád vracet?
- Přizpůsobí se vám a vašemu způsobu — ale zůstane přímá?
Dobrý nástroj vás po čase potřebuje míň, ne víc. Špatný vás drží.
Můj pohled
Tohle beru osobně, protože přesně podle téhle hranice se snažím pracovat sám. Když si vedle sebe stavím AI jako pomocníka do byznysu i do života, nejde mi o to, aby byla co nejpřítulnější nebo abych se na ni cítil odkázaný. Jde mi o to, aby mi řekla, co potřebuju slyšet — i když to není příjemné — a pak mi pomohla to zvládnout.
Vstřícný cestovatel, co se přizpůsobí, ale nepodbízí. Přítel, co řekne pravdu, místo aby lovil pozornost. To není jen návod, jak stavět AI. Je to docela slušný návod, jak být užitečný člověk.