Představte si konstruktéra, který postavil nejsilnější motor na světě — a pak vstane a řekne: „Mimochodem, jestli to má dopadnout dobře, nenechávejte rozhodování o tom na lidech, jako jsem já." Znělo by to skoro neuvěřitelně. A přesně tohle se kolem umělé inteligence právě stalo.
Chris Olah je jeden ze spoluzakladatelů firmy Anthropic, která staví AI jménem Claude. Tedy člověk z úplného srdce téhle technologie. A na jednom veřejném vystoupení o etice AI řekl něco, co od tvůrce slýcháme zoufale málo.
„Informatici nejsou ti praví, kdo by tohle měl řešit“
Olahova pointa se dá shrnout jednou jeho větou:
„Někdo si možná myslí, že otázky kolem AI nejlíp vyřeší informatici jako já. Ti se mýlí.“
Nejde o falešnou skromnost. Olah doplnil, že nejtěžší otázky — co je správně, kde má AI odmítnout, čemu má sloužit — patří podle něj humanitním oborům, filozofii a společnosti jako celku, ne lidem, co píší kód. A přidal důvod, který je nepříjemně upřímný:
Ať to myslíme sebepoctivěji, vždycky nás ovlivní pobídky, kterým jsme vystaveni — a proto musí být u toho i lidé, kteří stojí mimo ně.
Jinými slovy: ten, kdo něco staví a vydělává na tom, je ze své pozice trochu slepý. Ne ze zlé vůle — z místa, kde stojí. A proti té slepotě nepomůže „víc se snažit být objektivní". Pomůže jediné: pustit ke slovu někoho zvenku. Olah to nazval spoluprací mezi těmi, kdo AI staví, a „těmi, kdo vidí to, co my zevnitř vidět nemůžeme".
Není to jen řeč — je to vidět i na tom, koho firmy najímají
Že tahle myšlenka není ojedinělý výrok jednoho člověka, ukazuje docela tvrdé číslo z trhu práce. Firmy kolem AI roky lovily hlavně inženýry. Teď k nim přibírají filozofy — a není to póza. Podle dat newyorského Fedu z letošního roku mají čerství absolventi filozofie nižší nezaměstnanost (kolem 3 %) než absolventi informatiky (kolem 6 %). Obor, kterému se roky smáli jako k ničemu, je najednou žádaný přesně tam, kde se rozhoduje, jak se má nejmocnější technologie chovat.
Ty dvě věci spolu souvisí. Když si i tvůrci přiznají, že ty nejdůležitější otázky nejsou technické, je logické, že začnou shánět lidi, co umějí přemýšlet o tom, co je správně — ne další, co umějí psát kód.
A co z toho máte vy
Možná si říkáte: pěkné, ale co to mění pro mě, co AI jen používám?
Mění to jednu důležitou věc — jak se k té technologii postavit. Když člověk, který AI staví, sám říká „nenechávejte rozhodování jen na nás", je to nejlepší možný vzkaz i pro vás jako uživatele: nenechávejte rozhodování ani jen na té AI.
Je lákavé brát odpověď z chytrého stroje jako konečné slovo. Vypadá sebejistě, zní hladce, přijde hned. Jenže totéž, co platí o tvůrcích, platí o nástroji: hladkost není totéž co pravda. Ten, kdo vám radí — ať je to firma, nebo její AI — vidí jen část. Tu druhou část, jestli ta rada sedí na váš konkrétní život, vidíte jenom vy.
Nikdo by neměl známkovat sám sebe — ani ten, kdo AI staví, ani ta AI, když radí vám.
Můj pohled
Mám tenhle druh upřímnosti rád, protože je vzácný. Je snadné stavět něco mocného a tvářit se, že tomu rozumíte líp než kdokoli jiný. Mnohem těžší — a podle mě mnohem důvěryhodnější — je říct „tohle přesahuje mě, potřebuju oči zvenku".
A přesně tohle si přeju i pro vás ve vztahu k AI. Ne abyste jí slepě věřili, ani se jí báli. Ber ji jako mimořádně schopného rádce, který ale nevidí všechno — a to poslední slovo, jestli je rada správná pro váš případ, si nechte. Ne proto, že by ta AI byla hloupá. Proto, že ten zvenku, kdo vidí to, co ona zevnitř nevidí, jste vy. U toho vám chci být — ne abych vám bral úsudek z ruky, ale abych vám pomohl ho v té AI vlně neztratit.