Představte si firmu, kterou prezident nejmocnější země světa veřejně „vyhodí" a její lidi označí za blázny. Čekali byste, že to s ní půjde z kopce. Jenže u firmy Anthropic, která stojí za umělou inteligencí Claude, se děje pravý opak — její AI se stává nástrojem, na kterém čím dál víc stojí běžná práce s internetem a počítačem.
Jak je to možné? A hlavně: co si z toho má vzít člověk v Česku, který žádnou AI nestaví — jen se v té nové době snaží zorientovat?
Co se vlastně stalo
Spor mezi americkou vládou a firmou Anthropic nevznikl kvůli kvalitě její AI. Vznikl kvůli tomu, co firma odmítla dovolit. Anthropic nepustil svoji umělou inteligenci do plošného sledování lidí a do plně autonomních zbraní — tedy zbraní, které by rozhodovaly samy, bez člověka. Výsledkem byl konec vládních zakázek, ostrá slova z Bílého domu a nakonec i soudní spor, ve kterém se firma proti zákazu brání.
Z byznysového pohledu šílenství: dobrovolně se vzdát obřího zákazníka kvůli zásadám. Jenže pak přijde ten zvláštní druhý díl příběhu.
Claude mezitím vyhrává jinde. I novináři, kteří firmě fandí ze všeho nejmíň, přiznávají, že se její AI šíří internetem a stává se průmyslovým standardem. Lidé a firmy si ji vybírají sami — ne proto, že musí, ale proto, že jí věří.
AI není neutrální. Někdo ji vychoval
A tady se dostáváme k jádru, které se týká každého z nás. Uvnitř firmy Anthropic pracuje filozofka Amanda Askell, jejíž prací je doslova utvářet povahu té AI. Učí ji — jejími vlastními slovy — „číst jemné signály a nebýt ani tyran, ani rohožka".
Přečtěte si to ještě jednou. Ani tyran, ani rohožka. Ne „odpovídej rychle", ne „buď výkonná". Povaha.
A k tomu jedna její věta, která mi přijde poctivější než většina toho, co o AI čtu:
„Respektovat hodnoty druhých může taky škodit. A navigovat to je těžké."
Jinými slovy: ani sami tvůrci nepředstírají, že je to jednoduché. Umělá inteligence, se kterou si píšete, není nestranný stroj na odpovědi. Je to nástroj, kterému někdo vtiskl povahu — rozhodl, kdy vám odporovat, kdy ustoupit, co odmítnout. U jedné AI to dělají takhle promyšleně. U jiné možná vůbec.
Podle čeho tedy AI vybírat
Tenhle příběh mi dává jednoduché vodítko, které si můžete odnést, i kdyby vás americká politika nezajímala ani trochu:
Nedívejte se jen na to, co AI umí. Dívejte se na to, co její tvůrci odmítli.
Firma, která je ochotná přijít o obří zakázku, protože nechce svou AI ve sledování lidí a v autonomních zbraních, vám něco důležitého říká — ne ústy, ale peněženkou. Zásady, které nic nestojí, nejsou zásady. To platí pro AI úplně stejně jako pro lidi.
A funguje to i obráceně: když vám někdo nabízí AI a na otázku „co vaše AI odmítne udělat?" nemá žádnou odpověď, zbystřete.
Můj pohled
Já s Claudem pracuju denně, takže nejsem nestranný pozorovatel — a říkám to na rovinu. Ale tenhle text není reklama na jednu firmu. Je to pozvánka k jedné otázce, kterou si v AI éře budeme klást čím dál častěji:
Komu svěřuju svoje přemýšlení — a kdo vychoval to, co mi radí?
Nemusíte umět programovat, abyste si na ni uměli odpovědět. Stačí se ptát stejně, jako se ptáte u lidí: podle činů, ne podle reklamy. A přesně v tomhle se vyznat — to je to, s čím vám tady na AiTopu chci pomáhat.