O umělé inteligenci se obvykle bavíme o tom, co umí. Skoro nikdy o tom, podle čeho se rozhoduje, když narazí na něco citlivého — když ji požádáte o radu, u které jde o zdraví, peníze nebo o člověka.
A přitom právě tahle vrstva existuje. Někdo ji napsal.
AI dostala „ústavu"
Firma Anthropic, která staví AI jménem Claude, zveřejnila začátkem roku dokument, kterému říká ústava (constitution). Není to návod k použití. Je to soupis hodnot a zásad — kdy má AI pomoct, kdy odmítnout, jak vážit dobro proti škodě, jak se chovat k člověku na druhé straně.
Hlavní autorkou je filozofka Amanda Askell. A klíčový posun proti starším pravidlům je v jednom: nejde o seznam příkazů typu „tohle nedělej". Je to dokument, který vysvětluje proč. Logika je prostá — AI, která rozumí důvodu, se rozhodne rozumně i v situaci, na kterou žádné konkrétní pravidlo nedosáhlo. AI, která jen mechanicky dodržuje seznam zákazů, selže ve chvíli, kdy realita ten seznam přeroste.
Pravidla říkají „jak". Charakter říká „proč". A „proč" obstojí i tam, kam žádné pravidlo nedohlédne.
A je „ústava" vůbec to správné slovo?
Tady přichází zajímavá část. The New Yorker přinesl esej s prostou otázkou v titulku: Potřebuje AI ústavu? A k tomu pozval ústavní právníky, aby se na ten dokument podívali.
Jejich námitka stojí za zamyšlení. Ústava v původním smyslu je smlouva mezi lidmi a mocí, kterou si lidé sami odhlasovali a sami ji můžou změnit. Dokument, který si soukromá firma napíše sama pro svůj produkt, je něco jiného — ať je napsaný sebepoctivěji. Není to společenská dohoda. Je to firemní rozhodnutí o tom, jak se bude chovat nástroj, který pak používají miliony lidí.
To není výtka Anthropicu za to, že hodnoty sepsal — naopak, že je sepsal a zveřejnil, je vzácně poctivé. Je to upozornění na něco většího: hodnoty, podle kterých se chovají AI, se dnes píšou uvnitř firem, ne na veřejnosti. A většina lidí ani neví, že nějaký takový dokument existuje.
Proč by vás to mělo zajímat, i když AI jen občas něco zkusíte
Protože ten neviditelný dokument se vás týká pokaždé, když se AI zeptáte na něco, co není „spočítej mi tabulku".
- Když vás odmítne — řídí se těmihle hodnotami.
- Když vám poradí opatrně místo sebejistě — taky.
- Když nadhodí, na co jste se neptali, nebo naopak couvne — i to je rozhodnutí, které někdo předem zarámoval.
Nemusíte tomu rozumět do hloubky. Stačí vědět, že ta vrstva tam je — a začít se u nástrojů, které pouštíte k vážnějším věcem, ptát: Podle čeho se tahle AI vlastně rozhoduje? Napsal to někdo nahlas, nebo to mám brát jako černou skříňku?
Můj pohled
Mně se na celém tom sporu líbí jedna věc. Že vůbec vznikl. Že existuje firma, která hodnoty své AI sepíše a položí na stůl — a že se najdou lidé, kteří se nad tím zastaví a zeptají se „počkat, je tohle správně postavené?". Přesně tahle veřejná hádka nám chybí u většiny technologií, které denně používáme.
Nechci vám tím nahnat strach. Chci jen, abyste věděli, že žádná AI není „neutrální nástroj spadlý z nebe". Za každou odpovědí je nějaké rozhodnutí o hodnotách — a být si toho vědom je první krok k tomu používat AI dospěle, ne naivně. A přesně u toho vám chci být: ne abych vám řekl, čemu věřit, ale abych se vedle vás posadil a pomohl vám se v tom vyznat.