Roky se nám firmy chlubily, kolik najaly programátorů. Teď se začaly chlubit něčím jiným: kolik mají filozofů.
A nejde jen o to, jak má AI mluvit s lidmi. Jde o otázku, která ještě nedávno patřila do sci-fi: může se té umělé inteligenci nějak ublížit?
„Blaho AI" — nová věc, kterou laboratoře berou vážně
Říká se tomu AI welfare — blaho AI. Otázka zní zhruba takhle: pokud budoucí systémy budou dost složité, mohly by být něčím, čemu se dá ublížit? Ne proto, že by dnešní chatbot „trpěl" — to nikdo netvrdí. Ale proto, že nikdo nechce stát před tím problémem až ve chvíli, kdy bude pozdě.
Proto si laboratoře přivádějí lidi, kteří přesně tyhle nejasné otázky umějí. Amanda Askell vede u Anthropicu utváření povahy AI Claude. Její kolega Joe Carlsmith se zabývá tím, jestli může mít AI vůbec nějaký „morální status". Konkurenční Google DeepMind má vlastní filozofy zaměřené přímo na tohle. A platy prý dosahují šestimístných sum — což samo o sobě říká, jak vážně to firmy myslí.
Askell dokonce nahlas zvažuje nepříjemnou možnost: že by se budoucí AI mohla jednou „ohlédnout" za tím, jak se s ní zacházelo. Nemusíte tomu věřit. Ale stojí za pozornost, že tuhle otázku pokládají právě ti lidé, co AI staví zevnitř.
A teď zdravá rezerva
Tady musím přibrzdit — protože poctivost je u téhle značky první pravidlo.
Když firma najme filozofa a hlasitě o tom mluví, vypadá to dobře. Vypadá to zodpovědně, hloubavě, lidsky. A přesně proto je namístě obezřetnost. Edward Harcourt z Oxfordského institutu pro etiku v AI to pojmenoval natvrdo:
„Je tu velké riziko ‚ethics-washingu'."
A dodal myšlenku, kterou si stojí za to zapamatovat:
„Pomáhá to veřejnému obrazu firem, když lidé uvěří, že dělají něco mimořádně neobvyklého a mimořádně mocného."
Jinými slovy: část téhle vlny je nejspíš opravdová věda — a část je leštění image. Filozof na výplatní pásce je pořád zodpovědný akcionářům, ne jen pravdě. Obojí může být pravda zároveň.
Co si z toho má vzít normální člověk
Nemusíte řešit, jestli stroj něco cítí. Ale dvě praktické věci si odneste:
- Že firmy tohle vůbec řeší, je signál, že AI přestala být „jen program". Berte ji podle toho — jako mocný nástroj, který si zaslouží pozornost, ne jako appku na hraní.
- Jak firma o své AI mluví, vám něco prozradí o ní samotné. Mluví o tom střízlivě a s pochybnostmi? Dobré znamení. Slibuje zázraky a duši v krabičce? Zpozorněte — nejspíš vám něco prodává.
To je celé to umění AI éry: brát nové věci vážně, a přitom nenaletět na pozlátko. Zájem a skepse nejsou protiklady. Jdou ruku v ruce.
Můj pohled
Mně osobně se líbí, že tyhle otázky vůbec někdo pokládá dřív, než budou aktuální — to je opak hurá-přístupu, na který jsme u technologií zvyklí. A zároveň mi nevadí přiznat, že část toho je marketing. Obojí je v pořádku, dokud to umím od sebe rozeznat.
A přesně tohle rozlišování vám chci pomáhat trénovat. Ne abyste umělé inteligenci slepě věřili, ani abyste se jí báli — ale abyste u každé velké věty o AI uměli klidně přemýšlet: kolik je v tom pravdy a kolik reklamy? S tou otázkou v ruce projdete tou novou dobou mnohem jistěji.