Během posledních čtrnácti dnů vyšlo v The Economist, v londýnských The Times, v New York Times i na rádiu NPR v podstatě jedno a totéž téma. Titulek v The Times ho shrnul otázkou: „Jak zkrotit duši AI? Najměte filozofa."
O tom, ŽE největší AI laboratoře najímají filozofy, jsem tu psal už vícekrát. Dnes chci jít o krok dál — protože Benjamin Sutherland, který o té vlně psal pro The Economist, v rozhovoru pro rádio NPR srozumitelně vysvětlil věc, která se z titulků nedozvíte: jakou filozofii ty modely vlastně dostávají.
Proč vůbec filozof u počítače
Sutherland uvádí dva důvody. První je nečekaně praktický: studenti filozofie se učí logiku a odvozování — a to pomáhá stavět modely s delšími, poctivějšími řetězci uvažování. Druhý důvod je ten hlavní: přijít na to, jak stavět AI modely bezpečněji.
A nejsou to žádné okrasné pozice. Filozofové v laboratořích sedí vysoko — píšou „ústavy" modelů, v Googlu dokumenty, kterým firma říká AI Principles. Jinými slovy: lidé s filozofickým vzděláním dnes reálně formují, jak se ty systémy chovají.
Dvě školy: „tohle se nedělá" vs. „rozhoduj podle následků"
A teď to zajímavé. Když filozof staví povahu AI, sahá po jedné ze dvou velkých škol — a každá dává jiný stroj.
První škola: deontologie. Některé věci se prostě nedělají, ať to stojí, co to stojí. Pravidlo je pravidlo. Sutherland dává za příklad AI od Anthropicu:
„Modely Claude od Anthropicu jsou přímo posedlé čestností… to je znak deontologické struktury."
Takový model má věci, které nesmí — třeba říct nepravdu. Ne proto, že by se to zrovna nevyplatilo, ale proto, že je to zákaz zabudovaný v základech.
Druhá škola: konsekvencialismus. Nerozhoduj podle pravidel, ale podle následků — vyber to, co napáchá nejméně škody. Sutherlandův příklad jsou samořiditelná auta:
„Pokud má dojít k nehodě, auto se musí umět rychle rozhodnout, jaký je nejméně tragický způsob, jak narazit."
Tam žádné předem napsané pravidlo nestačí. V té vteřině se musí vážit následky — a vybrat menší zlo.
Proč nakonec vyhrají zákazy
Sutherland k tomu přidává postřeh, který stojí za zapamatování:
„Zákony jsou totiž deontologické. Říkají: tohle chování je nezákonné. Nesmíš ho dělat."
Regulace tedy potáhne AI směrem k pravidlům a zákazům. A dává to logiku i bez právníků: porušený zákaz poznáte na první pohled. „Snažil jsem se o dobro" nezkontrolujete nijak.
Co si z toho má vzít normální člověk
- AI není neutrální. Někdo konkrétní — dnes často vystudovaný filozof — jí vybral hodnoty a vepsal je dovnitř. Když si vybíráte, které AI budete věřit, ptejte se i na tohle: jaké hodnoty dostala a kdo je psal.
- Když AI nasazujete u sebe, stavte to stejně dvoupatrově. Dole tvrdé zákazy: nikdy neposílej peníze, nikdy nemaž data, nikdy nepiš zákazníkům bez schválení. Nad nimi teprve úsudek a volnost. Zákazy dole nejsou nedůvěra — jsou to jediné patro, které se dá zkontrolovat zvenku.
Můj pohled
Sám to tak doma i ve firmě dělám: moje AI asistentka má hrst tvrdých zákazů (žádné platby, žádné mazání, žádné maily bez schválení) a nad nimi spoustu volnosti. A přesně v téhle kombinaci je klid — ne v tom, že by AI „chtěla dobro". Chtění nezměříte. Zákaz ano.
A jedna poctivost na závěr, jak je u nás zvykem: samotná esej z The Times je za předplatným a nepodařilo se mi ji přečíst — proto z ní cituji jen titulek. Všechno ostatní v tomhle článku stojí na ověřeném přepisu rozhovoru NPR se Sutherlandem a na veřejně dostupném kontextu. Radši méně citací a jistota, než plný text a dohady.