Minimální standard pro etické a odpovědné využívání AI
Tato část Průvodce nastavuje minimální standard pro etické a odpovědné využívání AI ve veřejné správě a vymezuje základní principy, které by měly řídit každodenní práci s AI nástroji.
Cílem této části je vysvětlit soulad využívání AI s obecnými etickými principy, při specifickém přihlédnutí k nárokům a potřebám veřejné správy. Než se dostaneme k detailům, je důležité pochopit některá základní východiska etického uvažování. Platí, že etická pravidla a normy nejsou neměnné – některé jsou s námi dlouho (nekrást nebo být slušný), jiné se za posledních několik desetiletí zásadně proměnily (postoj k domácímu násilí, vztah k různým menšinám).
Pozoruhodné je, že významným posunem prošla i aplikovaná etika, která se věnuje pravidlům správného jednání v jednotlivých oborech lidské činnosti (příkladem může být, kromě námi probírané etiky využívání AI ve veřejné správě, také biomedicínská etika nebo etika pomáhajících profesí).
Principialismus jako základní přístup
Znamená, že v etice nevycházíme z jednoho univerzálního pravidla, ale z několika základních principů, na kterých se v dané oblasti shodneme. Ty pak používáme jako vodítko při rozhodování v konkrétních situacích.
Důsledky principialismu
- Principy jako ideál, který se vyvíjí - určují směr, ale jejich konkrétní obsah se může v čase měnit. Díky tomu je lze uplatnit i na nové, dosud neřešené situace.
- Důraz na kontext - význam principu se vždy posuzuje podle konkrétní situace – například to, co znamená „chránit soukromí“, závisí na čase, místě, roli aktérů a účelu. Uplatnění principu proto vyžaduje dobrou znalost daného kontextu.
- Vyvažování mezi principy - principy si mohou navzájem konkurovat (např. transparentnost vs. ochrana soukromí). Etické rozhodování pak spočívá v tom, jak je v konkrétním případě rozumně vyvážit, ne slepě upřednostnit jeden z nich.
Řízení se principy není jednoduchý proces, ve kterém je vše předem jasné. Etické problémy jsou často mimořádně komplexní, a tak nejen jejich řešení, ale i pozdější odůvodnění ve světle kritiky (nebo chvály) není jednoduché.
Nyní již k samotným principům, kterými se řídí etika v oblasti AI (pokud by Vás blíže zajímalo, z čeho vycházejí, přelistujte na seznam inspirativních materiálů na konci Průvodce). O některých principech je řeč v dalších částech Průvodce, zde nastíníme, co se za nimi skrývá.
Principy etického a odpovědného využívání AI
Ochrana soukromí
Ochrana soukromí je ve veřejné správě samozřejmý požadavek, u AI ale zvlášť upozorňuje na riziko úniku údajů z nástrojů, do kterých je zadáváme – ať už jde o velké jazykové modely, nebo menší lokální nástroje. Zaměstnanci by vždy měli vědět, kam se zadané údaje dostanou a kdo k nim může mít přístup. Zároveň by se neměli ptát AI nástrojů na osobní údaje svoje, kolegů nebo občanů, ani je do nich přímo zadávat. Takový přístup je v souladu s prvním bodem Etického kodexu státních zaměstnanců.
Transparentnost
U AI nemusí vždy znamenat rozumět vnitřnímu fungování systému, což je často nereálné. V našem pojetí jde hlavně o to, aby bylo vždy zřejmé, co vytvořil zaměstnanec a kde mu pomohla, nebo ho dokonce nahradila AI. Transparentnost, a s ní se pojící vysvětlitelnost původu výsledků a rozhodnutí, musí být přiměřená kontextu a dopadu. Všichni máme nicméně právo vědět, kdo je autorem konkrétního výstupu a jak AI ovlivnila dané rozhodnutí.
Odpovědné využívání
Zahrnuje řadu kroků, které spolu souvisejí, i když to na první pohled nemusí být zřejmé. Není nutné rozumět vnitřní architektuře AI, důležité je vědět, jak s ní pracovat v praxi a kde hledat spolehlivé informace. Základem je využívat AI jen v oblastech, kde je to povolené a vhodné. Podstatné je znát právní i etické limity. Zcela vyloučeno je využívat AI pro protiprávní úkoly či manipulativně - např. k působení na emoce lidí, k podbízení se nebo k šíření nepravdivých informací (včetně deepfake obsahu). Podobně by AI neměly být zadávány ani úkoly zjevně neetické. Velké jazykové modely mohou vytvářet přesvědčivé, ale nepravdivé výstupy („halucinace“), proto je nepřípustné spoléhat se na ně bez pečlivého ověření. Nelze se tvářit, že za výstupy neneseme odpovědnost. Tu má vždy člověk, ne AI nástroj.
Férovost a nediskriminace
Jsou přirozenou součástí toho, jak bychom měli jednat s lidmi obecně. U AI je to ovšem zvlášť citlivé, protože systémy vycházejí z trénovacích vstupů z minulosti. Ty často obsahují skryté i otevřené formy diskriminace, vycházející z nerovnoměrného zastoupení různých (zejm. historicky marginalizovaných) skupin společnosti. Výstupy AI tak mohou být zkreslené, i když jí výslovně „zakážeme“ diskriminovat. Proto je v celé veřejné správě nutný velmi přísný dohled nad tím, jak je AI využívána. Tento princip přímo navazuje na požadavek nestrannosti v Etickém kodexu státních zaměstnanců.
Bezpečnost
Nástroje AI jsou podobně jako jiné programy zranitelné – mohou obsahovat slabiny, které útočníci zneužijí k získání osobních údajů, informací nebo tajemství. Dalším rizikem je, že řadu nástrojů vyvíjejí soukromé firmy nebo subjekty z nedemokratických zemí, u kterých neznáme jejich skutečné záměry. Proto je rozumné využívat jen takové AI nástroje, které doporučila sama organizace nebo ověřený správce IT, a nezkoušet náhodné nové služby, i když vypadají na první pohled velmi lákavě.
Zachování lidské autonomie a rozhodování
Znamená to, že konečné rozhodnutí musí vždy příslušet člověku, nikoli AI. Ta může pomoci např. při zpracování podkladů, ale odpovědnost za výsledek nese konkrétní zaměstnanec veřejné správy. Tento princip nelze naplnit pouhým formálním potvrzováním výstupů AI ani nastavením hranic, ve kterých člověk rozhodnutí bez dalšího posouzení jen přebírá. Pouze vůči člověku se může klient odvolat, vznést námitku či žádat vysvětlení postupu.
Rozhodování AI navíc často nelze plně vysvětlit, zatímco lidé mají právo vědět, proč bylo v jejich věci rozhodnuto konkrétním způsobem. Proto není role člověka ve finálním rozhodování pouze formální, ale skutečně nezastupitelná. Tento požadavek odpovídá také zásadě odbornosti obsažené v Etickém kodexu státních zaměstnanců.
Soulad s právem
Soulad s právem vlastně není jen etickým principem, ale základním předpokladem fungování veřejné správy. V oblasti AI to znamená využívat pouze schválené nástroje a počítat s tím, že jejich výstupy mohou být chybné či smyšlené. Zvláštní pozornost je třeba věnovat autorským právům. Ačkoli tvůrci nástrojů často tvrdí, že výsledky patří uživateli, vycházejí z trénovacích vstupů, jejichž původ není vždy jasný. Je proto nutné dbát na to, aby výstupy AI neporušovaly práva autorů (např. při tvorbě obrázků v konkrétním výtvarném stylu). Právních a etických problémů v této oblasti je mnoho, proto je opatrnost a střídmost zcela na místě.