AI jako pracovní nástroj, ne náhrada zaměstnance – o umělé inteligenci pro veřejnou správu
V poslední době je možné o AI slyšet v médiích, na nejrůznějších akcích i v rámci pracovních diskuzí jako o technologii, která „změní svět“ nebo „vezme lidem práci“. Realita ve veřejné správě je však mnohem střízlivější a praktičtější. AI není magie ani vševědoucí robot ze sci-fi filmů. Je to pracovní nástroj – podobně jako se kdysi staly nástrojem psací stroj, počítač nebo Excel. Tato kapitola vám pomůže pochopit, jak tento nástroj funguje, kde vám může ušetřit hodiny práce a kde byste naopak měli být maximálně obezřetní.
Co je a co není AI
Pro potřeby běžné praxe veřejné správy se nejčastěji setkáváme s tzv. generativní AI (nástroje jako ChatGPT, Microsoft Copilot nebo Gemini), na kterou je položen důraz také v tomto Průvodci.
Co to je?
Představme si AI nástroje jako extrémně výkonné našeptávače. Tyto nástroje „neví“ a „nemyslí“. Ony pouze na základě obrovského množství přečtených textů určují, jaké slovo či věta by měly následovat. Jsou to mistři formy a generování jazyka.
Co to není?
AI není vyhledávač faktů (jako Google). Nemá vědomí, morálku ani odpovědnost. Nerozumí obsahu textu, který generuje, stejně jako kalkulačka „nerozumí“ matematice – pouze zpracovává vzorce.
Aby mohla být AI využívána eticky, odpovědně i bezpečně, je nezbytně nutné znát její omezení a limity.
K čemu AI využít
Práce s textem
Shrne dlouhé dokumenty, navrhne osnovu zprávy, přeformuluje složitý text do srozumitelné podoby nebo vytvoří první koncept e-mailu.
Kreativita a inspirace
Pokud máme „syndrom prázdného papíru“, AI během chvíle nabídne řadu nápadů, jak
strukturovat projekt nebo materiál, či jaké otázky položit v dotazníku.
Překlady a korektury
Velmi rychle a kvalitně překládá úřední texty (i když vyžaduje kontrolu) a umí najít gramatické
chyby či texty vhodně upravit.
Na co si dát pozor
Vymýšlení si
Smyšlený výstup je největší riziko. Protože AI jen „doplňuje slova“, klidně si s naprostou
jistotou vymyslí neexistující zákon, citaci, událost nebo statistiku, aby věta zněla dobře.
Fakta, která AI uvádí, si vždy ověřujte!
Bias a zkreslení
AI byla trénována na informacích z internetu. Může tedy nezáměrně přebírat stereotypy
a předsudky (např. genderové nebo rasové), které ve vstupech byly.
Absence kontextu
AI nezná vnitřní předpisy ani nepsaná pravidla komunikace s konkrétním útvarem či
organizací, stejně jako přesné podmínky a kontext situace, kterou s její pomocí řešíme.
Existují situace, kdy je využití AI nejen nevhodné, ale může být i nelegální nebo eticky nepřípustné.
⊗ Citlivé a osobní údaje (GDPR)
Je nepřípustné do AI nástrojů nespravovaných Vaší organizací vkládat jména občanů, rodná čísla, adresy nebo neveřejné interní dokumenty. Jakmile jsou údaje vloženy, je nad nimi ztracena kontrola a mohou být použity k dalšímu trénování AI či k jiným skrytým účelům.
Rozhodování o občanech
AI nesmí sama rozhodovat o přidělení dávky, vydání povolení, sankci či jiných právech a povinnostech občanů. Nemůže ani nahradit princip správního uvážení. Finální rozhodnutí a odpovědnost musí vždy nést člověk. To se mimo jiné týká například i případného automatizovaného vedení správního řízení.
Nízká kvalita vstupů
Pokud nemáme ověřené a relevantní vstupy, AI z nich „nevykouzlí“ pravdu. Platí pravidlo “Garbage In, Garbage Out (Vhodíš odpad, vypadne odpad)ˮ.
Časový tlak bez kontroly
Pokud není čas si výstup AI přečíst a ověřit, neměl by se použít. Odeslat text vygenerovaný AI bez kontroly je neetické i neprofesionální.
✓ Zlaté pravidlo
Na AI je potřeba pohlížet jako na velmi snaživého, ale nezkušeného stážistu. Svěříme mu úkol, ale jeho výstup si vždy pečlivě zkontrolujeme, než ho pošleme dál.
Podpis pod dokumentem je náš, ne stážisty.