Akt o umělé inteligenci pro organizace veřejné správy

Akt o AI je evropské nařízení, které určuje, které AI nástroje jsou zakázané, které „vysoce rizikové“, a na které jsou kladeny mírnější povinnosti. Pracuje s tzv. rizikovým přístupem - čím vyšší riziko pro práva, bezpečí či důstojnost osob, tím přísnější pravidla. Ukládá povinnosti těm, kdo AI vyvíjejí, dodávají nebo využívají (vč. organizací veřejné správy) a zavádí dohled a sankce (podobně jako GDPR; klíčová úloha zde bude podle české úpravy náležet Českému telekomunikačnímu úřadu).

ⓘ  Akt o AI již vstoupil v platnost, ale jeho jednotlivá ustanovení se začínají uplatňovat postupně (v letech 2025–2027). Ne všechny povinnosti tedy platí okamžitě a ve stejném rozsahu. Např. od února 2025 platí část vztahující se k zakázaným praktikám AI (sociální hodnocení, biometrická identifikace v reálném čase, zneužívání zranitelnosti osob aj.). Poslední část Aktu, která vejde v platnost, je část týkající se vysoce rizikových AI nástrojů. U těch začnou pravidla platit od poloviny roku 2026 a v určitých případech až v roce 2027. 

Pro organizace veřejné správy neznamená Akt o AI „jen něco pro IT“, ale změnu nákupu a zavádění nástrojů a technologií s AI; nové povinnosti dokumentace, posuzování rizik, školení; nové procesy pro transparentnost (nejen) vůči občanům.

Kdy se organizace veřejné správy Aktem o AI musí řídit

Organizace veřejné správy je:

  • typicky „uživatel“ AI systému – když nástroj s AI využívá v agendě (analýzy, rozhodování, 
    triáž žádostí…),
  • někdy i „zadavatel / specifikátor“ – když v zakázce požaduje konkrétní funkce AI,
  • spíše výjimečně „poskytovatel“ – pokud si nechá vyvinout vlastní systém a poskytuje ho 
    dalším subjektům.

Jakmile organizace využívá nástroj s AI a ovlivňuje práva lidí nebo rozhodování, Akt se jí nějakým způsobem týká. Rozsah povinností se však liší podle toho, do jaké rizikové kategorie konkrétní AI nástroj spadá.

Na každodenní práci v organizaci veřejné správy má Akt o AI dopad v několika rovinách: 

  • Nesmí docházet k vytváření klamavého dojmu, že komunikace probíhá výhradně s člověkem, pokud je část komunikace generována automatizovaně. Současně musí být zajištěna možnost obrátit se na lidského zaměstnance. Hlavní je transparentnost.
  • AI nenahrazuje rozhodovací odpovědnost zaměstnanců. Zaměstnanci jsou povinni kontrolovat a posuzovat relevanci a správnost výstupů AI a zohledňovat konkrétní okolnosti situace.
  • Na organizace veřejné správy dopadne povinnost vést záznamy o tom, kde se AI používá, k čemu a s jakými vstupy. Cílem je zajistit institucionální přehled a řídit rizika, nikoli vytvářet administrativní zátěž v podobě individuálních „deníčků“ jednotlivých zaměstnanců.
  • U vysoce rizikových systémů bude třeba evidovat další záznamy. S tím se pojí i nezbytnost posuzování rizik při zavádění AI, dopadů na práva občanů, diskriminaci, spravedlnost a transparentnost. I když se s nimi běžný zaměstnanec veřejné správy nesetká, je dobré vědět, že tyto povinnosti existují.
  • V organizacích bude nezbytné určit role a odpovědnosti a uzpůsobit zadávání veřejných zakázek i koncepce smluv.

✓  Z pohledu zaměstnance se Akt o AI projeví hlavně takto:

  1. Bude vědět, kde v agendě pracuje s AI (žádná „skrytá“ AI v pozadí bez informovanosti.)
  2. Nebude brát výstupy AI jako pravdu, ale jako pomůcku (vždy zapojí vlastní úsudek a vždy musí učinit vlastní rozhodnutí.)
  3. Bude mít nastaveny postupy práce a bude se účastnit vzdělávání (jak AI využívat, jak kontrolovat výsledky a posuzovat rizika)
  4. Přibude administrativa (záznamy, checkboxy, šablony – cílem je mít „stopu“, kde byla AI využita a kdo to schválil).

Ochrana osobních údajů

Využívání AI s sebou často nese i zpracování osobních údajů, jak jej vymezuje GDPR. GDPR chápe zpracování osobních údajů velmi široce a je jím téměř jakékoliv nakládání s osobními údaji (výslovně hovoří například o shromáždění, zaznamenání, uspořádání, strukturování, uložení, pozměnění, vyhledání, nahlédnutí, seřazení, zkombinování, výmazu apod.).

Na jaké zásady a žádoucí postupy dbát v kontextu souladu s GDPR?

Minimalizace údajů
Přiměřenost
Transparentnost

✓  Při zavádění nebo testování systémů AI je vhodné provést posouzení vlivu na ochranu osobních údajů (DPIA). To lze doporučit zejména tam, kde dochází k rozsáhlému zpracování osobních údajů, využívání inovativních technologií nebo tam, kde by mohlo dojít k významnému zásahu do práv občanů.

 

Autorské právo a licencování 

Využití systémů AI rovněž přináší řadu otázek a rizik v oblasti autorského práva. Především ve vztahu k autorským dílům, která jsou do nástroje při využívání vkládána nebo na kterých jsou nástroje trénovány. Otázky mohou vzbuzovat i autorská práva k samotným výstupům, které nástroje AI generují.

⚠  Autorské právo a obecně právo duševního vlastnictví chrání celou řadu děl a jiných výsledků. Vložení chráněných předmětů do nástrojů AI může tato práva porušovat.
Bez autorskoprávní ochrany

Výstupy, které jsou plně nebo převážně generovány AI bez tvůrčího vkladu člověka zpravidla nebudou autorským dílem ve smyslu autorského zákona. To znamená, že na takové výstupy se autorskoprávní ochrana obvykle nevztahuje.

Možná autorskoprávní ochrana

Pokud se na tvorbě výstupu podílí člověk (např. formuluje tvůrčí pokyny, provádí výběr, uspořádání nebo zásadní úpravy generovaného obsahu), může být takový výstup teoreticky za určitých podmínek považován za dílo chráněné autorským právem.

✓  Pokud je nicméně výstup připraven v rámci úřední činnosti, ochrana podle autorského zákona se na něj vztahovat nebude. Půjde totiž o úřední dílo, které není podle zákona autorským právem chráněno.

Právní rizika vznikají také při používání chráněných děl a jiných výsledků pro trénink AI. Pokud organizace vyvíjí nebo upravuje vlastní nástroj, je potřeba zajistit, aby použití vstupů bylo v souladu se zákonem a právy „vlastníků“ chráněných předmětů. Při využívání nástrojů třetí strany je nezbytné klást důraz na to, aby poskytovatel disponoval všemi potřebnými právy ke vstupům, na nichž je nástroj založen a trénován.

Práce s dokumenty s využitím AI

Zavádění nástrojů AI do činnosti organizací veřejné správy se dotýká také oblasti spisové služby. AI může ve spisové službě výrazně pomoci – například při třídění, vyhledávání, rozpoznávání typů dokumentů nebo navrhování spisových znaků a skartačních lhůt. I v těchto případech ale platí, že se musíme řídit zákonem o archivnictví a spisové službě, prováděcí vyhláškou a dalšími předpisy.

⚠  Automatizované zpracování dokumentů nesmí narušit klíčový prvek spisové služby – možnost doložit původ dokumentu, jeho úplnost, neměnnost a správné evidování.

AI proto může fungovat jen jako podpůrný nástroj, ani zde jí nelze svěřit rozhodování. Konečné zařazení dokumentu, nastavení skartační lhůty a další klíčové kroky musí vždy potvrdit oprávněná osoba. Pro oblast archivace je zásadní, aby dokumenty zpracované AI byly uchovány v dlouhodobě čitelných formátech a aby každá úprava provedená AI byla zaznamenána v metadatech (kdy, jakým způsobem, jaká změna). Tím se zachovává princip důvěryhodného elektronického úložiště a přezkoumatelnosti všech úkonů.

Naposledy změněno: pondělí, 25. května 2026, 09.47