Osnova sekce

  • Bezpečně a zodpovědně s AI

    Sbalit vše Rozbalit vše

    Praktický kurz zaměřený na bezpečnou a zodpovědnou práci s AI na úřadě.

    O kurzu

    Kurz se zaměřuje na bezpečné a zodpovědné nasazení generativní umělé inteligence (generative AI) v agendách veřejné správy. Poskytuje právně podložené instrukce k GDPR, zásadám minimalizace a anonymizace (anonymization/pseudonymization), požadavkům smluv o zpracování osobních údajů (DPA) a relevantním ustanovením AI Act.

    Kurz obsahuje praktická cvičení: anonymizaci ukázkového souboru, kontrolní checklist hodnocení AI služby, rozhodovací scénář a šablony (vzor DPA položky, vzor záznamu o použití AI). Praktické dovednosti práce s AI nástroji (promptování, tvorba obsahu) viz kurzy Začínáme s AI na úřadě (co, kdy a jak) a Tvořím obsah; ověřování výstupů a práce s daty viz kurz Pracuji s informacemi a daty.

  • Materiály ke stažení

    Na této stránce najdete podkladové materiály ke kurzu ke stažení.

    Doporučení

    Materiály si můžete otevřít v novém okně a případně si je následně uložit do svého zařízení.

    Cíle kurzu

    Přehled hlavních cílů a zaměření kurzu.

    Otevřít PDF ↗

    Záznam o použití AI

    Vzorový dokument pro evidenci využití AI v praxi.

    Stáhnout soubor ↗

    AI Act

    Základní přehled pravidel a regulace AI.

    Otevřít PDF ↗

    Co nikdy nevkládat do AI

    Checklist pro bezpečné zacházení s daty při práci s AI.

    Otevřít PDF ↗

    Anonymizace ukázkového souboru

    Ukázka správné anonymizace dat před použitím v AI.

    Otevřít PDF ↗

    Checklist hodnocení AI služby

    Pomůcka pro posouzení kvality a rizik AI nástrojů.

    Otevřít PDF ↗

  • Slovník pojmů

    Přehled základních pojmů používaných v kurzu. Kliknutím na písmeno se rychle přesunete na vybranou část.

    Rychlá navigace
    A D G H I L M P S V Z

    A

    Anonymizace (anonymization)

    Proces odstranění nebo změny identifikujících údajů tak, aby jednotlivce již nebylo možné znovu identifikovat; zásadní pro bezpečné použití dat s AI. Praktické použití: používat anonymizaci předsdílením dat s externími AI službami podle checklistu.

    Auditní stopa (audit trail)

    Dokumentace všech kroků, rozhodnutí a vstupů/výstupů při použití AI, která umožní pozdější přezkum a odpovědnost. Praktické použití: zaznamenávat použití AI do spisové služby a vzorových záznamů dle doporučení.

    D

    Doladění modelu (fine-tuning)

    Proces dodatečného tréninku modelu na specifických datech, aby lépe odpovídal lokálním nebo oborovým požadavkům; v praxi vyžaduje právní a bezpečnostní posouzení. Praktické použití: volit doladění jen po konzultaci s IT/oddělením bezpečnosti a v souladu se smlouvami a anonymizací dat.

    G

    Generativní umělá inteligence (generative AI)

    Typ AI, která vytváří nový text, obraz nebo jiný obsah na základě statistického modelu a vstupního zadání; v programu se zaměřujeme na její možnosti i omezení v úřední praxi. Praktické použití: rozpoznat, kdy je vhodné využít generativní AI pro tvorbu návrhů dokumentů versus kdy je třeba lidská kontrola.

    H

    Halucinace (hallucination)

    Situace, kdy model vytváří nepřesné nebo smyšlené informace jako fakty; priorita programu je naučit uživatele identifikovat a mitigovat tyto chyby. Praktické použití: vždy ověřovat klíčová tvrzení v primárních zdrojích.

    Hodnocení rizik AI (AI risk assessment)

    Systematický postup identifikace, analýzy a mitigace rizik spojených s konkrétním použitím AI v úřadu; doporučené v rámci pilotů. Praktické použití: používat jednoduchý checklist pro zařazení projektu jako nízkého/ vysokého rizika.

    I

    Iterace

    Opakovaný cyklus: zadáte prompt → přečtete výstup → upřesníte zadání → dostanete lepší výstup.

    L

    Licence a autorská práva (copyright and licensing)

    Právní rámec upravující, kdo může používat, upravovat a zveřejňovat obsah vytvořený nebo využitý AI; program zdůrazňuje odpovědné postupy. Praktické použití: před publikací ověřit licence výstupů a dodržet pravidla označování AI‑generovaného obsahu.

    Lidská kontrola (human oversight)

    Praktika, která zajišťuje, že člověk má rozhodující roli v kritických bodech procesu a přebírá odpovědnost za výsledky AI. Praktické použití: definovat rozhodovací body, kde musí výstup schválit úředník.

    M

    Minimalizace dat (data minimization)

    Princip zpracování osobních údajů, podle kterého se shromažďují a zpracovávají pouze nezbytné údaje pro dosažení konkrétního účelu. Praktické použití: před odesláním dat do AI nástroje vybrat a zredukovat pouze potřebné položky.

    P

    Prompt (pokyn)

    Krátké nebo strukturované zadání, které uživatel posílá modelu, aby získal požadovaný výstup; klíčové pro efektivní práci s AI. Praktické použití: používat prompty se šablonami a iterativně je doladit pro úřední styl.

    Promptování (prompt engineering)

    Postupy a techniky pro navrhování, testování a iterativní ladění pokynů tak, aby model dával použitelnější a bezpečnější výsledky. Praktické použití: aplikovat tři univerzální šablony pro shrnutí, přepsání do úředního stylu a tvorbu osnovy.

    Pravidlový systém (rule-based system)

    Softwarové řešení, které pracuje podle pevně definovaných pravidel místo učení z dat; v kontextu veřejné správy je důležité rozlišovat jej od generativních modelů. Praktické použití: volit pravidlové systémy pro opakovatelné, transparentní rozhodovací postupy.

    Pseudonymizace (pseudonymization)

    Transformace osobních údajů tak, aby bez dodatečných informací nebyly přímo přiřaditelné k osobě; odlišuje se od anonymizace z hlediska GDPR. Praktické použití: rozumět, kdy pseudonymizace snižuje riziko, ale neodstraní právní povinnosti správce.

    S

    Smlouva o zpracování osobních údajů (Data Processing Agreement, DPA)

    Právní smlouva mezi správcem a zpracovatelem upravující podmínky a bezpečnost zpracování; povinná při využití externích AI služeb. Praktické použití: mít vzor DPA připravený a nevyužívat službu bez uzavřené DPA, pokud se zpracovávají osobní údaje.

    Správce osobních údajů (data controller)

    Osoba nebo instituce, která určuje účely a prostředky zpracování osobních údajů; v úřadě je to obvykle orgán veřejné správy. Praktické použití: správce rozhoduje o pravidlech pro využití AI a o tom, kdy nutno konzultovat DPO a IT.

    Spisová služba (records management / registry)

    Úřední systém a postupy pro evidenci dokumentů a záznamů včetně záznamů o použití AI; důležité pro auditovatelnost. Praktické použití: ukládat vzory záznamů o použití AI dle doporučeného formátu.

    V

    Velký jazykový model (Large Language Model, LLM)

    Statistický model trénovaný na rozsáhlých textech, který předpovídá slova a generuje koherentní text; v programu slouží jako technická základna pro generativní funkce. Praktické použití: chápat limity LLM (např. halucinace) a potřebu ověřování výstupů.

    Vizuální prompt (visual prompt / image prompt)

    Strukturované instrukce pro generování nebo úpravu obrazového obsahu pomocí AI; zahrnuje specifikace stylu, rozlišení a pravidla pro použití portrétů. Praktické použití: používat vizuální prompty spolu s pravidly ROPIM vizuální identity a kontrolním checklistem pro autorská práva.

    Z

    Zpracovatel osobních údajů (data processor)

    Subjekt, který zpracovává osobní údaje jménem správce (např. poskytovatel AI služby); vztah upravuje smlouva o zpracování. Praktické použití: při výběru dodavatele si zajistit DPA a prověřit bezpečnostní záruky.

  • Závěrečný test

    Tento te​st ověřuje, zda jste porozuměli hlavním tématům kurzu a dokážete je využít v praxi.

    Než začnete

    Před spuštěním testu si projděte celý kurz a ujistěte se, že máte splněné všechny požadované podmínky přístupu.

    Jak te​st probíhá

    Odpovíte na závěrečné otázky k obsahu kurzu. Te​st slouží k ověření porozumění základním pojmům, pravidlům bezpečného používání AI a praktickým doporučením pro úřední praxi.

    Doporučení

    • te​st vyplňujte až po prostudování všech částí kurzu,
    • čtěte zadání pečlivě až do konce,
    • u otázek se zaměřte na praktické použití v prostředí veřejné správy.
    • Test
      Studenti musí
      Získat nějakou známku
      Získat požadovanou známku

  • Certifikát

    Pokud jste úspěšně absolvovali všechny čtyři kurzy, můžete si nyní vygenerovat certifikát.
    Než začnete
    Certifikát je určen účastníkům, kteří úspěšně dokončili všechny čtyři kurzy a splnili jejich závěrečné testy.
    Jak to funguje
    Po kliknutí na tlačítko níže přejdete na stránku certifikátu. Pokud máte splněné všechny požadované kurzy, certifikát se vám vygeneruje a uloží do přehledu vašich certifikátů.
    Doporučení
    • nejprve si ověřte, že máte splněné všechny čtyři kurzy,
    • pokud se certifikát nevygeneruje, zkontrolujte dokončení závěrečných testů,
    • po vygenerování najdete certifikát také ve svém přehledu v horní liště.