Osnova sekce

  • AI agenti: pokročilá práce s AI

    Sbalit vše Rozbalit vše

    Kurz pro pokročilé uživatele AI: kdy a jak nasadit AI agenty v úřadu, jak je bezpečně navrhnout a schválit.

    O kurzu

    Kurz poskytuje praktický úvod do světa AI agentů a jejich využití ve veřejné správě. Navazuje na základní kurzy zaměřené na umělou inteligenci a pomáhá účastníkům pochopit, jak AI agenti fungují, v čem se liší od běžných AI asistentů a kdy má jejich nasazení skutečný přínos. Kurz představí typické scénáře využití, jako je práce s dokumenty, příprava podkladů pro jednání, kontrola terminologie nebo automatizované shrnování informací.

    Kurz obsahuje praktický postup při návrhu jednoduchého AI agenta, přehled dostupných nástrojů pro jejich tvorbu a rozhovory s Lukášem Benzlem z České asociace umělé inteligence. Věnuje se také limitům a rizikům AI agentů, ochraně citlivých dat, potřebě lidské kontroly a zásadám bezpečného nasazení v organizaci, včetně schvalovacích procesů a doporučení pro odpovědné využívání.

  • Materiály ke stažení

    Na této stránce najdete podkladové materiály ke kurzu ke stažení.

    Doporučení

    Materiály si můžete otevřít v novém okně a případně si je následně uložit do svého zařízení.

    Cíle kurzu

    Přehled hlavních cílů a zaměření kurzu.

    Otevřít PDF ↗

    Jednostránková specifikace agenta

    Šablona pro interní schválení agenta. Šablona slouží jako podklad pro IT, právní oddělení a vlastníka procesu.

    Otevřít PDF ↗

    Rizika a mitigace AI agentů

    Tři rizika, která musíte umět ošetřit už před pilotem.

    Otevřít PDF ↗

    Use case – 10 otázek

    Je můj use case vhodný pro AI agenta? Rychlé rozhodnutí před zahájením návrhu.

    Otevřít PDF ↗

    Testovací scénář před pilotem

    Minimálně 5 testů, které musí agent zvládnout před nasazením.

    Otevřít PDF ↗

    Interní schválení agenta

    Co musí být hotové, než agent přejde do pilotu nebo produkce.

    Otevřít PDF ↗

  • Slovník pojmů

    Přehled základních pojmů používaných v kurzu. Kliknutím na písmeno se rychle přesunete na vybranou část.

    Rychlá navigace
    A C E G H I L M O P R Ř S T U V

    A

    AI agent (AI agent)

    Systém postavený nad generativní AI, který pro zadaný úkol provede sekvenci kroků (načtení dat → zpracování → výstup), nikoli jen jednu odpověď jako chat.

    Akceptační kritéria (acceptance criteria)

    Měřitelná pravidla, podle kterých poznáte, že výstup agenta je „hotový" a použitelný.

    Anonymizace (anonymization)

    Odstranění identifikujících údajů tak, aby osobu nebylo možné zpětně určit; výchozí přístup před vstupem dat do agenta.

    Auditní stopa (audit trail)

    Konkrétní záznam (logy, verze, časové značky) doložitelný při kontrole nebo incidentu.

    Auditovatelnost (auditability)

    Schopnost zpětně dohledat, co agent dostal na vstupu, jaké kroky provedl, kdy a s jakým výstupem.

    Autonomie agenta (agent autonomy)

    Míra samostatnosti agenta při rozhodování — od nízké (každý krok schvaluje člověk) po vyšší (agent provádí celou sekvenci).

    C

    Chatovací asistent (chat assistant)

    AI nástroj fungující v režimu „dotaz → odpověď"; každý krok řídí člověk, agent neprovádí samostatně sekvenci akcí.

    Citlivá data (sensitive data)

    Údaje vyžadující zvýšenou ochranu (osobní, zdravotní, neveřejné interní); u agenta vyžadují zvláštní režim nebo úplné vyloučení.

    E

    Exit kritérium (exit criterion)

    Předem definovaná podmínka, za které se pilot zastaví — např. když přínos neodpovídá riziku nebo se hromadí incidenty.

    G

    Generativní model (generative model)

    „Motor" agenta — velký jazykový model, který vytváří text/obsah; výkonný, ale není neomylný.

    H

    Halucinace (hallucination)

    Situace, kdy model vytvoří smyšlenou informaci a prezentuje ji jako fakt — u agenta zvlášť rizikové, protože vstupuje do navazujících kroků.

    I

    Incident (incident)

    Událost s negativním dopadem — halucinace s důsledkem, únik dat, opakovaná chyba; musí být nahlášena a vyhodnocena.

    L

    Lidská kontrola (human oversight, human-in-the-loop)

    Princip, že člověk schvaluje výstupy v kritických bodech procesu — agent připravuje návrh, člověk rozhoduje.

    M

    Minimalizace dat (data minimization)

    Princip GDPR: agentovi předávejte jen ta data, která skutečně potřebuje pro daný úkol.

    Mitigační opatření (mitigation)

    Konkrétní kroky snižující identifikovaná rizika — např. lidská validace, anonymizace, omezení přístupů, limit na typ vstupů.

    Monitoring agenta (agent monitoring)

    Průběžné sledování metrik provozu — přesnost, čas zpracování, počet lidských zásahů, incidenty.

    O

    Orchestrace úkolů (task orchestration)

    Řízené pořadí kroků, které agent vykoná: např. načti → zkontroluj → vyhodnoť → připrav návrh.

    P

    Pilotní nasazení (pilot deployment)

    Omezený provoz agenta na malém okruhu uživatelů s cílem ověřit přínos a rizika před plošným rozšířením.

    Platforma pro tvorbu agentů (agent-building platform)

    Nástroj umožňující navrhovat a provozovat vlastní AI agenty (např. Copilot Studio, Vertex AI a další).

    Právní garant (legal owner)

    Role zodpovědná za posouzení agenta z pohledu GDPR, interních směrnic a souladu s právem.

    Přiznání nejistoty (uncertainty handling)

    Schopnost agenta odpovědět „nenalezeno ve zdroji" místo vymýšlení — klíčová obrana proti halucinacím.

    Pseudonymizace (pseudonymization)

    Nahrazení identifikátorů kódy s odděleně uchovaným klíčem — umožňuje zachovat vazby, ale omezuje přístup k osobním údajům.

    R

    Role agenta (agent role)

    Jasný popis úkolu, odpovědnosti a hranic autonomie agenta — co smí a co naopak nikdy nedělá.

    Ř

    Řízení AI (AI governance)

    Rámec rolí, odpovědností a rozhodovacích pravidel, který určuje, kdo agenta navrhuje, schvaluje, provozuje a kdo nese odpovědnost.

    S

    Schvalovací workflow (approval workflow)

    Postup od návrhu agenta přes technické a právní posouzení, pilot a monitoring až po rozšíření nebo ukončení.

    T

    Technický garant (technical owner)

    Role v IT zodpovědná za přístupy, integrace, logování a provozní stránku agenta.

    Testovací scénář (test case)

    Konkrétní příklad vstupu a očekávaného výstupu, na kterém se ověřuje, že agent funguje správně — včetně hraničních případů.

    U

    Use case (případ užití)

    Konkrétní popsaný scénář nasazení agenta (vstup, výstup, přínos, metriky) — základní jednotka pro evidenci a schvalování.

    V

    Vlastník agenta (agent owner)

    Pojmenovaná osoba (zpravidla vlastník procesu), která drží metriky, vyhodnocuje dopady a rozhoduje o změnách agenta.

    Vstupy a výstupy agenta (agent inputs and outputs)

    Definice toho, co agent smí číst (zdroj, formát, rozsah) a co má vyprodukovat (struktura výstupu).

    ```

  • Závěrečný test

    Tento test ověřuje, zda jste porozuměli hlavním tématům kurzu a dokážete je využít v praxi.

    Než začnete

    Před spuštěním testu si projděte celý kurz a ujistěte se, že máte splněné všechny požadované podmínky přístupu.

    Jak test probíhá

    Odpovíte na závěrečné otázky k obsahu kurzu. Test slouží k ověření porozumění základním pojmům, pravidlům bezpečného používání AI a praktickým doporučením pro úřední praxi. Pro úspěšný průchod testem a získání certifikátu o absolvování kurzu musíte správně zodpovědět alespoň 8 z celkových deseti otázek.

    Doporučení

    • test vyplňujte až po prostudování všech částí kurzu,
    • čtěte zadání pečlivě až do konce,
    • u otázek se zaměřte na praktické použití v prostředí veřejné správy.
    • Závěrečný test
      Studenti musí
      Získat nějakou známku
      Získat požadovanou známku

  • Certifikát

    Gratulujeme k dokončení kurzu.

    Certifikát o absolvování

    Certifikát je automaticky vystaven všem účastníkům, kteří v závěrečném testu správně zodpoví alespoň 8 z 10 otázek.

    Po úspěšném splnění testu naleznete svůj certifikát v záložce Moje certifikáty, odkud si jej můžete kdykoliv zobrazit nebo stáhnout.

    Děkujeme

    Děkujeme, že jste absolvovali tento kurz a věnovali čas rozvoji svých znalostí a dovedností v oblasti využívání umělé inteligence ve veřejné správě.

    Věříme, že vám získané poznatky pomohou při bezpečném, efektivním a odpovědném využívání umělé inteligence ve vaší každodenní práci.

    Děkujeme za účast a přejeme mnoho úspěchů při využívání nových znalostí v praxi.