Osnova sekce

  • Přehled základních pojmů používaných v kurzu. Kliknutím na písmeno se rychle přesunete na vybranou část.

    Rychlá navigace
    A C E G H I L M O P R Ř S T U V

    A

    AI agent (AI agent)

    Systém postavený nad generativní AI, který pro zadaný úkol provede sekvenci kroků (načtení dat → zpracování → výstup), nikoli jen jednu odpověď jako chat.

    Akceptační kritéria (acceptance criteria)

    Měřitelná pravidla, podle kterých poznáte, že výstup agenta je „hotový" a použitelný.

    Anonymizace (anonymization)

    Odstranění identifikujících údajů tak, aby osobu nebylo možné zpětně určit; výchozí přístup před vstupem dat do agenta.

    Auditní stopa (audit trail)

    Konkrétní záznam (logy, verze, časové značky) doložitelný při kontrole nebo incidentu.

    Auditovatelnost (auditability)

    Schopnost zpětně dohledat, co agent dostal na vstupu, jaké kroky provedl, kdy a s jakým výstupem.

    Autonomie agenta (agent autonomy)

    Míra samostatnosti agenta při rozhodování — od nízké (každý krok schvaluje člověk) po vyšší (agent provádí celou sekvenci).

    C

    Chatovací asistent (chat assistant)

    AI nástroj fungující v režimu „dotaz → odpověď"; každý krok řídí člověk, agent neprovádí samostatně sekvenci akcí.

    Citlivá data (sensitive data)

    Údaje vyžadující zvýšenou ochranu (osobní, zdravotní, neveřejné interní); u agenta vyžadují zvláštní režim nebo úplné vyloučení.

    E

    Exit kritérium (exit criterion)

    Předem definovaná podmínka, za které se pilot zastaví — např. když přínos neodpovídá riziku nebo se hromadí incidenty.

    G

    Generativní model (generative model)

    „Motor" agenta — velký jazykový model, který vytváří text/obsah; výkonný, ale není neomylný.

    H

    Halucinace (hallucination)

    Situace, kdy model vytvoří smyšlenou informaci a prezentuje ji jako fakt — u agenta zvlášť rizikové, protože vstupuje do navazujících kroků.

    I

    Incident (incident)

    Událost s negativním dopadem — halucinace s důsledkem, únik dat, opakovaná chyba; musí být nahlášena a vyhodnocena.

    L

    Lidská kontrola (human oversight, human-in-the-loop)

    Princip, že člověk schvaluje výstupy v kritických bodech procesu — agent připravuje návrh, člověk rozhoduje.

    M

    Minimalizace dat (data minimization)

    Princip GDPR: agentovi předávejte jen ta data, která skutečně potřebuje pro daný úkol.

    Mitigační opatření (mitigation)

    Konkrétní kroky snižující identifikovaná rizika — např. lidská validace, anonymizace, omezení přístupů, limit na typ vstupů.

    Monitoring agenta (agent monitoring)

    Průběžné sledování metrik provozu — přesnost, čas zpracování, počet lidských zásahů, incidenty.

    O

    Orchestrace úkolů (task orchestration)

    Řízené pořadí kroků, které agent vykoná: např. načti → zkontroluj → vyhodnoť → připrav návrh.

    P

    Pilotní nasazení (pilot deployment)

    Omezený provoz agenta na malém okruhu uživatelů s cílem ověřit přínos a rizika před plošným rozšířením.

    Platforma pro tvorbu agentů (agent-building platform)

    Nástroj umožňující navrhovat a provozovat vlastní AI agenty (např. Copilot Studio, Vertex AI a další).

    Právní garant (legal owner)

    Role zodpovědná za posouzení agenta z pohledu GDPR, interních směrnic a souladu s právem.

    Přiznání nejistoty (uncertainty handling)

    Schopnost agenta odpovědět „nenalezeno ve zdroji" místo vymýšlení — klíčová obrana proti halucinacím.

    Pseudonymizace (pseudonymization)

    Nahrazení identifikátorů kódy s odděleně uchovaným klíčem — umožňuje zachovat vazby, ale omezuje přístup k osobním údajům.

    R

    Role agenta (agent role)

    Jasný popis úkolu, odpovědnosti a hranic autonomie agenta — co smí a co naopak nikdy nedělá.

    Ř

    Řízení AI (AI governance)

    Rámec rolí, odpovědností a rozhodovacích pravidel, který určuje, kdo agenta navrhuje, schvaluje, provozuje a kdo nese odpovědnost.

    S

    Schvalovací workflow (approval workflow)

    Postup od návrhu agenta přes technické a právní posouzení, pilot a monitoring až po rozšíření nebo ukončení.

    T

    Technický garant (technical owner)

    Role v IT zodpovědná za přístupy, integrace, logování a provozní stránku agenta.

    Testovací scénář (test case)

    Konkrétní příklad vstupu a očekávaného výstupu, na kterém se ověřuje, že agent funguje správně — včetně hraničních případů.

    U

    Use case (případ užití)

    Konkrétní popsaný scénář nasazení agenta (vstup, výstup, přínos, metriky) — základní jednotka pro evidenci a schvalování.

    V

    Vlastník agenta (agent owner)

    Pojmenovaná osoba (zpravidla vlastník procesu), která drží metriky, vyhodnocuje dopady a rozhoduje o změnách agenta.

    Vstupy a výstupy agenta (agent inputs and outputs)

    Definice toho, co agent smí číst (zdroj, formát, rozsah) a co má vyprodukovat (struktura výstupu).

    ```