Osnova sekce

  • Úvod

    Sbalit vše Rozbalit vše

    Vítejte v kurzu

    Průvodce nabízí praktická a obecně použitelná doporučení, jak využívat AI tak, aby byl respektován člověk, chráněno soukromí, hájen veřejný zájem, zajištěna spravedlnost a posilována důvěra mezi občanem a státem i demokratické hodnoty. Je míněn jako praktický podpůrný materiál pro zaměstnance, vedoucí pracovníky i metodiky a další aktéry, kteří se při své práci mohou setkat s technologiemi AI. Může pomoci při rozhodování o implementaci AI a nastavování procesů. Není to závazný předpis, ale opora pro organizace veřejné správy různého typu a velikosti. Vychází z respektu k různorodosti veřejné správy i jejích klientů. Samotné principy nestačí, pokud nezískají konkrétní podobu v každodenní praxi – tento Průvodce má pomoci, aby se tak skutečně stalo.

    Jak s průvodcem pracovat

    Průvodce nabízí srozumitelné vysvětlení pojmů, praktické pomůcky, otázky k zamyšlení při zavádění či využívání AI nástrojů a odkazy na právní rámec i další zdroje informací. Doporučujeme s ním pracovat jako s „živým“ dokumentem, který lze průběžně doplňovat podle vývoje technologií i situace ve Vaší organizaci či celé veřejné správě. Lze jej využít při tvorbě interních předpisů, při školení zaměstnanců či jako podklad pro hodnocení etických dopadů projektů s prvky AI – jako nástroj podpory pro odpovědné, bezpečné a veřejnosti prospěšné využívání AI.

    Symboly a jejich význam

    ⚠  Upozornění
    ⓘ  Informace
    ✓  Vhodný postup
    ⊗  Takto ne
    ?  K zamyšlení

  • Základy umělé inteligence a principy jejího využívání

     

    Co vás v této části čeká

    Zaměřuje se na vysvětlení toho, co je AI, a přibližuje její etický, lidskoprávní a odpovědnostní rozměr. Právě tyto aspekty by měly tvořit základní rámec našeho uvažování o AI a měly by být přítomny při jakémkoliv jejím využívání.

  • Právní a bezpečnostní aspekty využívání AI ve veřejné správě

     

    Co vás v této části čeká

    Věnuje se právním a bezpečnostním aspektům využívání AI v práci zaměstnanců veřejné správy. Ačkoliv se může její obsah na první pohled jevit jako odbornější, jde o souvislosti, které jsou pro odpovědné využívání AI zásadní. Bez jejich znalosti se vystavujeme zbytečným rizikům.

  • Řízení a implementace AI v organizacích veřejné správy

     

    Co vás v této části čeká

    Primárně je určena těm, kteří mají v organizacích veřejné správy na starosti řízení a nastavování využívání AI, a proto klade větší důraz na pohled organizace jako celku. Její pročtení lze ovšem bezpochyby doporučit i ostatním uživatelům, neboť poskytuje širší kontext a podporuje komplexní porozumění této problematice.

  • Desatero etického a odpovědného využívání AI

  • Slovníček pojmů a zkratek

    Přehled základních pojmů používaných v kurzu. Kliknutím na písmeno se rychle přesunete na vybranou část.

    Rychlá navigace
    A B D G H I L M P S V Z

    A

    AI (umělá inteligence / artificial intelligence)

    Soubor metod, které umožňují systémům učit se ze vzorů v informacích, odhadovat nejlepší výstup, klasifikovat, generovat obsah nebo rozhodovat v nejistotě. Má schopnost adaptovat se podle nových vstupů. V tomto průvodci se na AI díváme především optikou generativní AI a velkých jazykových modelů.

    Algoritmus

    Přesný a jednoznačný postup řešení daného typu úlohy, složený z konečného počtu kroků. Jde o sekvenci instrukcí, které se provádějí v určitém pořadí, aby se z daných vstupních informací dosáhlo požadovaného výstupu.

    Anonymizace (anonymization)

    Proces odstranění nebo změny identifikujících údajů tak, aby jednotlivce již nebylo možné znovu identifikovat; zásadní pro bezpečné použití dat s AI.

    Auditní stopa (audit trail)

    Dokumentace všech kroků, rozhodnutí a vstupů/výstupů při použití AI, která umožní pozdější přezkum a odpovědnost.

    Automatizace (automation)

    Systematické převádění opakovatelných, předem určených činností z lidí na stroje či software podle pevně daných pravidel a postupů. Automatizace dělá přesně to, co je naprogramováno; pokud vstup neodpovídá očekávání, může selhat nebo vyžadovat výjimku.

    B

    Bias (zkreslení)

    Odchylka výsledků, rozhodnutí nebo výstupů od objektivní či očekávané hodnoty. Může vznikat v důsledku způsobu sběru informací, jejich struktury, volby metod, nastavení modelu nebo lidského zásahu. Nemusí jít nutně o vědomou předpojatost, ale o obecné zkreslení s různými příčinami a projevy.

    D

    Doladění modelu (fine-tuning)

    Proces dodatečného tréninku modelu na specifických datech, aby lépe odpovídal lokálním nebo oborovým požadavkům; v praxi vyžaduje právní a bezpečnostní posouzení.

    G

    GDPR (Obecné nařízení o ochraně osobních údajů)

    Norma chránící fyzické osoby a jejich osobní údaje. Má za cíl dát lidem větší kontrolu nad jejich osobními údaji a sjednotit pravidla pro jejich zpracování napříč Evropskou unií. Definuje práva občanů, povinnosti zpracovatelů údajů a sankce za porušení pravidel.

    Generativní umělá inteligence (generative AI)

    Typ AI, která vytváří nový text, obraz nebo jiný obsah na základě statistického modelu a vstupního zadání. V kurzu se zaměřujeme na její možnosti i omezení v úřední praxi.

    H

    Halucinace (hallucination)

    Situace, kdy model vytváří nepřesné nebo smyšlené informace jako fakta. Klíčová tvrzení je proto nutné ověřovat v důvěryhodných zdrojích.

    Hodnocení rizik AI (AI risk assessment)

    Systematický postup identifikace, analýzy a zmírňování rizik spojených s konkrétním použitím AI v organizaci.

    I

    Iterace

    Opakovaný cyklus práce s AI: zadáte prompt, přečtete výstup, upřesníte zadání a získáte lepší výstup.

    L

    Licence a autorská práva (copyright and licensing)

    Právní rámec upravující, kdo může používat, upravovat a zveřejňovat obsah vytvořený nebo využitý AI.

    Lidská kontrola (human oversight)

    Postup, který zajišťuje, že člověk má rozhodující roli v důležitých bodech procesu a přebírá odpovědnost za výsledky AI.

    M

    Minimalizace dat (data minimization)

    Princip zpracování osobních údajů, podle kterého se shromažďují a zpracovávají pouze nezbytné údaje pro dosažení konkrétního účelu.

    P

    PDCA (Plan–Do–Check–Act)

    Metoda řízení označovaná jako Plánuj–Proveď–Zkontroluj–Jednej. Slouží k neustálému zlepšování procesů a produktů. Cyklus je opakující se: nejprve se plánuje, poté se změny provedou, následuje kontrola výsledků a následná úprava nebo zopakování cyklu.

    Principialismus

    Etický přístup, podle kterého má jako východisko etického uvažování sloužit sada principů, na kterých se v rámci dané oblasti shodneme. Neopírá se o jedno ústřední pravidlo, ale o více principů, které společně pomáhají posuzovat konkrétní situace.

    Prompt (pokyn)

    Krátké nebo strukturované zadání, které uživatel posílá modelu, aby získal požadovaný výstup.

    Promptování (prompt engineering)

    Postupy a techniky pro navrhování, testování a ladění pokynů tak, aby model dával použitelnější a bezpečnější výsledky.

    Pravidlový systém (rule-based system)

    Softwarové řešení, které pracuje podle pevně definovaných pravidel místo učení z dat. Je důležité jej rozlišovat od generativních modelů.

    Pseudonymizace (pseudonymization)

    Transformace osobních údajů tak, aby bez dodatečných informací nebyly přímo přiřaditelné ke konkrétní osobě. Na rozdíl od anonymizace ale právní povinnosti podle GDPR zpravidla zůstávají.

    S

    Smlouva o zpracování osobních údajů (Data Processing Agreement, DPA)

    Právní smlouva mezi správcem a zpracovatelem, která upravuje podmínky a bezpečnost zpracování osobních údajů.

    Správce osobních údajů (data controller)

    Osoba nebo instituce, která určuje účely a prostředky zpracování osobních údajů.

    Spisová služba (records management / registry)

    Úřední systém a postupy pro evidenci dokumentů a záznamů, včetně záznamů o použití AI.

    V

    Velký jazykový model (Large Language Model, LLM)

    Statistický model trénovaný na rozsáhlých textech, který předpovídá slova a generuje souvislý text. Je technickým základem mnoha generativních AI nástrojů.

    Vizuální prompt (visual prompt / image prompt)

    Strukturované instrukce pro generování nebo úpravu obrazového obsahu pomocí AI.

    Z

    Zpracovatel osobních údajů (data processor)

    Subjekt, který zpracovává osobní údaje jménem správce, například poskytovatel AI služby. Vztah mezi správcem a zpracovatelem upravuje smlouva o zpracování osobních údajů.

  • O Průvodci

    Poslání Průvodce

    Východiskem vzniku tohoto Průvodce se stala profesionalita, kterou využívání AI může buďto umocňovat, nebo naopak ohrožovat. Být profesionálem neznamená jen dobře ovládat předpisy, postupy a nástroje, ale také používat je odpovědně a v souladu s etickými principy. Jako zaměstnanci veřejné správy nerozhodujeme jen sami za sebe – naše rozhodování a každodenní činnosti mají dopad na život občanů, fungování společnosti i důvěryhodnost státu. To platí i pro využívání AI. Patří k naší základní výbavě přemýšlet o tom, jak nás AI ovlivňuje, jak mění výstupy naší práce a jak tyto výstupy působí na jednotlivé lidi i na prostředí kolem nás.

    Průvodce má sloužit hlavně Vám, lidem v organizacích veřejné správy, jako praktická pomůcka. Pomůže zorientovat se v rychle se rozvíjejícím světě AI a nabídne rámec pro její etické a odpovědné využívání ve veřejné správě. AI nás i naši práci změní, ale cílem je, aby tato změna byla k lepšímu. Naše úkoly a odpovědnost zůstávají, AI je „jen“ další nástroj, jak je plnit lépe, rychleji a efektivněji. Může nám ulevit od rutinních činností, podpořit kritické a systémové myšlení a pomoci nám tam, kde máme slabší místa – pokud si zároveň udržíme střízlivý nadhled a uvědomíme si její limity i vlastní odpovědnost.