Bezpečná práce, ověřování kvality a kontrola výstupů

Práce v bezpečném režimu

AI technologie nám mohou výrazně pomoci, ale jejich využívání je vždy spojené s problematikou bezpečné práce. Než začneme, položme si otázku: "Jaké údaje potřebujeme zpracovat a proč? Máme jasná pravidla pro jejich správu?". Bezpečnost nezačíná u technologie, ale u nás – uživatelů. Musíme rozumět údajům, se kterými pracujeme, a až poté je svěřit AI nástrojům.

Anonymizace 

Odstranění všech údajů (identifikátorů), podle kterých by šlo určit totožnost člověka.

Pseudonymizace

Nahrazení identifikátorů kódy nebo jinými znaky, které umožňují dočasné propojení s původní osobou, ale jen za přísně kontrolovaných podmínek.

Jaké jsou nejběžnější situace při využívání AI?

AI nástroj provozovaný přímo organizací
Ze strany organizace je zajištěno, že k AI nástroji a vkládaným údajům nemají přístup externí osoby. Údaje zůstávají v interním IT prostředí organizace, nikdo zvenku k nim nemá přístup. Tato varianta je pro organizaci jednodušší a bezpečnější.

AI nástroj poskytovaný jinou firmou ("AI jako služba")
Nástroj vložené údaje zpracovává na serverech poskytovatele. Údaje se zpracovávají v IT prostředí poskytovatele, často i mimo Českou republiku. V takovém případě je nutné pečlivě poskytovatele vybírat a ověřit:

• jeho spolehlivost,
• rozsah přístupu k údajům,
• podmínky zpracování (kde a jak se údaje ukládají, jak jsou chráněny, zda je 
  poskytovatel může využít pro jiné účely),
• právní roli poskytovatele (zpracovatel vs. správce osobních údajů).

Klasifikace údajů

Základem bezpečné práce je jasné rozdělení údajů podle citlivosti. Organizace by měla mít rámec, který rozlišuje:

Otevřené údaje
Lze je volně používat, sdílet a zpracovávat (např. informace zveřejňované podle zákona o svobodném přístupu k informacím). Tyto údaje jsou pro AI velmi cenné.

Neveřejné údaje
Chráněné ze zákona (osobní údaje, utajované informace, obchodní tajemství, bezpečnostní zájmy státu). Jejich využití musí být vždy zdůvodněné, přiměřené a dokumentované.

Adekvátně strukturovaná podrobnější klasifikace pomůže nastavit správnou úroveň zabezpečení a rozhodnout, zda je využití údajů v konkrétním AI nástroji vhodné.

Příklad možné klasifikace:

U každého datového úložiště, aplikace a nástroje AI je potřeba předem určit, jaké kategorie údajů mohou zpracovávat a v jakém režimu.

Otázky, které je dobré si položit před využitím AI:

Na co si dát pozor ve smlouvách?

Je nutné věnovat pozornost smluvním podmínkám – co přesně může nástroj dělat s našimi údaji. Už při zadávání zakázky je vhodné využít standardizované smluvní doložky, které zajistí otevřenost a férovost.

Kontrola a průběžné ověřování

Bezpečnost, správnost a přesnost údajů musí být zajištěna jak u nástrojů provozovaných organizací, tak u těch od jiných poskytovatelů.

Kromě technických opatření (šifrování, pseudonymizace, řízení přístupů) je nutné, aby správci AI nástroje pravidelně kontrolovali:

• zda nástroj stále funguje v souladu s původním účelem,
• zda se nezměnily podmínky využívání nebo spolehlivost poskytovatele,
• zda nástroj neprovádí operace nad rámec povoleného použití.

Odpovědnost za výstupy AI

Tato odpovědnost je jasně daná a nelze ji přenést na samotný AI nástroj. To ale neznamená, že bychom nemohli AI využívat – ani správní řád použití AI nezakazuje. Pořád však platí, že úkony v řízení provádí oprávněné úřední osoby a rozhodnutí musí obsahovat jejich identifikační údaje a podpis. Zaměstnanec tedy nemůže „přenechat odpovědnost“ AI a musí výstupy vždy ověřit.

Pokud kvůli neověřenému výstupu AI vznikne někomu škoda, stát (nebo jiný příslušný orgán) odpovídá za škodu způsobenou nezákonným rozhodnutím nebo nesprávným postupem. Náhrada škody může být následně požadována po zaměstnanci, jehož činností byla škoda způsobena. V některých případech může stát škodu vymáhat i po poskytovateli AI nástroje.

Jak správně kontrolovat výstupy AI

Porovnat výstup AI se spisem a dostupnými podklady
Kontrolujte, zda výstup odpovídá skutečnostem v řízení, neobsahuje věcné chyby a správně pracuje s právními předpisy a jinými zdroji.
Posoudit logiku a vnitřní konzistenci výstupu
Ověřujte, že závěry odpovídají uvedeným skutečnostem a jednotlivé části nejsou v rozporu se zadáním, ani s interními dokumenty a jinými skutečnostmi.
Konfrontovat další zdroje
Vyhledávejte relevantní literaturu, zákony a materiály, podle kterých lze platnost uváděných skutečností ověřit.

Pokud máte pochybnosti, výstup upravte, přepočítejte, ověřte v právních předpisech nebo se poraďte s kolegy či nadřízeným. Při ověřování postupujte tak, jako by šlo o podklad od stážisty - tedy jako o pomůcku, nikoli neomylnou pravdu.

U složitějších věcí je vhodné projít text větu po větě, přizpůsobit jej konkrétnímu případu, doplnit vlastní úvahy a převzít odpovědnost za konečnou podobu výstupu (jak ukládá i platná legislativa). Je vhodné si poznamenat, jak byl nástroj použit – k čemu sloužil, co bylo upraveno člověkem. To pomůže při kontrole i při případné obhajobě, že zaměstnanec nejednal mechanicky, ale výstupy aktivně ověřoval.

Transparentní informování o využití AI

Označování má dvě roviny:

• Označování obsahu zpracovaného AI pro strojové čtení (zahrnuje technické řešení pro různé typy obsahu i metriky využití AI). To je primárně úkol pro poskytovatele AI řešení.
• Jasné a viditelné grafické označení pro uživatele tak, aby bylo jasné, že obsah zcela vytvořila AI, nebo se na něm podílela. Ve veřejné správě se jedná o informování ve veřejném zájmu a odpovědnost nese jak původce, tak i každý zaměstnanec. 

Obsah plně generovaný AI

Vytvořený zcela bez lidského autentického zásahu do tvorby výstupu či jeho úprav, včetně automatizovaných úkonů, rozhodování apod. Obsah nemusel vůbec projít lidskou supervizí.

Obsah tvořený s asistencí AI

AI významně ovlivnila obsah, který by mohl být považován za vytvořený člověkem. Za významné ovlivnění lze považovat přidání či úpravu obsahu, přepis, sumarizaci, změnu kontextu či významu, překlad apod.

Varovné signály

Jak jsme si již vysvětlili, AI nástroje při tvorbě výstupů ve skutečnosti nerozumí dané problematice, ale pracují s algoritmy a skládají text podle pravděpodobnostních vzorců. I proto si ve výstupech musíme všímat varovných signálů, které naznačují, že výstup není spolehlivý, přesný nebo vhodný jako podklad pro rozhodování.