EU Artificial Intelligence Act je legislativní rámec, který rozděluje systémy umělé inteligence podle míry rizika a pro jednotlivé kategorie určuje konkrétní povinnosti. Ve veřejné správě se AI Act dotýká zejména systémů, které ovlivňují přístup občanů ke službám, rozhodování v řízeních nebo hodnocení rizik. Pro vysokorizikové systémy ukládá nařízení požadavky na řízení rizik, kvalitu dat, transparentnost, dohled člověka a robustní dokumentaci. Orgány veřejné správy musí v rámci governance digitalizace zavést procesy, které zajistí identifikaci systémů spadajících pod AI Act a jejich průběžné hodnocení. Z pohledu architektury je důležité, aby byly AI komponenty v systému jasně oddělené, monitorovatelné a auditovatelné. Při zadávání veřejných zakázek je nutné už v zadání reflektovat povinnosti plynoucí z AI Act, jinak hrozí, že dodané řešení nebude právně použitelné. Klíčovým tématem je také vysvětlitelnost a možnost přezkoumat rozhodnutí, která systém umělé inteligence podporuje nebo automatizuje. Praktickým tipem je vytvořit katalog AI systémů ve veřejné správě a navázat na něj metodiku pro hodnocení souladu s AI Act.
