Zásady pro využívání umělé inteligence na úřadě

Pro všechny obce, městské úřady a další orgány veřejné správy, které využívají nebo plánují využívat systémy umělé inteligence. Směrnice se vztahuje na všechny zaměstnance úřadu, zastupitele, členy komisí a výborů — a je navržena tak, aby byla srozumitelná i pro ty, kteří s AI teprve začínají.

Pilíř 1: Účel a principy — základní pravidla a definice pojmů včetně role AI koordinátora.

Pilíř 2: Co je zakázáno — úplný výčet zakázaných AI praktik podle čl. 5 AI Act.

Pilíř 3: Klasifikace rizik — čtyři úrovně rizika, evidence systémů a schvalovací procesy.

Pilíř 4: Ochrana osobních údajů — právní tituly, minimalizace dat, automatizované rozhodování a zpracovatelské smlouvy.

Pilíř 5: Transparentnost a dohled — informování občanů, vysvětlitelnost rozhodnutí a označování AI obsahu.

Pilíř 6: Pravidla používání — povolené a zakázané využití, schválené nástroje a odpovědnost zaměstnanců.

Pilíř 7: Odpovědnost a školení — role a odpovědnosti, AI gramotnost, prevence diskriminace, incidenty a stížnosti.

AI Act (nařízení EU 2024/1689) se od února 2025 postupně stává závazným pro všechny organizace včetně orgánů veřejné správy. Požaduje mj. zajištění AI gramotnosti (čl. 4), dodržování zakázaných praktik (čl. 5) a transparentnost vůči občanům (čl. 50). Bez interní směrnice nemůže úřad prokázat, že AI systémy využívá v souladu s legislativou. Navíc směrnice dává jasná pravidla zaměstnancům a chrání úřad před právními důsledky.

Nařízení (EU) 2024/1689 o umělé inteligenci (AI Act), zejména čl. 3 (definice), čl. 4 (AI gramotnost), čl. 5 (zakázané praktiky), čl. 6 a příloha III (vysoké riziko), čl. 26 (povinnosti nasazovatele), čl. 27 (posouzení vlivu na základní práva), čl. 50 (transparentnost). GDPR — Nařízení (EU) 2016/679, zejména čl. 6, 22, 28, 35. Zákon č. 110/2019 Sb., o zpracování osobních údajů. Zákon č. 365/2000 Sb., o informačních systémech veřejné správy. Zákon č. 181/2014 Sb., o kybernetické bezpečnosti. Zákon č. 106/1999 Sb., o svobodném přístupu k informacím.

Musí naše obec mít směrnici pro AI? AI Act vyžaduje, aby každý nasazovatel AI systému (včetně orgánů veřejné správy) zajistil dostatečnou AI gramotnost a dodržoval pravidla pro transparentnost a zákonné používání. Interní směrnice je nejlepší způsob, jak tyto povinnosti splnit a prokázat.

Kdo by měl být AI koordinátorem? Ideálně zaměstnanec s přehledem o IT, ochraně dat a interních procesech úřadu. Může to být informatik, pověřenec DPO nebo jiný kvalifikovaný pracovník — důležité je, aby měl podporu vedení.

Vztahuje se směrnice i na zastupitele a členy komisí? Ano, směrnice pokrývá všechny osoby, které v rámci činnosti pro úřad AI systémy používají, včetně zastupitelů a členů komisí a výborů.

Jak často je třeba směrnici aktualizovat? Minimálně jednou ročně, nebo vždy při významné změně legislativy (např. novela AI Act, změna GDPR) či při zavedení nového AI systému.