V rozhovoru s Jindrou Tumovou (odbor ICT Národní knihovny ČR, dále NK ČR) a Martinou Brčákovou (právní oddělení tamtéž) se podíváme na právní a etické souvislosti využívání AI, na to, jak si NK ČR nastavila vlastní pravidla, a také na zkušenosti, které mohou být inspirací i pro další instituce.
Legislativní rámec: proč AI není jen technická otázka
Umělá inteligence se vyvíjí rychle. Drží s ní krok i právo?
Martina Brčáková (MB): Ano – a možná víc, než si lidé myslí. Přinejmenším se o to snaží. Využívání umělé inteligence dnes nestojí na jednom „speciálním zákoně o AI“, ale na širokém legislativním a institucionálním rámci, který se postupně vytvářel ještě před masovým nástupem generativní umělé inteligence. Právě proto je důležité chápat AI nejen jako technický nástroj, ale jako fenomén, který se dotýká ochrany práv osob, práce s informacemi i fungování veřejných institucí.
Na úrovni EU hraje klíčovou roli Nařízení o umělé inteligenci (AI Act), které zavádí přístup založený na míře rizika a staví na principech bezpečnosti, transparentnosti a lidského dohledu. Vedle něj je pro veřejné instituce zásadní také ochrana osobních údajů podle GDPR, včetně pravidel tzv. data boundary, tedy omezení přenosu osobních údajů mimo EU.
A jaká další pravidla vstupují do hry?
MB: Důležitá je i česká legislativa. Například zákon o kybernetické bezpečnosti řeší ochranu informačních systémů a digitální infrastruktury, autorský zákon se dotýká práce s obsahem i otázky autorství výstupů AI a zákoník práce reaguje na používání AI v pracovním prostředí. Pro knihovny má navíc význam i knihovní zákon, protože pracují s informacemi ve veřejném zájmu.
Vedle zákonů hrají roli také principy a doporučení – například Národní strategie AI ČR, doporučení Národního úřadu pro kybernetickou a informační bezpečnost (NÚKIB), Úřadu pro ochranu osobních údajů (ÚOOÚ) nebo Evropského sboru pro ochranu osobních údajů (EDPB). Tyto dokumenty pomáhají institucím přenášet právní požadavky do každodenní praxe.
Co to znamená pro běžnou praxi institucí?
MB: Především to, že používání AI není „bezprávní zóna“. Pravidla tu nejsou proto, aby brzdila inovace, ale aby nastavila srozumitelné mantinely, ve kterých lze AI využívat odpovědně, dlouhodobě a s ohledem na veřejný zájem. Jde o práci s daty, odpovědností a důvěrou – a to jsou oblasti, kde se veřejné instituce nemohou spoléhat jen na technologii.
Řešení NK ČR
Jak k AI přistoupila NK ČR jako instituce?
Jindra Tumová (JT): Vyšli jsme z toho, že umělá inteligence není krátkodobý trend, ale technologie, která dlouhodobě mění způsoby práce s informacemi, daty i kulturním dědictvím. Proto jsme od začátku zvolili institucionální přístup, nikoli individuální experimentování bez společných pravidel.
NK ČR vnímá AI především jako podpůrný nástroj, který může zjednodušit rutinní činnosti a zvýšit efektivitu práce zaměstnanců – například při zpracování, analýze a vyhledávání informací, v oblasti překladů, strukturování textů nebo při práci s rozsáhlými digitálními fondy. Současně ale pracujeme s velkým množstvím autorskoprávně chráněných a osobních dat, a proto je pro nás bezpečnost a odpovědnost zásadní.
Co to znamená v praxi?
JT: Nastavili jsme rámec, který nepopisuje konkrétní nástroje ani pracovní postupy, ale sjednocuje základní principy využívání AI napříč knihovnou. Cílem je dát zaměstnancům jistotu, že pokud postupují podle těchto pravidel, pohybují se v právně i eticky bezpečném prostoru. Součástí tohoto přístupu je také aktivní hledání nových oblastí využití AI – například při zpracování digitalizovaných dokumentů, práci s OCR, při sémantickém obohacování dat nebo zpřístupňování digitálních sbírek různým skupinám uživatelů.
Dá se říct, že AI je pro NK ČR strategickým tématem?
MB: Určitě ano. Umělá inteligence souvisí s dlouhodobými otázkami uchovávání digitálního obsahu, technologické infrastruktury a práce s velkými datovými celky. Proto ji vnímáme podobně jako jiné strategické technologie – jako oblast, kde je nutné propojovat IT, právo, odbornou praxi i etiku a kde bez spolupráce jednotlivých útvarů nemůže fungovat odpovědný a udržitelný rozvoj.
Co by podle vás nemělo v žádné interní směrnici o využívání AI chybět?
JT: Základem je jasná a srozumitelná struktura. V NK ČR jsme šli cestou navazujících dokumentů, které se doplňují od nejjednodušších principů až po detailnější pravidla. Směrnice sama o sobě nemá fungovat izolovaně, ale jako součást širšího rámce řízení bezpečnosti a odpovědného využívání technologií.
Koncept vychází z dlouhodobě používaného přístupu NK ČR k bezpečnostním politikám a zároveň zohledňuje legislativní požadavky a principy Národní strategie AI ČR. Jednotlivé dokumenty na sebe logicky navazují:
- Desatero využívání umělé inteligence slouží jako základní orientace pro každého zaměstnance a shrnuje základní principy odpovědného přístupu – zejména práci s daty, nutnost lidského dohledu, odpovědnost za výstupy a respekt k hodnotám veřejné instituce;
- kodex odpovědného využívání umělé inteligence vymezuje hodnoty, odpovědnost a etické zásady;
- směrnice k využívání nástrojů umělé inteligence stanovuje konkrétnější pravidla a mantinely.
Součástí rámce je také seznam nástrojů AI, které jsou v instituci povoleny nebo doporučeny.
Směrnice vychází z předpokladu, že jednotlivé nástroje AI představují různou míru rizika, a proto s nimi nelze zacházet jednotným způsobem. Rozlišuje běžné nástroje s minimálním rizikem, a naopak vysoce rizikové systémy, jejichž nasazení podléhá zvláštnímu posouzení a schvalování. Na toto členění navazují i konkrétní pravidla pro práci s daty – zejména jasné vymezení toho, jaké vstupy jsou povoleny, a které jsou naopak zakázány.
Zásadním principem je také povinnost lidského dohledu u všech činností, které mohou mít právní, etický nebo reputační dopad. Směrnice jednoznačně vymezuje i odpovědnost za výstupy AI – konečné rozhodnutí a odpovědnost za využití výsledků práce AI vždy nese člověk, nikoli technologie.
Samostatná pozornost je věnována také řešení incidentů. Bezpečnostní nebo obsahové incidenty musí být bezodkladně hlášeny a dokumentovány. Pokud jsou výstupy umělé inteligence poskytovány veřejnosti, směrnice zároveň požaduje transparentní označování služeb AI, aby uživatelé vždy věděli, že pracují s umělou inteligencí nebo jejím výstupem.
Co je z pohledu praxe nejdůležitější?
JT: Především jednoznačně říct, jaká data do AI smí a jaká nesmí. Pracujeme s osobními i autorskoprávně chráněnými informacemi, proto musí mít zaměstnanci jasno. Stejně důležité je zdůraznit, že AI nenahrazuje lidské rozhodování v citlivých oblastech a že odpovědnost za výsledek práce zůstává vždy na člověku.
MB: Směrnice má být praktickým vodítkem – ne sbírkou zákazů. Zaměstnanec proto musí vědět, jak postupovat v konkrétních situacích: co dělat, pokud si není jistý, zda smí daná data do AI vložit; jak postupovat, když potřebuje použít nástroj, který není na seznamu schválených; jak reagovat, pokud má pochybnosti o správnosti nebo vhodnosti výstupu; a zejména na koho se obrátit a jak postupovat při podezření na bezpečnostní nebo obsahový incident. Stejně tak musí být zřejmé, jak postupovat při poskytování výstupů AI veřejnosti, včetně povinnosti transparentního označení.
Jaká je budoucnost AI v knihovnách?
JT: Nezůstáváme jen u směrnic a formálních dokumentů. Stejně důležité je systematické vzdělávání zaměstnanců, rozvoj jejich digitálních dovedností a práce s umělou inteligencí v každodenní praxi. Velký důraz klademe také na sdílení zkušeností – jak uvnitř NK ČR, tak i s dalšími paměťovými a veřejnými institucemi.
MB: A právě spolupráce je klíčová. Umělá inteligence je oblast, kde je nutné dlouhodobě propojovat IT, právo, odbornou praxi i etiku. Jen tak může vzniknout prostředí, ve kterém je možné AI využívat odpovědně, udržitelně a s ohledem na důvěru veřejnosti.
Buďme moderní a odpovědní. Umělá inteligence nám může pomoci – pokud ji používáme s rozumem.
Desatero využívání umělé inteligence (AI) v NK ČR
Bezpečně, odpovědně a s přínosem.
Co dělat:
- Využívat AI ke zjednodušení rutinních úkolů a zefektivnění práce.
- Zapojovat AI při zpracování a vyhledávání informací, překladů, návrhu textů nebo podpoře výzkumu.
- Hledat nové možnosti využití AI v souladu s posláním knihovny.
Co nedělat:
- Nezadávat citlivé osobní údaje do veřejných AI nástrojů (např. zdravotní údaje, rodná čísla, informace o víře, politice apod.).
- Nevkládat interní nebo důvěrné dokumenty (smlouvy, směrnice, korespondenci atd.) do veřejných AI služeb.
- Nepoužívat AI pro automatizované rozhodování bez odpovídajícího lidského dohledu – zejména v personálních či veřejných záležitostech.
- Nevydávat výstupy AI za práci člověka bez jasného označení.
- Nepoužívat AI manipulativně (např. pro vytváření klamavého nebo falešného obsahu).
- Nevytvářet ani nešířit obsah, který porušuje zákon či hodnoty knihovny (nenávistný, urážlivý, diskriminační atd.).
- Neobcházet bezpečnostní opatření knihovních systémů nebo pracovat s neveřejnými daty bez svolení správců.
Cílem je podpořit digitální inovace a zároveň chránit důvěryhodnost, bezpečnost a etiku v prostředí Národní knihovny České republiky.
Při přípravě tohoto článku byl jako moderátorský a textový podpůrný nástroj využit Microsoft Copilot (M365) v souladu se zásadami odpovědného využívání umělé inteligence.
JINDRA TUMOVÁ je ředitelkou odboru ICT (informačních a komunikačních technologií) Národní knihovny ČR, MARTINA BRČÁKOVÁ je právničkou právního oddělení tamtéž.
