Největší světové instituce dnes intenzivně testují a postupně zavádějí AI do svých služeb: francouzská Národní knihovna (BnF) pracuje na několika klíčových projektech úzce napojených na digitální knihovnu Gallica, které zahrnují například rozpoznávání a vyhledávání obrázků, rozpoznávání rukopisného textu (HTR) či systém doporučující uživatelům další dokumenty na základě podobnosti. British Library se podílí na výzkumném projektu Living with Machines, který využívá zpracování přirozeného jazyka k analýze historických novin z období průmyslové revoluce. Harvard Library vyvíjí sémantické vyhledávání v projektu Collections Explorer a ACM Digital Library již nabízí AI-generovaná shrnutí vědeckých článků. Tyto iniciativy ukazují, že AI může proměnit služby digitálních knihoven orientované na uživatele. Česká digitální knihovna s nimi v tomto kontextu drží krok a od roku 2023 rovněž testuje funkce poháněné umělou inteligencí ve svém rozhraní.
Česká digitální knihovna
Většina digitálních knihoven v České republice je založena na open-source systému Kramerius. Tento systém využívají jak velké knihovny přímo podřízené Ministerstvu kultury ČR, jako jsou Národní knihovna ČR nebo Moravská zemská knihovna, tak specializované, univerzitní, krajské i menší instituce. Díky téměř padesáti instalacím Krameria je však prostředí českých digitálních knihoven poměrně roztříštěné.
Česká digitální knihovna (ČDK) vznikla jako jednotný vstupní bod (v současné době k 17 největším digitálním knihovnám, přičemž jejich počet se kontinuálně rozšiřuje), založený na společném indexu a uživatelsky orientovaném rozhraní. V současnosti nabízí přístup k 350 000 dokumentů, představujících 150 milionů stran, z toho 18 % je volně dostupných a dalších 61 % je přístupných po přihlášení v režimu děl nedostupných na trhu (ostatní dokumenty jsou dostupné na terminálech v příslušných knihovnách, nelze k nim přistupovat vzdáleně, pozn. red.). Od roku 2019 navíc ČDK slouží jako národní agregátor moderních knihovních dokumentů pro Europeanu, která poskytuje jednotný přístup k materiálům kulturního dědictví z institucí napříč Evropou.
Využití LLM v České digitální knihovně
Již více než rok nabízí Česká digitální knihovna AI funkce usnadňující práci s volně dostupnými literárními díly. Uživatelé mohou využít externí služby pro překlady, shrnutí stránek a funkce převodu textu na řeč. Tyto funkce jsou dostupné pro jednu stranu nebo její vybranou část. Fungují u veřejně přístupných dokumentů, a to jak u skenovaných dokumentů dostupných ve formátech JPG/JPG2000, tak u dokumentů, které již v digitální podobě vznikly a jsou dostupné ve formátu PDF. Pro využívání služeb AI musí být uživatel přihlášen prostřednictvím svého čtenářského účtu z jedné z českých knihoven nebo prostřednictvím účtu Gmail.
Služby umožňují využít textovou vrstvu OCR (technologie, která převádí naskenované obrázky, PDF dokumenty nebo fotografie na strojově čitelný a prohledávatelný text, pozn.red.) k překladu dokumentů do více než 10 jazyků, aktivovat funkci převodu textu na řeč a shrnout obsah stránky do několika stručných bodů. Přestože jsou tyto funkce relativně omezené, přinášejí hmatatelné výhody tím, že uživatelům umožňují pracovat s dokumenty v jazycích, kterým nerozumí, rychle analyzovat obsah dokumentů nebo vstřebávat informace poslechem, což přináší prospěch zejména uživatelům se speciálními potřebami.
V současné době testujeme rozhraní LLM pro dotazování nad stránkou nebo dokumentem. Testovací fáze zahrnuje vylepšené funkce, které uživatelům umožňují nejen shrnout stránku nebo celý dokument, ale také klást otevřené otázky týkající se obsahu zobrazené stránky nebo dokumentu. Tato možnost není k dispozici v produkčním prostředí, ale pro účely testování je možné v uživatelském rozhraní snadno přepínat mezi různými externími službami AI a jejich modely a sledovat různé odpovědi.
Pro dotazování testujeme řadu modelů od společností OpenAI, Anthropic a Google, abychom získali představu o tom, jak na uživatelské dotazy reagují různé (a různě naceněné) modely. Pro překlady byly nejprve testovány Google Translate a DeepL, ale protože DeepL nepodporuje latinu, rozhodli jsme se používat pouze Google Translate, i když i tam existují určité nevýhody. Na začátku testování jsme zjistili, že vytváření shrnutí v jiném jazyce, než je originál, je efektivnější, když je dokument nejprve přeložen. Tento přístup zabraňuje modelům v neúmyslném přepnutí zpět do původního jazyka v průběhu sumarizace, což zajišťuje konzistenci a přesnost. Pro převod textu na řeč jsme testovali služby od společností Google, OpenAI a ElevenLabs. Protože každá z těchto služeb má své výhody a nevýhody, umožňujeme uživateli vybrat model a hlas pro každý cílový jazyk.
V současné době jsou všechny tyto služby implementovány ve frontendu digitální knihovny, aby se urychlilo uživatelské testování a vylepšování rozhraní. Dosud nebyly integrovány do backendu, kam by některé z těchto funkcí mohly v konečném důsledku patřit. Protože všechny významné online služby AI vyžadují za rozsáhlé používání platbu, vyžadujeme autentizaci uživatelů a směrujeme všechny požadavky na služby AI přes společný proxy server, monitorujeme využití tokenů a nastavujeme limity používání. To poskytuje cenná data o reálném využívání služeb AI a chrání před četnými robotickými sklízeči, které svou aktivitou digitální knihovny značně přetěžují, a kdyby měly přístup k AI funkcím, hrozily by přímé finanční náklady z nadměrného čerpání AI služeb.
Projekt Paměť novin
Pro zlepšení vyhledávacích nástrojů slouží pilotní projekt Paměť novin. Pro tuto aplikaci jsme indexovali 25 novinových titulů z let 1880 až 1914, což představuje celkem přibližně 500 000 stran. Kvůli absenci přesných dat o segmentaci stránek jsme text heuristicky rozdělili na přibližně 10 milionů úseků, které rozsahem přibližně odpovídají delšímu odstavci nebo kratšímu článku. Pro každý úsek jsme vygenerovali a zaindexovali jeho vektorové reprezentace. Uživatelé tak mohou klást otázky v přirozeném jazyce, systém je převede na vektor a pak hledá v indexu vektory co nejpodobnější vektoru dotazu. Jazykový model pak dostane několik desítek nejpodobnějších částí textu a na jejich základě sestaví odpověď na dotaz uživatele. Tímto způsobem, tedy metodou RAG (Retrieval-Augmented Generation), je zajištěno, že jazykový model bude poskytovat konzistentní odpovědi založené na nejrelevantnějších textech, včetně linků na původní naskenované stránky.
Objevte knihu pomocí sémantického vyhledávání v metadatech
Další experiment se týkal bibliografických údajů agregovaných Moravskou zemskou knihovnou pro Centrální portál knihoven – Knihovny.cz. Záznamy MARC monografií byly obohaceny o nakladatelské a další anotace a byla testována účinnost vyhledávání v přirozeném jazyce v knihovních katalozích. Prvotní testování naznačuje potřebu vytvářet relevantní AI shrnutí pro knihy, které již byly digitalizovány, ale postrádají jakoukoli anotaci.
Hybridní rozhraní
Uvedené experimenty i další úvahy nás vedly k rozhodnutí vyvinout novou verzi frontendu České digitální knihovny. Cílem je vyvážit přesnost vyhledávání podle klíčových slov s flexibilitou sémantického porozumění a vytvořit jednotné hybridní rozhraní. Toto rozhraní umožní také vyhledávání obrázků podle textového popisu i vyhledávání podle podobnosti obrázků. Abychom obsah digitální knihovny více zpřístupnili, máme v úmyslu identifikovat pojmenované entity a předgenerovat shrnutí pro všechny dokumenty.
Největší výzvou bude pravděpodobně správná aplikace vyhledávání rozšířeného o generování. Naše dosavadní zkušenosti naznačují, že dotazování ve stylu RAG vrací nejlepší výsledky, pokud je aplikováno na konzistentní skupinu relevantních dokumentů (ať už jde o noviny, vědecké články, beletrii atd.), nikoliv na celý obsah digitální knihovny. Uživatelskou zkušenost pravděpodobně zlepší také zařazení rozhraní ve stylu konverzace. Zároveň však tyto nástroje přinášejí nové výzvy v oblasti uživatelské zkušenosti, jak ukazuje příklad Národní knihovny Lucemburska. Ta spustila v roce 2023 chatbot, jenž uživatelům umožňuje interaktivně prozkoumávat digitalizované sbírky lucemburských novin. Ukázalo se však, že uživatelé často nechápou princip RAG, kladou chatbotu otázky mimo rozsah knihovních kolekcí, nebo se s ním dokonce hádají.
Při vývoji jsme museli vzít v úvahu právní omezení týkající se materiálů chráněných autorským právem. To kromě přímého přístupu omezuje i překlady dokumentů do jiných jazyků, stejně jako formu citací nebo to, zda můžeme používat externí jazykové modely, nebo pouze modely běžící lokálně.
Další kroky budou zahrnovat podrobné testování nově vyvinutého uživatelského rozhraní a také integraci pokročilých funkcí AI. Současně se zaměříme na analýzu údajů o používání, která podpoří efektivní integraci těchto funkcí AI do digitálních knihoven a katalogů.
Autoři článku z Knihovny Akademie věd ČR, Moravské zemské knihovny a Trinera, s. r. o., mimo jiné spolupracují na projektech využití AI v digitálních knihovnách v ČR, a zejména v České digitální knihovně jako národním agregátorovi.
