AI není uvnitř strojů: pohled (jednoho) sociologa

Je pozoruhodné, že právě čtení se dnes stalo jedním z pilířů vzdělanosti, o němž nikdo nepochybuje. Pro knihovny je dokonce profesním základem: orientace v literatuře, práce se zdroji, schopnost kriticky číst a syntetizovat informace. Jenže právě tyto dovednosti se v současnosti ocitají v novém světle. Stojíme totiž možná na prahu proměny, která se dotkne nejen čtenářů, ale i těch, kdo čtení a práci s informacemi profesně podporují. 

O umělé inteligenci (dále AI) bylo v posledních letech napsáno mnohé.³ Víme, že nejde o nic nového pod sluncem (termín „AI“ existuje od 50. let), ale uvedení ChatGPT na podzim 2022 spustilo lavinu nového, fascinovaného i zděšeného zájmu. Víme také, že nadměrné užívání „generativní AI“ může mít nežádoucí psychické a kognitivní důsledky. Víme, že trénování „velkých jazykových modelů“ spočívá na skryté práci špatně placených anotátorek a anotátorů v rozvojových zemích, což má negativní dopady na globální sociální nerovnosti. Víme konečně i to, že provoz rozsáhlých komputačních center, bez kterých současný chod AI není možný, vede k závažným environmentálním následkům.⁴  

Ačkoliv jsou všechny tyto souvislosti dobře známé, zavedení AI do běžných aktivit – např. rešerše literatury nebo sumarizace textů – odráží obecnější problém, na který sociologie vědy a techniky poukazuje už dlouho. Spočívá v tom, že nové technologie jsou uváděny na trh dříve, než jsou důkladně a zodpovědně posouzeny politické, kulturní, hospodářské, ekologické i společenské důsledky jejich užívání. Negativní dopady masového rozšíření nových technologií (vzpomeňme třeba automobilismus ve 20. století) se nám tak ukazují teprve retrospektivně. Zpravidla je to ve chvíli, kdy již není možné nastoupenou změnu skutečně zvrátit, protože jsme si na nového mechanického pomocníka či společníka už příliš zvykli. Jakákoliv omezení – třebaže nezbytná – jsou nakonec činěna jen váhavě a za ohromných ekonomických i společenských výdajů. Knihy Jerryho Mandera, které vyšly i česky, čtenářsky dostupným, a přitom pronikavým způsobem problematizují představu o prospěšnosti technologického vývoje a formulují palčivé „otázky, které jsme nad moderními technologiemi měli klást“.⁵ Mander sice psal o telefonu či televizi, ale v oblasti AI jsme nyní zjevně svědky obdobných procesů. 

Myslím, že sociologie může k této rozlehlé a složité debatě přispět perspektivou, která stojí mimo obvyklý technologismus veřejného diskurzu. Než tuto sociologickou alternativu představím, musím krátce vysvětlit, co míním „technologismem“.  

Ve většině diskusí o AI je zřejmá tendence považovat tento fenomén za něco, co je především záležitostí strojů – je to cosi skrytého uvnitř počítačů nebo jejich sítí, cosi sestávajícího z tajuplných algoritmů, kterým málokdo rozumí, ale téměř všichni jsme jim chtě nechtě podřízeni. Tento pohled je v zásadě ozvěnou rozšířené představy, že ty nejdůležitější záležitosti lidského konání se odehrávají ve skrytu: v nitru našich těl a lebek, kde je nejprve musí sofistikovaně vyhledat a náležitě vysvětlit specializované obory medicíny, psychologie, psychiatrie, neurovědy a dalších.⁶ Podobně jako lidská mysl, je také AI obvykle považována za něco ukrytého našim zrakům a vyžadujícího odborné vysvětlení; celý projekt „umělé inteligence“ je ostatně veden snahou o strojovou nápodobu lidského usuzování. Metafora lidského mozku jako mocného počítače je obrácena naruby. A podobně jako lidský mozek a myšlení má také AI své expertní vykladače a technické odborníky, na jejichž komentáře naše společnost spoléhá a jimiž se zneklidňuje nebo upokojuje. Z této běžné perspektivy je tedy AI především záležitostí techniky a technologie, která ve své podstatě stojí mimo svět našich každodenních životů, byť je zároveň hluboce ovlivňuje. 

Sociologie si samozřejmě technických i medicínských věd váží, ale jelikož je samostatným oborem, vymezuje si vlastní pole zájmu a rozvíjí perspektivu, která není na jiné obory redukovatelná. Tedy ve zkratce – z pohledu sociologie: AI není uvnitř strojů. Zvláště v těch variantách sociologie, jež se soustředí na podrobné porozumění detailům běžných sociálních aktivit (např. pracovních či vzdělávacích), poukazuje tato disciplína na to, že AI a její užitečnost či úspěšnost do značné míry závisí na tom, jak uspořádáváme svět, do něhož jsou technologické nástroje jako ChatGPT nebo Claude prakticky a smysluplně zakotveny. Přinejmenším stejně jako o otázku technickou se tedy jedná o otázku sociální. 

Jelikož současná AI je v obecném povědomí prakticky ztotožněna s chatboty založenými na velkých jazykových modelech, využiji ilustrační příklad právě z historie chatbotů. Ta je úzce spojena s tzv. „imitační hrou“, kterou navrhl Alan Turing jako postup pro vyhodnocení strojové inteligence (známá též jako „Turingův test“). V tomto testu jsou klíčové lidské schopnosti, jež mají být posuzovány, ztotožněny se schopností produkovat srozumitelný jazyk prostřednictvím textu. Chatbot pak projde Turingovým testem tehdy, když lidský hodnotitel nedokáže na základě samotné psané „konverzace“ odlišit počítač od člověka. Jedním z prvních počítačových programů, který Turingovým testem prošel, byla ELIZA, která učinila „určité druhy přirozené jazykové konverzace mezi člověkem a počítačem možnými“.⁷ Simulací rogeriánského psychoterapeutického sezení, které je založeno na minimalistických vstupech terapeutky či terapeuta, dokázala ELIZA vytvořit dojem smysluplné a plynulé konverzace. Asi to byl právě minimalismus, který stál za úspěchem tohoto programu: vytvořil dostatečný prostor pro interpretační činnost na straně lidského uživatele a – jak shrnul Filip Tvrdý – „lidé se nechávají zmásti dosti snadno, protože se snaží nalézt určitou strukturu v naprosto chaotických jevech“.⁸ 

Co to pro nás může znamenat? Sociologický pohled naznačuje, že důležitější než porozumění strojovému nitru AI – například technickým procedurám, algoritmům a programům – je praktické odhalení konkrétních pracovních postupů, ve kterých nám AI může pomoci. To snad může být osvobozující: namísto nutnosti osvojit si technické porozumění tomu, jak AI funguje „uvnitř“, může postačit zjištění, jak reaguje „navenek“. I dosti jednoduché výstupy ze stroje mohou být v určitých kontextech užitečné – podobně jako prosté „prosím pokračujte“ nebo „ano, rozumím“ v případě programu ELIZA dokázalo vytvořit dojem naplňujícího rozhovoru a často i reálný terapeutický efekt. Jsme-li otevřeni možnosti AI do našich vlastních aktivit nějakým způsobem – s rozmyslem a rozumem – zakomponovat, hlavním úkolem je právě ujasnění, do jakého konkrétního kontextu může příslušný technický nástroj smysluplně zapadnout a vhodně přispět k jeho průběhu. K tomu je klíčová možnost svobodně s příslušnými nástroji experimentovat a kriticky tak odhalit nejen jejich potenciál, ale i možná omezení. 

Schopenhauer v 19. století varoval, že čtení zbavuje samostatného myšlení – a podobné obavy se dnes vztahují k AI. Stejně jako čtení se však i AI může stát nástrojem, který vlastní schopnost myslet neoslabuje, nýbrž kultivuje – pokud ji zasadíme do vhodných sociálních a profesních rámců. Možná je tedy důležitější jiná otázka, než se obvykle klade: nikoliv „proč a jak je AI chytrá“, ale „jak chytře s AI dokážeme zacházet“. Odpověď na tuto otázku neurčuje překotný vývoj algoritmů „strojového učení“, ale naše vlastní jednání a to, co se o fungování strojů sami prakticky naučíme. Pro knihovny z toho plyne možná překvapivě jednoduché poučení: nemusíme rozumět tomu, co se děje „uvnitř“ AI, abychom s ní mohli pracovat. Mnohem důležitější je promýšlet, jak ji zasadit do našich vlastních postupů – od informační výchovy přes rešeršní služby až po každodenní komunikaci s uživateli. AI je z tohoto pohledu pro knihovnické profese další příležitostí ukázat, že „inteligence“ není v počítačích, ale v tom, jak s nimi zacházíme. 

Poznámky: 

1. SCHOPENHAUER, Arthur. Spisovatelům a čtenářům. Olomouc: Votobia, 1995, s. 83. ↩︎
2. Tamtéž, s. 85.  ↩︎
3. Několik mých postřehů k tématu bylo pod názvem „Umělá inteligence jako sociologický problém“ otištěno ve sborníku Umelá inteligencia: sociálne a etické problémy, editovaném Dilbar Alievou, Jurajem Schenkem a Martinem Takáčem a vydaném Univerzitou Komenského v Bratislavě roku 2024. ↩︎
4. Viz např. GERLICH, M. AI Tools in Society: Impacts on Cognitive Offloading and the Future of Critical Thinking. Societies, 2025, 15(1), 6; PAIC a L. SERKIN. The impact of artificial intelligence: From cognitive costs to global inequality. The European Physical Journal Special Topics, 2025, 234, 3045–3050; HOSSEINI, M. a kol. A social-environmental impact perspective of generative artificial intelligence. Environmental Science and Ecotechnology, 2025, 23, 100520. ↩︎
5. Např. MANDER, Jerry. V nepřítomnosti posvátného: selhání moderních technologií a zápas indiánských národů o přežití. Praha: Doplněk, 2003. ↩︎
6. Podrobněji viz moji kapitolu „Lidská mysl pohledem sociologie“ v knize Depresivní společnost: k připomínce Markéty Sedláčkové, připravené k publikaci Olgou Plíčkovou a vydané nakladatelstvím Karolinum v roce 2024. ↩︎
7. WEIZENBAUM, J. ELIZA – a computer program for the study of natural language communication between man and machine. Communications of the ACM, 1966, 9(1), 36–45. ↩︎
8. TVRDÝ, Filip. Turingův test: filozofické aspekty umělé inteligence. Praha: Togga, 2014, s. 176. Viz také EISENMANN, C. et al. „Machine Down“: making sense of human–computer interaction – Garfinkel’s research on ELIZA and LYRIC from 1967 to 1969 and its contemporary relevance. AI & Society, 2024, 39, 2715–2733. ↩︎

JAKUB MLYNÁŘ vystudoval sociologii na Filozofické fakultě Univerzity Karlovy a nyní pracuje na HES-SO Valais-Wallis Haute école spécialisée de Suisse occidentale ve švýcarském Sierre, kde působí v rámci Human-Centred Computing Group při Institutu informatiky. Výsledky jeho zkoumání ukazují, že „umělá inteligence“ je především uspořádáním praktického sociálního jednání, do něhož jsou strojové výstupy smysluplně zapuštěny, nebo jsou s ním naopak nekompatibilní.