Když školím, nejčastější dotazy jsou na podvádění. Nebudou žáci podvádět? Jak poznat, že podvádí? Co když si úkoly budou generovat umělou inteligencí? O tom, jak to dělat jinak, si zkusíme říct někdy jindy. Teď se zaměříme na pár detailů, jak můžete odhalit text generovaný AI.
Samozřejmě, že jsou úlohy, kdy to zjistit je výrazně těžší. Třeba když nechá žák umělou inteligenci vypočítat úkol z matematiky. Ale kdekoli, kde výstupem je delší text, pak jsou určité body, kterých se můžete zachytit. Nejsou tak složité, ale nejdřív si musíme osvěžit pár základních informací.
- Umělá inteligence pracuje s informacemi na principu pravděpodobnosti. To znamená, že načte spoustu zdrojů, textů, informací a pak s nimi pracuje podle pravděpodobnostního principu. V kolika zdrojích se podobná odpověď vyskytovala? Který ze zdrojů má nejvíce pravděpodobnou odpověď? Kvůli tomu tak často AI halucinuje. Pokud nezná odpověď na danou otázku, vezme pravděpodobnostně nejbližší možnou aproximaci.
- Stejný princip pravděpodobnosti pak je i v jazykových modelech. Sleduje zákonitosti jazyka a skládá za sebe nejpravděpodobnější slabiky, slova, věty.
Tohle mějte neustále na paměti, když budete pracovat s velkými jazykovými modely, jako je GtaGPT, Google Gemini apod.
Základem je průměrnost
Tím asi nejdůležitějším charakteristickým znakem je průměrnost výstupu. A to hned v několika rovinách. Průměrnost se totiž odvíjí právě od té teorie pravděpodobnosti. Když si vezmeme Gaussovu křivku, AI se snaží vždy co nejvíce přiblížit k vrcholu této křivky. A to jak v obsahovém, tak i výstupovém měřítku. Co je nejpravděpodobnější, to je pro ni nejdůležitější. Proto je základním znakem průměrnost. Odpovědi nejsou ani skvělé, ale ani podprůměrné.
Informace jsou jako vyždímaný hadr
Obsah výstupu nelze ve většině případů hodnotit jinak, než jako velmi průměrný. Samozřejmě, že záleží na promptu, ale žák těžko bude vymýšlet velmi specifický a náročný prompt, když stejné úsilí by mohl věnovat samotnému vyřešení úlohy.
Výsledek je tedy velmi často jaksi nedostatečný. Pojme informaci správně, ale nijak ji nerozvíjí a samotný problém jednoduše „vyždíme“. Nedozvíte se nic zásadního, žádná hloubková analýza, spíš jde o povšechný popis. A je jedno, jestli jde o obojživelníky nebo slohovou práci.
Věty jsou gumové
Ve větách poznáte, že jsou univerzální. Jsou gumové. Větná skladba je stejná, věty jsou stejně dlouhé nebo podobně. Celý text působí odtažitě, jakoby formálně a pedantsky. Občas máte pocit, jako by věta patřila spíš do naučného dokumentu a úplně slyšíte Alfréda Strejčka, jak ji pronáší. Při snaze napromptovat neformálnější styl se naopak styl často zvrhne a vštípí mu jakési floutkovské výkřiky. Všimněte si v textech, že věty nemají rytmizaci. Normálně člověk střídá krátké a dlouhé věty. Je to přirozenější. AI to moc neumí.
Vše je stejně dlouhé
Jak jsme napsali výše, základem je průměrnost. A tak je průměrná nejen délka vět a informační hodnota, ale průměrné jsou i další hodnoty textu. Odstavce mají velmi podobou délku. Často používá mezititulky a za ně pak zařadí jeden odstavec.
Tuhle typickou vlastnost odhalíte spíš, když se podíváte na text ne zaostřeně, ale tak nějak zamlženým zrakem. Uvidíte snahu o perfekcionistický průměr na všech frontách.
Důležitá slova
Pravděpodobnost nabádá velké jazykové modely, aby používaly nejčastější slova. Ta méně častá se v textu moc nevyskytují. Takže najdete hodně slovo „který“ (která, které), protože slovem „jenž“ nenahradí.
A takových typických slov je spousta. Vyjmenovat je nejde. Pro každý obor by to byla asi jiná sada, záleží, na čem se v daném oboru umělá inteligence učila. Například si zkuste vygenerovat nějakou vysoce sofistikovanou odpověď na téma nějaké náročné kosmologie nebo matematiky. Uvidíte rozdíl v tom, jak mluví, než kdybyste si vygenerovali text na téma láčkovců.
Nezakecá se
Zatímco člověk (zvlášť ten neznalý redakční práce) se snadno v textu zakecá a vytváří odbočky, umělá inteligence to neumí. Ona pracuje systematicky:
- Problém defragmentuje a detekuje klíčové požadavky
- Požadavky vyhledá v databázi a připraví vědomostní bázi
- Připraví logický obsah výstupu
- Tohoto obsahu se drží a přesně vyplňuje tyto své předepsané „odstavce“
Píše závěry
Oblíbenou kratochvílí umělé inteligence je závěr. Ať už uvozený přímo mezititulkem nebo samostatným odstavcem, který shrnuje předchozí text a vytváří logický sumář.
Odrážkuje a nepoužívá české uvozovky
Přímo miluje odrážky. S velkou vervou se pouští do odsazování pomocí pomlček, bodů apod. Zvlášť u odbornějších témat. Přitom jednotlivé body jsou vágní. Řekněme k ničemu. V jedné větě by často vyzněly lépe.
A když už jsme u té typografie – hodně typickým znakem jsou nečeské uvozovky. Tedy nikoliv české (německé) „uvozovky“, ale anglické ostré „uvozovky“.
Jeden příklad za vše
Tady vám dávám jeden typický příklad, který jsem vygeneroval pomocí ChatGPT 4o. Prompt byl velmi jednoduchý: „Napiš mi esej o knize Válka s mloky“. Sami se podívejte na výsledek a porovnejte ho s výše uvedenými typickými znaky.
Válka s mloky: Satira na lidskou společnost a varování před totalitou
Karel Čapek je jednou z největších osobností české literatury a jeho román Válka s mloky (1936) patří mezi nejvýznamnější díla dvacátého století. Tato kniha představuje mistrnou kombinaci science fiction, alegorie a satiry, která ostře kritizuje tehdejší společenské a politické poměry. Čapek v ní využívá svou schopnost vtipně, ale i varovně zobrazit lidské chyby a jejich důsledky.
Děj a struktura románu
Válka s mloky je strukturována jako sbírka dokumentů, novinových zpráv, fiktivních vědeckých studií a vědecko-populárního vyprávění, což přispívá k realistickému dojmu příběhu. Hlavní děj sleduje objevení inteligentních mloků kapitánem van Toochem, který je začne využívat k perlovému rybolovu. Zjištění, že mloci mohou pracovat, vede ke vzniku průmyslového odvětví, které s nimi obchoduje a postupně je rozšiřuje po celém světě. Lidská společnost v mlokách vidí pouze ekonomickou příležitost a ignoruje jejich rostoucí inteligenci a schopnost adaptace. Postupem času se mloci emancipují, začínají vyžadovat vlastní životní prostor a nakonec vedou vzpouru proti lidstvu.
Kritika lidské společnosti
Jednou z hlavních myšlenek Války s mloky je ostrá kritika lidské chamtivosti, bezohlednosti a politického cynismu. Čapek paroduje kapitalismus, kolonialismus, nacionalismus a politickou propagandu. Lidské postavy jsou ve většině případů hnané ekonomickým ziskem nebo mocí a zcela ignorují potenciální hrozby spojené s jejich jednáním. Tato slepota před vlastními chybami nakonec vede k záhubě.
Alegorie na totalitní režimy
Vydání knihy v roce 1936 bylo v kontextu tehdejší politické situace velmi aktuální. Nástup nacismu v Německu a rostoucí napětí v Evropě mělo velký vliv na Čapkovu tvorbu. Mloci mohou být interpretováni jako metafora totalitního režimu, který roste a přebírá kontrolu nad světem, zatímco lidstvo zůstává pasivní a nečinné, až je příliš pozdě.
Aktuálnost díla
Ačkoliv byl román napsán ve 30. letech 20. století, jeho poselství je dodnes relevantní. Varuje před nebezpečím bezmezného využívání zdrojů bez ohledu na následky, před ignorováním varovných signálů a před nekontrolovaným růstem moci, ať už jde o politickou, ekonomickou nebo vojenskou sféru.
Závěr
Válka s mloky je nadčasový román, který kombinuje humor, kritiku společnosti a hluboké zamyšlení nad lidskou povahou. Čapek mistrně ukazuje, jak snadno může lidstvo upadnout do pasti vlastních ambicí a nepoučit se z minulosti. Tento román je nejen literárním skvostem, ale také důležitým varováním pro budoucí generace.
Jak říká jedno z poselství románu: „Lidstvo se nikdy nepoučí.“
Autor: Jan Čech
Foto: Dall-E / Jan Čech
Text Válka s mloky: Generováno AI ChatGPT 4o / prompt: Napiš mi esej o knize Válka s mloky
O autorovi..
Dvacet let dělal redaktora, editora a šéfredaktora v mnohých časopisech i internetových portálech. Když vypukla velká revoluce umělé inteligence vypuštěním modelu ChatGPT do světa, stal se ve vydavatelství Vltava Labe Media jedním z těch, kteří se do tohoto fenoménu snažili proniknout co nejvíc. Nakonec mu vedení nabídlo možnost přejít na novou pozici, která ani nebyla definována. Neměla jméno. A tak se stal tím, kdo se snaží implementovat umělou inteligenci do struktur vydavatelství. A aby ta pozice nebyla bezejmenná, ChatGPT vygeneroval i její název: AI technologický specialista.
