Jak poznat text napsaný AI: na co se dívat a proč detektory nestačí

Jak poznat text napsaný AI? Tuto otázku si dnes kladou učitelé při opravování esejí, redaktoři při čtení zaslaných článků i personalisté u motivačních dopisů. Krátká odpověď je nepříjemná: spolehlivě to nejde. Existují signály, které mohou vzbudit podezření, a nástroje, které slibují automatické odhalení. Žádný z nich ale nepřináší jistotu. V článku vysvětlíme, proč tomu tak je, na co se přesto vyplatí dívat a jak nastavit postup, který je férový k autorům i ke čtenářům.

Proč je odhalení AI obsahu tak těžké

Jazykové modely jako ChatGPT, Claude nebo Gemini se učily na obrovském množství textů, které napsali lidé. Generují proto text, který je statisticky podobný lidskému psaní. Navíc stačí drobná úprava, aby se výsledek změnil: autor přepíše pár vět, přidá vlastní příklad nebo požádá model o jiný styl.

Opačný problém je stejně vážný. Mnoho lidí přirozeně píše jednoduše, pravidelně a bez chyb, ať už proto, že se drží šablony, píší formálně, nebo píší v jazyce, který není jejich mateřský. Takový text může na první pohled působit „strojově“, i když ho napsal člověk.

Odhalení AI obsahu tedy není technický problém, který vyřeší lepší program. Je to otázka důvěry, procesu a jasných pravidel.

Detektor AI textu: co umí a proč chybuje

Na trhu je řada nástrojů, které slibují určit, zda text napsala AI. Jedním z komerčních příkladů je Originality AI, existují ale i další, včetně funkcí zabudovaných do systémů pro kontrolu plagiátů. Obvykle vracejí procento nebo míru pravděpodobnosti.

Na co je potřeba myslet:

• Výsledek je odhad, ne důkaz. Nástroj nevidí, jak text vznikal. Porovnává jen statistické vlastnosti textu.
• Falešně pozitivní výsledky. Detektory mohou označit jako AI i text napsaný člověkem. Opakovaně se upozorňuje, že častěji takto doplácejí lidé, kteří píší v nemateřském jazyce.
• Snadné obejití. Přeformulování, ruční úpravy nebo jiný styl zadání mohou výsledek detektoru výrazně změnit.
• Rychlý vývoj modelů. Co fungovalo na starší generaci modelů, nemusí fungovat na novější.

Výmluvný je příklad samotné společnosti OpenAI. V roce 2023 stáhla svůj vlastní klasifikátor AI textu s odůvodněním, že má nízkou přesnost. Pokud to nezvládl tvůrce ChatGPT, je rozumné brát s rezervou i sliby jiných nástrojů.

Pokud detektor používáte, berte jeho výsledek nanejvýš jako podnět k rozhovoru. Nikdy na něm nestavte známku, sankci nebo rozhodnutí o zaměstnanci.

Jak poznat text napsaný AI podle signálů

Následující znaky se objevují v textech generovaných AI často. Upozorňujeme ale znovu: žádný z nich není důkaz. Lidé píší podobně a AI se dá snadno naučit, aby tyto znaky nedělala.

• Obecnost bez konkrétností. Text zní rozumně, ale chybí v něm vlastní zkušenost, konkrétní jména, místa, čísla nebo příklady z hodiny či z praxe.
• Uhlazený, jednotvárný styl. Odstavce podobně dlouhé, věty podobně stavěné, žádné osobní výkyvy, humor ani nedokonalosti.
• Opakující se obraty. Úvodní fráze typu „v dnešní rychle se měnící době“, závěr shrnující, co už bylo řečeno, a výčty po třech bodech.
• Nesoulad s autorem. Text výrazně neodpovídá dosavadnímu stylu, slovní zásobě nebo úrovni daného člověka.
• Věcné chyby podané sebejistě. Vymyšlené zdroje, citace, které neexistují, nebo detaily, které nesedí. To je jeden z mála signálů, který lze ověřit.
• Neodpovídá zadání. Text odpovídá na obecnější otázku, než jaká byla položena, nebo ignoruje konkrétní požadavky.

Pomoci může i srovnání s předchozími pracemi stejného autora. Pokud někdo celý rok píše krátce a s chybami a najednou odevzdá bezchybný text plný odborných výrazů, je to důvod k rozhovoru, ne k obvinění. Člověk se mohl zlepšit, mohl mu někdo pomoct, nebo mohl použít AI povoleným způsobem.

Rozumné je dívat se na celkový obraz a hlavně si signál ověřit jinou cestou, ne vyvozovat závěr z jednoho znaku.

Lepší cesta než detekce: proces a pravidla

Místo honu na podezřelé texty se vyplatí nastavit postup, při kterém otázka „napsala to AI?“ tolik nevadí.

Jasná pravidla předem. Napište, kdy je AI povolená, k čemu (třeba na osnovu nebo kontrolu gramatiky) a jak má autor její použití uvést. Bez pravidel nelze férově posuzovat porušení. Téma AI plagiátorství se tak mění z otázky viny na otázku dodržení dohody.

Hodnocení procesu, ne jen výsledku. Ve škole pomáhá chtít osnovu, koncepty, poznámky nebo historii verzí dokumentu. Ve firmě obdobně průběžné konzultace nad rozpracovaným materiálem.

Ústní ověření. Krátký rozhovor nad textem prozradí víc než jakýkoli nástroj. Kdo text skutečně promyslel, umí vysvětlit své argumenty, zdroje i to, proč zvolil daný postup.

Úkoly, které AI sama nezvládne. Zadání navázané na konkrétní hodinu, místní kontext, vlastní zkušenost nebo práci přímo ve třídě.

Presumpce neviny. Pokud máte podezření, začněte otevřeným rozhovorem, ne obviněním. Falešné nařčení může poškodit důvěru i vztah na dlouhou dobu.

Jak tyto principy uplatnit ve škole jako celku, popisuje článek umělá inteligence ve školství. Praktické tipy pro jednotlivé učitele, včetně tvorby zadání a hodnoticích kritérií, najdete v článku AI pro učitele.

Text, obrázek, video: rozdílné problémy

Rozpoznávání AI textu je jiná úloha než odhalování falešných fotek, videí nebo napodobeného hlasu. U textu většinou nejde o podvod na veřejnosti, ale o otázku autorství a poctivosti. U obrazového a zvukového obsahu hrozí dezinformace a podvody a pomáhají tam jiné postupy, například zpětné vyhledávání obrázků. Těm se věnuje článek jak poznat deepfake.

Jak poznat text napsaný AI ve firmě

Ve firmách se otázka objevuje u externích dodavatelů obsahu, u přihlášek do výběrových řízení nebo u interních dokumentů. Platí stejná logika: nastavit pravidla, kdy a jak AI používat, požadovat ověření faktů a za výsledek nechat odpovídat konkrétního člověka. Pokud dodavatel tvrdí, že píše bez AI, je rozumnější dohodnout se na pravidlech ve smlouvě než spoléhat na detektor.

Často je užitečnější otázku obrátit: nezáleží tolik na tom, zda text vznikl s pomocí AI, ale zda je pravdivý, užitečný a zda za ním někdo stojí.

Závěr

Na otázku jak poznat text napsaný AI tedy neexistuje spolehlivý nástroj ani jediný znak. Funguje kombinace pozorného čtení, ověřování faktů, hodnocení procesu a jasných pravidel. Kdo AI sám rozumí, pozná její typické stopy snáz a umí nastavit rozumné hranice. Základy získáte v kurzu umělé inteligence pro začátečníky, pro celý tým nebo sborovnu připravíme firemní školení AI.