AI a demokracie: jak umělá inteligence mění veřejnou debatu a volby

Téma AI a demokracie se dnes objevuje v médiích, na konferencích i v běžných rozhovorech u stolu. Umělá inteligence umí během vteřin napsat článek, přeložit projev do desítek jazyků nebo vytvořit realistické video. To může občanům pomoci lépe se orientovat ve veřejném dění, ale stejné schopnosti lze zneužít k šíření dezinformací a k oslabení důvěry ve volby a instituce. V tomto článku projdeme obě strany mince střízlivě a bez strašení: kde AI demokracii pomáhá, kde představuje riziko a jaká pravidla pro ni v Evropské unii platí.

Jak AI a demokracie mohou fungovat spolu: příležitosti

Demokracie stojí na informovaných občanech, kteří se mohou zapojit do rozhodování. V obou oblastech může AI přinést skutečný užitek.

Dostupnost informací

Zákony, rozpočty, usnesení zastupitelstev nebo volební programy bývají dlouhé a psané složitým jazykem. AI nástroje je umí shrnout, vysvětlit odborné pojmy a odpovědět na doplňující otázky. Člověk, který by stostránkový dokument nikdy nečetl, tak může získat alespoň základní představu, o čem se rozhoduje. Podmínkou je ověřit si klíčové body v originále, protože i dobrý model se může mýlit.

Zapojení občanů

Obce a úřady mohou pomocí AI třídit připomínky z veřejných konzultací, sumarizovat podněty obyvatel nebo provozovat chatbota, který odpovídá na dotazy k úředním postupům. Úředník se pak může věnovat složitějším případům. Více o využití ve státní správě najdete v článku AI ve veřejné správě.

Překlad a přístupnost

Automatický překlad, titulky a převod řeči na text otevírají veřejnou debatu lidem, kteří neovládají daný jazyk nebo mají sluchové či zrakové postižení. Záznam jednání zastupitelstva s automatickými titulky je pro řadu lidí rozdíl mezi „nemohu sledovat“ a „vím, co se řešilo“.

Rizika AI pro demokracii a volby

Stejná technologie má i stinnou stránku. Většina rizik nesouvisí s tím, že by AI byla „zlá“, ale s tím, že výrazně zlevňuje a zrychluje výrobu přesvědčivého obsahu.

Dezinformace a AI ve volbách

Dříve vyžadovala dezinformační kampaň tým lidí, kteří psali texty a spravovali účty. Dnes může jeden člověk s jazykovým modelem vyrobit tisíce variant téhož sdělení, přizpůsobených různým skupinám a jazykům. Téma „AI dezinformace volby“ proto řeší volební orgány, platformy i výzkumníci v mnoha zemích. Nejde jen o úplné lži, ale i o vytržené citace, polopravdy a zaplavení prostoru tak velkým množstvím obsahu, že se pravdivé informace ztratí.

Deepfaky

Podvržené video nebo nahrávka hlasu veřejně známé osoby může kolovat po sociálních sítích dřív, než ji někdo stihne vyvrátit. Problém má i opačnou podobu: když lidé vědí, že deepfaky existují, mohou za podvrh označit i skutečnou nahrávku, která jim nevyhovuje. Jak podvržený obsah rozpoznat, popisuje článek jak poznat deepfake.

Mikrocílení a algoritmy

Politická sdělení lze s pomocí dat a AI přizpůsobit úzkým skupinám voličů tak, že každý vidí jinou verzi kampaně. To ztěžuje společnou veřejnou debatu, protože lidé už nereagují na stejné argumenty. Svou roli hrají i doporučovací algoritmy platforem, které upřednostňují obsah vyvolávající silné emoce. Podrobněji to rozebírá článek AI algoritmy sociálních sítí.

Boti a falešné účty

Sítě automatizovaných účtů mohou vytvářet dojem, že určitý názor sdílí mnohem víc lidí, než je skutečnost. S jazykovými modely působí tito boti přirozeněji a hůře se odhalují. Výsledkem může být zkreslený obraz veřejného mínění.

Podvržené dokumenty a podpisy

Generativní nástroje umí napodobit vzhled úředního dokumentu, razítka nebo ručního podpisu. Diskuse o tématu „falšování podpisů AI“ se týká například petic, prohlášení nebo dopisů, které mají vypadat jako autentické. Padělání dokumentů je trestné bez ohledu na použitý nástroj, AI ho ale může usnadnit. Proto roste význam elektronického podpisu, ověřování přes oficiální kanály a zdravé skepse k dokumentům, které se objeví „odnikud“.

Eroze důvěry

Možná největší dlouhodobé riziko je nenápadné. Pokud lidé nabudou dojmu, že nic nejde ověřit, přestanou věřit médiím, institucím i sobě navzájem. Demokracie potřebuje alespoň základní shodu na tom, co jsou fakta, a právě tu může záplava generovaného obsahu nahlodat. S tím souvisí i snaha některých aktérů svádět nepříjemné skutečnosti na AI, takže otázka „politici a AI“ se netýká jen toho, kdo AI používá, ale i toho, kdo se na ni vymlouvá.

Pravidla: co o AI a demokracii říká evropská regulace

Evropská unie na tato rizika reaguje několika předpisy. Následující přehled je zjednodušený a nejde o právní poradenství, pro konkrétní situace je vždy potřeba ověřit aktuální znění předpisů nebo se obrátit na odborníka.

• AI Act (nařízení EU o umělé inteligenci) řadí mezi vysoce rizikové použití AI systémy určené k ovlivňování výsledku voleb nebo referend či volebního chování lidí. Na takové systémy se vztahují přísné požadavky. Nařízení zároveň zakazuje určité manipulativní praktiky, které podprahově nebo klamavě zkreslují rozhodování lidí a mohou jim způsobit újmu. Obsah typu deepfake musí být označen jako uměle vytvořený. Základy vysvětluje článek co je AI Act.
• DSA (akt o digitálních službách) ukládá velmi velkým online platformám a vyhledávačům povinnost posuzovat systémová rizika svých služeb, mimo jiné rizika pro volební procesy a veřejnou debatu, a přijímat opatření k jejich zmírnění.

Jak k regulaci přistupují jiné části světa, shrnuje článek regulace umělé inteligence ve světě.

Co může udělat každý z nás

Regulace je jen jedna vrstva. Odolnost demokracie stojí i na každodenním chování lidí.

1. Ověřujte před sdílením. Hledejte původní zdroj a stejnou zprávu u více nezávislých médií.
2. Dávejte pozor na emoce. Obsah, který vás silně rozčílí nebo vyděsí, si zaslouží druhý pohled.
3. Rozlišujte názor a fakt. AI umí přesvědčivě formulovat obojí.
4. Učte se, jak AI funguje. Kdo si s nástroji sám vyzkoušel, co dokážou, snáz pozná jejich stopy. Dobrým začátkem je kurz umělé inteligence pro začátečníky.
5. Nedůvěřujte slepě, ale ani paušálně. Zdravá skepse je užitečná, cynismus ke všemu už ne.

Pro firmy a organizace platí podobné zásady. Zaměstnanci, kteří rozumí rizikům AI a vědí, jak s ní zodpovědně pracovat, jsou menším terčem manipulace i podvodů. Pokud řešíte povinnosti podle AI Act, pomůže vám školení AI Act. Širší program pro týmy nabízí firemní školení AI.

Závěr: AI a demokracie potřebují informované lidi

Umělá inteligence demokracii automaticky nezachrání ani nezničí. Může zpřístupnit informace a usnadnit zapojení občanů, ale zároveň zlevňuje manipulaci a podvrhy. Výsledek záleží na pravidlech, na odpovědnosti platforem a hlavně na tom, jak dobře lidé rozumějí nástrojům, se kterými se denně setkávají. Proč část veřejnosti k AI přistupuje s nedůvěrou, rozebírá článek proč lidé odmítají AI. Chcete-li si AI vyzkoušet bezpečně a s porozuměním, začněte některým z našich kurzů.