Regulace umělé inteligence ve světě: jak k AI přistupují státy a organizace

Regulace umělé inteligence ve světě se vyvíjí rychle a nejednotně. Zatímco Evropská unie zvolila jeden komplexní zákon, jiné státy postupují po částech, přes doporučení, dobrovolné normy nebo pravidla pro konkrétní typy služeb. Pro české firmy a jednotlivce to může působit nepřehledně. V tomto článku proto projdeme hlavní přístupy: od mezinárodních organizací přes Čínu a USA až po technické normy. Evropský AI Act zmíníme jen stručně, protože mu věnujeme samostatný článek.

Upozornění: Článek je informační přehled a není právní poradenství. Oblast regulace AI se mění velmi rychle, proto před konkrétním rozhodnutím vždy ověřte aktuální stav u právníka nebo v oficiálních zdrojích.

Proč je regulace umělé inteligence ve světě tak roztříštěná

Umělá inteligence není jeden produkt, ale technologie, která se objevuje v bankovnictví, zdravotnictví, dopravě, médiích i v běžných kancelářských nástrojích. Každý stát přitom vychází z jiné právní tradice a jiných priorit. Některé kladou důraz na ochranu základních práv a soukromí, jiné na kontrolu informací a stabilitu, další hlavně na podporu inovací a konkurenceschopnosti.

Do toho vstupuje rychlost vývoje. Než se zákon připraví a schválí, technologie se posune. Proto mnoho zemí volí kombinaci: obecné principy, které se tolik nemění, a konkrétnější pravidla pro oblasti s vyšším rizikem. Výsledkem je mozaika, ve které se firmy působící ve více zemích musí orientovat.

Mezinárodní úroveň: OSN, Rada Evropy a OECD

Rezoluce OSN o AI

Valné shromáždění OSN v březnu 2024 přijalo rezoluci o bezpečné, zabezpečené a důvěryhodné umělé inteligenci. Jde o politický signál, že se státy shodnou na základních cílech: AI má sloužit lidem, respektovat lidská práva a pomáhat i rozvojovým zemím. Rezoluce však není právně závazná. Neukládá konkrétní povinnosti ani sankce, slouží spíše jako společný výchozí bod pro další jednání.

Rámcová úmluva Rady Evropy

Rada Evropy, která je samostatnou organizací odlišnou od Evropské unie, přijala v roce 2024 Rámcovou úmluvu o umělé inteligenci. Je to první mezinárodní právně závazná smlouva o AI. Zaměřuje se na to, aby používání AI bylo v souladu s lidskými právy, demokracií a právním státem. Závazná je pro státy, které ji podepíšou a ratifikují. Konkrétní provedení pak záleží na jednotlivých zemích.

Principy OECD

Organizace pro hospodářskou spolupráci a rozvoj (OECD) vydala Principy pro umělou inteligenci. Obsahují zásady jako transparentnost, odpovědnost, bezpečnost a respekt k lidským právům. Nejsou to zákony, ale vlivná doporučení, ke kterým se hlásí řada států a ze kterých vychází i další národní strategie.

Evropská unie: AI Act ve zkratce

EU zvolila komplexní přístup v podobě nařízení o umělé inteligenci, známého jako AI Act. Systémy AI dělí podle míry rizika, nejškodlivější praktiky zakazuje a pro rizikové oblasti stanoví přísné požadavky. Firmy, které AI používají, mají mimo jiné řešit AI gramotnost svých zaměstnanců. Podrobný výklad najdete v článku co je AI Act a praktické kroky v článku příprava firmy na AI Act.

Kromě AI Actu ovlivňují AI v EU i další předpisy, zejména GDPR a nařízení o digitálních službách, které dopadá na velké online platformy a jejich doporučovací systémy. Více o tom píšeme v článku AI algoritmy sociálních sítí.

Čína: pravidla pro generativní AI a označování obsahu

Čína patří k zemím, které začaly regulovat konkrétní typy AI služeb poměrně brzy. Od roku 2023 má specifická pravidla pro služby generativní umělé inteligence, tedy pro nástroje, které vytvářejí text, obrázky, zvuk nebo video. Čínský přístup klade velký důraz na kontrolu obsahu, odpovědnost poskytovatelů a dohledatelnost.

Častým tématem je také označování AI obsahu. Myšlenka je jednoduchá: uživatel by měl poznat, že text, obrázek nebo video vytvořil stroj. Podobné požadavky na transparentnost se v různé podobě objevují i v dalších jurisdikcích včetně EU. Pro firmy, které vytvářejí obsah pomocí AI, je proto rozumné počítat s tím, že označování bude spíš pravidlem než výjimkou.

USA: sektorový přístup a změny politiky

Spojené státy nemají jeden komplexní federální zákon o umělé inteligenci. Regulace tam probíhá sektorově, tedy prostřednictvím pravidel pro konkrétní oblasti, jako je finančnictví, zdravotnictví nebo ochrana spotřebitele, a také na úrovni jednotlivých států, které přijímají vlastní předpisy.

Federální politika vůči AI se navíc mění s jednotlivými administrativami. Některé kroky jedné vlády mohou být další vládou zrušeny nebo přepracovány. Pro firmy to znamená, že americké prostředí je méně předvídatelné a je potřeba sledovat jak federální, tak státní úroveň.

Normy a bezpečnostní standardy AI

Vedle zákonů hrají stále větší roli technické normy. Nejznámější je ISO/IEC 42001, norma pro systém řízení umělé inteligence. Popisuje, jak ve firmě nastavit odpovědnosti, posuzovat rizika, dokumentovat AI systémy a průběžně je kontrolovat. Podobně jako normy pro řízení kvality nebo bezpečnosti informací je dobrovolná, ale může pomoci doložit odpovědný přístup obchodním partnerům i úřadům.

Bezpečnostní standardy AI řeší také technické otázky: odolnost proti útokům, ochranu dat, testování a monitoring. Těmto tématům se podrobněji věnujeme v článku AI v kybernetické bezpečnosti.

Co regulace umělé inteligence ve světě znamená pro české firmy

Pro většinu českých firem zůstává hlavním rámcem AI Act a GDPR. Globální přehled je ale užitečný ze tří důvodů:

1. Export a zahraniční partneři. Pokud prodáváte do zahraničí nebo používáte zahraniční AI nástroje, mohou se vás dotknout i tamní pravidla nebo smluvní požadavky partnerů.
2. Společné principy. Napříč regulacemi se opakují stejné myšlenky: transparentnost, lidský dohled, ochrana dat, řízení rizik a označování AI obsahu. Kdo je zavede, je dobře připraven na většinu budoucích pravidel.
3. Důvěra zákazníků. Odpovědný přístup k AI je i konkurenční výhoda. Jak ho nastavit v praxi, popisuje článek zodpovědná AI ve firmě.

Praktický postup pro firmu může vypadat takto:

• sepsat, jaké AI nástroje se ve firmě používají a k čemu,
• posoudit, zda některé použití nespadá do rizikové oblasti,
• nastavit interní pravidla pro práci s daty a kontrolu výstupů,
• proškolit zaměstnance,
• pravidelně sledovat změny v legislativě.

Přehled hlavních rizik, na která regulace reagují, najdete v článku rizika umělé inteligence.

Závěr

Regulace umělé inteligence ve světě nemá jednu podobu. OSN dává nezávazný rámec, Rada Evropy přinesla první závaznou mezinárodní úmluvu, EU sází na komplexní AI Act, Čína reguluje konkrétní služby a USA postupují sektorově. Normy jako ISO/IEC 42001 pak pomáhají převést principy do každodenní praxe. Situace se rychle mění, proto se vyplatí sledovat vývoj a stavět na společných principech.

Chcete, aby vaši zaměstnanci rozuměli pravidlům a uměli s AI pracovat bezpečně? Podívejte se na školení AI Act, nebo si domluvte AI konzultaci a proberte konkrétní situaci vaší firmy.