AI a ochrana soukromí: rozpoznávání obličejů, kamery a vaše data

AI a ochrana soukromí je téma, které se týká každého, kdo nosí telefon, chodí po ulici s kamerami nebo píše do chatbotu. Umělá inteligence umí z fotografií poznat obličej, z kamerového záznamu vyhodnotit chování a z konverzací odhadnout, co člověka zajímá. To přináší užitečné služby, ale také nové otázky: kdo má k našim datům přístup, k čemu je používá a jak velkou kontrolu nad nimi máme. V článku projdeme hlavní oblasti, co k nim říká evropská regulace a co můžete udělat sami.

Proč je AI a ochrana soukromí nové téma

Data se sbírala i dřív. Umělá inteligence ale mění tři věci:

• Rozsah. AI zpracuje obrovské množství fotografií, záznamů a textů, které by žádný člověk nestihl projít.
• Odvozování. Model nemusí vědět, co mu přímo řeknete. Z vašeho chování, polohy nebo stylu psaní může odhadnout věk, zájmy, zdravotní stav nebo názory.
• Trvalost. Co se jednou dostane do trénovacích dat, se z hotového modelu obtížně odstraňuje.

Ochrana soukromí proto už není jen otázkou, zda někdo „má moje data“, ale také toho, co z nich dokáže vyvodit.

Rozpoznávání obličejů

Rozpoznávání obličejů patří k nejcitlivějším technologiím, protože pracuje s biometrickými údaji, tedy s něčím, co je s člověkem spojeno natrvalo. Rozpoznávání obličejů je technologie, která porovná obličej na fotografii nebo videu s uloženými vzory. Běžně ji používáme k odemčení telefonu, kde jde o ověření vlastní identity a data zůstávají v zařízení. Jiná situace nastává, když systém identifikuje lidi v davu, aniž by o tom věděli.

Hlavní obavy se týkají toho, že:

• obličej nelze změnit jako heslo, takže únik biometrických dat je trvalý,
• identifikace na veřejných místech může vést k plošnému sledování,
• chybné rozpoznání může mít vážné důsledky pro konkrétního člověka, zvlášť pokud systém funguje hůř u některých skupin (více v článku zaujatost umělé inteligence).

AI kamery ve městech, obchodech a školách

Moderní kamerové systémy už jen nenahrávají. AI kamery umí počítat lidi, rozpoznat opuštěné zavazadlo, odhalit nebezpečnou situaci nebo sledovat pohyb po budově. To může zlepšit bezpečnost, ale vyvolává otázku přiměřenosti. Je potřeba vyhodnocovat chování každého žáka ve škole nebo každého zákazníka v obchodě?

Při posuzování AI kamer se vyplatí ptát:

• Jaký konkrétní problém systém řeší a nešlo by to šetrněji?
• Zpracovává jen anonymní údaje (počet lidí), nebo identifikuje konkrétní osoby?
• Jak dlouho se záznamy uchovávají a kdo k nim má přístup?
• Byli lidé srozumitelně informováni?

Trénování AI na datech uživatelů

Velké jazykové a obrazové modely se učí z obrovského množství textů a obrázků. Část pochází z veřejného internetu, část může pocházet od uživatelů samotných služeb. Mnoho technologických firem v posledních letech měnilo podmínky tak, aby mohly příspěvky nebo konverzace uživatelů využít ke zlepšování AI. V EU to často vyvolalo diskusi a reakce dozorových úřadů.

Jako uživatel můžete obecně udělat tohle:

• Projděte nastavení soukromí. Řada AI služeb nabízí volbu, zda se vaše konverzace mohou použít ke zlepšování modelů. Názvy i umístění se liší a mění, hledejte položky typu „ovládání dat“ nebo „zlepšování modelu“.
• Zvažte dočasné nebo anonymní režimy, pokud je služba nabízí.
• Pro práci používejte firemní verze, které mají obvykle smluvně ošetřené zpracování dat.
• Čtěte oznámení o změně podmínek. Často obsahují informaci o možnosti nesouhlasu.

Přehled nástrojů a jejich zaměření najdete v sekci AI nástroje.

Soukromí jako otázka celé společnosti

Ochrana soukromí není jen osobní věc. Když se plošné sledování stane běžným, lidé se mohou začít chovat opatrněji, méně se vyjadřovat a vyhýbat se místům nebo aktivitám, i když nedělají nic špatného. Proto se o AI a soukromí vedou veřejné debaty: kde je hranice mezi bezpečností a svobodou, kdo systémy kontroluje a jak se lze bránit proti chybám.

Pro společnost jsou důležité zejména tyto principy:

• Přiměřenost. Zásah do soukromí by měl odpovídat závažnosti problému, který řeší.
• Transparentnost. Lidé by měli vědět, kde a jak je AI sleduje nebo vyhodnocuje.
• Kontrola. Nezávislý dohled a možnost se proti rozhodnutí ohradit.
• Minimalizace dat. Sbírat jen to, co je opravdu potřeba, a jen po nezbytnou dobu.

AI a osobní údaje: co nepsat do chatbotů

Chatbot působí jako soukromý rozhovor, ale technicky posíláte text na servery poskytovatele. Proto platí jednoduché pravidlo: nepište do něj nic, co byste nechtěli, aby si přečetl někdo cizí.

Do běžných chatbotů nevkládejte:

• hesla, PIN a přístupové kódy,
• čísla platebních karet a bankovních účtů,
• rodná čísla a čísla dokladů,
• zdravotní údaje vlastní ani cizí,
• osobní údaje kolegů, klientů nebo rodiny,
• důvěrné firemní dokumenty, smlouvy a interní čísla.

Pokud potřebujete s takovým textem pracovat, nahraďte jména a čísla zástupnými údaji („Klient A“, „částka X“). Jak se správně ptát a dostat užitečnou odpověď i bez citlivých údajů, ukazují AI prompty.

Pokud jste naopak firma a provozujete vlastního chatbota pro zákazníky, řešíte jiné otázky: právní základ, informování uživatelů, dobu uložení. Ty rozebírá článek AI chatbot a GDPR.

Co k ochraně soukromí říká AI Act

Vedle GDPR, které chrání osobní údaje obecně, přinesl evropský AI Act zákazy některých praktik. Od 2. února 2025 platí mimo jiné:

• zákaz necíleného stahování fotografií obličejů z internetu nebo z kamerových záznamů za účelem vytváření nebo rozšiřování databází pro rozpoznávání obličejů,
• omezení biometrické identifikace na dálku v reálném čase na veřejně přístupných místech pro účely vymáhání práva. Povolena je jen ve výjimečných, úzce vymezených případech a za přísných podmínek.

Zákon obsahuje i další pravidla, například pro vysoce rizikové systémy. Souvislosti vysvětluje článek co je AI Act, širší pohled na rizika nabízí článek rizika umělé inteligence.

Tento článek není právní poradenství. U konkrétní situace se obraťte na odborníka.

Jak chránit soukromí při používání AI

Krátké shrnutí pro každodenní praxi:

1. Než začnete AI službu používat, podívejte se, jak nakládá s daty.
2. Vypněte využití konverzací k trénování, pokud to služba umožňuje a nechcete ho.
3. Citlivé údaje do chatbotů nevkládejte, nebo je anonymizujte.
4. Pravidelně mažte historii konverzací, které nepotřebujete.
5. U fotografií zvažte, co o vás prozrazují (místo, lidé, dokumenty v pozadí).
6. V práci se řiďte firemními pravidly pro AI. Pokud žádná nejsou, ptejte se.

Závěr

AI a ochrana soukromí se nevylučují, ale vyžadují pozornost. Rozpoznávání obličejů, AI kamery i trénování modelů na datech uživatelů přinášejí užitek i rizika a evropská regulace se snaží stanovit hranice. Největší vliv ale máte na to, co do AI služeb sami vložíte.

Chcete AI používat bezpečně a s jistotou? Začněte kurzem umělé inteligence pro začátečníky, kde se naučíte i zásady práce s daty. Pro tým nabízíme firemní školení AI.