Umělá inteligence ve válce: kde se používá a kdo nese odpovědnost

Umělá inteligence ve válce je jedno z nejcitlivějších témat celé debaty o AI. Zatímco v kanceláři řešíme, jestli chatbot správně shrnul poradu, v obranném sektoru jde o rozhodnutí s nevratnými následky. Armády po celém světě zkoumají, jak AI využít ke zpracování informací, plánování nebo obraně proti kybernetickým útokům. Zároveň sílí otázka, kde má být hranice a kdo nese odpovědnost, když stroj sehraje roli v rozhodnutí o lidském životě. Tento článek nabízí obecný a věcný přehled bez technických detailů a bez hodnocení konkrétních konfliktů.

Jak se umělá inteligence ve válce a obraně používá

Pod pojmem vojenská AI si mnoho lidí představí filmové roboty. Skutečnost je většinou mnohem méně dramatická: velká část využití se týká práce s daty a podpůrných činností.

Analýza zpravodajských informací

Obranné složky shromažďují obrovské množství dat ze satelitních snímků, senzorů, otevřených zdrojů a komunikace. Lidé nestíhají všechno projít. AI pomáhá třídit snímky, upozorňovat na změny, přepisovat a překládat texty a vybírat to, co si zaslouží pozornost analytika. Konečné vyhodnocení a rozhodnutí ale zůstává na lidech.

Logistika a údržba

Armáda je obrovská logistická organizace. AI se využívá k plánování zásobování, odhadu spotřeby materiálu nebo k prediktivní údržbě techniky, tedy k odhalení, kdy hrozí porucha. Jde o podobné postupy, jaké používají civilní firmy, jak popisuje článek AI v logistice.

Drony a bezpilotní systémy

Téma „AI drony“ je mediálně nejviditelnější. Umělá inteligence se v bezpilotních systémech uplatňuje například při navigaci, stabilizaci, rozpoznávání terénu nebo při práci v prostředí, kde je narušené spojení. Míra samostatnosti se systém od systému výrazně liší, od dálkově řízených strojů po zařízení s vyšší mírou autonomie. Právě tady vzniká nejvíc etických otázek.

Kybernetická obrana

Kybernetický prostor je dnes plnohodnotnou oblastí bezpečnosti. AI pomáhá odhalovat neobvyklé chování v sítích, třídit bezpečnostní upozornění a rychleji reagovat na útoky. Útočníci ji samozřejmě mohou využívat také. Civilní stránku tématu rozebírá článek AI v kybernetické bezpečnosti.

Výcvik a simulace

Simulace s prvky AI umožňují trénovat rozhodování ve složitých situacích bez reálného rizika. Pro výcvik se tak dají vytvářet realistické scénáře, které se přizpůsobují tomu, jak účastníci reagují.

Autonomní zbraně: jádro etické debaty

Nejostřejší spor se vede o takzvané letální autonomní zbraňové systémy. V mezinárodní diskusi se tím myslí systémy, které by po aktivaci dokázaly samy vybrat a zasáhnout cíl bez dalšího zásahu člověka. Jednotná definice neexistuje a už to samo ukazuje, jak složitá debata je.

Argumenty zastánců větší autonomie obvykle zní takto: stroje reagují rychleji, neunaví se, nejednají ve stresu ani ze msty a mohly by teoreticky snížit chyby. Kritici namítají, že:

• stroj nerozumí kontextu tak jako člověk a nemusí rozlišit vojáka od civilisty nebo kapitulujícího člověka,
• systémy se mohou chovat nepředvídatelně v situacích, na které nebyly trénované,
• není jasné, kdo nese odpovědnost, když systém udělá chybu: velitel, výrobce, programátor, nebo stát,
• snadnější a „levnější“ použití síly může snížit práh pro vznik konfliktů,
• hrozí závod ve zbrojení, kde rychlost vývoje vítězí nad bezpečností.

Debata o etice AI ve válce tak není jen technická. Týká se základních hodnot: lidské důstojnosti, odpovědnosti a toho, zda smí o životě a smrti rozhodovat algoritmus. Obecné principy etiky AI shrnuje článek etika umělé inteligence.

Smysluplná lidská kontrola

V odborné i diplomatické diskusi se často opakuje pojem smysluplná lidská kontrola (anglicky meaningful human control). Myšlenka je jednoduchá: člověk má rozumět tomu, co systém dělá, mít dostatek informací a času, aby mohl rozhodnout, a mít skutečnou možnost zasáhnout nebo akci zastavit.

V praxi se rozlišuje několik úrovní zapojení člověka:

1. Člověk rozhoduje a AI mu jen dodává podklady.
2. Člověk schvaluje návrh, který připravil systém.
3. Člověk dohlíží a může zasáhnout, ale systém jedná sám.

Kritici upozorňují, že i formální schvalování může ztratit smysl, pokud má člověk na rozhodnutí jen zlomek vteřiny nebo pokud systému slepě důvěřuje. Proto se nediskutuje jen o tom, zda je člověk „ve smyčce“, ale i o tom, jak kvalitní a skutečná jeho kontrola je. Stejný problém přílišné důvěry ve stroj zná i civilní svět, jak popisuje článek rizika umělé inteligence.

Mezinárodní jednání a regulace vojenské AI

Otázkou autonomních zbraní se už řadu let zabývají státy v rámci OSN, zejména na půdě Úmluvy o některých konvenčních zbraních (CCW). Tam se schází skupina vládních expertů, která diskutuje o definicích, principech a možných pravidlech. Tématu se věnuje i Valné shromáždění OSN. Názory států se liší: některé prosazují právně závazný zákaz nebo omezení, jiné preferují nezávazné principy a národní pravidla.

Vedle toho platí mezinárodní humanitární právo, které stanoví základní zásady vedení ozbrojených konfliktů, například rozlišování mezi vojenskými cíli a civilisty nebo přiměřenost. Ty platí bez ohledu na to, jakou technologii armáda použije.

Pro Evropu je důležitá jedna věc: AI Act ze své působnosti vylučuje AI systémy používané výhradně pro vojenské a obranné účely nebo pro účely národní bezpečnosti. Evropská regulace AI se tak týká hlavně civilního použití. Systém, který slouží zároveň civilním účelům, ale pod pravidla spadat může. Uvedený přehled je zjednodušený a nejde o právní poradenství.

Proč by to mělo zajímat i firmy a běžné lidi

Na první pohled jde o téma pro generály a diplomaty. Debata o vojenské AI ale ukazuje principy, které platí i v civilním světě: odpovědnost musí mít konkrétní člověk, systém musí být srozumitelný a kontrolovatelný a čím vážnější rozhodnutí, tím víc lidského dohledu je potřeba. Řada technologií navíc vzniká jako „dvojího užití“, tedy pro civilní i obranné účely.

Debata se dotýká i výzkumníků a vývojářů. Mnoho technologií, které vznikají pro rozpoznávání obrazu, navigaci nebo analýzu dat, lze použít civilně i vojensky. Někteří odborníci a organizace proto veřejně vyzývají k jasným pravidlům, jiní zdůrazňují právo států na obranu. Pro veřejnost je užitečné rozumět základním pojmům, aby mohla o tak závažném tématu kvalifikovaně diskutovat.

Firmy, které AI zavádějí, si mohou z této debaty vzít jednoduché pravidlo: u rozhodnutí s dopadem na lidi nechte poslední slovo člověku a jasně určete, kdo za výsledek odpovídá.

Závěr

Umělá inteligence ve válce už není sci-fi, ale většina jejího využití se týká analýzy dat, logistiky a obrany v kyberprostoru. Nejtěžší otázky se točí kolem autonomních zbraní a toho, jak zajistit smysluplnou lidskou kontrolu. Mezinárodní jednání pokračují a odpovědi zatím nejsou hotové. Podobné dilema, jen v jiné podobě, řeší i demokratické společnosti, jak popisuje článek AI a demokracie. Pokud chcete AI rozumět do hloubky, včetně jejích limitů, doporučujeme kurz umělé inteligence. Řešíte zodpovědné zavedení AI ve firmě? Domluvte si AI konzultaci.