Foto: iStockphoto

Umělá inteligence v boji. O smrti nepřítele rozhoduje počítač

Věci chytřerozhovor 7 a více min čtení

Ďábelsky chytré bojové vozidlo si razí cestu bitevním polem. Samo během tisíciny sekundy vyhodnotí, jestli dokáže zdolat velký balvan v cestě, nebo jestli ho musí objet. Najednou se na obzoru z boku, kam se zrovna nikdo z posádky nedívá, vyhoupne zpoza terénu nepřátelský obrněný transportér. Než ale stihne zaútočit, systémy ve vozidle ho zaznamenají, zaměří, věž se automaticky otočí a jediným výstřelem z děla nepřítele zneškodní. O vše se přitom stará umělá inteligence, posádka jen dohlíží na správné fungování.

Líbí se vám článek? Sdílejte ho:

Ďábelsky chytré bojové vozidlo si razí cestu bitevním polem. Samo během tisíciny sekundy vyhodnotí, jestli dokáže zdolat velký balvan v cestě, nebo jestli ho musí objet. Najednou se na obzoru z boku, kam se zrovna nikdo z posádky nedívá, vyhoupne zpoza terénu nepřátelský obrněný transportér. Než ale stihne zaútočit, systémy ve vozidle ho zaznamenají, zaměří, věž se automaticky otočí a jediným výstřelem z děla nepřítele zneškodní. O vše se přitom stará umělá inteligence, posádka jen dohlíží na správné fungování.

Takhle to zatím funguje jen ve sci-fi filmech, za pár let se ovšem s podobnou situací můžeme zcela reálně setkat na bojišti. Systémy umělé inteligence pro bojová vozidla vyvíjí britské konsorcium BAE Systems. Na konferenci nazvané Reakce na hybridní hrozby jsme o nich hovořili se Stefanem Thelinem, ředitelem technologické divize.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Jak může umělá inteligence zvýšit bojovou účinnost pěchotního vozidla?

Je několik oblastí, kde má opravdu velký potenciál. Například dokáže výrazně pomoci posádce při vyhledávání cílů a jejich zaměřování. Dnes máme v různých zemích různé standardy – někde platí takzvané pravidlo deseti sekund a jinde pravidlo třinácti sekund, což označuje dobu od zjištění cíle do jeho úspěšného zaměření, respektive zničení. Kdybychom tuhle dobu dokázali nějak významně zkrátit, bude to znamenat obrovskou výhodu.

Opravdu je strojové rozpoznávání cílů o tolik účinnější? Spousta odborníků tvrdí, že nakonec stejně rozhoduje lidské oko a úsudek…

Nedá se to samozřejmě úplně zobecnit, jsou procesy a úkoly, na které se víc hodí lidé, ale jiné zase opravdu lépe zvládají stroje. Jde o to najít tuhle hranici a svěřit strojům to, v čem nás překonávají. Rozdíl oproti minulosti je v tom, že až dosud jsme si mohli spoustu věcí naprogramovat, ale ve skutečnosti nám počítače jen pomáhaly, vše podstatné bylo na lidech. Teď některé procesy, a detekce a zaměření cílů mezi ně patří, lze opravdu v mnoha případech nechat na umělé inteligenci. Tím se snižuje kognitivní zátěž kladená na posádku – jednoduše řečeno nemusí tolik dávat pozor a může se lépe soustředit na jiné úkoly.

„Cílem je, aby vozidlo bylo plně autonomní a reagovalo správně prakticky v jakékoli situaci.“

Kognitivní zátěž je v dnešní době velký problém – velitel bojového vozidla poslouchá dvě různé vysílačky, dává rozkazy střelci a řidiči a stresová situace je často na hranici snesitelnosti. Existují studie, podle nichž jsou velitelé schopni v podobných situacích fungovat jen na dvacet procent své běžné kapacity. Pokud jim stroje dokážou zátěž ulehčit, je to jednoznačné plus.

To ale znamená, že umělá inteligence získá a vyhodnotí velký objem dat a pak se musí rozhodnout, co z toho vybrat a předat posádce. A tohle rozhodnutí může mít v akci zásadní význam. Jak se stroje rozhodují?

Je to v podstatě algoritmický proces, i když algoritmy jsou hodně složité. Naštěstí jsou stroje už dnes tak výkonné, že i hodně složité algoritmy zpracují za dostatečně krátkou dobu. A mimochodem, právě tvorba algoritmů je asi největší oříšek. Algoritmy pochopitelně vytvářejí lidé a u umělé inteligence většina nejúspěšnějších projektů pochází z civilní sféry. Jsou skvělé, ale do bojových situací se moc nehodí, takže je musíme upravovat.

Je systém umělé inteligence v bojovém vozidle plně autonomní a izolovaný, nebo vyžaduje spolupráci s velitelstvím?

Naším cílem je, aby vozidlo bylo plně autonomní a reagovalo správně prakticky v jakékoli situaci. To znamená, že systém musí řešit veškeré úkoly, jaké si v terénu dokážeme představit.

Související článek

Týká se umělá inteligence jen bojových situací, nebo má ve vozidle i jiné využití?

Nejde jen o boj. Umělá inteligence dokáže hlídat i vozidlo samotné – sledovat nejrůznější systémy a dopředu odhalovat případné problémy, které by mohly vést k poruše. To je totiž to poslední, co v bojové situaci potřebujete – aby vám selhal motor nebo třeba komunikační systém. Náš systém diagnostiku zvládá na poměrně vysoké úrovni.

Když se mluví o autonomních vozidlech, často se uvádí dilema, kdy se umělá inteligence musí rozhodnout, jestli srazí babičku na vozovce, nebo narazí do budovy a zabije posádku vozu. Hrozí podobná dilemata i vašemu systému?

S tím musíte v bojových situacích počítat vždy. A tady se dostáváme k zásadnímu momentu: k takovým dilematům se stavíme jinak my v západním světě a úplně odlišně se na ně dívají jinde, řekněme ve východní Asii. Pro nás je zatím docela problematická představa, že do boje pošleme plně autonomní vozidlo, které se bude nejen samo pohybovat, ale také samo střílet na cíle, které si zaměří.

„Než posádka vozidlo v bezvýchodné situaci opustí, zadá povel, kterým se důležité aspekty ovládacího systému zničí.“

Plně autonomní řízení si představit dokážu. A tady se dostáváme k tomu, o čem už jsem mluvil – algoritmy ovlivňující rozhodování stroje pocházejí z civilní sféry, což samozřejmě ovlivňuje jejich podobu. Až jednou do tohoto stadia dospějeme, budeme se muset rozhodnout, zda tuhle formu převzít, třeba v nějaké upravené podobě, nebo jestli potřebujeme úplně nový systém chování vozidla.

Máte na mysli etické otázky při rozhodování?

Nejsou to jen otázky etické, stačí ty ryze technické. Uvědomme si jednu základní skutečnost, že všechny civilní systémy pro autonomní auta řeší chování auta na silnici. Jenže bojová vozidla se pohybují většinu času mimo jakékoli silnice. To znamená mnohdy úplně jiné premisy při jakémkoli rozhodování. Většinou před vámi nepřechází babička, zato si systém musí položit otázku, zda dokáže vozidlo přejet tuhle skalku, pařez nebo příkop.

Stefan Thelin, ředitel technologické divize konsorcia BAE Systems. -

Probíhá vývoj umělé inteligence, který by toto řešil?

Ve Velké Británii před pár týdny jeden takový prototyp testovali, ale šlo opravdu jen o základní funkce. Sledují, co může fungovat a co ne. Konečný cíl je jasný: vyvinout plně autonomní vozidlo, které se bude samo pohybovat, střílet a tak dále. Jenže k tomuto cíli vede ještě hrozně dlouhá cesta. Momentálně před sebou máme mnohem skromnější cíl: jak pomoci posádce k vyšší efektivitě v boji s nepřítelem. K tomu můžeme využít dostupné technologie, především strojové učení.

Jak řešíte situaci, kdy v boji posádka zahyne nebo upadne do zajetí a hrozí, že se vozidla zmocní nepřátelé?

Dobrá otázka, řešíme ji pořád. A těch rizik je mimochodem mnohem víc. V první řadě musí být systém dostatečně robustní, aby obstál nejen v případě nepřátelského převzetí, ale i třeba při pouhém přetížení sítě. Pak je tu možnost kybernetických útoků. Nedávno jsme zadali studii, díky které bychom měli zjistit, jak by měl vypadat takový útok na bojové vozidlo. Než se dostaneme k nějakému sofistikovanějšímu řešení, máme tady jakýsi bezpečný základ, který spočívá v tom, že než posádka vozidlo v bezvýchodné situaci opustí, zadá povel, kterým se důležité aspekty ovládacího systému prostě zničí.

Související článek

Roman Yampolskiy: Umělá inteligence má sílu ovlivňovat armádu i státní ekonomiku

Kdo bude v příštích letech vládnout světu moderních technologií – západní svět, nebo Čína? Má v této oblasti smysl dbát na morální hlediska, nebo rozhoduje jen efektivita? V čem umělá inteligence dokáže zlepšit svět, a jaké hrozby s sebou naopak přináší? Ideální člověk na rozhovor na tato témata je americký vědec lotyšského původu Roman Yampolskiy, jeden z největších světových odborníků na umělou inteligenci.

Je zničení opravdu jediná možnost? Co když je původní posádka vyřazená z provozu, ale vůz může převzít někdo jiný z vlastních řad?

To je samozřejmě důležitá alternativa a skutečně je možné nastavit systém tak, aby ho šlo zase obnovit zadáním hesla nebo něčeho podobného. To si ale každá klientská země řeší sama. Standardně je velitel vozidla vybaven paměťovým čipem nebo kartou, podobnou, jako se používá třeba ve stíhačkách. Na ní je nahraná aktuální mise a cíle, a když kartu použijete při startu, systém se vám otevře.

Jak důkladně si systémy umělé inteligence chráníte během vývoje? Jak bráníte tomu, aby se vám do týmu nedostal někdo, kdo by systém cíleně vybavil nějakou bezpečnostní dírou?

Takového nebezpečí jsme si vědomi od chvíle, kdy jsme poprvé začali vybavovat vozidla softwarovými systémy ještě dávno před umělou inteligencí. Vývojové prostředí je zkrátka nutné nastavit tak, abychom měli k dispozici všechny dostupné prostředky, jak případnou špionáž a zneužití odhalit. Dlouho předtím, než celý systém definitivně prohlásíme za dokončený, ho ve víceméně hotovém stavu testujeme v nejrůznějších simulátorech, vystavujeme ho kybernetickým útokům a spoléháme na to, že kdyby v něm nějaká záměrná chyba existovala, projeví se. Z pochopitelných důvodů ovšem nemůžu zabíhat do podrobností.

„Jsme napojeni i na civilní výzkum, zejména proto, že je civilní sféra o něco rychlejší a pružnější než armádní.“

Váš výzkum se omezuje čistě na vojenskou sféru, nebo jste provázaní i s civilním výzkumem?

Jsme napojeni i na civilní výzkum, zejména proto, že je civilní sféra o něco rychlejší a pružnější než armádní. V současné době se třeba ve Švédsku podílíme na vývoji autonomních strojů pro dřevařství a lesní hospodářství obecně. Lesní prostředí totiž až překvapivě v mnohém připomíná bojiště.

Vyvíjíte umělou inteligenci jen pro bojová vozidla, nebo ji lze použít i jinde, třeba v letadlech?

V současné době se stoprocentně soustředíme na pozemní vozidla. Co se softwaru týče, dají se najít styčné plochy při použití na zemi, ve vzduchu a třeba i na moři, ale praktické využití těchto technologií je úplně jiné. Nemůžeme tedy vzít systém z bojového vozidla a jen tak ho jednoduše předělat pro stíhačky.

Na závěr se pojďme podívat na hardware. Používáte standardní komponenty, nebo si je necháváte vyvinout a vyrobit na zakázku?

Nejradši bychom používali jen standardní komponenty, ale opět narážíme na rozdíl mezi civilní a vojenskou sférou. Při výběru na běžném trhu často musíme volit podle toho, jak je konkrétní zařízení odolné v extrémních podmínkách. Problém je také v tom, že běžné komponenty poměrně rychle zastarávají, alespoň pro naše účely. Tím pádem to občas musíme řešit výrobou na zakázku – naše klienty tyhle otázky moc nezajímají, prostě vyžadují, aby zařízení bylo funkční a bezchybné.

Související článek

Dan Přibáň: Co jsme viděli v Číně, by vyděsilo každého

Dan Přibáň projel s trabanty Afriku, postsovětské země, Jižní Ameriku, Austrálii i část jihovýchodní Asie. Průjezd Čínou ale považuje za nejhorší dny, jaké kdy zažil. Deptalo ho spojení moderní techniky a režimu, který se lidskými právy a svobodami příliš nezdržuje. V praxi to představovalo obří rentgeny aut na hranicích, všudypřítomné kamery nebo povinně instalovaný sledovací software v mobilu. „Neuměl jsem si představit, že by něco takového mohlo existovat. Tak masivní využití technologií jsem v životě neviděl. Čína využívá moderní techniku dost odpudivým způsobem,“ říká patrně nejznámější český cestovatel současnosti.

Evropa není zrovna hardwarová velmoc, zejména co se výroby čipů týče. V civilní sféře jsme víceméně závislí na USA a Číně. Není to ve vojenské oblasti poněkud riskantní?

Je. My to řešíme tak, že standardní čipy od Intelu používáme jen u těch součástí systému, které nejsou z hlediska bezpečnosti tak důležité. U důležitých součástí, mezi něž patří například řídicí nebo palebná jednotka, využíváme bezpečnější architekturu oddělených stavebních bloků. Ty jsou od sebe na základní úrovni úplně izolované, čímž se riziko selhání nebo zneužití funkce snižuje. Nemizí ale úplně. Bylo by pochopitelně lepší spoléhat se na vlastní zdroje, jenže to zkrátka není vždy možné.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama