foto: Future Port Prague

Roman Yampolskiy: Umělá inteligence má sílu ovlivňovat armádu i státní ekonomiku

Stát chytřerozhovor 7 a více min čtení

Kdo bude v příštích letech vládnout světu moderních technologií – západní svět, nebo Čína? Má v této oblasti smysl dbát na morální hlediska, nebo rozhoduje jen efektivita? V čem umělá inteligence dokáže zlepšit svět, a jaké hrozby s sebou naopak přináší? Ideální člověk na rozhovor na tato témata je americký vědec lotyšského původu Roman Yampolskiy, jeden z největších světových odborníků na umělou inteligenci.

Líbí se vám článek? Sdílejte ho:

Kdo bude v příštích letech vládnout světu moderních technologií – západní svět, nebo Čína? Má v této oblasti smysl dbát na morální hlediska, nebo rozhoduje jen efektivita? V čem umělá inteligence dokáže zlepšit svět, a jaké hrozby s sebou naopak přináší? Ideální člověk na rozhovor na tato témata je americký vědec lotyšského původu Roman Yampolskiy, jeden z největších světových odborníků na umělou inteligenci.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Na pražské přednášce v rámci Future Port Prague jste mluvil o soupeření ve vývoji umělé inteligence mezi Západem a Čínou. Pro nás, bývalé obyvatele východního bloku, je tohle téma docela citlivé. Jak se to soupeření vyvíjí a jak podle vás dopadne?

Těžko říct. V historii to bylo docela přehledně rozděleno – Čína měla kvantitu, my měli kvalitu. To se teď ale začíná měnit. Nechci strašit, ale Čína už opravdu není jen levná montovna, za jakou ji Západ dlouho měl. Já samozřejmě jejich centralizovaný přístup nijak neobdivuji nebo nedoporučuji, ale má jednu praktickou výhodu – rozvoj umělé inteligence a moderních technologií vůbec je tam v současné době obrovskou vládní prioritou a jeho protagonisté mají prakticky neomezené možnosti. Pokud chce Západ uspět, nelze vývoj nechávat jen na vědcích a univerzitách – musí se do něj zapojit i vlády, musí se o něj začít pořádně starat, musí pro něj vzniknout nějaký právní rámec. Jinak bude Západ vždycky v nevýhodě, a nakonec ho Čína může vážně převálcovat.

Čínská vláda naprosto otevřeně přiznává, že drží veškerý vědecký i technický vývoj pod kontrolou.

Výzkumné organizace v západních zemích si ale nezávislost na vládách často hodně hlídají v obavě, aby se nestaly politickým nástrojem právě jako v Číně.

Jak které, je zkrátka zapotřebí o tom uvažovat realisticky. A ještě k tomu vnímání dvou soupeřících světů: pozor na přílišné zjednodušování a škatulkování. Špinavé triky se používají i na Západě. A navíc, protože nakonec jde vždycky hlavně o peníze, při bližším ohledání zjistíte, že se na vývoji skutečně špičkové umělé inteligence a dalších technologií často podílejí pořád stejní lidé, ovšem chvíli dělají pro jednu stranu a pak zase pro druhou. Čína je sice, co se státní doktríny týče, pořád komunistická země, ale ve skutečnosti se chová kapitalističtěji než spousta západních států, což se jí samozřejmě vyplácí.

Co si myslíte o postoji pragmatiků, kteří to berou tak, že v záležitostech Číny nemá smysl posuzovat morální hlediska a důležitá je jen efektivita?

Nesouhlasím, jsem na straně západního světa a považuji jeho hodnoty za důležité. I díky svému lotyšskému původu. Ale na druhou stranu nemá smysl zavírat oči před některými nehezkými skutečnostmi. Čínská vláda naprosto otevřeně přiznává, že drží veškerý vědecký i technický vývoj pod kontrolou, nedává lidem svobodu a postupuje direktivně, protože to přináší výsledky. U nás na Západě se tváříme, že je tento přístup nepřijatelný, ale ve skutečnosti tu vlády na výzkum a vývoj kolikrát tlačí rovněž, akorát to nepřiznávají.

Související článek

Dan Přibáň: Co jsme viděli v Číně, by vyděsilo každého

Dan Přibáň projel s trabanty Afriku, postsovětské země, Jižní Ameriku, Austrálii i část jihovýchodní Asie. Průjezd Čínou ale považuje za nejhorší dny, jaké kdy zažil. Deptalo ho spojení moderní techniky a režimu, který se lidskými právy a svobodami příliš nezdržuje. V praxi to představovalo obří rentgeny aut na hranicích, všudypřítomné kamery nebo povinně instalovaný sledovací software v mobilu. „Neuměl jsem si představit, že by něco takového mohlo existovat. Tak masivní využití technologií jsem v životě neviděl. Čína využívá moderní techniku dost odpudivým způsobem,“ říká patrně nejznámější český cestovatel současnosti.

Pojďme k technice. Pod pojmem „umělá inteligence“ si většina laiků představí něco jako reproduktor s Alexou, robotický vysavač nebo robotku Sophii. Co ale ty nejlepší sofistikované systémy umějí ve skutečnosti?
Já se zabývám především budoucností umělé inteligence – systémy, které dnes ještě neexistují, ale teoreticky víme, jak je vytvořit. Jde o obrovsky schopné a výkonné stroje na úplně jiné úrovni, než jaké běžně používáme dnes. Budoucí systémy umělé inteligence mají potenciál výrazně ovlivňovat třeba armádu nebo státní ekonomiku.

Je zřejmé, že by se umělá inteligence dokázala velmi dobře uplatnit při rozhodování o nasazení jaderných zbraní.

Jak? O jakých systémech mluvíte?

Třeba u armádních systémů je už vcelku zřejmé, že by se umělá inteligence dokázala velmi dobře uplatnit při rozhodování o nasazení jaderných zbraní. Stroje se totiž dovedou rozhodovat rychleji a zodpovědněji než mnozí lidé, kteří mají to slavné červené tlačítko v moci. Moderní systémy umělé inteligence dokážou mnohem lépe a rychleji vyhodnotit situaci a třeba v případě útoku rozhodnout o nejefektivnějším způsobu obrany, který nadělá nepříteli maximální škody.

To zní trochu děsivě – na jednu stranu si člověk při téhle představě připadá jako ve sci-fi filmu, jenže zároveň víme, kolik sci-fi filmů vypráví o tom, že se umělá inteligence vymkne kontrole, a začnou se dít hrozné věci…

Přesně tak, a právě proto jsem v tomhle ohledu hodně opatrný. Teoreticky to zní skvěle, protože člověk se opravdu v krizových situacích nedokáže rozhodovat tak rychle a kvalitně jako moderní strojové systémy. Jenže tohle využití zbraní je podmíněno dokonalým zabezpečením, jak proti napadení zvenku, tak na interní systémové úrovni. A takové zabezpečení v tuto chvíli nedovedeme vytvořit ani v teoretické rovině. Vždy budou existovat nějaká zranitelná místa. Tím pádem jsem zcela zásadně proti tomu, aby umělá inteligence tyto pravomoci dostala, aspoň prozatím.

Když ještě chvíli zůstaneme v Hollywoodu, můžeme si vybavit jiný scénář: hacker zaútočí na počítačový systém, který řídí chod velkoměsta, a vypne v něm elektřinu, zaplaví metro, pustí semaforem do tunelu auta proti sobě, smaže bankovní účty… Opravdu se blížíme době, kdy jediný útok dokáže zásadním způsobem narušit chod civilizace?

Ano, podle mě je to reálná hrozba. Centralizované systémy jsou pro řízení měst a dalších velkých celků ohromně výhodné, ale tohle riziko s sebou opravdu nesou. A k několika takovým útokům už došlo. Nebyly tak masivní a neměly takový záběr jako v hollywoodských filmech, ale principiálně se od nich tolik neliší.

Související článek

Umělá inteligence vrací lidem zrak a pomáhá i v boji proti rakovině

Umělá inteligence je v medicíně a farmacii zatím pořád v plenkách. Jenže už i v nich dokáže hodně. Už za našeho života se tak nejspíš dočkáme toho, že lidé po amputacích končetin budou fungovat i vypadat stejně jako dřív. Slepí znovu uvidí a hluší uslyší. Stačit jim k tomu bude externí zařízení, kterého si ale okolí ani nevšimne.

Můžete být konkrétnější?

Třeba ve Spojených státech hackeři už několikrát úspěšně zaútočili na elektrické rozvodné sítě. Občas dokázali způsobit jejich selhání, takže v jistých oblastech nějakou dobu opravdu nešel proud.

A jak se lze proti takovým útokům bránit? Dobré heslo nejspíš nestačí…

Občas je dobré zvážit, zda má takový systém vůbec mít internetové rozhraní, zda není lepší nechat ho v nějaké uzavřené podobě. Co není připojeno ke globální síti, to prakticky nelze úspěšně napadnout. To je nejlepší způsob ochrany, ale samozřejmě se to nedá použít vždy, některé systémy být on-line musí. Pak přichází na řadu víceúrovňová ochrana s různými stupni identifikace.

V Googlu se podařilo přesvědčit vedení, že je nutné rozšířit personál o bezpečnostní týmy.

Mezi mnohými odborníky budí velké obavy nástup internetu věcí – chytré žárovky nebo žaluzie, u nichž málokdo myslí na zabezpečení, se mohou stát prostředkem k napadení celé firemní nebo domácí sítě. Jak se na to díváte?

S velkými obavami. Dohánějí nás totiž naše vlastní chyby z minulosti – vymysleli jsme internet, ale zapomněli jsme na jeho bezpečnost, nebo jsme ji aspoň výrazně podcenili. A teď to celé, protože jsme se z těch chyb nepoučili, opakujeme. Co na tom, že webkamera nemá žádné zabezpečení – hlavně že stojí pár dolarů a v obchodě se po ní jen zapráší. Já jen doufám, že tohle druhé kolo bude stačit a u sofistikovaných systémů umělé inteligence budeme to zabezpečení budovat od samého začátku v každé fázi vývoje těch systémů. Zatím to vypadá jako problém, ale osobně na tom pracuji.

Jak na to?

Prvním nutným krokem je vysvětlit vědcům a vývojářům inteligentních strojových systémů, že ten problém existuje a má zásadní význam. Řada z nich si to vůbec neuvědomuje. Mají pocit, že je jejich úkolem vytvořit systém tak, aby byl funkční a co nejlépe se prodával. Takže je nutné začít u jejich dovzdělání. Občas to nese ovoce, třeba v Googlu se podařilo přesvědčit vedení, že je nutné rozšířit personál o bezpečnostní týmy a dát jim dostatek pravomocí k rozhodování.

Související článek

Dobře, Google je velká korporace, ale já to zase vrátím k těm malým výrobcům chytrých žaluzií, kamer do aut a dalších hraček, které nás potenciálně ohrožují. Co s nimi?

Ano, jsou skutečně tím slabým článkem, ale na druhou stranu mají omezený vliv a dopad. Prodávají tisíce, možná desetitisíce kusů, ale vůbec se to nemůže srovnat s těmi miliardami produktů od Applu nebo Googlu. To ovšem neznamená, že bychom malé výrobce měli úplně podceňovat. Podle mého dobré řešení spočívá ve vytváření nějakých konsorcií nebo asociací, do nichž budou smět jen ti výrobci, kteří splní bezpečnostní standardy. Tyto organizace by pak vydávaly podobné certifikáty, jaké se dnes používají třeba pro webové stránky. A zároveň bude zapotřebí udělat mezi veřejností kampaň, aby lidé kupovali jen produkty s těmito certifikáty.

Co robotika a průmysl 4.0? Odborníci se shodují, že chytré stroje připraví o pracovní místa spoustu lidí, jenže nejsou zajedno, o jaké typy profesí by se mělo jednat. Někteří mají za nejohroženější manuálně pracující dělníky, podle jiných nese nová doba největší riziko pro právníky, lékaře v diagnostice nebo střední manažery. Co si myslíte vy?

Související článek

Mobilní umělá inteligence. Nastal čas opravdu chytrých telefonů

Je to trochu paradox. Na webu Svět chytře píšeme o chytrých zařízeních všeho druhu, ale smartphony tu programově opomíjíme. Jejich hodnocení zkrátka necháváme na jiných. Chytré telefony totiž ve skutečnosti dělají už několik let pořád totéž – kromě telefonování brouzdají internetem, fotografují, přehrávají filmy a hudbu nebo nás navigují. Jenže od opravdu chytrých přístrojů chceme víc – chceme, aby využívaly své schopnosti originálním způsobem, který přesáhne do jiných oborů. A telefony jsou z tohoto pohledu poměrně konzervativní. Ale zdá se, že i tady se začíná uvažování výrobců telefonů měnit.

Podle mě je ten klíč jednoduchý – záleží na tom, jak rozmanitá je vaše práce den ode dne. Třeba takovému instalatérovi může být nástup umělé inteligence a průmyslu 4.0 úplně lhostejný, protože každý den dělá něco úplně jiného, řeší úplně jiné problémy, pracuje s jinými systémy, i když v zásadě dělá totéž. Tohle strojová inteligence nikdy nedokáže, tedy aspoň v dohledné budoucnosti. Zato pokud někdo chodí do práce a den co den v ní dělá rutinně to samé, může mít zanedlouho vážný problém a je úplně jedno, že má vysokoškolskou kvalifikaci. Protože to roboti zvládnou za něj, chytří jsou na to dost.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama