foto: iStockphoto.com

Člověk na prvním místě. Evropská unie plánuje, jak regulovat umělou inteligenci

Stát chytřetéma 7 a více min čtení

Téma umělé inteligence se stalo natolik ožehavou záležitostí, že se její rozvoj v Bruselu rozhodli svázat pravidly. Cílem nově vzniklé Bílé knihy o umělé inteligenci je připravit se na digitální věk a najít pro něj vhodnou strategii. Dokument navrhuje regulace tam, kde se může v útrobách strojů zpracovávat příliš mnoho informací o konkrétních lidech, což s sebou může nést nebezpečné následky. Jenže je tu problém – když Brusel tyto procesy zakáže, možná zastaví rozvoj celého slibného odvětví.

Líbí se vám článek? Sdílejte ho:

Téma umělé inteligence se stalo natolik ožehavou záležitostí, že se její rozvoj v Bruselu rozhodli svázat pravidly. Cílem nově vzniklé Bílé knihy o umělé inteligenci je připravit se na digitální věk a najít pro něj vhodnou strategii. Dokument navrhuje regulace tam, kde se může v útrobách strojů zpracovávat příliš mnoho informací o konkrétních lidech, což s sebou může nést nebezpečné následky. Jenže je tu problém – když Brusel tyto procesy zakáže, možná zastaví rozvoj celého slibného odvětví.

Je to dokument, který vyvolal poprask ještě před tím, než ho Evropská komise zveřejnila. Server Euractiv se dostal k návrhu Bílé knihy, který počítal s tím, že se technologie musejí přísně kontrolovat. Navíc by se podle uniklého návrhu některé měly až na příštích pět let odstřihnout od veřejného fungování, a mohly by je tak používat jen bezpečnostní složky a vybraní vývojáři.

Nakonec se ukázalo, že to byla jen jedna z verzí a ta konečná je daleko umírněnější. Až do 19. května k ní budou probíhat veřejné konzultace. A pak mají přijít na základě knihy a konzultací k ní nová pravidla pro umělou inteligenci i data.

Evropa v knize ukazuje dva směry: zdůrazňuje, že chce být lídrem v důvěryhodném využívání umělé inteligence a investovat do jejího rozvoje. Stejně tak chce dát peníze do rozvoje evropského datového prostoru, který chce sjednotit.

Obavy na místě?

Přesto text zachovává body, které odrážejí obavy z počínání umělé inteligence. Nejsou sice tak výrazné jako ve dva měsíce starém návrhu, ale i tak se propisují do celého textu. Varianta z konce loňského roku navrhovala zakázat technologie rozpoznávající obličeje na veřejnosti na období tří až pěti let. Po tu dobu by je měl možnost využívat jen omezený okruh lidí, především bezpečnostní složky. Autoři doufali, že se za tu dobu dostatečně rozvine povědomí o technologii a připraví se postupy, jak zvládnout problémy, které s sebou přináší.

Teď jsou hlavní sdělení obecnější. Bílá kniha říká, že by regulace měla směřovat na vysoce rizikové systémy umělé inteligence. Kontrolní orgány by podle ní měly být schopny testovat a certifikovat algoritmy stejně jako třeba kosmetiku, auta či hračky. A část systémů má být pro jistotu trvale pod lidským dohledem.

Víme, co si myslíte

V útrobách bruselských úřadů se různé varianty návrhů diskutovaly hned několikrát. Je jasné, že nejde o neopodstatněné obavy. Ostatně i proto už řadu let funguje na evropské půdě třeba komise zabývající se spojením etiky a umělé inteligence. Jenže ta dosáhne jen na ty projekty, které od Unie chtějí na svůj rozvoj nebo provoz peníze. Ty ostatní zůstávají – až na působící regulace typu GDPR – bez dozoru.

Související článek

Ondřej Veselý: Čech, který v Bruselu hlídá, aby nás umělá inteligence nezničila

Etika a umělá inteligence. Téma, které roky řeší vědci po celém světě. Stačí totiž překvapivě málo a roboti můžou změnit fungování světa tak, jak ho známe dnes. Jedním z odborníků na etiku a technologie je i Ondřej Veselý, jenž je členem skupiny Evropské komise, která posuzuje, jestli firmy vývojem technologií neohrožují lidskou společnost.

V komisi figuruje mimo jiné Ondřej Veselý a vysvětluje, že pravidla financování Bruselem jsou tu poměrně přísná. Představme si třeba systém kamer sledující pohyb lidí na vlakovém nádraží. Na takový projekt by tým kladl mnoho omezujících podmínek: „Například úzké vymezení účelu, ukládaných dat, povolení místních úřadů, pravidelné audity nebo dočasnost takového sledování a podobně. Pravděpodobně by ale neprošel vůbec,“ říká Veselý. „V komerčním sektoru však může být situace divočejší. Těžko se bude hlídat, jestli nádražní obchody například neprodávají stream ze svých kamer někam dál, kde bez jejich vědomí nedochází k agregaci, analýze a prodeji sledovacích služeb,“ vysvětluje.

A co teprve když vám stroje skutečně začnou vidět do hlavy, třeba díky analýze takzvaných mikrovýrazů? „Pokud prodejcům v obuvi ve sluchátku pípne upozornění od systému strojového učení, který díky kameře s vysokým rozlišením usoudil, že boty, které si v obchodě zkouším, mně nesedí, pak možná oceníme kouzlo nové technologie. Prodavač nebo prodavačka mi nabídne pomoc jen ve chvíli, kdy ji potřebuji. Menší pochopení už možná budeme mít pro finančního poradce, kterému bude elektronický pomocník našeptávat vyjednávací strategii,“ upozorňuje Veselý.

Shoda panuje v tom, že je třeba regulovat systémy viděné jako „vysoce rizikové“. Souhlasí s tím třeba i Jan Čurn, ředitel startupu Apify, který se zabývá stahováním a zpracováním dat z webu. Jenže to podle něj není jen tak. „Sehnat dostatečně kvalitní odborníky, kteří budou schopni takové systémy testovat a certifikovat, bude nesmírně náročné a drahé. Pokud jich bude mít Unie málo, tak certifikace a uvádění nových produktů umělé inteligence na trh potrvá dlouho, což ve svém důsledku poškodí spotřebitele. Navíc existuje riziko úniku průmyslového vlastnictví, například zdrojových kódů nebo know-how,“ vysvětluje.

České názory pro svět

O umělé inteligenci a její regulaci se diskutuje i v Česku a v období kolem vydání Bílé knihy s nebývalým zápalem. Chvíli před zveřejněním Bílé knihy dala dohromady vláda, ministerstvo průmyslu a obchodu a Akademie věd ČR skupinu s názvem Expertní platforma a fórum pro právo a umělou inteligenci. V platformě diskutují experti z veřejné správy i soukromého sektoru. „Debata by měla přispět k návrhům řešení, která zajistí etický přístup k umělé inteligenci, právní jistotu, spravedlnost a bezpečnost,“ vysvětluje Alžběta Krausová z Ústavu státu a práva Akademie věd ČR. Budoucí výstupy mají být v češtině i angličtině, aby tak byla zvýšena viditelnost Česka na mezinárodní úrovni. Diskuze má taky pomoct ukázat Česko jako jednu z předních zemí v debatě o etickém vývoji a regulaci třeba právě umělé inteligence.

Po ustavení vládní komise do Prahy sezval Svaz průmyslu a dopravy rovnou 18 zaměstnavatelských svazů a platforem pro AI ze střední a východní Evropy. Má jít o první krok k jejich společnému postupu, ale výsledkem byla rovnou i doporučení zaslaná Evropské komisi. Podle svazu se umělá inteligence stává jedním z prioritních témat většiny profesních sdružení v Evropě. „Plánovaná regulace tohoto odvětví může zásadním způsobem ovlivnit konkurenceschopnost evropských podniků i ekonomický rozvoj evropského regionu,“ uvedla organizace. Doporučení pro Evropu říkají, že je třeba stanovit základní principy a hodnoty, ale proti evropskému dokumentu kladou daleko větší důraz na spolupráci s profesionály.

Související článek

Shoda akademiků i magistrátu: Praha se má do 5 let stát evropskou metropolí pro umělou inteligenci

Za pět let by Česko mělo disponovat pěti tisíci výzkumníky a vývojáři specializovanými na umělou inteligenci. Kromě toho ještě dalšími pěti sty absolventy se stejným zaměřením a každoročně padesáti novými firmami podnikajícími v této oblasti. Právě to je cílem iniciativy prg.ai, pod níž se minulý týden podepsali zástupci ČVUT, Univerzity Karlovy, Akademie věd a pražského magistrátu. Pokud se tento ambiciózní plán naplní, stane se z Prahy hlavní město evropské umělé inteligence.

Obecně (nejen) Česko s určitými pravidly ze strany Unie počítá a v zásadě je vítá. „Je však zapotřebí problematiku regulace důkladně diskutovat se všemi relevantními hráči napříč privátním, akademickým i veřejným sektorem. Ochrana osobních dat občanů EU a ochrana svobody jsou pro nás na prvním místě,“ říká Jaromír Beránek, zastupitel Prahy za Piráty a člen výkonného výboru prg.ai, která je pod společným prohlášením podepsaná. Ale jedním dechem dodává, že je potřeba neomezovat přístup k datům pod autorskoprávní ochranou. „Jsou cenným zdrojem pro učení a testování AI technologií,“ zmiňuje.

Jenže umělá inteligence potřebuje víc péče než jen přístup k datům. „Jedním z často zmiňovaných nedostatků systémů a algoritmů umělé inteligence je jejich chování coby ‚black boxu', tedy zjednodušeně řečeno stroje, ze kterého vypadne řešení problému či odpověď na položenou otázku, ovšem již bez možnosti zpětně zjistit, na základě jakých parametrů byla odpověď formulována a jaké iterace proběhly v rámci vyhodnocovacího procesu,“ upozorňuje Beránek.

Podle Beránka tu může nastat problém třeba při známém případu hodnocení uchazečů o zaměstnání, kdy umělá inteligence zvýhodňovala bílé muže. Její data totiž říkala, že jsou spolehlivější a vzdělanější. „Schopnost dokumentovat kritické rozhodovací procesy je dle mého názoru zásadní i z pohledu odolnosti systému proti vnějšímu zásahu – pokud by například došlo k úspěšnému útoku a změně ‚zadání', se kterým umělá inteligence pracuje, nikdy bychom se o tom nemuseli dozvědět, a přitom by mohly vznikat nekontrolovatelné škody. Možným řešením by byla konstrukce odolného ‚jádra' systému, které by zůstalo do určité míry black boxem a na nějž by navazovaly další vrstvy s větší flexibilitou úprav, ale také lepší dokumentovatelností,“ vysvětluje.

Důležité miliardy

Vybalancovat míru rizika a prospěchu je tady ten základní problém. Chránit občany a jejich soukromí je sice pěkně znějící představa, ale může brzdit rozvoj umělé inteligence. A potenciálně i brzdit ekonomiku. „Chceme dát všem občanům i podnikům možnost úspěšně žít a fungovat ve spravedlivé a konkurenceschopné digitální ekonomice i v otevřené, demokratické a udržitelné digitální společnosti, která bude vzorem pro celý svět,“ hlásí proto předsedkyně Komise Ursula von der Leyenová. Evropa má podle Komise na to, aby se stala světovým lídrem v oblasti (bezpečných) AI. „Máme vynikající výzkumná střediska, bezpečné digitální systémy a stabilní pozici v robotice, jakož i konkurenceschopná odvětví výroby a služeb od automobilového průmyslu přes energetiku, zemědělství až po zdravotní péči,“ zmiňuje zastoupení Evropské komise. A vyjmenovává dlouhou tradici v oblasti technologií, výzkumu i inovací. Nová pravidla tohle všechno mají podpořit.

Jenže podle nálady při projednávání to vypadá, že Evropa potřebuje místo lehké podpory zásadně přidat. Zatímco evropské společenství v roce 2016 investovalo do umělé inteligence 3,2 miliardy eur, v Asii to bylo 6,5 miliardy a ve Spojených státech dokonce 12,1 miliardy a všechna tato čísla debaty kolem nových technologií v Evropě přiznávají.

Související článek

Deloitte: Příští rok se prodá tři čtvrtě miliardy čipů pro umělou inteligenci

V roce 2020 se očekává prodej více než 750 milionů specializovaných čipů pro umělou inteligenci (AI), které budou součástí koncových zařízeních počínaje chytrými telefony a roboty konče. Podle poradenské společnosti Deloitte bude AI stále častěji v zařízeních, které využívá běžná veřejnost.

Další problém nastává v pohledu na data. Ta jsou pro umělou inteligenci určitou potravou – bez mnoha dat nemůže poznávat, učit se a sama myslet. Inovace založené na datech teď prý můžou být pro Evropu motorem. „Rozvoj bezpečných systémů zpracování dat a umělé inteligence, které budou schopny využívat stále se zvyšující množství dat, je klíčovou součástí našeho úsilí o udržitelnou hospodářskou budoucnost,“ myslí si komisař pro vnitřní trh Thierry Breton. Data odosobněná, tedy nevztahující se především k určitému člověku, můžou bezpečně zpřesňovat třeba lékařské diagnózy i modely vývoje klimatu. A aby byla dostupná, má vzniknout jednotný trh s daty podpořený 2 miliardami eur.

Jenže je to vůbec nutné? „Trh tu přece už dávno existuje a není třeba ho vytvářet. Dopadne to tak, že EU vybere peníze na daních od firem, které umí podnikat, a nalije je ve formě dotací do firem, které umí vyplňovat formuláře,“ myslí si Čurn z Apify. Podle něj by se tak Unie měla zaměřit spíš na digitalizaci správy a otevírání svých dat a API. „Bude velmi překvapena, co všechno její kreativní občané a firmy dokážou s těmito daty vytvořit,“ věří.

Každopádně jde o otázky, které bude Brusel stále častěji řešit. Komise vydala v průběhu posledních let hned několik nařízení k usnadnění rozvoje ekonomiky založené na datech. Třeba o volném toku neosobních údajů či kybernetické bezpečnosti, ale i etické pokyny pro důvěryhodnou umělou inteligenci. Bílou knihu s tématem AI vydala poprvé před třemi lety s tím, že se díky digitálním technologiím Evropa v příštích deseti letech bude měnit a je třeba na to brát zřetel.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama