foto: Shutterstock

Respekt z umělé inteligence: Evropská komise pokročilou technologii chce, ale raději ji zreguluje

Stát chytřetéma 7 a více min čtení

Evropa má k umělé inteligenci komplikovaný vztah. Je jasné, že odvětví přináší peníze, pomáhá rozvoji dalších oblastí průmyslu a je základní podmínkou pro zachování konkurenceschopnosti celému světu. Jenže zároveň vyvolává strach. Evropská komise proto už několikrát přišla s návrhy, jak umělou inteligenci svázat, aby nemohla nikomu ublížit. Teď zveřejnila návrh právního rámce, který má přinést důvěryhodnost umělé inteligenci. Podle mnohých ji ale podkopává.

Líbí se vám článek? Sdílejte ho:

Evropa má k umělé inteligenci komplikovaný vztah. Je jasné, že odvětví přináší peníze, pomáhá rozvoji dalších oblastí průmyslu a je základní podmínkou pro zachování konkurenceschopnosti celému světu. Jenže zároveň vyvolává strach. Evropská komise proto už několikrát přišla s návrhy, jak umělou inteligenci svázat, aby nemohla nikomu ublížit. Teď zveřejnila návrh právního rámce, který má přinést důvěryhodnost umělé inteligenci. Podle mnohých ji ale podkopává.

Související článek

Co brání zavádění AI ve firmách?

Společnost Ericsson provedla průzkum mezi 2525 manažery, kteří jsou za AI a pokročilou analýzu dat odpovědní, a poznatky firem, které tyto technologie zavedly nebo zavádí, shrnuje ve své studii ze série Industry Lab zaměřené na výzkum trendů v podnikovém prostředí.

Dokument o 107 stranách s dalšími 15 stranami příloh je přelomový: jde historicky o první právní rámec pro umělou inteligenci v Evropě. Pracovalo se na něm roky, vychází z mnoha protichůdných jednání a i teď je okolo některých jeho částí očekávána „horká debata“, jak uvedla při jedné telekonferenci Dita Charanzová, místopředsedkyně Evropského parlamentu. Právní rámec má občanům a podnikům zaručit ve styku s umělou inteligencí bezpečnost a základní práva. A uvádí, že jeho cílem je posílit zavádění umělé inteligence, investice a inovace v celé Unii a představit Evropu jako globální centrum pro důvěryhodnou umělou inteligenci.

Zatím jde o pravidla a opatření, která jsou pouze ve fázi návrhu. Než vejdou v platnost, mnohokrát se upraví a obvykle takový proces ještě několik let trvá. Ale horké diskuse už vyvolaly. Už proto, že –ostatně to v této oblasti není poprvé – návrh unikl na veřejnost ještě před oficiálním zveřejněním a svou přísností mnohé překvapil.

Některé systémy totiž rovnou zavrhuje, pro jiné požaduje přísnou kontrolu a omezení a i ty, které se zdají bezproblémové, označuje jako „systémy s minimálním rizikem“. Slova jako riziko, bezpečnost a důvěryhodnost se v dokumentu stále opakují a ukazují tak na vztah tvůrců k AI. V mnoha oblastech je dokument přísnější než v předchozích návrzích.

Související článek

Průzkum: Lidé očekávají, že jim v budoucnu vybere přátele umělá inteligence

Do roku 2030 budou lidé běžně užívat chytré obleky a jejich soukromí bude chránit umělá inteligence, která jim zároveň doporučí i vhodný okruh přátel. Zároveň budou ale čelit útokům zlých strojů, tzv. zlobotů, kteří se budou snažit ovládnout jejich zařízení prostřednictvím všudypřítomného připojení k internetu. Uvádí to nejnovější výzkum ConsumerLab společnosti Ericsson, který se věnuje předpovědím spotřebitelů ohledně technologického vývoje na dalších 10 let.

„AI je prostředkem, nikoli cílem. Rozvíjí se již několik desetiletí, ale nyní dosáhla díky zvýšení výpočetního výkonu nových schopností. To nabízí obrovský potenciál v oblastech, jako je zdravotnictví, doprava, energetika, zemědělství, cestovní ruch nebo kybernetická bezpečnost. AI však přináší i řadu rizik,“ nezapomíná zdůrazňovat komisař pro vnitřní trh Thierry Breton.

Pokud se však Evropa dívá na technologie především jako na rizikové, vyvolává to řadu problémů, které shrnul na svém twitterovém účtu i v odborných článcích Jan Klesla, ředitel Institutu pro digitální ekonomiku a koordinátor center AI v Česku: „Není vůbec jisté, že novou horizontální regulaci AI potřebujeme. Máme sektorové regulace, máme velmi robustní ochranu základních práv v EU. Ukazuje to i fakt, že všechny případy problémů, na kterých Komise ukazuje nutnost regulace, se odehrály mimo EU,“ popisuje. Pokud podle něj projde náhled na „vysoce rizikové“ systémy, jak je dokument popisuje, přestane rovnou „dávat smysl jakékoliv budování center, hubů a další podpory AI. Zvlášť v malých zemích jako ČR.“

Umělá inteligence? Tvoří ji přeci lidé

Problémy, na které návrh reaguje, je systém sociálního skóringu v Číně nebo znevýhodnění, které zapříčinila umělá inteligence v Amazonu, která prosévala životopisy zájemců o práci. Ta diskriminovala ženy. Nebyl to samozřejmě záměr robota – AI se zkrátka učila na datech, která ukazovala, jaké kandidáty dříve společnost vybírala. A většinou to byli ti mužští. Mimochodem, jakmile si to společnost uvědomila, od jejího použití okamžitě upustila.

Vysvětlení je jednoduché: „Pokud nejsou data kvalitní a už od začátku obsahují zadané předsudky, můžete vytvořit rasistickou, šovinistickou nebo jinak pokřivenou umělou inteligenci. To už se dnes bohužel děje. Umělá inteligence funguje jako zrcadlo toho, co si myslí lidé,“ uvedl v našem dřívějším rozhovoru k takovým technologiím Uri Eliabayev, člen izraelské komise pro AI a velký zastánce strojového přemýšlení.

„Na jedné straně jsme v bezprecedentní situaci, kdy máme dosud nejvíc demokratizující technologii. Na druhé straně je AI často fetišizována, lidi ji v zásadě vidí jako terminátora, iRobota, něco, čeho se musí bát. Vlastně je to stejné, jako když přišla elektřina. Tehdy vyšly obrázky vystupující proti ní, které ukazovaly lidi, jak se na elektřině ‚smaží‘, náhodně visící na drátech po ulicích. Není to o tom – jsme celkem daleko od obecné umělé inteligence, ale lidé to ne nutně vědí. Podle mě je naší základní rolí dobrá komunikace, neizolování se od veřejnosti, nezatěžování umělé inteligence byrokraticky, už tak je to komplikovaný systém,“ uvedla Sara Polak, česká popularizátorka AI, během diskuse evropských vědců a odborníků na umělou inteligenci den poté, co Evropská komise svůj balíček regulativů zveřejnila.

Normy nemusejí být nutně špatné – to uznávají všichni odborníci. Že už ale hodně pravidel existuje, doplnila například Dita Charanzová, místopředsedkyně Evropského parlamentu. „Ta nová však vyplňují současné mezery,“ dodala s tím, že za ni jde o pozitivní krok. „Ano, máme zákaz některých technik,“ uvedla s odkazem hlavně na rozpoznávání obličejů. „Hodně mých kolegů v Evropském parlamentu prosazuje kompletní zákaz a okolo toho bude ještě velká diskuse,“ myslí si.

Technologie dětem? Nikoliv

„V minulosti normy pro statiky a stavaře zabezpečily, že se nemusíme obávat, že nám střecha spadne na hlavu. Dnes jsou podobné normy potřebné pro samořídící auta, ale i pro umělou inteligenci. Normy můžou chránit naše základní hodnoty i práva. Na druhé straně, pokud přijaté regulace budou vykladatelné různým způsobem, zavedou zdlouhavé posuzování nebo nové orgány kontroly, Evropské unii to ve snaze zvýšit konkurenceschopnost vůbec nepomůže,“ obává se Jozef Šimko, spoluzakladatel a COO startupu Readmio.

Související článek

Nejkreativnější český startup? Firma, která vyvinula aplikaci na čtení pohádek

Soutěž Creative Business Cup 2021, v rámci které představil CzechInvest ty nejlepší startupy z oblasti kulturních a kreativních průmyslů, zná své vítěze. První místo a možnost reprezentovat Českou republiku na globálním finále online z Kodaně vyhrál startup Readmio. Jeho mobilní aplikace doprovází čtení pohádky zvukovým podkresem, hraným automaticky na základě rozpoznání předčítaných slov, a tím oživuje rodinný zážitek.

Readmio pracuje s umělou inteligencí ve své mobilní aplikaci: nechává (většinou) rodiče číst dětem pohádky a přitom reaguje na jejich řeč. Jakmile řeknou správné slovo nebo slovní spojení, přehraje k pohádce vhodný zvuk: šplouchání vody při vyprávění o vodníkovi nebo třeba chrochtání v pohádce o třech malých prasátkách. Má velký úspěch, z Čech se šíří do světa a aplikaci si stáhlo 100 tisíc uživatelů.

I když se nezaměřuje na zneužití zranitelnosti dětí – což dokument Komise jednoznačně řadí mezi zakázané systémy –, mohl by se snadno ocitnout mezi firmami, které musejí řešit přísné povinnosti pro vysoce rizikové systémy umělé inteligence. Prostě proto, že by mohl být přístupný dětem.

Další potřeby, plnění a otázky by mohla vyvolat řada volných míst, která dokument nechává. „Malý ilustrační příklad možných nejasností: systém na třídění životopisů představuje podle dokumentu vysoké riziko. Chatboti naopak jen omezené riziko, protože se předpokládá, že uživatelé by si měli být vědomi toho, že komunikují se strojem, a můžou se rozhodnout, jestli chtějí pokračovat. Co však v případě, když bude chatbot jediným způsobem, jak bude možné firmě poslat životopis,“ ptá se Šimko.

Podle něj je tak jasně nutné pravidla přesněji specifikovat, lépe zadefinovat a rozšiřovat. „To však může skončit nesmyslným regulačním rámcem. Alternativní cestou je definovat jen základní pravidla pro umělou inteligenci. Určit, co je zakázané. A co není zakázané, to je dovolené,“ popisuje.

Související článek

Umělou inteligenci využívalo v EU sedm procent firem, Česko je pod průměrem

Umělou inteligenci loni v zemích Evropské unie využívalo sedm procent firem, které mají alespoň deset zaměstnanců. Nejaktivnější jsou v tomto smyslu podle evropského statistického úřadu Eurostat podniky v Irsku, naopak nejméně umělou inteligenci využívají firmy v Lotyšsku. Česká republika je se šesti procenty mírně pod unijním průměrem.

Že jsou oblasti, které se EK snaží regulovat, už teď přísně regulované, zdůrazňuje i Giuliano Giannetti, mimo jiné zakladatel společnosti Revolt BI, který žije a podniká v Česku. Mluví například o zdravotnictví nebo správě kritické infrastruktury, k čemuž dodává, že to je obecně potřeba.

„Nicméně při čtení deklarací o tom, jak bude Evropa ‚podporovat AI nejvyšší úrovně‘, podle současných zkušeností s GDPR a podobnými směrnicemi spíše očekávám nárůst administrativní zátěže a další bariéry pro vstup na trh než opatření, která by naší komunitě reálně pomohla,“ popisuje. „Pikantní na tom je, že tyto směrnice samozřejmě zatíží zejména subjekty, které mají zájem se chovat eticky a v souladu s evropským právem, a paradoxně nijak nepostihnou subjekty, které se takto chovat nechtějí,“ dodává.

Vůbec to není ojedinělá námitka. „Už jsem slyšela o obavách svázání trhu ze strany malých hráčů. Nerada bych malým a středním podnikům a startupům ukládala povinnost ještě další byrokracie,“ potvrzuje Charanzová.

Snahy i mimo EU

EU není se svými snahami o definování mezí umělé inteligence jediná. Už loni přišla například americká administrativa s memorandem, které ovšem obsahovalo 10 obecných principů, podle kterých by se měly připravovat nové předpisy týkající se umělé inteligence.

Související článek

WeChat: superaplikace pro čínského občana i digitální diktaturu

V posledních dvou letech prudce stoupla negativní publicita čínských technologických produktů. Značné pozornosti se přitom dostalo aplikaci WeChat. Je používaná víceméně celou Čínou a prakticky nepostradatelná pro každého občana ČLR, zahraniční studenty nebo podnikatele. Čínskou vládou je ale vnímána jako úhelný kámen digitální diktatury. I proto některé státy WeChat zakázaly nebo se o to snaží.

Typ dokumentu a reakce se ale od těch evropských značně liší. „Důraz se klade hlavně na uměřenost regulace, která by měla směřovat spíš k odstraňování překážek, podpoře výzkumu a k nasazení AI. Technologičtí giganti sídlící v USA tento přístup vítají. Žádoucí je pro ně právní úprava dostatečně určitá, ale zároveň co nejméně limitující jejich obchodní cíle,“ uvedla k tomu například Linda Kolaříková, advokátka pracující pro KPMG Legal.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama