foto: Tomáš Hejzlar

Josef Šlerka: Čínský skóring jsou komunistické domovnice, které mají k dispozici internet

Trendy & tipyrozhovor 7 a více min čtení

Tisíce lidí se denně nechávají ovlivnit fake news, na které nejčastěji narazí prostřednictvím sociálních sítí, obvykle Facebooku. Jak je možné, že vymyšlené zprávy mají takový úspěch? Jak vlastně vznikají fake news, které jsou uvěřitelné? Ohrožují nás? A jak má tedy člověk poznat falešnou zprávu v době podvrhů vytvářených mnohdy i umělou inteligencí? O tom jsme si povídali s Josefem Šlerkou. Známe se už řadu let a tykáme si. A platí to i pro tento rozhovor.

Líbí se vám článek? Sdílejte ho:

Tisíce lidí se denně nechávají ovlivnit fake news, na které nejčastěji narazí prostřednictvím sociálních sítí, obvykle Facebooku. Jak je možné, že vymyšlené zprávy mají takový úspěch? Jak vlastně vznikají fake news, které jsou uvěřitelné? Ohrožují nás? A jak má tedy člověk poznat falešnou zprávu v době podvrhů vytvářených mnohdy i umělou inteligencí? O tom jsme si povídali s Josefem Šlerkou. Známe se už řadu let a tykáme si. A platí to i pro tento rozhovor.

V Číně nedávno uvedli strojového moderátora. Objevují se i videa, kdy se reálnému politikovi vloží do úst uměle generovaná řeč, ve které říká něco, co nikdy neřekl. Čemu v takto technologicky vybaveném světě můžeme věřit?

Myslím, že to je složitější otázka. Technická úroveň deep fakes (pozn. red: falešných zpráv generovaných umělou inteligencí) pořád není dokonalá, cvičené oko nebo ucho je rozezná. I moderátor, který mluví v čínské televizi, se hýbe příliš strojově. V současnosti to není problém. Technologie se ale zdokonalí, možná dosáhnou čistého fotorealismu. A pak se znovu vrátí to, co tu bylo před nástupem internetu. Silné spojení novinářské zprávy s tím, kdo ji přinesl. Právě její autor ručí za to, že to je pravda. Takže znovu budeš primárně věřit zdroji informace, ne tomu, co čteš nebo vidíš. Za pravdivost budou ručit zdroje, tedy novináři a vydavatelské domy.

Když bude lhát dTest a na základě jeho článků začneš kupovat šmejdy, časem si najdeš důvěryhodnější zdroj.

Takže vazbu mezi zprávou a jejím zdrojem nástup internetu oslabil.

Přesně tak. Zprávy se přelévají, kopírují. Hlavně na Facebooku často ani není jasné, kde byla zpráva původně vydaná. Myslím, že až začnou být deep fakes tak škodlivé, že začnou ohrožovat rozhodování lidí, znovu se začne posilovat důvěra v konkrétní zdroj.

Související článek

Dan Přibáň: Co jsme viděli v Číně, by vyděsilo každého

Dan Přibáň projel s trabanty Afriku, postsovětské země, Jižní Ameriku, Austrálii i část jihovýchodní Asie. Průjezd Čínou ale považuje za nejhorší dny, jaké kdy zažil. Deptalo ho spojení moderní techniky a režimu, který se lidskými právy a svobodami příliš nezdržuje. V praxi to představovalo obří rentgeny aut na hranicích, všudypřítomné kamery nebo povinně instalovaný sledovací software v mobilu. „Neuměl jsem si představit, že by něco takového mohlo existovat. Tak masivní využití technologií jsem v životě neviděl. Čína využívá moderní techniku dost odpudivým způsobem,“ říká patrně nejznámější český cestovatel současnosti.

Proč?

Protože za tebe zprávu ověří. Důvěra je levnější náhražka kontroly.

Když mi někdo něco tvrdí, mělo by to pro mě být stejně hodnotné, jak bych tam šel a viděl to na vlastní oči?

Tak. Když informace není validní, protože zdroj lže, buď tam musíš dojít, nebo vyhledat zdroje, které ti nelžou.

Informace konzumuješ proto, že jsou pro tebe potřebné. Když se chceš bavit a je úplně jedno, kdy se daná věc stala, můžeš číst Jaroslava Haška nebo zprávy v Blesku. Ale když se na základě informací rozhoduješ a dostáváš informace, které tě vedou ke špatným rozhodnutím, jsi bit. Potom začneš vynakládat víc sil na to, abys dostával informace správné. Tahle energie bude odpovídat tomu, jak je pro tebe dotyčná věc důležitá. Když ti bude lhát dTest a na základě jeho článků začneš kupovat šmejdy, časem si najdeš důvěryhodnější zdroj.

Takže díky rozvoji technologií a vyšší realitě falešných zpráv dojde k renesanci vydavatelských domů?

Jde o důvěryhodnost zdroje. Ta nemusí být spojená s vydavatelskými domy, ale třeba s blockchainem (pozn. red: technologii blockchainu je možné využít i pro sledování změn v dokumentech – viz např. projekt pro zabezpečení úředních dokumentů ve Vídni).

„Myslím, že až začnou být deep fakes tak škodlivé, že začnou ohrožovat rozhodování lidí, znovu se začne posilovat důvěra v konkrétní zdroj,“ říká Josef Šlerka. -

Proč tedy lidé čtou neověřené zprávy?

Myslím si, že hlavní důvod, je pocit, že v politice nemohou nic rozhodnout. Takže víc konzumují to, co potvrzuje jejich názor, než to, co může ovlivnit jejich rozhodování.

Související článek

Ondřej Veselý: Čech, který v Bruselu hlídá, aby nás umělá inteligence nezničila

Etika a umělá inteligence. Téma, které roky řeší vědci po celém světě. Stačí totiž překvapivě málo a roboti můžou změnit fungování světa tak, jak ho známe dnes. Jedním z odborníků na etiku a technologie je i Ondřej Veselý, jenž je členem skupiny Evropské komise, která posuzuje, jestli firmy vývojem technologií neohrožují lidskou společnost.

Když máš průpravu kritického myšlení, většinou podvrženou zprávu poznáš, nebo trvá krátkou dobu, než přijdeš na to, že je podvržená. Ale až bude ověření opravdu složité, vzroste potřeba důvěryhodnosti zdroje.

Pokud zprávu bereš jako zdroj pro rozhodování, a ne jako infotainment.

U infotainmentu na důvěryhodnosti nezáleží. U zprávy o tom, že v jezevčí noře našli napůl ohlodanou mrtvolu trpasličího pornoherce podobného Gordonu Rameseymu – a taková zpráva reálně internetem koluje – je úplně jedno jestli to pravda je či není. Ale sázkař, kterému někdo systematicky lže o výkonu ostatních týmů a on se na tyhle zprávy z nějakých důvodů musí spolehnout, má velmi silný zájem to řešit.

Jenže lidem bez kritického myšlení i nepravdivé zprávy přijdou uvěřitelné. Stačí jen, aby byly technicky dokonale zpracované.

Protože jsme silně fixovaní na jednotlivosti, na jednu zprávu. To také souvisí s technologiemi – s nástupem internetu máme místo paměti obrovský archiv. U každého najdeš omyly, ale jde o to, co dotyčný dělá obvykle. Lidi, kteří se nachytají, časem lež odhalí, takže když nějaký zpravodajský server začne lhát často, lidi mu přestanou věřit.

Člověk, který si bude léčit rakovinu savem, umře. Ale je to jeho věc.

Ale to už může být pozdě.

Je to stále stejný princip. Je zapotřebí nějaký čas, aby rozhodnutí mohlo mít dopad. Rozhodování je složitý proces. Člověk, který si bude léčit rakovinu savem, umře. Ale je to jeho věc.

Ale když pomůže zvolit někoho, koho by nevolil, pokud by si o něm získal pravdivé informace, tak už to jen jeho věc není…

Jenže k tomu, abys zvolil nového diktátora, potřebuješ daleko komplikovanější strukturu, než jsou jen fake news. Tenhle typ manipulace má mnohem častěji podobu emocionální choreografie.

„Některé firmy v Číně třeba měří tepovou frekvenci všech zaměstnanců ve firmě a podle toho jim říkají, že si mají jít domů lehnout.“ -

Politické systémy v demokratickém světě mají systémy protivah. Mechanismů ve společnosti je mnohem víc – třeba soudní a policejní. Když někdo bude rozšiřovat fake news, která opravdu může někoho konkrétního poškodit – třeba že předseda lidovců chodí na satanistické mše –, skončí u soudu a zavřou ho. Máme tendenci o fake news uvažovat jako by byly ve vzduchoprázdnu, ale ony nejsou. Navíc jsou v konkurenčním prostředí. Některá média píšou o satanistických mších, jiná říkají, že to je lež. Nálada ve společnosti dovolí, aby ta zpráva byla považována za uvěřitelnou.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Když se podíváme na uplynulých skoro třicet let, našli bychom řadu výrazných chyb, které se staly, nikdy nebyly napravené a které se s konkrétními zprávami potkají. Vždyť i válečná propaganda pracovala s předsudky a stereotypy, které byly ve společnosti. Kdyby ty předsudky ve společnosti nebyly, nebyla by úspěšná.

Takže je zapotřebí podhoubí, do kterého technologie zasadíš.

Deep fakes mají proti sobě ještě jednu věc. Po libovolném obrazu chceme, aby dával smysl. Konspirační teorie jsou vděčné, protože ty potvrzují samy sebe – cokoli se stane, dává smysl. Ale většina lidí konspiračním teoriím nevěří. Takže fake news musí zapadat do nějakého obrazu – a šéf lidovců na satanistické mši smysl nedává. Může to vypadat jako pravda, ale je to nonsens.

V době sociálních sítí může být producent každý, ale nenese odpovědnost.

Nedávno ale mělo na sociálních sítích velký ohlas video, na kterém se scéna z natáčení filmu z řecko-turecké války vydávala za natáčení videa o topících se uprchlících z Afriky.

Protože spadá do nějakého příběhu. Navíc to nebyla fake news, tedy úmyslně vytvořená lež. Ten, kdo video s údajnými uprchlíky natočil a sdílel, vědomě nelhal. V době sociálních sítí může být producent každý, ale nenese odpovědnost. To způsobuje, že se do mediálního prostoru beztrestně dostává spousta hysterie. Kdyby totéž udělal vydavatelský dům, dostane strašně za uši, a může být prakticky finančně nebo právně zlikvidován. Přitom způsobená škoda je srovnatelná.

V Pekingu do roku 2021 chtějí zavést systém „bodů důvěryhodnosti“, který bude jednotlivce i firmy odměňovat či trestat podle toho, co o nich vláda s pomocí technologických zařízení zjistí. Nezvýší tohle odpovědnost lidí i institucí při šíření informací?

Tenhle systém přináší naprostou ztrátu soukromí a nezvýší nic. V první řadě to je výrazný zásah do lidských práv. Právo na soukromí je moje dominantní právo. Zadruhé dedikuje na stát věc, která státu vůbec nepřísluší. Principiálně omezuje svobody. A to pro odmítnutí stačí.

Jsme svobodní jedinci, kteří se pohybují ve společnosti. Vytváříme mechanismy k tomu, abychom spolu dokázali žít, nepozabíjeli se, postarali se o starší a podobně. Ale tyhle mechanismy neslouží k tomu, abychom se stali navzájem šmíráky.

Zmínil jsi ale, že pravdivost informace by mohl zajistit blockchain.

Systém v Číně je postavený na ideji, že některé věci se dělat mají a jiné ne. Implicitně ti tedy vnucuje etiku a morálku, a proto to je totalitní nástroj. To je něco jiného, než stanovení ceny za informace nějakou hodnotou, kterou pro tebe informace má. Ten druhý svět – Hayekovský – je postavený na myšlence, že můžeme stanovit cenu informace abstraktně na základě směny a volného trhu.

Související článek

Udělá vláda z Česka světové centrum blockchainu?

Úřad vlády se připojil k memorandu o spolupráci v oblasti používání blockchainu. Nedávno spuštěná iniciativa Blockchain Republic pod vedením České fintech asociace a Svazu průmyslu ČR má za cíl pomoci podnikatelům, přilákat k nám talenty a investice a udělat z České republiky jedno ze světových center blockchainu. Oznámil to tiskový odbor úřadu vlády.

Představ si jednoduchou aplikaci, ve které řekneš, že někomu důvěřuješ. Někdo jiný řekne, že důvěřuje tobě – a tak vlastně přenese svou důvěru i na toho, komu důvěřuješ ty. Tak vznikne síť. Lidi, kterým je důvěřováno, důvěřují nějakému zdroji. A tohle mám na mysli, když mluvím o blockchainu.

Takže to není záznam aktivit daného jedince, z nichž teprve důvěru vytváříš?

Ne. Jde o decentralizaci důvěry. Decentralizovaná důvěra může v některých případech nahradit peníze. Čínský systém je systém komunistických domovnic, které mají k dispozici internet a software na rozpoznávání obličejů.

Pokud začneme dělat stejné věci jako Čína, prohrajeme.

Pomáhají v orientaci v současném světě big data?

Big data s ničím nepomáhají. Ty prostě jsou.

Ale pak z nich něco dostáváš.

Právě čínský systém sociálního skóringu je výborná ukázka klíčového rozdílu mezi liberální demokracií a totalitními systémy čínského střihu. Technologicky je rozdíl mezi Čínou a západním světem minimální. Jenže s příchodem věcí, jako je umělá inteligence a deep learning, se role big dat trochu posunula. Často slouží jako krmení pro neuronové sítě.

To je něco úplně jiného než před deseti lety, kdy se s big daty začínalo. Tehdy bylo zřetelné, co algoritmy s big daty dělají. Dneska to tak jasně nevíme, protože deep learningu doopravdy rozumí jen pár lidí a my ostatní nevidíme pod kapotu. Často pod kapotu navíc nevidí ani těch pár lidí.

Když nemáš etickou záklopku, kterou má Západ, můžeš umělou inteligenci učit věci, které vypadají velice efektivně, ale cesta k nim je roubená masivním porušováním lidských práv a zásahy do soukromí lidí. A to je rozdíl mezi Čínou a Západem. Stojíme před problémem, jak dosáhnout stejně efektivních výsledků jako Čína, ale jinou cestou. Protože pokud začneme dělat stejné věci jako Čína, prohrajeme.

„Stojíme před problémem, jak dosáhnout stejně efektivních výsledků jako Čína, ale jinou cestou." -

Staneme se Čínou…

… a to nechceme. Technologicky je možné dělat spoustu věcí. Některé firmy v Číně třeba měří tepovou frekvenci všech zaměstnanců ve firmě a podle toho jim říkají, že si mají jít domů lehnout. Ale v tu chvíli je člověk redukovaný na věc. Pokud tohle připustíme, prohrajeme.

Kudy ven?

Nevím. Před patnácti lety taková otázka neexistovala. Doteď jsme měli obrovskou výhodu. Od poloviny devatenáctého století vyzdvihovala evropská kultura porušení normy. Bylo to žádoucí, protože rebelství s sebou nese i větší kreativitu v jiných oblastech. Abys dokázal udělat velký objev, musíš umět překračovat normy. Tohle Čína dlouhou dobu neuměla řešit.

Související článek

Roman Yampolskiy: Umělá inteligence má sílu ovlivňovat armádu i státní ekonomiku

Kdo bude v příštích letech vládnout světu moderních technologií – západní svět, nebo Čína? Má v této oblasti smysl dbát na morální hlediska, nebo rozhoduje jen efektivita? V čem umělá inteligence dokáže zlepšit svět, a jaké hrozby s sebou naopak přináší? Ideální člověk na rozhovor na tato témata je americký vědec lotyšského původu Roman Yampolskiy, jeden z největších světových odborníků na umělou inteligenci.

V Číně byl skvělý ten, kdo udělal přesně stejnou věc jako jeho mistr.

A funguje to tam stejně i dneska. Teď ale Čína našla oblast, ve které může fungovat bez inovací. Zkopíruje co vznikne zajímavého, a protože dokáže porušit etické principy, je schopná to rozšířit. A na to musíme najít odpověď.

Existuje?

Jsem přesvědčený že ano, protože kdyby neexistovala, pokrok se zastaví.

Je zbytečné je učit děti pracovat s Wordem. Lepší by bylo učit je programovat Ozoboty.

Zpátky k big datům. Jsou někde v Čechách dostupná?

Možná ano, ale myslím si, že by se ten termín už vlastně neměl používat. Původně šlo o data, jejichž zpracování je složité. Takže z pohledu diskety byla velká data mp3. Jenže už není moc situací, kdy máš data, ze kterých potřebuješ dostat smysluplné informace, ale zároveň máš velký problém je zpracovat, i když máš dost peněz.

A na zbytek stačí Excel.

Excel stačí na spoustu věcí od chvíle, kdy do něj vzniknul plugin Hadoop (pozn. red: nástroj pro zpracování big dat). Jedna věc je technický problém, který už nemáme. Ale problém na úrovni porozumění datům se objevuje znovu s neuronovými sítěmi. Objevuje se otázka morálních hranic, toho, k čemu vlastně chceme data použít. A to je aktuální.

Velkou část kariéry jsi prožil v technologických firmách, přitom technologické vzdělání nemáš. K čemu je lidem, když se naučí programovat?

Programování vede k určitému typu přemýšlení o problémech. K rozpoznávání vzorů, které se v problémech opakují. A to je v komplexním světě důležité. Takový způsob přemýšlení je jedna z mála cest, jak v komplexním světě příliš nezjednodušovat realitu a zároveň komplexnost neztratit.

Co tím myslíš?

Jsou věci, které jsou komplikované, ale je možné je redukovat. Například spalovací motor v autě – konstrukčně může být nesmírně složitý, ale jeho idea je jednoduchá. A pak jsou komplexní systémy, které není možné redukovat na jediný princip, špatně se předpovídá jejich budoucí stav, a ještě navíc spolu třeba interagují. Pro jejich pochopení je programátorské myšlení lepší než cokoli jiného.

Měla by to být součást vzdělání?

Myslím si, že když mají děti ve škole informatiku, je zbytečné je učit pracovat s Wordem. Lepší by bylo učit je programovat Ozoboty.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama