Digitalizaci neutečeme, bohužel zájmy těch, co ji řídí, se stále více rozcházejí se zájmy většiny lidí

Martina: Jak se v e-občance – občas používám e-občanku, e-doklady – ukazuje věk? Protože jsem slyšela legendy o tom, že tam je věk, že můžu ovlivnit to, že když někdo vidí můj věk, tak zároveň nemusí vidět, kde bydlím, a jestli jsem zaměstnaná. A někde jsem zase slyšela, že tam věk není vůbec. Jak to je?

Luděk Nezmar: Mělo by to být tak, že když si budu kupovat třeba alkohol, tak nechám načíst data čtečkou, a nazpátek by měla být jenom informace „mohu koupit – nemohu koupit“, to znamená, že věk by se tam vůbec neměl ukazovat. A samozřejmě velmi záleží na tom, jak to bude nastaveno, a to se samozřejmě neustále nějakým způsobem mění. A to je to, proč jsem říkal, že je důležité znát kód. Kdo si vlastně může data stáhnout? Jestli je to tak, že když přijdu do samoobsluhy kupovat alkohol, tak jestli si v ten moment může stáhnout všechna data o mně, nebo třeba jen část, nebo třeba dotyčný obchod dostane jenom informaci „můžu koupit – nemohu koupit“. Samozřejmě, že nám tvrdí, že data oficiálně stáhnout nikdo nemůže, ale vzhledem k tomu, že kód nikdo pořádně neviděl, tak mám pochybnosti.

Martina: To jsou velmi časté otázky pod nejrůznějšími promočlánky, nebo články, které se zkrátka touto problematikou zabývají: Jak je zajištěna nepropojitelnost dat? A zda ji bude dotyčný člověk moci sám regulovat? Což si nejsem jistá, když kód aplikace není veřejný.

Luděk Nezmar: Souhlasím. Já si vezmu příklad z toho, o čem jsme už v minulosti hovořili, a to je „Evropský prostor pro sdílená zdravotní data“. A tam se právě hovoří o tom, že člověk bude mít možnost povolit, nebo nepovolit, a určit, jaká data si dané zdravotní zařízení může stáhnout. To znamená, že když budu v Itálii, zlomím si nohu, tak jestli třeba doktorovi dovolím podívat se na minulost, třeba na mé rentgenové snímky, a jestli beru warfarin. Ale je tam ještě druhá část, ve které se hovoří o tom, že pro výzkumné účely – já jako člověk – souhlas dávat nebudu, a kdokoliv, kdo o to, v uvozovkách, projeví zájem, a dostatečně prokáže relevantnost svého zájmu, tak si data stáhnout může. A relevantnost prokazuji tím, že přijdu s myšlenkou nějakého projektu, kde řeknu, jak tato data využiji, a co z toho budu mít. No jo, ale to si klidně můžu napsat, vymyslet, a pak řeknu: „Bohužel, projekt se nepodařil, tak to se omlouvám“ – a prostě data mít budu. A to je to, čeho se obecně obávám. Není nic cennějšího než data o nás.

Martina: Četla jsem mnoho analýz od odborníků, kteří se obávají tohoto sdíleného evropského prostoru. Obávají se dokonce digitalizace zdravotních dat u nás, v naší zemi, natož ve sdíleném prostoru, protože riziko ztráty klíčových zdravotních dat – a jak jsi říkal – také našeho genomu, a podobně, může být značné. Každou chvíli se hovoří o útoku hackerů na letiště, o prolomení firewallu, a podobně. Řekni mi, jak je možné, že z toho vlastně nikdo nemá strach? Že si neuvědomujeme, že by tato data měla být – když už budou někde katalogizována – delimitována, a nikoli, že budou na jednom místě?

Luděk Nezmar: Jedna z vět, která mi utkvěla při mém studiu ekonomie, jsou slova Miltona Friedmana: „Za vším hledej peníze.“ A bezpochyby je to i tento případ. Hezkou ukázkou tohoto je současný projekt elektronizace českého zdravotnictví – tento zákon už nějakou dobu leží ve Sněmovně, a přitom existují funkční projekty komerčního charakteru, kde už zcela běžně nemocnice mezi sebou data sdílí. Ale stát má opět potřebu přijít s projektem, který by měl toto všechno nahradit. Už několikrát se ho pokoušel realizovat, a vždy se odsouvá datum realizace, a posouvá se i datum zákona, který by to měl řešit. Tyto věci jsou nepřipravené, jsou neuvěřitelně zrychlené, a čím rychlejší a nepřipravenější projekt je, tím víc zranitelnosti a nebezpečí – z pohledu kyberbezpečnosti – v tom je.

O tom, kdo má mít přístup k osobním zdravotním datům, by měl rozhodovat každý člověk sám

Martina: Když se bavíme o zdravotních datech, umím si představit, že kdyby se pod jedno jméno třeba shromažďovaly údaje o lécích, které ten který člověk bere, tak by to mohlo mnohým ušetřit práci, a bylo by to pro pacienta bezpečnější, protože kdyby lékaři věděli – že jeden předepisuje léky na vysoký tlak, druhý na nízký, třetí statiny, a že se to dá dohromady, tak takový koktejl důchodce dlouho nevydrží – tak by to možná mohlo pomoci. Ale z vlastní zkušenosti vím, že třeba terénní sestra, která jezdí za lidmi domů, přístup k těmto údajům stejně vůbec nemá. K čemu je to tedy vlastně dobré?

Luděk Nezmar: Jak jsi to popsala, tak to by přesně smysl dávalo. Ale tam je nejklíčovější to, že by se měl rozhodnout dotyčný člověk sám. To znamená, ne že přijde zase nějaké moudro ze shora, které řekne: „A takhle to bude.“ Dotyčný člověk má přeci právo rozhodovat o svém životě, měl by vědět, jaká rizika s tím souvisí – myšleno se sdílením dat – a umím si představit, že pro někoho to může být smysluplné a výhodné, a stojí mu toto riziko za to. Ale měl by to rozhodovat daný člověk, a nikoliv, že mu to bude nařízeno zákonem, stejně jako byly nařízeny datové schránky. Ta doba se blíží. My jsme hovořili o sdíleném prostoru zdravotních dat, ale takových sdílených prostorů dat se blíží celá řada, včetně energií, to znamená, aby stát věděl, kolik kdo z nás odebírá energie, na co ji odebírá, v jakých časových intervalech, nebo kolik jí vrací. To znamená, že prostorů sdílených dat se připravuje mnohem víc, a zdravotní data jsou pouze první, protože u zdraví člověka se to asi zdůvodní nejlépe.

Ledničky, které přes čárové kódy přečtou, co do nich dáme, sporáky fungující přes wi-fi, jsou hlouposti, kterými se vydáváme absolutně všanc

Martina: Musím říci, že – a teď to opravdu trochu odlehčím – v okamžiku, kdy někdo zjistí, že máš velkou uhlíkovou stopu, protože jsi letěl na dovolenou, tak po zbytek roku jíš jenom chrousty, protože musíš odčinit svou uhlíkovou stopu. A když z jiných sdílených dat zjistí, že máš velkou spotřebu energie, tak s tím ještě zjistí, že někde pravděpodobně kupuješ maso na černo, a smažíš si řízky.

Luděk Nezmar: Je to přesně tak, samozřejmě. S využitím umělé inteligence se to dá velmi efektivně zjistit. Všichni si pořizují ledničky, a lednička si přes čárové kódy přečte, co tam člověk dává. Všichni si pořizují plotny, které se dají zapínat na wi-fi. Za mě je to hloupost, tito lidé se dávají absolutně všanc.

Martina: Myslíš, že v tom je třeba málo osvěty? Že je to jakési okouzlení novými technologiemi? Že je zatím jenom toto?

Luděk Nezmar: Ano, protože tito lidé totiž nevědí, co to všechno je, a jak se s těmito daty dá pracovat.

Martina: Už jsme tady zmínili – ty už jsi zmínil – že přes e-doklady se dostáváme k Evropské digitální identitě, takzvané EUID, protože právě pro ni, na ni jsou naše e-doklady designovány. Pojďme si ještě přiblížit, co všechno to znamená. Co si pod tím mohou lidé představit? Protože jinak je to jenom další věc, která vzniká rádoby „pro naše dobro“, nebo se tak rozhodně, usilovně tváří.

Luděk Nezmar: EUID je počin Evropské unie, která před časem přišla s myšlenkou jednotného digitálního pasu. V podstatě to nabralo obrátky během covidu, aby se tím lidé prokazovali. V současné době to je ještě stále ve stádiu příprav; samotné EUID ještě realizováno není. Nicméně notičky pro státy vydány jsou, a podle toho byly designovány i e-doklady. Ale v případě EUID to není jenom o takzvaném „IDčku“, o občance, ale mělo by to právě obsahovat celou řadu dalších dat, včetně toho, že by do budoucna mělo EUID sloužit i jako digitální peněženka pro Evropskou centrální banku, respektive pro měnu CBDC.

Kdo bude mít e-doklady připojené k Evropské digitální identitě, bude také automaticky připojen na digitální euro

Martina: To znamená, že když někdo stále vzdoruje, a nechce platit digitálně, tak v okamžiku, kdy bude mít tyto e-doklady, a tyto e-doklady budou připojeny k Evropské digitální identitě, tak to znamená, že budou automaticky připojeny na digitální euro?

Luděk Nezmar: Myslím, že takhle úplně to neřeknou, ale samozřejmě takhle to skončí. V této souvislosti si myslím, že také proto je tak velký tlak – například od pana prezidenta – na přijetí eura, protože pro ně je zcela klíčové, aby to bylo hezky kompatibilní tak, abychom začali používat euro co nejdřív. Protože s korunou by byly starosti. A v současné době třeba při České národní bance už existuje pracovní skupina na digitální e-korunu, a pokud je mi známo, tak už existuje nějaká analýza pro českou korunu v digitální podobě.

Martina: Myslíš, že přeskočíme dokonce papírové euro, a rovnou přejdeme na digitální euro? Protože když už jsme přece investovali do celého systému e-dokladů, a když jsme investovali na napojení na evropský systém, tak se přeci nebudeme zdržovat papírovými eury?

Luděk Nezmar: Kdybychom měli schopnou vládu, tak bych řekl, že ano. Ale při pohledu na současnou vládu jsem poměrně v klidu, protože si myslím, že oni budou mít dost starostí s tím, aby vůbec lokálně rozjeli e-doklady.

Pro vládnoucí elity by bylo velmi pohodlné, kdyby mohly vydávat digitální měnu, protože by měly kompletní přehled o každém z nás

Martina: Řekni mi, je toto vše příprava ze strany Evropské unie, a potažmo nás samotných, na odstranění hotových peněz?

Luděk Nezmar: Pro ně by to bylo nesmírně pohodlné, kdyby mohli vydávat digitální měnu, protože by měli kompletní přehled o každém z nás. Ale tištění nových peněz také něco stojí, a než je banka dostane do oběhu, tak to také chvíli trvá. To znamená, že ano, je to bezpochyby jejich cíl, protože je to všechno potom mnohem snazší. Mnohem snáz se potom lidé ovládají, protože nastane přesně stejná situace, jako v Kanadě, to znamená, že truckerům, řidičům kamiónů, kteří tam rebelovali, sebrali peníze, respektive jim zablokovali účty. A to se přesně stane momentem, kdy jediné, co budete mít, je digitální peněženka. To znamená, že celý tento systém slouží k ovládání davu, lidí, a k vynucení poslušnosti.

Martina: Ale nesmí mít díry, to znamená, že musí existovat e-doklady ve všech státech Evropské unie, a ty musí být napojeny na Evropskou centrálu digitální identity, a následně musí existovat digitální euro, digitální měna, protože jinak by tam stále ještě něco drhlo.

Luděk Nezmar: Myslím, že Orwell byl v tomto směru prorokem.

Martina: No, myslím, že až takovou fantazii neměl, protože nevěděl, co jednou budeme mít k dispozici. Řekni mi: Působíme teď při tomto rozhovoru tak, že tomu nefandíme?

Luděk Nezmar: Byť jsem dennodenním uživatelem počítačů, byť dennodenně pracuji s umělou inteligencí, a své děti vedu k tomu, aby rozuměly digitálním věcem, tak je ale také vedu k tomu, aby si uvědomovaly rizika, která s tím souvisí. Neutečeme tomu, ale tyto věci je potřeba posuzovat zdravým selským rozumem. A hlavně si uvědomit, co je cílem těch, kteří momentálně o digitalizaci rozhodují. A obávám se, že se cíle lidí, občanů, čím dál tím víc rozcházejí s cílem těch, kteří nám vládnou.

Martina: Jakým způsobem vyhodnocuješ velmi časté tvrzení především mladých, kteří říkají: „Mně to nevadí. Vy tady stále mluvíte o nějakém riziku absolutního sledování, ale mně to nevadí, protože nemám co skrývat“. Jak vyhodnocuješ toto zjednodušení života?

Luděk Nezmar: Pokusím se to také zjednodušit: Koho Mao použil v čínské revoluci?

Martina: V kulturní revoluci?

Luděk Nezmar: V kulturní revoluci. Všechno to byli mladí lidé, to znamená, lidé bez zkušeností, bez toho, aby si uvědomovali dopady, které to na ně bude mít. Takže to je moje vysvětlení. Tato děcka – a tím myslím všechny do 30 let – nedohlíží reality, a toho, jak ve skutečnosti svět funguje.

Když o mně bude vládnoucí skupina vědět přes digitální technologie vše, nebudou mi sociální sítě poskytovat informace, třeba kdy bude stávka, nebo volby, protože bych nejednal tak, jak oni chtějí

Martina: Myslíš, že je to také tím, že už se narodily do svobody – i když třeba v mnoha aspektech relativní svobody, ale svobody – takže si vůbec neuvědomují, co to je, když o ni přijdou, třeba i prostřednictvím těchto digitálních dokladů?

Luděk Nezmar: Myslím, že to není úplně o tom, že by se narodily do svobody. Ony by si to neuvědomovaly v žádném zřízení. Je to prostě nezkušenost, jsou to chybějící zkušenosti.

Martina: V diskuzích na sociálních sítích se poměrně často objevují obavy, že jde také o to odstranit anonymitu lidí, aby byli za jakýchkoliv okolností, při jakýchkoli činnostech identifikovatelní. Vidíš i tady riziko, řekněme, nadměrné identifikace kdykoliv se člověk přihlásí do systému – a když navíc zároveň nebude možné se do něj nepřihlásit?

Luděk Nezmar: Zcela jednoznačně. Dám úplně konkrétní příklad: V momentě, kdy o mně vládnoucí skupina bude vědět téměř všechno, to znamená třeba i moje koníčky, moje oblíbené hry, tak může nastat situace, že na sociálních sítích Facebook, LinkedIn, prostě na těch, které sleduji – mi v době, kdy bude třeba probíhat nějaká stávka, které bych se normálně účastnil, nebo třeba jenom volby, kde bych volil jinak, než si vládnoucí skupina představuje – nebudou sociální sítě přes své algoritmy podávat informace o tom, co se děje. Tedy, že jsou volby, že je nějaká stávka, a to proto, že budou vědět, že jsem milovníkem koček, a budou ukazovat výstavu kocourů, budou mě zvát na fotbalové utkání mého nejoblíbenějšího týmu, budou mi zdůrazňovat, že moje rodina bude mít oslavu. Ale také budou velmi zásadním způsobem selektovat informace, které budou chtít, abych viděl, a naopak mi nebudou zobrazovat to, co se jim nebude hodit. A to dokážou pouze v momentu, kdy o nás budou vědět vše, a kdy nebudeme anonymní. A to už nejsme teď.

Martina: Vytvoří ti svět, ve kterém se bude krásné žít.

Luděk Nezmar: Dá se to tak říct.

Martina: Sice bude vylhaný, sice nebudeš vědět o ničem, co se děje mimo tvé sociální sítě, ale bude ti hezky.

Luděk Nezmar: Řekl bych, že to se děje i teď právě hrami s dezinformacemi, s tvrzením, že: „Toto je dezinformace, toto není dezinformace“. Vždyť už jsme na této trajektorii zcela jednoznačně. Oni mi nedávají prostor k tomu, abych se při svých znalostech, zkušenostech, vzdělání rozhodoval podle sebe.

Martina: A navíc, pokud se podaří uvést všechny tyto technologie do praxe, tak hrozí, že v okamžiku, kdy náhodou budeš málo povolný, tě na dálku vypnou – jak jsi tady říkal – nejrůznějším způsobem, ať už je to odstřihnutí od financí, od nejrůznějších služeb, od péče, od školství. Je toto všechno reálné? Nebo malujeme čerta na zeď?

Luděk Nezmar: Čerta na zeď určitě nemalujeme. V Číně to funguje, ale tam jsou s tím lidé seznámeni, a vědí, jak tento sociální kredit funguje. Ale proboha, svobodná Kanada udělala přesně toto. Ona prostě zastavila přístup lidem k jejich vlastním finančním prostředkům. Co jiného to je?

Nařízení Digital Service Act je nástroj, který lze použít k cenzuře, protože vyžaduje hlídání obsahu sociálních sítí

Martina: A jak si tedy vyložit proklamace Evropské unie o zajištění kybernetické bezpečnosti a budování stále lépe zabezpečeného systému?

Luděk Nezmar: Teď je nová směrnice NIS2, která se do českého zákona promítne prostřednictví novely Zákona o kybernetické bezpečnosti, a tam je úplně nádherně vidět, jak se ta hranice posouvá. První představení tohoto zákona, novely, před rokem bylo z mého pohledu relevantní – byla tam celá řada omezení, která skutečně působila tak, že by naše data chránila. Ale s každým dalším měsícem se tato novela změkčuje a změkčuje, takže prostor pro kybernetický zločin se zvětšuje a zvětšuje. Nelíbí se mi způsob, jak to teď naše vládnoucí garnitura řeší.

Martina: Už jsi tady zmínil zkratku DSA, nařízení o jednotném trhu digitálních služeb. Jeho cílem má být zajištění správného fungování jednotného trhu, udržování bezpečného online prostředí a ochrana základních práv uživatelů. Už jsi klidný?

Luděk Nezmar: To tedy rozhodně nejsem, protože DSAčko, jak se tomu říká, je z mého spíš, jak říkají Angličané, cenzorship, to znamená, že je to nástroj, který lze bez pochyb použít k cenzuře, protože vyžaduje hlídání obsahu třeba sociálních sítí. Ale proboha, kdo má právo rozhodovat o tom, co je správně, a co není správně?

Martina: No ten, kdo ví, co je správně?

Luděk Nezmar: To jsem z mého pohledu jenom já, a nikdo jiný mi do toho nemá co povídat.

Martina: Proto je součástí tohoto nařízení také moderování obsahu sociálních sítí, což je v podstatě jenom čtyřmi slovy řečeno jedno slovo – cenzurování, protože jestli naše rozmlouvání bude mít nějakého spolumoderátora, tak si zkusme představit, jak to bude vypadat.

Luděk Nezmar: To bychom se pozdravili, a pak bychom se na konci rozloučili, a zbytek rozhovoru by asi nebyl.

Martina: Jaká další rizika DSA může mít?

Luděk Nezmar: Z mého pohledu je podstatnější právě cenzura, která se bude odehrávat při množství dat umělou inteligencí, protože to reálně jinak vyřešit nejde. To znamená, že o tom, co je správně, a co není správně, bude rozhodovat počítač. A o tom přece v rámci názorů, v rámci pohledu na život, nemůže rozhodovat mašina.

Umělá inteligence není správný název. U současné AI o inteligenci nelze hovořit. Jsou to jen algoritmy, výpočty. Inteligence je spojena s kreativitou.

Martina: Myslím, že zejména za poslední rok už jsme se jednoznačně přesvědčili, že může. Z toho, co umělá inteligence urazila za poslední rok – alespoň z toho, co vidíme, protože to samozřejmě už pod povrchem dávno bublalo, připravovalo se, dodělávala se technologie, když to řeknu humpolácky, a o čem jsme teď informováni in natura – víme, že může. Už jsi tady zmínil, v čem všem může být umělá inteligence přínosem. Myslíš si, že z ní dokážeme vytěžit také přínosy, nebo nakonec přeci jen její negativa převáží, protože jí odevzdáme víc, než je zdrávo?

Luděk Nezmar: Mně se v první řadě nelíbí používání termínu „umělá inteligence“, protože současný stav umělé inteligence je takový, že o inteligenci hovořit nelze. Jsou to jenom algoritmy, výpočty. Pro mě je inteligence spojena s kreativitou, s řešením novými způsoby, což se u umělé inteligence může stát jenom náhodou. Ona umí pracovat jenom s obrovskými objemy dat, a vyselektovat z toho, o čem má pocit, že chceme vědět. To je jenom pohled na umělou inteligenci.

Stačí se teď podívat na nový Samsung, kde hlavním tahákem v reklamě je: Samsung má umělou inteligenci, která už je zabudovaná přímo v telefonu. To znamená, my se s umělou inteligencí budeme potkávat čím dál tím častěji – na ulicích, v autech, při telefonování, koneckonců i doma bude pekáč péct sám. Ale bude to bezpochyby znamenat jednak hloupnutí lidí, a také obrovské riziko, že o našich životech nebudeme rozhodovat my, ale právě nějaký mikroprocesor.

Martina: Já tady vidím ještě jedno velké riziko, které spadá do mé oblasti zájmu, do zpravodajství, že už nebude možné věřit ničemu, protože ačkoliv je umělá inteligence – jak jsi řekl – ještě ne úplně inteligentní, tak už ale prokázala, že je vzdělavatelná. A ty sám jsi před chvílí zmínil reálnou situaci z Německa, kdy umělá inteligence dokázala napodobit hlas, kdy manžel zavolá manželce a řekne: „Okamžitě pošli peníze!“ nebo výkupné nebo něco podobného, a stačilo to. I tato „chytrost“ umělé inteligence stačí na totální zmatení.

Luděk Nezmar: Souhlasím. Jednoznačně jsme se dostali do stádia, kdy nelze věřit tomu, co vidím, co slyším. To jednoznačně. Takzvaná deepfake videa už lze udělat úplně běžně doma, konec konců jsme v poslední době svědky celé řady hezkých ukázek. Ale o to víc by si lidé měli uvědomit, že vzdělání je jediná možná obrana proti tomu, co se teď ve světě děje.

Aby člověk nezhloupnul, tak je nejrozumnější vypnout televizi, mobil, a žít reálný svět, a ne se plácat ve virtuálních bublinách

Martina: „Jediná možná obrana je vzdělání“. Ano. To, že lenivíme a hloupneme, nám rozhodně nepomáhá. Ale je to skutečně obrana? Protože ty přesto všechno nebudeš schopen rozeznat, co vytvořila umělá inteligence, a co vytvořil člověk. Co je pravda, a co faleš.

Luděk Nezmar: Dobře, tak možná ne vzdělání, možná pochopení. Možná je vzdělání základ pro to, aby člověk dokázal uvažovat zdravým selským rozumem. A myslím, že úplně to nejrozumnější je vypnout televizi, vypnout mobil, a žít reálný svět. Nikoliv se plácat ve virtuálních bublinách.

Martina: Ale to nejde. A pracuje se na tom, že to nepůjde vůbec. Protože není možné se v tuto chvíli vypnout. Nejde to, protože tím přestáváš být součástí této společnosti.

Luděk Nezmar: Ano. To znamená: Jde to. Ale znamená to také dát velké oběti, a primárně obětovat pohodlí. Znamená to žít na chalupě, sekat dřevo, pěstovat si něco na zahrádce, chovat kravičku s prasátkem. Ano, ale je to odstřihnutí od standardní společnosti.

Martina: A možná to do budoucna ani nebude možné, protože když lidé, kteří toto rozeznávají, odjedou na chaty, chalupy, a odejdou z veřejného života, tak kolem bude ještě rychleji probíhat proces digitalizace, a proces jejího pronikání do veškerých oblastí životů lidí, a její tvůrci už na nikoho ani nenarazí.

Luděk Nezmar: Ano, tato úvaha je děsivá, a samozřejmě do značné míry pravdivá. A další krok je takový, jak se uvádí v jedné aktuálně publikované studii, že člověk, pokud si pěstuje na zahrádce své vlastní věci, to znamená mrkev, kedlubnu, tak zanechává mnohem větší uhlíkovou stopu, než když to kupuje v marketu. Myslím, že je možná na čase přestat blbnout s uhlíkovou stopou, a vrátit se k realitě života.

Martina: To možná na čase je. Ale jde to?

Luděk Nezmar: Pokud se pro to rozhodnou lidé – a myslím, že teď je to krásně vidět ve Francii, v Belgii, v Německu – tak to bezpochyby půjde.

Martina: Ty jsi teď zmínil, že lidé, kteří se snaží alespoň trochu samozásobit, jsou napadáni, že jsou škůdci planety. Když tady byl známý bloger Vidlák, tak říkal: „Sedlák je největším nebezpečím pro každou vládu, protože je víceméně soběstačný, nebo zná sedláky, se kterými mohou směňovat.“ A proto můžeme už delší dobu být svědky toho, že zabíjačky už nejsou tak úplně v pořádku, není možné prodat zabíjačku, dokonce snad ani není možné ji jen tak darovat. Znamená to, že i tady přichází snaha o závislost na jednom telefonu, na centrálních datech? Jako by tlaky přicházely ze všech stran.

Luděk Nezmar: Proto jsem strašně smutný z toho, že počítače – moje životní láska – se teď v podstatě používají primárně jako zbraň, nikoliv jako to, co má lidem přinést dobro a usnadnění. A já samozřejmě na zahradě svůj traktor mám.

Martina: Bavili jsme se o tom, jak se bude umělá inteligence vyvíjet dál, a jak bude stále více schopna nás naprosto mystifikovat. Myslíš, že další vzácný čas našich životů budeme trávit tím, že budeme rozkrývat, zdali to, co jsme viděli, je pravda, nebo je to umělá inteligence? Že si budeme platit odborné analytiky, právníky, kteří to budou rozeznávat? Protože se může stát, že se nás to bude týkat, protože třeba někde v budoucnu bude zveřejněn jakože nějaký náš projev, který bude úplně nesmyslný, nebo naopak řekneme větu opravdu xenofobní, a my budeme muset dokazovat nejenom světu a médiím, ale také své rodině a sousedům, že to opravdu nejsme my.

Luděk Nezmar: Toto nebezpečí samozřejmě hrozí, a se zvyšováním výpočetního výkonu půjde kvalita rapidně nahoru. A to nemluvím o tom, že kvantové počítače už jsou kousek od toho, kdy to bude zcela radikální skok. Já se svým způsobem budoucnosti obávám, protože směr, který většina lidstva zvolila, je z mého pohledu prostě mylný, chybný. Ale tak to v minulosti vždycky bývalo, a ono nás to někdy na racionální trajektorii vrátí zpět. Otázkou je kdy, a kolik nás to bude stát?

Řízení našich životů umělou inteligencí není budoucnost – to už se děje. My v tom už žijeme, a jenom to ještě není vidět.

Martina: Můžeme se tím, že odevzdáme nejrůznější rozhodovací pravomoci umělé inteligenci, vystavit velkému nebezpečí, třeba i ohrožujícím život, pokud bude rozhodovat v oblasti dopravy, zbraní, armád, bezpečnosti, bude rozhodovat soudní procesy, bude rozhodovat o našem zdraví, léčbě?

Luděk Nezmar: Na této otázce se mi nelíbí jedna věc, a to použití budoucího času, „bude“. Ne, ono už se to děje. Soudní rozhodnutí v Americe se otestovala, dokonce se používají autonomní zbraně, existují, testují se. Jsou to třeba drony, které dokážou rozpoznat člověka, přilétnout, zastřelit ho, nebo shodit granát. To není budoucnost, my to žijeme, jenom to ještě není vidět.

Martina: Pak už nezbývá než jet do Německa, kde v jednom kostele mají robota, který vám udělí požehnání a rozhřešení.

Luděk Nezmar: Ne, já bych to řekl jinak: Opravdu nezbývá nic jiného než vzít traktor, jet do Německa, a připojit se tam k těm klukům, kteří žijí standardní život zemědělců.

Martina: Jenomže z našich médií se převážně dozvídáš jen to, že jsou tam potíže s dopravou.

Luděk Nezmar: To je samozřejmě naprosto šílená věc, že při množství moderních technologií, možností, které jsou, jsou informace selektovány – a je to, o čem jsem mluvil – podle toho, jak chtějí, abychom uvažovali. A tady je to vidět. Tady je začátek.

Martina: Ty jsi navrhoval život ve smyslu „odstřihnutí se“. Ale sám to neděláš, a myslím, že vidíš, že tvoje děti toho schopny nejsou. To znamená, že to je vlastně slepá cesta. A pokud se na ni vydá málo lidí, tak výsledkem nebude samostatně hospodařící zemědělec a sedlák, ale spíše vidím film Demolition Man, a skupinu neočipovaných lidí, kteří žijí v kanálech a pochvalují si krysí hamburgery.

Luděk Nezmar: Tady bych úplně nesouhlasil. Ano, já třeba zcela běžně používám mobilní telefon, ale já jsem si ho upravil, to znamená ode mě Google informace nedostává. A to je to, co by bylo potřeba udělat. Největším nebezpečím společnosti jsou v současné době Big-Tech, Big-Pharma, protože to už není tak, že by náš život řídily vlády. Ve skutečnosti ho řídí tyto korporace. A to je to nebezpečí.

Martina: A jsi si jistý, že i tvůj upravený mobil nemůže být cinknutý?

Luděk Nezmar: V tomto směru jsem si velice jistý, protože si to upravuji sám, a nikoho jiného do toho nepustím. Myslím, že tomu rozumím natolik, že si toto troufám prohlásit.

Martina: To znamená, že si opět vytváříme v životě další problém, protože budeme muset hledat lidi, jako jsi ty, pokud si budeme chtít nechat upravit bezpečnostní systémy našich mobilů, našich počítačů. Protože, přeci jen, jsme – myslím – stále ještě ve stádiu, kdy většina lidí má přístup do mobilu 1234.

Luděk Nezmar: Je to opět o pohodlnosti lidí. Čím víc je člověk pohodlný, tím víc se vydává všanc tomu, že jeho život bude absolutně kontrolován.

Hrozí nám absolutní digitální gulag. Technologie nám budou říkat, co máme dělat, a to podle přání úzké skupiny lidí. Nechci být digitálním otrokem.

Martina: Jenom aby nám ještě zbyl čas na život samotný, když budeme tak dohlížet na to, abychom nebyli sledovatelní. Já jsem teď řekla možná trochu pejorativně, že naše digitální znalosti, a znalosti technologií, nejsou až tak značné – zahrnuji do toho i sebe. Ale přesto mě překvapil výsledek referenda v loňském roce v Ženevě, kde se obyvatelé v počtu 94,21 procent hlasů vyslovili pro zakotvení práva pro digitální integritu v ústavě svého kantonu, a tento ústavní článek – který je prvním svého druhu na světě – zakotvuje právo na ochranu před zneužitím zpracování údajů, o digitálním životě, právo na bezpečnost v digitálním prostoru, a – už jsme tady zmiňovali – také právo na off-line život, a možnost být zapomenut. Jak to, že někde to jde, a 94,21 procent lidí ví, že toto je zdravá cesta do budoucnosti?

Luděk Nezmar: Protože to jsou Švýcaři. Já si myslím, že to je jediná možná cesta z této šlamastiky. Pokud nebudou nejen zákony, ale i chování lidí dostatečně – teď hledám správné slovo – ne bezpečné, ale…

Martina: Zodpovědné?

Luděk Nezmar: Možná zodpovědné, to je hezké slovo.

Martina: Prozíravé a bdělé.

Luděk Nezmar: Výborně, neřekl bych to lépe. Tak nám skutečně hrozí absolutní digitální gulag. Technologie nám budou říkat, co máme dělat, a budou nám to říkat podle toho, jak si to velmi úzká skupina lidí bude přát. Já nechci být digitálním otrokem.

Cestou z hrozícího digitálního gulagu do budoucnosti je dát do ústavy právo na analogový off-line život, a právo na platbu v hotovosti

Martina: Vidíš reálnou cestu?

Luděk Nezmar: Ano, ve Švýcarsku. Přesně tak, jak to udělali tam. To je první, základní krok, dát do ústavy právo na analogový, nebo se také říká off-line život, a právo na platbu v hotovosti. To je cesta do budoucnosti.

Martina: Udělala to SPD, která navrhla zakotvit do ústavy právo na platbu v hotovosti. Udělali to senátoři kolem Jitky Chalánkové z klubu ODS a TOP 09, a – výsledky zde nejsou.

Luděk Nezmar: Vím, že se o to snažili i lidé kolem pana Rajchla, a vím, že je celá řada iniciativ, které jsou roztříštěné. Ale, popravdě řečeno, od současné garnitury nečekám, že by toho byli schopni. Je to primárně o lidech, aby zvedli hlavu a uvědomili si, jaká budoucnost se pro ně připravuje. Bez těchto lidí se tyto věci nezmění – to je základ.

Martina: Luďku Nezmare, moc ti děkuji za tvou temnou vizi budoucnosti, pokud se nezačneme starat sami o sebe. Děkuji mnohokrát.

Luděk Nezmar: I já děkuji za milé pozvání.