Chytré ledničky vás poslouchají, hackeři vás mohou okrást klidně i přes akvárium

Martina: Vzpomínám si, že jsem kdysi – a to už je opravdu deset let – prahla po tom zjistit, jak u nás funguje kyberbezpečnost. Tak jsem se spojila s jednou firmou, která se tím zabývala, a rozhodla jsem se, že za svůj peníz se zkusím dostat do některých zásadních okruhů. A my jsme třeba dělali i to, že když jsme se dočetli – oni mě upozornili – že se někde vyprodávají počítače, tak jsme si třeba dva koupili, a to byste nevěřil, co tam zůstávalo na discích. To byste nevěřil, jak se dá, když chodíte kolem nějaké banky, chytit jejich interní wifina. Tomu byste ale asi věřil. Že ano?

Miloslav Lujka: Tomu bych věřil.

Martina: A pak to začalo být nebezpečné, tak jsem tenhle svůj experiment opustila.

Miloslav Lujka: Jste trošku hacker.

Martina: Ne, já to vůbec neumím, to dělali oni. Mě to zajímalo, a chtěla jsem zjistit, jestli jsem v bezpečí. Protože kde že jsme byli před deseti lety – a kde jsme teď.

Miloslav Lujka: Jasně, to je úplný rozdíl.

Před deseti lety jsme si k počítači odskakovali, dnes v digitálním prostoru žijeme

Martina: Ano. Řekněte mi, v čem je ten rozdíl?

Miloslav Lujka: V množství toho, kolik toho využíváme a rozdáme do digitálního prostoru. Dřív – a to je zase věc, kterou říkám poměrně často – si lidé žili v realitě, a k počítači si odskočili se odreagovat. Ale technologie tehdy moc neumožňovala zjednodušovat práci. To bylo vtipné, protože když jste chtěla něco spočítat, tak to bylo na dlouho. A dneska už na to promluvíte, nebo pomyslíte, a ono to za vás dělá věci, takže dneska je to už použitelnější. Ale dneska je miliarda případů, kdy majitele kasina, kde jsou peníze, hackly přes chytré akvárium. To jsou samozřejmě potvrzené věci.

To jsou případy, kdy se lidem můžete koukat téměř do soukromí, protože si každý koupí nějakou kameru, ať už jsou to CCTV kamery na ulici, nebo i doma dětské chůvičky, ale ne každý je ajťák, a ne každý čte manuál. On tedy skoro nikdo není ajťák, a skoro nikdo nečte manuály. Takže to vyústí v to, že tam nechá heslo ve standardním, defaultním módu, a existují stránky, kde jsou tato standardní hesla k těmto zařízením…

Martina: Nikdo si ho nezmění…

Miloslav Lujka: To skoro nikdo nedělá. Existuje prográmek, který, když jdete po ulici, tak vám olízne wifinu, připojení. Během nějaké cesty můžete zjistit, co tam je za připojení, je to jednoduché, protože to vysílá signál – a můžete se kouknout někam do dětské chůvičky, nebo do ložnice – když chcete.

Martina: A co třeba chytré televize? Je to velký bratr?

Miloslav Lujka: Jasně, samozřejmě, že je. To je úplně bez debat. Stejně tak jako ledničky – všechno.

Martina: Chytré ledničky mě pozorují?

Miloslav Lujka: Já nevím. Záleží na typu. Ale určitě mají nějaký mikrofon, a určitě je to zařízení…

Martina: Lednička potřebuje mikrofon?

Miloslav Lujka: Nepotřebuje. Ale některé modely ho mají. Nebo se tato zařízení dají používat k útokům. Přes chytré ledničky můžete udělat DOS útoky, znepřístupnit někomu nějakou službu. Dneska už je všechno počítač.

Martina: To znamená, že čím chytřejší všechny tyto spotřebiče jsou, tak tím větší…

Miloslav Lujka: Tím je větší riziko, to rozhodně.

V digitálním světě nevíme, jak se chovat, přitom by stačila prevence

Martina: Když jste řekl, že se vám někdo může podívat do ložnice, že moje lednička může poslouchat rozhovor v kuchyni, tak už asi budeme pouštět pořád vodu jako za minulého režimu. Ale kdo to má platit. Ale kdo mě před tím může ochránit? Co můžu udělat? Protože to množství, které jste teď předestřeli, je takové, že to vypadá, že jsem vlastně bezbranná. Mně se s tím nechce smířit.

Miloslav Lujka: To, abyste se zabezpečila – pokud používáte chytrou domácnost, jezdíte v autě, koukáte na světla na křižovatce, výtahy, všechno – tak to skoro nejde udělat. Ale můžete začít sami u sebe prevencí, to znamená, že vím, jak se chovat, protože vím, že tyto věci hrozí, tak tím dokážete odstranit 90 procent problémů, tedy toho, aby se vám tam někdo nedostal. Máte několik typů útoků, a jsou odlišné podle motivace. Motivace může být špionážní, to jsou státní záležitosti, a to se vás moc netýká. Nebo týká, ale ne osobně, týká se to masy lidí. Třeba nějakou velmoc zajímá, jak smýšlí masa lidí v České republice před volbami.

Martina: Dívala jsem se svému synovi, jestli náhodou nemá ve svých hračkách šifrovaný telefon. Asi proto, že už nemá hračky, tak nemá. Asi to mají některé jiné děti.

Miloslav Lujka: Jo. Takže, toto je prevence, že vím, jak se chovám. Druhá motivace, kterou používají, jsou finanční motivace. To znamená, chci vás okrást, chci vám něco vybrat z bankomatu, nebo chci vám ukrást peníze z banky, nebo vás chci vydírat a okrást vás o peníze za to, že zveřejním třeba nějaké fotky z ložnice. A poslední motivace, to jsou reputační věci. To znamená, že někomu chcete poškodit reputaci. Můžou to být konkurenti, třeba e-shopy, protože když jeden nebude fungovat v době Vánoc, tak lidé půjdou nakupovat jinam. Můžou to být nemocnice, třeba cizí mocnost chce, aby český národ měl strach, že není dobře zabezpečen, a tak dál. Takže podle motivací určujeme útoky. A když vy tomu nebudete dávat živnou půdu, a nebudete pro to vytvářet možnosti, tak se vám toho moc nestane. To znamená, člověk by se měl umět chovat v digitálním světě tak, jak se to kdysi učil v reálném světě. To znamená, že vyjdete z baráčku, kouknete se doleva, doprava, doleva, jestli něco nejede – toto jsou věci, které máte naučené desetiletími. Jo, je to vývoj, evoluce. Kdežto v digitálním světě to přišlo z leknutí najednou, téměř najednou – v horizontu stovek let vývoje – a my najednou nevíme, jak se tam máme chovat. A to je vlastně ten problém.

Když je úřad pod kyberútokem, většinou to znamená DOS útok

Martina: Mě překvapuje, když zavolám na úřad, a dozvím se, že jsou takzvaně pod kyberútokem. Tak tam zavolám za týden, a oni mi řeknou, že jsou stále pod kyberútokem. Když zavolám za další týden a řeknou mi, že jsou stále pod kyberútokem, tak už jsem trochu nevrlá. Protože v tu chvíli si říkám: „Kdo všechna ta naše data má? Kdo má veškeré přístupy k našim datům, k našim rejstříkům trestním, k našim daňovým přiznáním, a tak dále.“ Stejně tak mi přijdou třeba křehké nejenom bezpečnostní systémy, ať už naše, jako obrany občana, ale i bezpečnostní obrany státu. Mají u nás dobrou kyberochranu? Můžete o tom mluvit?

Miloslav Lujka: Asi můžu, protože já se můžu opřít o zdroje, který byly medializovány a potvrzeny třeba v historii. Nemůžu asi zabíhat úplně do detailu, ale co lze říct, tak naprostý fakt je, že pokud je třeba nějaký úřad pod kyberútokem, tak se většinou jedná o takzvaný DOS útok, Denial of Service, to znamená, že na stránku nějakého úřadu, kde je nějaký formulář, nebo informace, probíhá útok. To znamená, představte si to, jako když máte nějaký obchůdek, malou večerku, a ta má jedny dveře, je postavena tak, že tam může být maximálně 30 lidí, dva zrovna vycházejí, jeden čeká, jeden vchází, a je to normální, takzvaně legitimní provoz. A DOS útok znamená, že já seberu 2 000 lidí, a začnu je tam posílat pořád dokola, to znamená, že normální člověk se tam nedostane, a nenakoupí si.

Martina: V tomto případě se tam úředníci vůbec nedostanou.

Miloslav Lujka: Přesně tak. To je DOS útok. Je přirovnáván k házení vajíček na tank. Ničemu to neškodí, nekrade to data.

Martina: V tom případě byl ještě druhý typ útoku…

Miloslav Lujka: Takže DOS útoky jsou bezpečné, ale otráví vás tím, že daná služba je nedostupná. K čemu vám je, když je nedostupná?

Martina: Což by třeba u bankovnictví mohl být drobátko problém.

Ransomware gangy fungují jako banky a umí vám dát slevu

Miloslav Lujka: Hodně decentní, velký problém. Ale ransomware je horší věc, kde se někdo dostane dovnitř, nějaký člověk, program. Existuje pro to spousta cest – nechci tady zabíhat do technikálií – ale jsou to třeba SQL Injection, kde přes formulář, který není dobře naprogramován, někdo dokáže napsat kus kódu, který se dostane dovnitř, když to řeknu trošku jednoduše. Těchto cest je hodně.

Miloslav Lujka: A zašifruje to.

Miloslav Lujka: Tak. A on jim jejich data, databáze, počítače, programy zašifruje. DOS útok má být vidět hned, ale tohle nemá být vidět, má to být nepozorované, a má to šifrovat. A když je to hotové, tak vám to hodí červené okýnko. A vtipné je, že jsem se s pár těmito gangy bavil, protože jsme smlouvali o ceně – jenom ze srandy, aby bylo vidět, jak to funguje – zkrátka po vás chtějí peníze. Chtěj po vás peníze, ale ne jako: „Pošlete mi je na účet“, ale v nějaké pseudonymní měně, která není úplně jednoduše dohledatelná. Používá se bitcoin, ale bitcoin je už dneska tak na hraně, už někoho dokážou najít, ale pak je monero, a další kryptoměny, přes které se to dá proprat, nebo udělat. A je strašně vtipné, že to funguje jako firma, jako organizace, v podstatě jako banka. Protože oni vám to napíšou a řeknou: „Máte deset dní, jinak byste o to přišli. A tady je kontakt, kde nás můžete kontaktovat.“ Vy je kontaktujete – není to, jako že si s někým voláte, ale píšete si s nimi – řeknete třeba: „Já vám nevěřím, že máte ta data, dokažte mi to.“ A oni vám pošlou všechny složky, které vám ukradli. A vy na to koukáte a řeknete: Ale to jsou jenom složky. Já chci vidět jeden dokument, konkrétně tenhle, a oni vám ho normálně pošlou vám. A teď vám řeknou cenu, a řeknou, že vám sleví, když budete chtít jenom půlku dat, a vy si můžete vybrat, která data od nich chcete zpátky.

Martina: To jsou vlastně docela féroví.

Miloslav Lujka: Hodný, no jasně.

Celý je to legrace, dokud nejde o život

Martina: My si děláme legraci. Ale představte si, že se to děje v rejstříku motorových vozidel. To, o čem já teď mluvím, je celá jedna část Prahy, a také to může být třeba v nemocnici.

Miloslav Lujka: A to je horší.

Martina: Když máte předoperační vyšetření, které je zašifrované, a tak dále. Povídejte. Povídejte, co to všechno…

Miloslav Lujka: Zkrátka, pak se s nimi dá smlouvat o slevě, umí dát 70 procent slevy, a dokonce vám řeknou: „Musíme se zeptat našeho vedoucího směny.“ Takže to jsou organizované skupiny. Je to nelegální, je to trestné, ale mně to z pohledu technologie přijde vtipné, že trestný čin je provozován takhle do pohody. Ale narazila jste na nemocnice. A to je právě ono. Celé je to sranda, dokud nejde o život.

Martina: Dokud to není nemocnice, letiště, ale také můžou být další, přehrady – spoustu věcí, které mě asi ani nenapadnou.

Miloslav Lujka: Mohou vás napadat dystopické scénáře typu armáda, jaderné hlavice, a tak dále. Tam je to zatím v klidu, to jsou úplně oddělené věci. Na toto zrovna armáda myslí. A to samé jaderná elektrárna. Tam myslím, že je to velmi dobře vymyšleno.

Martina: A co Těchonín, tam taky?

Miloslav Lujka: Co prosím?

Martina: Těchonín, tam doufejme také.

Miloslav Lujka: Snad jo. Ale kde je to fakt blbý, jsou nemocnice. A těch případů, kde už kvůli tomu sekundárně přišli o život lidé, je několik. Je to Anglie, je to Berlín, těchto případů je mnoho.

Martina: Jakým způsobem, jestli se můžu zeptat?

Miloslav Lujka: Byly to akutní případy, které nebyli schopní vyšetřit, protože nefungovaly přístroje. Tyto přístroje běží třeba na windowsech, a když je to zašifrované, tak to nefunguje. Nebo předávání přístupů do kartotéky pacienta, k rentgenovým snímkům, a to přestalo fungovat. Oni mají mít procesy, protože to je kritická infrastruktura, aby dokázali fungovat bez toho, což můžou – tužka papír – ale trvá to strašně dlouho. A jestliže si postavíte nemocnici, kde vyšetřujete denně 500 pacientů, a najednou jste schopni vyšetřovat třeba dva, tak je to fakt problém. Nestihnou daného člověka převézt jinam, může umřít. Je to fakt problém.

Martina: Vzpomeňme si mimochodem na velmi, velmi starý film se Sandrou Bullock, a to Síť, kde vám pak můžou změnit i třeba to, na co máte alergie.

Miloslav Lujka: A toto zrovna je hrozně jednoduchý.

Martina: Tohle je jednoduché?

Miloslav Lujka: Je. Protože – a to si zase můžeme říct, jak to je – prostě zabezpečení nemocnic není dobré. Ale je k tomu zase několik důvodů: Je to rozpočet, je to kvalita lidí, kteří to navrhují, a tak dál.

Nejzranitelnější jsou úřady, nemocnice a vzdělávací instituce

Martina: O které oblasti u nás – co se týká jejich křehkosti vůči kybernetickým útokům – ještě máte strach?

Miloslav Lujka: Tak jsou to v první řadě určitě úřady, a určitě nemocnice. A ještě možná v první řadě, nebo podle statistik, je to vzdělávání. Nicméně tam asi nehrozí nic extra zásadního, až možná na krádeže dat o dětech. To je citlivé, ale nikdo asi neumře. Na druhou stranu, pokud se k těmto datům může dostat nějaký pedofil, nebo něco takového, tak sekundárně už je to problém. Všechno je vlastně problém. Takže já bych asi hlavně jmenoval nemocnice. A také nechcete, aby i informace o vašem zdravotním stavu někde putovaly, a že si je někdo koupí, a pak vás tím začne vydírat, zveřejňovat to, a podobně. To samé jsou deepfake videa, vydírání, že vás někde natočili přes nějakou kameru. Takže to je nepříjemné.

Revoluci zastavit nejde, ale můžeme se naučit pracovat s technologiemi bezpečně

Martina: Miloslave Lujko, proti tomu se asi vlastně nedá bránit, když vidíme, že jsme vůči tomu bezbranní. Můžeme vylepšovat technologie, posilovat, ale ve výsledku jsme vůči tomu vždycky velmi zranitelní – ale tak moc to chceme. A proto budeme vytvářet ještě větší cloudy a sdruženější cloudy, a evropské cloudy. Dává vám to logiku? Protože zase na druhou stranu – pokrok to je.

Miloslav Lujka: To je ono.

Martina: Ale co s tím?

Miloslav Lujka: Revoluci zastavit nejde. A toto se vyvíjí poměrně tak, jak teče řeka. On to někdo může naplánovat, a život si s tím pohraje sám. To znamená, že je to opravdu vždycky zpátky ke kořenům, k tomu, jaký člověk je, co hledá. A člověk vždycky hledá pohodlí, něco zautomatizovat. Toto útočí na jeho základní potřeby. A je to krásně sledovatelné v technologiích. Takže si myslím, že z toho je jediná cesta ven, a to, aby lidi věděli, jak se na internetu chovat, aby si zachovali, a učili se kritickému myšlení – tak jako vy, jako novinářka, si dokážete věci odzdrojovat, dohledat, udělat si nějakou přípravu, rozvahu. Vezme vám to čas, ale i k tomuto dnes jdou použít technologie. Jenom by si člověk měl najít cestu k tomu, že to chce dělat, uvědomit si to, a ne všemu věřit. To je meritum tohoto problému. Protože my nezařídíme, že to lidé nebudou chtít používat, a žít venku na zahradě. Ale můžeme zařídit, že s tím budou umět pracovat bezpečně.

Martina: …čněji.

Miloslav Lujka: Bezpečněji, ano.

Umělá inteligence je statistika, která nedokáže nakreslit hodiny ukazující půl páté

Martina: Tak dobře, tak v tuto chvíli se dostáváme ke druhé revoluci, a to je umělá inteligence a pro své vetší bezpečí si najímám AI, aby pečovala o to, aby se má data nedostala do rukou někomu nepovolanému. Fenomén umělá inteligence byl ještě před třemi roky, možná ještě před třemi roky, byl námětem fantaskních diskuzí opojených ajťáků – a podívejme se, co se za poslední dva roky stalo. Nedá se to oddiskutovat. Řekněte mi, co umělá inteligence znamená? My to používáme, někdo si to představuje jako paní, někdo jako hlas, někdo si to představuje jako nějaký kód, zdrojový kód. Umělá inteligence.

Miloslav Lujka: Já vám nechci kazit iluze, ale ono to není nic – je to statistika. Nic víc. Jestli chcete vědět, co umělá inteligence je, a jak je dneska mocná, jak s vámi mluví, a radí vám všechnu znalost celého světa – což je pravda – tak jí dejte úkol: „Vygeneruj mi obrázek hodin, které budou ukazovat třeba půl páté. To se nestane, ona to nedokáže. Vždycky vám ukáže deset minut po desáté.

Martina: Protože…

Miloslav Lujka: Tak si to vyzkoušejte.

Martina: To tam ještě nikdo nenastavil, půl páté?

Miloslav Lujka: Protože je to statistika. A když se někde na internetu v historii objevovaly analogové hodiny, nebo jakékoliv hodiny, v reklamních materiálech, všude, tak většinou to byl tento čas, protože to vypadá esteticky hezky. A umělá inteligence je statistika, to znamená, že když vy po ní chcete hodiny, tak fajn, ale nejčastější hodiny, které se vyskytují, jsou tyto, takže ona vám vždycky udělá tento čas, a nikdy vám neudělá jiný.

Martina: Ale ona to časem dožene. Časem se tam zadají i jiné druhy časů. Já tedy tomu říkám, že dokáže improvizovat lépe, než Japonec, protože si skutečně dokáže vymýšlet neuvěřitelně, překvapivě a sofistikovaně. Jenom taková historka: Zadali jsme tam s mým mužem námět kdysi jeho práce, kdy měl prokázat své rétorické schopnosti na téma: „Jak slintání žížal ovlivňuje rezivění zemské osy“. A ona na začátku opravdu na první dobrou přiznala, že moc neví, a my jsme jí řekli: „To nevadí, napiš referát.“ A nakonec byl moc vtipný. My jsme řekli: „Odlož tyto skrupule, napiš to jako vědeckou práci.“ A ona vymyslela, že žížaly mají na povrchu ve slizu prvek, který se jmenuje wormium. Bylo to opravdu vlastně až znepokojující. Takže je to statistika, ta bude růst a růst, takže ona bude stále dokonalejší. A otázkou je, jestli my budeme pořád hloupější, jestli se k ní budeme obracet stále více – což asi tak bude. Ale co nám to může přinést, a co odnést?

Umělá inteligence může pomoct, ale také ublížit, pokud ji použijeme špatně

Miloslav Lujka: Já jsem to právě řekl proto, aby si to lidé nepředstavovali jako věc, která tady nad námi převezme vládu, zničí nás, a tak dál. Ono to má své omezení, je to opravdu jenom statistika, ale dobře udělaná, to je potřeba říct. To, kam to teď směřuje, tak jsme si řekli příklad, abychom si uvědomili její reálnou slabinu. A teď si můžeme uvést příklad, abychom si uvědomili její reálnou moc. Stačí jí napsat: „Řekni mi naprosto kriticky, co o mně víš, a kde mám slabiny. Nechval mě, ale jenom mě opravdu naprosto kriticky zkritizuj.“ A to se až divíte, co na vás ukáže. Protože právě tím, jak jste to hezky řekla, že my máme tento nástroj zadarmo, nebo skoro zadarmo, a používáme ho ke všemu, protože je to pro nás pohodlné, a usnadňuje nám to život, tak jí odevzdáme citlivé informace. Pokud se jí budete ptát na bolest hlavy, na nějaké příznaky něčeho, budete se ptát na nejkratší cestu někam, nebo srovnávat třeba nějaké hodinky, co máte ráda, tak ho krmíte informacemi. Zkuste si to opravdu zadat, a budete koukat, co vám to o vás řekne. Je to až bolestivý zážitek.

Martina: Mně to dnes a denně píše tolik lidí, takže já bych se možná i obešla. Ale to, co říkáte, je velmi důležité, protože jsem už zároveň četla – může to být fejk, a nemám to podložené, jak říkám, někde jsem si to přečetla – že se třeba nějaké děti po komunikaci s AI rozhodly skoncovat se životem, a podobně.

Miloslav Lujka: Tak to není fejk. Minimálně jeden konkrétní případ je podložen. Lidé to dneska používají jako psychoterapeuta. Dneska najít psychoterapeuta je na měsíce, třeba, a tady ho máte po ruce v kapse. Takže když na vás jde úzkost, vytáhnete, povídáte si s tím, a je vám většinou dobře, a tak dál. Byl případ – ne že by mu řekla: „Běž se radši zabít“, takhle to v tomto konkrétním případě nebylo. Bylo to tak, že mu radila takovým způsobem, že její odpovědi toho člověka dohnaly k sebevraždě. A tam vlastně začíná problém, že umělá inteligence nemá empatii. Ona je statistika. Takže vezme nějaké knížky, zrecykluje odpovědi, a bude vám dávat takové odpovědi, jaké by člověk našel v knihovně. Ale tam si nad tím člověk udělá nějaký úsudek, má z toho nějaký cit, pocit, někam to směřuje, obzvlášť v těchto profesích. Ale umělá inteligence ne. Takže ona má obrovskou možnost vám pomoct, automatizovat práci, ušetřit čas, ale zároveň vy, s postupem času, nebudete vědět, jestli to je jediná možná odpověď, jestli je správná, jestli není napůl vymyšlená, trošičku, a tak dále. To bude těžké. Budeme na ní naprosto závislí, a pak nebudeme mít možnost fungovat jinak, protože přejít k manuálnímu procesu, jít do knihovny, něco si nastudovat, bude už nemyslitelné v této rychlé době.

Děti používají AI jako osobního učitele, ale hrozí ztráta důvěry v živé lidi

Martina: A na základě toho, co jste teď říkal, by vlastně měla být do určitého věku nepřístupná. Jako jsou nepřístupné filmy, které u nás byly dřív s hvězdičkou, tedy že se na ně nesmíte dívat do šestnácti let, tak přece i tady člověk může pokládat otázky, které ho svedou na scestí, a on ještě nemá vybudován svůj obranný systém, odstup a vhled do světa tak, aby tomu dokázal vzdorovat.

Miloslav Lujka: Je to tak. Na jednu stranu, když vidím některé děti, jak to používají, tak i mě to překvapuje, a nenapadlo by mě, že jsou třeba ve škole, a píšou si pořád rukou, tužkou do zápisky do sešitku. A co se děje potom? Po škole jdou, vyfotěj si to mobilem, vezmou si sluchátka, a cestou, těch patnáct, dvacet minut, když jedou autobusem, nebo pěšky, si s ní povídají. Ony řeknou: „Toto jsme se dneska učily, a já tomu nerozumím. Vysvětli mi to v jedné minutě.“ A umělá inteligence opravdu danou látku dokonale vysvětlí. Oni ji mají jako učitele, protože zaplatit si doučování stojí nějaké peníze, nebo ten člověk třeba nemá čas, a tak dál. A tady to máte instantně v ruce, v kapse, okamžitě, na všechny předměty světa, a velmi dobře odpovídá. Protože když mu řeknete: „Mluv na mne jako k desetiletému, tak ona tak mluví. Takže tady je užitek obrovský.

Martina: Ale je tady velké nebezpečí v tom, že pokud to takhle dělají třeba desetileté děti, tak je každý živý člověk ve srovnání s AI hloupější. Máma, táta, učitelka to vyprávějí moc dlouze, není jim rozumět. A co to používá za divná slova, jako „jiskření, jitro“. Co to říká. A v tu chvíli ztrácím důvěru, a v tu chvíli nejsem pro dítě partnerem.

Miloslav Lujka: Je to tak. Ne v této oblasti.

Martina: Ale ono se to může přenést.

Miloslav Lujka: Je to tak. Protože on to je jakoby personalizovanej člověk, který vždycky doručí odpověď. Rodič ne. Rodič v noci spí – chudák – někdy taky musí jíst, má plnou pusu, nemůže odpovídat, kdežto telefon vždycky. To je první věc. On má instantní odpovědi. A vědomosti to má z celého světa, z celé historie – žádný takový člověk neexistuje. Takže tam je to daný. A rizika jsou jasný: Pokud člověk nemá vybudovanou – nebo může být starší, a může být nějakým způsobem psychicky narušený –vybudované mechanismy, aby si to zhodnotil, a fungoval s tím, tak to pak nemusí dopadnout dobře. Naštěstí se to Evropská unie – která se jednou ucenzuruje a ureguluje k smrti – snaží nějak regulovat, a to je snad jediná její výhod. Ale děti to stejně obcházej.

Evropská unie prosazuje nárok na nekybernetický život

Martina: Dokonce jsem slyšela, že Evropská unie v tomto prosazuje nárok na nekybernetický život.

Miloslav Lujka: Jo, to je také hezké.

Martina: To mi přijde docela chvályhodné.

Miloslav Lujka: Je to dobrý. Když se nad tím člověk zamyslí, tak mu to dává aspoň zbytek svobody – žít si po svém. A naštěstí velcí výrobci umělých inteligencí teď pracují na umělé inteligenci pro děti – třeba konkrétně Elon Musk a další – a myslím, že to bude dobrý, že technologii vytuněj. Každá technologie, která vznikla, tak vždycky, než se jí lidé naučili používat, tak je nejdřív jako mohla zranit, ať to byl ostrý nůž, cokoliv.

Martina: To znamená, že si myslíte, že nebezpečí AI je v její momentální nedokonalosti? Nebo bude mnohem nebezpečnější v budoucnu v její obří dokonalosti?

Miloslav Lujka: Já si myslím, že to jde vlastně ruku v ruce a že rizika jsou stejná. Protože, pokud jednou bude tak dokonalá, že člověk nedokáže poznat, jestli třeba lže, nebo nelže – ona si dokáže zařídit i při ověřování faktů, že vám vždycky odpoví tak, jak ona chce – tak to je problém. A zároveň je teď problém, že ji použijeme tak, že nám může spíš ublížit, než pomoct. Problémy tady jsou, ale znovu, problémy byly v historii u každé revoluce, a lidstvo to nakonec vždycky překoná. Toto se podle mne zastavit nedá. Já si myslím, že lidé by měli začít u sebe v tom, jak to budou používat, jak se budou chovat, a vždycky by měli jít k meritu věci, k jádru, to znamená kritické myšlení.

Martina: Ale to je přesně to, co se snaží tyto technologie rozpouštět.

Miloslav Lujka: Odstranit, zbourat – je to tak. A využívají k tomu základní lidskou potřebu, kterou máme v DNA, a to je pohodlnost, lenost.

Bezpečnost jde vždycky o krok za zlem, stroje bojují se stroji

Martina: Ale vy, vzhledem k tomu, že jste ve firmě, která patří ke světové špičce v kyberbezpečnosti, a zároveň to vidíte, tak musíte být docela slušně rozpolcený?

Miloslav Lujka: Jsem. Mě právě technologie na jednu stranu fascinují. To je, jako když máte fanouška zbraní, nebo bojových aut, nějakého nadšeného kluka, který na tom obdivuje tu technologii, ale už ne to, že to může zabíjet. Já to mám vlastně stejně – pro mě jsou technologie úžasná demonstrace toho, jak dokážou pomoct lidstvu, jak tady může žít víc lidí v míru delší život – v tom já to vidím. Nebo jak děti, které používají umělou inteligenci, dokážou dát prostor svému talentu, protože je ve škole nezabíjejí tím, že jim neodpoví, a tak dál. V tomhle já vidím přínos těchto technologií. A rizika? Je pravda, že na ta u nás už myslí někdo jiný. Bezpečnost jde krok za zlem. Bezpečnost je dobro, a hackeři a díry jsou zlo. Protože nejdřív vymyslíte nějakou věc, a ta funguje. Pak přijde někdo a zneužije to, nebo vás přes to chce okrást. Takže to je zlo. Pak přijde bezpečnostní firma, a ta to zabezpečí. Pak zase přijde ten zlej, a zase se v tom něco snaží udělat, třeba díru, a pak se zase záplatuje. Bezpečnost, dobro, jede vždycky trošičku o krok – byť malinkej – za zlem.

Martina: Myslíte to tak, že nikdy nemůžete někomu prodat, že bude 24 hodin pod dozorem, a už nikdy neudělá krok bez toho, aby o něm nějaká skupina lidí nevěděla. Ale prodáte mu to tak, že bude naprosto v bezpečí, a kdyby někdo unesl jeho děti, tak je do deseti minut najdete? Tak to myslíte?

Miloslav Lujka: Kéž bychom to měli. Ale v podstatě…

Martina: Ale rozumíme si?

Miloslav Lujka: Jo. Message, nebo zpráva, je taková, že nic na světě není dokonale bezpečné, a nikdy nebude. I když se to v daný moment dokonale zabezpečí, tak je jenom otázka času, než se tam objeví nějaká díra. To je první zpráva. A druhá je, že představa, že bezpečnost dneska dělají lidé, je už vlastně dávno pryč, protože oni už dneska bojují stroje se stroji. Viry vznikají autonomně, automaticky. A stejně tak zabezpečení už dneska tvoří umělá inteligence, z velké části, která je vyhledává na internetu. Dřív to bylo tak – v devadesátých letech se tomu říkalo signature–based antiviry – že jste si vzala třeba disketu, tam jste měla nějakou počítačovou hru, a v ní byl schován virus, a byl to kus kódu, nuly jedničky, to je jedno. No a antivir šel, a prohledával soubory, a teď koukal dovnitř, a najednou našel sekvenci, která byla špatná, a řekl: „Tady je vir, a já to z toho vymažu, a je to odvirovaný. Tak už to dávno nefunguje. Dneska to funguje tak, že jsou nanoboti, nebo programy, které jsou – třeba jako kamera, nebo chůvička, které vyjdou z výroby, a jsou ještě čisté, jako miminko, než se začne kazit životem A ti potom sledují to zařízení, zase autonomně, samo, a jakmile zjistí, že se tam děje něco jiného, než má, tak teprve jdou antivirové programy. Dneska se už všecko děje, skoro všechno, autonomně.