Cíl je jasný: Zachránit se, přežít a udělat pro to všechno

Diskutuje se o tom, ale svět běží dál stále stejným směrem. Hrozí situace, kdy umělá inteligence převezme vládu nad světem? Je možné svěřit vojenská řešení, především v oblasti zbraní hromadného ničení, automatickým systémům? Existuje možnost, jak se vyhnout rizikům, které rozvoj umělé inteligence přináší, nebo cesta zpět již neexistuje? O těchto a dalších tématech rozmlouvá Martina Kociánová s analytikem z Asociace pro mezinárodní otázky Luďkem Jiráčkem v druhém dílu rozhovoru.

Martina: Technologie razantním způsobem mění naše životy. To, jak se změnily jednotlivé obory díky technologiím za posledních 30 let, nemá v historii obdoby. Proměňují se také válečné konflikty. Budou za nás v budoucnosti bojovat především stroje, nebo si člověk uchová zásadní roli i ve válkách?

Luděk Jiráček: Záleží na tom, o jaké budoucnosti budeme hovořit. Už nyní probíhá propojování robota a člověka, využíváme algoritmy ke zpracovávání dat a podobně. Masivní investice jsou vidět v USA, Číně i jinde.

Martina: Víte, jak probíhá vývoj autonomních bojových robotů? Je tomu tak, jak to známe z filmů?

Luděk Jiráček: V tuto chvíli systémy nefungují komplexně. Máme různé zbraňové systémy, různé programy na zpracování dat. Jsou využívány k plnění specifických úkolů, které se každým rokem rozšiřují. Cílem je stále větší komplexnost, tedy možnost plnění více úloh, na základě kterých budou pracovat zbraně, letouny, programy v počítači a tak dále. Propojování člověka s roboty zde je a vlády do toho investují nemalé prostředky, protože tím eliminují jiná rizika, která jsou spojena s válečnými konflikty. Například se takto omezují případné oběti.

Zbraně jsou k tomu, aby likvidovaly nepřátele

Martina: Nejsem si jista, jestli jste mi odpověděl na otázku, zda směřujeme k tomu, že za nás v budoucnosti budou bojovat především stroje. Dobrým příkladem jsou asi bezpilotní letouny, protože naše současné nastavení je mimo jiné takové, že jsme ochotni jít do válečného konfliktu za určité ideály, ale jen do doby, než se objeví první mrtví. V nedávné historii jsme to viděli. V okamžiku, kdy je zabit první člověk, vyrážíme do ulic demonstrovat za mír. Povede to k dalším technologiím, které budou předpokládat co největší ztráty u protivníka a zároveň, pokud možno, žádné u nás?

Luděk Jiráček: To je cílem. Zbraně jsou k tomu, aby likvidovaly nepřátele, nicméně musejí být v souladu s mezinárodním právem, což znamená rozdělení na civilní a necivilní objekty a subjekty. Demokratické země musí co nejvíce udržovat mezinárodní právo.

Systémy se vyvíjí tak, aby vždy zlikvidovaly daný cíl, třeba nějakého teroristu, kterého budeme chtít cíleně zničit. K tomu technologie slouží, a pokud je nebudeme mít my, tak je dříve či později získá druhá strana. Konkurenční boj zde je a bude a robotizace se bude rozšiřovat. Je to přirozený vývoj, podobně jako v našich normálních životech. Nebudeme posílat zprávy pomocí papírové korespondence, raději ji pošleme elektronicky s rizikem, že se může objevit někde, kde nechceme. Je to levnější a rychlejší než klasický dopis. Vývoji se nevyhneme, a pokud bychom se mu chtěli vyhnout a udělat krok zpět, tak přijde někdo jiný, kdo nás převálcuje.

Martina: Tím jste řekl, že bojový robot se již opravdu neřídí zákony robotiky, jak je formuloval Isaac Asimov, podle nichž robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo. Toto je záležitost, která patří do dob Karla Čapka?

Luděk Jiráček: Jde o to, jak definujeme slovo robot. Ale ano, zbraň neslouží k tomu, abychom se na ni dívali doma na zdi. Zbraně slouží k tomu, aby zabíjely, popřípadě nás chránily. K tomuto jsou vyvinuty, to je přirozené.

Teroristé nedodržují žádná pravidla, mají zásoby ve školách a nemocnicích a obviňují Izrael z útoků na civilní budovy

Martina: V této souvislosti je mi stále záhadou, že máme k dispozici velmi moderní a technologicky vyspělé zbraně, přitom ale armáda USA, která je nejvyspělejší na světě, mnoho let na Blízkém východě proháněla skupiny nesrovnatelně slaběji vyzbrojených teroristů a povstalců. A na některých místech, jako je třeba Afghánistán, to platí dodnes. S výbavou za desítky miliard dolarů si americká armáda nedokáže poradit s houfy bojovníky s kalašnikovy, RPG a podomácku vyrobenými bombami za pár korun. Čím to?

Luděk Jiráček: Válečné konflikty nejsou jen o technologiích, ale také o podmínkách, které se v bojích uplatňují. V boji se zeměmi, které nedodržují mezinárodní právo, používají civilní obyvatelstvo jako štít, znají své prostředí, jste v některých částech boje v nevýhodě. Demokratické země dodržují určitá pravidla, takže nemůžeme vzít zbraň, přijít do budovy a začít střílet na všechno, co vidíte.

Samozřejmě, každý konflikt má civilní oběti. Nicméně když se podíváte třeba na poslední konflikt v Izraeli s organizacemi Hamás a Hizballáh, kde jsem zrovna v tu dobu byl, tak tam bylo krásně vidět, v čem je problém v boji proti terorismu. Na straně teroristů nejsou žádná pravidla, mají zásoby ukryté ve školách, nemocnicích, kde jsou civilisté a brání se mimo jiné tím, že obviňují Izrael, že útočí na civilní budovy. Občas je těžké s tím bojovat i jenom mediálně. V té zemi jsem byl a to, co přicházelo ze strany OSN a dalších zemí, bylo pro ně nepochopitelné.

Martina: V jakém smyslu?

Luděk Jiráček: Jak odsuzovali v některých případech Izrael, který bránil svoji zemi. Je to nejdemokratičtější a nejsvobodnější země na Blízkém východě a chtěla uplatnit právo na sebeobranu. V médiích ale bylo možné vidět, jak je to obtížné a že to tak nebylo vnímáno všemi.

Martina: Myslíte si, že Izrael je jediná země, která je schopna postavit se terorismu se vším, co to obnáší?

Luděk Jiráček: Nemyslím, že by to byla jediná země.

Martina: Ukazuje se, že mimo vyspělosti technologií také záleží na odhodlání a motivaci bojovníků. Samozřejmě Afghánistán je specifický terén a specifický problém, ale Izrael se už neohlíží na to, co říkají jiné země. Řeší to tak, jak uznává za vhodné.

Zbraně slouží k tomu, aby zabíjely a chránily nás

Luděk Jiráček: Oni musí, jinak by nepřežili. To je ta největší motivace. Pokud nebudou dělat to, co dělají, tak prostě zmizí. Ta země nebude existovat. Oni se musí bránit a technologie jim pomáhají. Mají takové technologie, které dokáží velmi dobře eliminovat raketové útoky z jiných zemí. Efektivita dosahuje 90 až 95 procent.

Mohli jsme v přímém přenosu sledovat, jak Izrael likviduje rakety z jiných zemí, které tam tehdy létaly každý den. To další země nedokázaly. Pokud by Izrael takové technologie neměl, včetně ochoty a motivace investovat do výzkumu, vědy a armády, tak by prostě neexistoval, protože nepřátel v okolí je tolik, že by to bylo velmi rychlé. Situace je tam velmi komplikovaná a nemyslím, že se někdy vyřeší. Velmi je podporuji a držím palce. Dokážu se vcítit do situace, ve které jsou, a chápu, proč ti lidé přemýšlí tak, jak přemýšlí.

Když jsem se z Izraele po pěti týdnech vrátil domů, tak jsem nechápal, co tady řešíme. Proč se zabýváme názvem pomazánkového másla. Vždyť je to jedno, ať si to vyřeší každý podnik, jak chce. Měli bychom řešit to, aby naše země a naše svoboda byly i v budoucnu tak kvalitní jako dosud. My ale řešíme opak. Zdanění robotů, zákaz kouření v restauracích, výkon vysavačů. Ale cíl je ve skutečnosti jasný: Zachránit se, přežít a udělat pro to všechno.

Proto je občas po návratu z takovýchto zemí aklimatizace obtížná. Pokud byste letěla do USA nebo Kanady, žila a pracovala tam, tak by to pro vás byl asi značný kulturní šok. Já jsem se už po roce těšil domů. I když jsou tam životní podmínky vysoce nadstandardní, lidé velmi přátelští, tak mají jiné priority, jiný styl chování. Je to opravdu hodně odlišné a bylo těžké to všechno přijmout.

Martina: To, co jste řekl, bylo velmi osobní. Ale znamená to, že jsou mnohem víc závislí na technologiích?

Luděk Jiráček: Určitě.

Martina: Přesto si umím představit, že jste při náletech v Izraeli měl všechny technologie a možná i umělou inteligenci nesmírně rád.

Luděk Jiráček: Velmi jsem si cenil všech technologií, které v Izraeli jsou. Třeba Iron Dome, protiraketový systém, který je velmi efektivní.

Nicméně na druhou stranu, když jste v západním světě, tak vidíte, jak technologie ovlivňují lidi v tom, že se nedokáží vyjádřit a přestávají běžně komunikovat, pečovat o svou rodinu, protože řeší něco v telefonu. Je to k zamyšlení. Bohužel tyto návyky jdou také k nám a budou zde za chvíli běžné. Nejrychleji ve velkých městech.

Investování do nových technologií je nezvratné: je lepší, když je máme dříve než protivník

Martina: Obdivoval jste všechny technologie, které mohl Izrael využít na svou obranu. Nicméně se tím dostáváme k tomu, že jsme na cestě, ze které již není návratu – point of no return. Tyto technologie stejně tak využívají protivníci a teroristé. Mluví se o možných útocích za pomoci dronů a víme, že Islámský stát je už zhusta využíval na území, kde operoval. Kam to může vést? Budeme vyvíjet stále dokonalejší technologie a umělou inteligenci, ale oni také. Navzájem si je budeme krást. Kde se to zastaví a k čemu to je?

Luděk Jiráček: Přesně jste popsala takzvané bezpečnostní dilema. Nekončící spirála ve zbrojení, předhánění a tak dále. To, kde to skončí, dokážu těžce odhadnout. Nemám křišťálovou kouli a necítím se na to, abych soudil, co se bude dít za 50 let. To se nedá odhadnout.

V odborné veřejnosti se příliš nevedou diskuse o tom, že by mohl být sestaven robot, který bude bojovat a nakonec se obrátí proti nám, ale spíše o tom, že může být nastaven a naprogramován systém, který bude mít jiné cíle, než máme my. Ne že začal fungovat úplně jinak, než jsme chtěli, ale že cíl bude trošku jiný, než jsme chtěli. To je ten největší problém. Ale investování do nových technologií je nezvratné a vždy bude lepší, když technologie budeme mít dříve my, než protivník.

Martina: Ale přece i ten nejinteligentnější člověk nemůže předvídat, jak bude uvažovat bytost, která je inteligentnější…

Luděk Jiráček: To už se jedná o superinteligenci, ke které jsme se ještě nedostali. Nyní jsme ve fázi, kdy je lidský operátor stále důležitý. Existují technologie, které dokáží fungovat bez zásadních lidských zásahů. Ale to ještě není superinteligence, která dokáže přemýšlet sama, fungovat bez operátora, sama sebe vylepšovat a být chytřejší než my.

My dokážeme přemýšlet komplexně, to stroje zatím nedokáží. Mají úzký záběr, nemají lidskou ani zvířecí psychiku. Toto vše je opravdu strašně daleko. Obavy, že k tomu dojde, zde jsou a je právě dobré, že se o tom začíná hovořit. Je dobře, že o tom mluví lidé, kteří jsou úspěšní v soukromém i veřejném životě, že o tom mluví do médií a že se tyto hrozby veřejně prezentují. Je potřeba nastavit mantinely. Ale vždy tu bude strana, která nebude mít stejné cíle jako my. Proto je důležité mít lepší technologie, než mají oni.

Martina: Dočetla jsem se v jednom z vašich rozhovorů, že podle šéfa britské zbrojovky BAE v současné době se ve více než čtyřiceti zemích světa snaží vyrábět autonomní roboty s cílem zabíjet. Člověk vždy bojoval. Ale pokud se jedná o čtyřicet zemí světa, tak se opět nabízí úvaha, že to nemůže dopadnout dobře a že se to nezastaví.

Luděk Jiráček: To se nedá zastavit, je to náš přirozený vývoj. Je to smutné, ale tak to je. Kdybychom se teď zvedli a šli do společnosti, která se zaměřuje na vývoj technologií a umělé inteligence v obranném průmyslu a přesvědčili bychom je, aby skončili, tak prostě přijde někdo jiný. Vývoj nejde zastavit.

Mezinárodní zákon je založen na důvěře. Důvěra mezi státy však neexistuje

Martina: V tomto případě asi nepomůže nastavit nějaký právní rámec a pravidla pro používání takových zbraní, protože ho nebudou všichni dodržovat.

Luděk Jiráček: Mezinárodní zákon je založen na důvěře. Důvěra mezi státy však neexistuje. Občas nemáme důvěru ani v mezilidských vztazích. I kdybychom uzavřeli smlouvu nebo úmluvu, tak nemáme jistotu, že to bude druhá strana dodržovat. Když ji nedodrží a budete chtít to právo vymáhat, tak následky činu už mohou být dávno pryč, už bude pozdě.

V oblasti jaderných zbraní je problém důvěry vyřešen. Vědělo se a ví, že pokud někdo zmáčkne červené tlačítko, tak je konec. Díky jaderným zbraním vlastně nedošlo ke třetí světové válce. Vím, že pacifisté ze mě nebudou mít radost, ale je to tak. Všichni si uvědomovali, že jde o zbraň, která dokáže zničit i je samotné, tak si ji nedovolili použít.

Umělá inteligence je bohužel začleněna nejenom v obranném průmyslu, ale také v soukromém sektoru. Využíváme ji a budeme využívat (překladače, zpracovávání informací, výrobní závody a tak dále). Obranný průmysl je ještě o krok napřed a cílům zabíjet se nevyhneme kvůli konkurenční výhodě. Nikdo si ji nenechá vzít.

Automatizace a robotizace bude mít dopad na soukromý sektor, budeme nahrazováni v rutinních profesích

Martina: Na chvíli vyhlásím klid zbraním. Mnoho posluchačů si nechce tyto otázky připouštět, protože je u nás zatím bezpečněji než jinde. Zároveň je témata umělé inteligence a technologií zajímají v tom smyslu, jak ovlivní jejich život v nejbližší době. Pojďme se podívat na další stránku umělé inteligence a moderních technologií. Když si objednám pizzu, tak přijede auto, vystoupí muž a dá mi ji, prohodím s ním pár slov, dám mu spropitné, usmějeme se na sebe a on odjede. Já mám pizzu a sociální kontakt. Je jen otázkou času, kdy mi pizzu přinese třeba dron. Co udělá robotizace s naší zaměstnaností?

Luděk Jiráček: Automatizace a robotizace systémů bude mít dopad na soukromý sektor. Budou nás nahrazovat v rutinních profesích, ať už u výrobní linky, nebo u novinářské práce (například vzhledem ke kvalitě mně přijde jako nesmysl, aby novinář musel vydávat tři články denně). Na trhu bude spousta nezaměstnaných. Na druhou stranu bude potřeba zaměstnat lidi v jiných oborech. Rekvalifikace pracovníků bude nutná, ale komplikovaná, protože to bude rekvalifikace do úplně jiných oborů. Třeba pokud by po mně dnes někdo chtěl, ať pracuji v IT oddělení, tak prostě nemám šanci. Rekvalifikace bude složitá zejména pro starší lidi, nezvládnou to psychicky ani fyzicky.

Může se stát, že mnoho lidí bude považováno za zbytečné

Martina: Také si myslím, že na trhu nebude tolik pracovních míst, i kdybychom se byli všichni schopni stát IT inženýry v nějaké přijatelné době a kvalitě. Ztráta zaměstnání bude asi v mnoha případech znamenat chudobu a bídu přesto, že s tím bude muset sociální systém nějak pracovat. Navíc také přinese ztrátu smyslu života, protože mnoho lidí vnímá práci jako svůj smysl a důležitou součást toho, proč jsme na světě. Zdá se, že se proti nám nemusí stroje vzbouřit jako v RUR, ale zničí nás právě to, že mnoho lidí, možná většina, začne být zbytečnými.

Luděk Jiráček: Je to tak, vnímám to úplně stejně. Proto, abych byl spokojený v soukromém životě, musím být spokojený i v tom profesním. Je to velká část života, která mě naplňuje, i když samozřejmě rodina je pro mě to nejdůležitější. Pokud tady budeme mít obrovský počet lidí, kteří budou bez práce a ztratí smysl života, pak je to problém. Může se opravdu stát, že budou vnímání tak, že jsou zbyteční a nebude pro ně žádné uplatnění.

Na druhou stranu můžeme vidět, jak se naše společnost stává stále více konzumní. Všechno chceme rychle, levně a pohodlně. Lidé rádi nakupují věci na míru, kvalitní, ručně dělané zboží. Nemyslím, že by zanikla řemesla, ale že se naopak mnohá budou obnovovat, protože lidé mají rádi kvalitu a exkluzivitu. Systémy budou dělat rutinní práci a my se budeme soustřeďovat na tu komplexnější, obtížnější a exkluzivnější. Nebudeme chtít nechat dělat všechno jenom roboty a systémy. To je pozitivní.

Martina: To je hezká úvaha, že touha po kvalitě, luxusu a možná i špetka snobizmu by mohla zachránit určitá řemesla a obory. Když bychom to měli shrnout; povězte mi, vidíte budoucnost trošku optimisticky, anebo se do toho nutíte? Věříte tomu, že bychom se dokázali poučit a třeba cestu kupředu zpomalit tak, že se nebudeme tak rychle hnát a nadšeně čekat, až narazíme?

Luděk Jiráček: Řeknu to trošku zeširoka. Na bezpečnostní politiku se zaměřuji od dob studií a v tomto oboru pracuji. Většinou vidíte, že se problémy řeší zpětně. To je zdlouhavé a neefektivní, kompromisy jsou opravdu špatné. Například činnost OSN je poslední dobou tristní, o tom si nemusíme nic nalhávat.

Nicméně v oblasti robotizace jsou hrozby prezentovány většinou silně. Jsem opravdu mile překvapen, jak s tím pracují média, osobnosti dostávají možnost se vyjadřovat a mnoho lidí začíná diskutovat. Něco podobného jsem u mnoha jiných témat neviděl. Uprchlickou krizi na politické úrovni řešíme zpětně, dlouho. Přitom politici věděli, jaké problémy a hrozby nastanou s migračními vlnami, ale nic se nedělo. Nyní vidíme, že hodně lidí chce být slyšeno, respektive se o tom hovoří.

Vidíme třeba, jak německá vláda vydala etická pravidla pro řízení autonomních vozů. Můžeme s nimi nesouhlasit, jsou tam sporné body. Ty vozy zde ještě nejsou a už se Německo snaží něco nastavovat. Ale je to pozitivní, protože jinak se většina věcí řeší pozdě. Umělá inteligence zde sice už je, využívá se ve válečných konfliktech a válkách, ale hovoří se o tom docela hlasitě. Na druhou stranu, co se týká budoucnosti, nejsem ve všem optimistický. Technologický růst je strašně rychlý. Motivace k řešení pravidel na mezinárodní úrovni, což je nezbytné, která by byla dodržována všemi, tady bohužel není. Na mezinárodní úrovni se to bude řešit, až když budou hrozby hmatatelné. A to je bohužel pozdě. Ale těžko odhadovat, jsem trošku skeptický.

Pokud bude existovat něco inteligentnějšího než my, nebudeme na vrcholu potravinového řetězce

Martina: Toto měla být už poslední otázka, ale otevřel jste ještě jedno téma. Jak se díváte na výrok britského státníka Winstona Churchilla, který v 19. století učinil ve své publikaci o vztahu k mohamedanismu? Řekl, že nebýt toho, že křesťanství je chráněno silnými pažemi vědy, tak by civilizace Evropy mohla padnout stejně, jako padla civilizace starého Říma.

Luděk Jiráček: Je to přesně oblast konkurenčních výhod. Pokud nepůjdeme dál, tak zanikneme, protože nebudeme mít konkurenční výhodu nad jinými civilizacemi. Na druhou stranu toto může být meta, kterou už nepřekonáme. Pokud nebudeme nejinteligentnějšími na světě, tak nebudeme na vrcholu potravinového řetězce. Nejsme silnější než slon, rychlejší než gepard. Jsme chytřejší, a proto jsme na vrcholu potravinového řetězce. Pokud někdy bude existovat něco, co bude inteligentnější než my, tak se může stát, že nebudeme na vrcholu pomyslného potravinového řetězce a nebudeme těmi, kdo ovládají naši planetu. Inteligence je to, co nás staví do role lídra. Pokud bychom nejinteligentnějšími nebyli, tak jím nejsme.

Martina: Pokud jsem alespoň částečně vše pochopila, tak mi z toho vychází, že pokud nebudeme rozvíjet technologie, abychom byli na vrcholu, tak nás převálcuje ten, kdo je rozvíjet bude. Přitom pokud je rozvíjet budeme, tak se pravděpodobně zničíme sami.

Luděk Jiráček: Může se to stát, a nemusí. Až na ten konec to tak je. To, jestli nás technologie zničí, je otázka. Možná tady bude v průběhu následujících dekád takový impuls, že dokážeme tuto situaci vyřešit – a já v to doufám. Opravdu vše záleží na tom, jaké nastavíme hranice, jak je budeme programovat a využívat. V obranném průmyslu je umělá inteligence tou největší hrozbou, proto o tom osobnosti veřejně hovoří a upozorňují na to. Uvědomují si, že to bude to poslední.

Martina: Děkuji za informace a za váš pohled na umělou inteligenci, která by nás mohla přesahovat a stát se velmi nebezpečnou.

Luděk Jiráček: Děkuji za pozvání.