Zpět
Karel Červený Díl 3/3

Ve společnosti se kvůli AI budou otevírat sociální nůžky. Bohatí si koupí vyšší inteligenci, plebs na to nebude mít

Text 7.5.202441 min Přehrát

Dobře, technologicky jsme stále dokonalejší, ale pomáhají nám technologie zdokonalovat sami sebe? Můj host Karel Červený k tomu při našem minulém setkání řekl: „Když lidé něco udělají, vyfotí, tak dostávají lajky, a roste jim sebevědomí, protože jsou stále víc ceněni. A když na chvilku síť něčím neobohatí, tak žádné lajky nemají, a jsou smutní, protože jejich hodnota klesá. Takže toto je identita takového člověka. Je směšné i hrůzné zároveň, co to s lidmi dělá, jak vysokoškolsky vzdělaní lidé blbnou.“ Uznávám, že to nezní jako moc nadějné vyhlídky, a nezbývá, než si položit otázku, zda se nestaneme ochotnými oběťmi umně připravených aplikací. Zda nepodlehneme omylu, že jsou tady pro nás, pro naše pohodlí, a nepřehlédneme to podstatné, že otročíme my jim – tedy ne aplikacím, ale všem těm, kdo stojí za nimi.

Martina: Na tom, co všechno jste uvedl jako příklady, aby nepřišlo něco zlého, mě ruší jenom jedna věc, že u všech těch věcí cítím velmi aktivní účast hybatelů. Ani jedna z těchto věcí nemusela být tak dramatická, že mění svět a dobu, jak to z nich udělal někdo v pozadí, z ní někdo v pozadí.

Karel Červený: Hm.

Martina: Pro posluchače v rozhlase: Pokrčil rameny. Karle Červený, většinou ale, když přicházejí nějaké nové věci – ať už jsou to léky, myšlenky, technologie – tak na počátku svého vzniku bývají označovány za požehnání, za věc, která bude sloužit dobrým věcem, a věřím, že velmi často za tímto účelem tyto věci i vznikají. Ale posléze se nám to třeba nějak zvrhne, ať už nadužíváním, nebo se prostě třeba dostanou do špatných rukou. Řekla bych, že podobný scénář může platit i na umělou inteligenci. Co si myslíte vy, co z ní nakonec vzejde? Bude dobrým pomocníkem a sluhou, nebo se stane hrozbou, která lidství z našich myslí a života vytěsní lidství?

Karel Červený: Toť otázka. Myslím, že to nebude dobré. A teď proč: Přišla s tím firma Open AI, a jeden lektor, který tomu hodně dobře rozumí, a se kterým spolupracuji, říkal, že jsou v této firmě dva tábory, jeden umírněný a jeden agresivní. Ten agresivní by chtěl se všemi novinkami, které se týkají umělé inteligence, vyjít co nejrychleji, a draze to prodat. A případné hrozby ošetřovat za pochodu. A druhý tábor, umírněný, by chtěl všechno vyzkoumat, dát tam záruky, ošéfovat bezpečnostní rizika, a teprve potom to prodat. Ale ten pan Altmann patří do …

Martina: Budu hádat, kdo prohraje.

Karel Červený: Prohrají umírnění, protože kšeft je kšeft. Já jsem se ve své knize snažil analyzovat hlavní příčiny toho, proč se toto děje, a přišel jsem na to, že na počátku je sobectví a lhostejnost. Za vším, za vším, kam jsem se podíval, a co jsem analyzoval, mi vždycky vyšly jako hlavní synergičtí hybatelé tyto motivy. Co je v businessu „dost“? Kolik je „dost“? Mám už dost? Kdo to řekne? Znám pár lidí, mívám je v kurzech, kteří řeknou: „Proč bych si ničil zdraví? Mně 100 miliónů stačí. Nepotřebuji miliardy.“ To mi říkají tito manažeři.

Takže odpověď na vaši otázku: Ze začátku to bude hodně pomáhat, a pak se to překlopí k tomu, že už se od lidí naučí kde co, takže koboti – což jsou pomáhající roboti, kteří dělají s člověkem – se od člověka všechno naučí. A je zajímavé, že když chcete lidi naučit nějakým dovednostem a znalostem, tak musí být přítomni, aby se to od lektora naučili. Ale u robotů stačí mít jich přes bluetooth, nebo přes nějaké takové zařízení, sto, nebo tisíc na jednom místě, a to je ohromný, rychlý pokrok, kdy se naučí věci, které potřebujete, aby se naučili. Takže my to uvidíme dost nepříjemně.

Říká se, že kolem roku 30 bude asi 35, až 40 procent lidí bez práce. I když problém trochu je, že když píší prognózy na toto téma lidé z poradenských společností, tak se trošku zaměňuje profese a pozice. Profese je třeba elektrikář, a elektrikářů mohou být milióny. A já se ptám, co se ztratí, profese, nebo pozice? Nebo obojí? Nebo budou ze začátku pracovní činnosti dané profese čím dál více přebírat počítače, umělá inteligence, až to pohltí celé, a člověku zůstane jenom málo činností, takže mu budeme muset vymyslet další, a udělat redesign pracovních pozic, kde bude vyspělý člověk, a myslím tím nejenom mentálně, ale i znalostně a dovednostně, A co budou dělat ostatní?

Představte si, kdyby byla v celé Evropě nákladní autonomní vozidla – a vezměte si milión kamióňáků, řidičů kamiónů – a kdyby najednou od určitého roku začaly kamióny jezdit samy, autonomně. Co by těch milión kamióňáků dělalo? Šli by na úřad práce? A co by jim úřednice nabídla? Čistit bazény bohatým lidem? Venčit psy, ošetřovat? Nevím. A zbytek by na úřadu práce umřel, protože by jim neměli co nabídnout. Jakou práci? Když někdo kroutí třicet let volantem, tak co mu chcete dát za složitou práci?

AI umí zdokonalovat sama sebe. Na co nás bude potřebovat entita, která bude mít o dva řády vyšší IQ? Proč by nás potřebovala?

Martina: Když nám tuto budoucnost malují politici, nebo nejrůznější korporace, tak hovoří o nepodmíněném příjmu, který budeme dostávat, také o tom, že se lidé alespoň budou moci věnovat osobnostnímu rozvoji, takže pravděpodobně kamióňáci začnou navštěvovat kurzy jógy, budou chodit na buddhistická sezení, zkoušet žít z prány, a tak dál. Zkrátka to, co se nám nabízí a předestírá, se snaží tvářit jako ráj na zemi, kde se člověk osvobodí od veškeré práce, a bude si v podstatě život jenom užívat. Řekněte mi, věříte tomu aspoň z promile? Nebo to považujete opravdu za vysoce pitomé?

Karel Červený: Je to blábol – a často těchto výrazů neužívám. Je pravda, že stát asi bude zdaňovat roboty, daň z robotů bude, a asi je to jedna z cest, jak stát může získat prostředky, aby vyplácel nějaké dávky. Pan profesor Zelený, asi víme kdo…

Martina: Milan Zelený.

Karel Červený: Milan Zelený.

Martina: Nedávno zemřel – slavný ekonom.

Karel Červený: Zemřel? Tak to jsem nezaznamenal. To je mi líto. Tak tento pán predikoval regionalizaci, lokalizaci, ústup od obrovských konceptů, které trošku změnily svět globalizací. A on řekl, že už je strašně málo oblastí, kde by se dalo zaměstnat ještě moře lidí, že už jsme si to všechno vyčerpali. A co chcete naučit lidi, kteří mají nízké vzdělání, nebo nikdy neuplatnili to, čím se vyučili, nebo co vystudovali? Takže říká, že tito lidé budou nešťastní, protože budou chtít pracovat, a nebudou mít kde, a v čem. Málokdo bude mít celý úvazek, ale bude to třeba soubor několika drobných úvazků.

A teď co s lidmi, kteří nebudou mít práci? Budou nešťastní, budou brát drogy, pít alkohol, tlouct ženu, děti – to bude prostě hrůza. Takže my potřebujeme do této doby Churchilly, politiky, kteří se trošku rozhlédnou, a intuitivně a rychle poznají, co je třeba dělat, a jak nejlépe národy na tuto dobu připravovat. Je jedna oblast, ve které by se dalo pracovat a kterou ještě může naplnit asi 20 procent populace, a to je péče o staré a nemohoucí lidi, vesměs rodinné příslušníky. Myslím, že tam je ještě dost velká rezerva, že by se to mohlo nějak naplnit. Ale kolik je takových dalších příležitostí? Protože všechno, co se teď bude vymýšlet jako nové věci pro umělou inteligenci, kvantovou fyziku, a tak dále, to budou vysoce náročné věci, to budou muset být myslivny, lidé, kteří to vystudují a budou to řídit. A těchto geniálních lidí je? A zbytek s obyčejným IQ zůstane na pracáku. A co budou dělat?

Martina: Ale lidé, kteří toto tvrdí, si pravděpodobně neuvědomují, že člověk je nějakým způsobem nastaven, a ne každý dokáže být jen na svobodném povolání, protože to vyžaduje vnitřní disciplínu. Člověk přichází o rytmus, pokud si ho nestanoví sám, přichází o řád. A navíc lidé, kteří nemají práci, přicházejí o pocit vlastní potřebnosti, cítí se zbyteční. A to všechno vede k depresím, a tak dále, a to jsou vyhořelé společnosti, o kterých jste tady hovořil. O tom se občas můžeme doslechnout, ale nikdo to nechce domýšlet, protože si myslíme, že to přijde až za dlouho – vždyť umělá inteligence zase tak moc chytrá není. Povězte mi, myslíte, že překoná IQ člověka?

Karel Červený: Rozhodně. Bude to nějaký potrhlý vědec, který bude chtít ukázat, že to jde. To se v minulosti stalo vždy.

Martina: Ale vždycky ji bude muset něco naučit, nebo do ní vložit člověk.

Karel Červený: Ale ona bude schopna rozvíjet sama sebe. To jsou neurální sítě, které jsou schopny, když je posadíte na internet, naučíte se kdeco. Něco okouká od lidí, znalosti načerpá z internetu, a když bude mít v sobě program, že se má pořád učit, tak … Vezměte si třeba hru GO, která byla umělou inteligencí překonána, a tak to platilo, že v té době to byla nesložitější hra na světě a že bylo pár velmistrů, kteří toto ovládali, a odborníci říkali, že bude trvat desítky let, než to nějaká umělá inteligence překoná. A už je to dávno za námi. Nebo umělá inteligence typu Watson – tu mělo IBM pro znalostní soutěže, což byla soutěž Jeopardy, u nás se to jmenovalo Riskuj, která dosáhla takových kvalit, že nejenom, že všechno ví, ale umí se také velice rychle přihlásit. Takže tohle je umělá inteligence, která funguje, slouží třeba na Mayo Clinic. A další instituce se to snaží povýšit na nějakou vyšší úroveň, aby to sloužilo třeba lékařům na celém světě dolaďovat diagnózy, a ověřovat si své poznatky, jestli jsem správně stanovil diagnózu i léčbu. Každý lékař bude do toho moci vstupovat.

To jsou úžasné věci, a lidstvu to určitě pomůže. Ale už mnozí vědci, včetně podnikatele Elona Muska, varují, že se nám to může vymknout z rukou. A to je právě to, že když vědci dokážou stvořit entitu, která bude mít o řád, nebo o dva, vyšší IQ, tak na co nás bude potřebovat? Proč by nás potom potřebovala?

Martina: Protože je s námi děsná legrace. Promiňte mi, ale to je projev zvláštního zoufalství.

Karel Červený: Takže si AI řekne, že je příliš nuda, takže s námi bude velká legrace. To mě nenapadlo, to je hodně kreativní.

Až AI získá emoční složku, kterou jí třeba naprogramujeme, bude se umět smát, plakat, vztekat, a začne se nám podobat. Scénáře nejsou úplně růžové.

Martina: Ano. A to jsem se chtěla zeptat: Dobře, v IQ nás přečíslí. Určitě nás nemůže přečíslit v EQ, v sociální inteligenci. To bych řekla, že možná, pokud si ještě podržíme nějaké…

Karel Červený: A bude potřeba?

Martina: To je otázka. Pokud nebude lidství, k čemu bude EQ? A co myslíte v kreativitě, i tam to dá? Nebo třeba ve smyslu pro humor? K čemu to bude? Viďte.

Karel Červený: Tak nějakou emoční složku bude muset nějakým způsobem získat. Buď jí tuto schopnost prostě někdo naprogramuje, takže se bude umět smát, plakat, vztekat, a trošku se nám začne podobat. Myslím, že scénáře nejsou úplně růžové.

Dělám si naději, že se ke slovu dostane opomíjená kvantová fyzika. Někde se predikovalo, že má začít fungovat od roku 25 až 27 a že se má spustit kvantový internet. To myslím, že využívání kvantové fyziky se docela opozdilo a že tato predikce byla moc odvážná. Ale je pravda, že to bude zase velký milník v technologiích, ale už jenom pochopit, na čem to funguje, je dost složité. Já jsem si musel pouštět nejrůznější filmečky od BBC na YouTube, a od dalších institucí, které to tam nahrály. To je fantastická záležitost, kterou taky budeme potřebovat. Ale je možné, že umělá inteligence bude řídit i aplikace kvantové fyziky, a to může celý svět posunout, ale může nás to taky uvrhnout do nějaké hrůzné věci.

Ve společnosti se kvůli AI budou otevírat sociální nůžky, protože bohatí si budou draze kupovat dodatečnou inteligenci, paměť, ale plebs na to nebude mít.

Martina: Může nás před tímto vývojem ochránit skutečnost, že čím bude umělá inteligence chytřejší, tím budou lidé hloupější? Myslím, že nás to ochrání před utrpením.

Karel Červený: Neumím to takhle říct. Nezdá se mi to. Protože lidé mohou zůstat stejní, ale v porovnání s touto inteligencí budou nicotnější, protože tam jde o srovnání, o nějaký referenční rámec. Takže když se ona ochytří jenom o řád, nebo o dva, třeba stokrát, tak to stačí. Ale je pravda, že jako lidé můžeme – jestli dovolíte – nevím, jestli se to stane u vás, asi ještě ne, ale třeba u vnoučat – že za vámi přijde vnouče a řekne: „Babičko, u nás ve třídě už mají všichni koupenou dodatečnou inteligenci. Já ji chci taky, protože jsem momentálně nejblbější z celé třídy.“ A teď to sociální rozevírání nůžek, že budou lidé bohatí, a lidé hrozně chudí, a chudí si nebudou moci dovolit v mozku interface od Elona Muska, abychom si dokupovali inteligenci, paměť.

Martina: Případně ještě nějaké úpravy před narozením.

Karel Červený: Ano. To bude stát strašně moc peněz, a budou na to mít bohatí lidé. Takže se nůžky šíleně rozevřou, a tyto vymoženosti medicíny bude mít jen pár lidí, a ten – promiňte mi, že to tak řeknu – plebs se bude muset spokojit s tím, co mu zdravotní pojišťovny dovolí. Takže to je intermezzo na cestě k dokonalosti. Nevím koho, a k jaké dokonalosti, a co si dáme jako metu dokonalosti, ale tohle nás čeká. Nůžky se budou rozevírat, a budou obrovské rozdíly mezi lidmi.

Martina: Já se omlouvám posluchačům, že znova zopakuji výrok, který tady v rozhovoru řekl profesor Martin Stránský, protože se k němu uchyluji velmi často. On řekl, že pro něho, jako pro neurologa, vůbec otázka nezní tak, jestli v budoucnu bude umělá inteligence umět přemýšlet jako člověk, ale zdali bude ještě člověk umět přemýšlet jinak než jako umělá inteligence. A to je, myslím, otázka, o kterou jsme teď zavadili. A odpověď je stejně, jako u mnohých jiných, v budoucnosti. Uvidíme.

Teď se podívám na věc, která plave na vodě stejně, jako všecko ostatní, ale přesto bychom se v ní mohli v zajetí čísel cítit trošku bezpečněji. Řekněte mi, co se to děje synergicky s ekonomikou a hospodářstvím? Vyvíjíme stále nové technologie, za poslední rok zaznamenala umělá inteligence neobyčejný rozvoj, tyto technologie by nám měly ulehčovat život, a všechno dělat efektivnější a levnější, měli bychom se mít stále lépe. Ale přitom je opak pravdou. Řekněte mi, jak je toto možné? Jak je možné, že jsme čím dál víc zadlužení, klesá životní úroveň – řekli jsme, že naše děti se budou mít hůř, než jsme se měli my – a přitom vlastně pořád děláme všechno pro to, aby tomu bylo naopak, a hlavně je nám předkládáno, že se všecko děje pro naše dobro. Tak v čem je problém? Přišel jste na to, proč se věci dějí právě takto?

Karel Červený: Myslím, že to je špatným hospodařením průřezově na celém světě, a že je to zadlužováním, nadspotřebou, rozmařilostí, netvoříme si rezervy, a někde jsou zadluženi na 70, až 100 procent k HDP. To je jedna z příčin. A je tam celý komplex příčin: Že se neuvažuje do budoucna, že se spotřebovává teď, že se vyčerpávají zdroje, a sanace různých škod jde do neuvěřitelných čísel.

Martina: A nikdo za ně nenese zodpovědnost.

Karel Červený: Nikdo za to nenese zodpovědnost. Chtěl bych připomenout knížku Přírodní kapitalismus, kterou napsali tři kanadští autoři, kde je spousta receptů, jak vydělat na ochraně přírody. Ano, ti, kdo to napsali, jsou úžasní vědci.

Martina: A to je ironická kniha?

Karel Červený: Ne, rozhodně ne. To jsou přehlížené věci. Vím, že jsem viděl touto knihou mávat předsedu strany Zelených, teď si nemohu vzpomenout, jak se jmenoval.

Martina: Bursík?

Karel Červený: Pan Bursík, ano. Už je to drahně let, deset a více, kdy s ní mával v parlamentu, a na něco v ní poukazoval, a měl radost, že ji zná.

Martina: Nicméně, na jeho následných krocích vidíme, že četba není všemocná.

Karel Červený: Tato kniha je velmi vzácná, a není k dostání. Vydala ji nějaká škola v Ottavě, je velmi vzácná, krásná, a chtělo by to ji nějakým způsobem dostat mezi masu lidí. Je škoda, že nevyšla podruhé.

Člověk by si měl nejdřív odložit na důchod, nebýt rozmařilý, a žít skromně ze zbytku. Tím si zajistí slušný důchod, a donutí ho to si najít další práci.

Martina: Chcete mi říct, že popisuje něco jiného než to, jak se současné korporace a současní lidé, a aktivisté, pokoušejí vydělat na ochraně přírody?

Karel Červený: Ano.

Martina: Protože to, čeho jsme svědky, je snaha vydělat na ochraně přírody.

Karel Červený: Je to nekoncepční, neprovázané. Ale tito autoři to mají koncepční, mají provázané všechny materiálové a jiné smyčky, kdy se věci pohybují v kruhu, nezůstávají, je to bezodpadová výroba, ani molekula nazmar. Takhle to má být. Takže chci říct, že rozmařilost a nehospodárnost je strašná.

Už třicet let čtu, že naše vnoučata zapláčou. Já jsem tomu tehdy nechtěl věřit, a říkal jsem, proč by plakali, když se budou mít dobře. Ale budou plakat, protože už nebudou mít příležitosti, jaké máme my. To, co říkám, je strašné, ale je to tak. Takže vyrovnané rozpočty – to je asi hlavní nástroj k tomu, aby se ekonomika ještě nějakou dobu držela. My nemyslíme na budoucnost. Kdysi tady vycházely knihy nějakého pana Kiyosakiho, který učil lidi zodpovědně hospodařit, a on říkal, že každý člověk by si měl nejprve odložit na důchod, a žít ze zbytku. A proč takhle? Jednak si zajistí slušný důchod, a jednak, když bude žít ze zbytku a bude to málo, tak ho to donutí najít si další práci. Prostě udělá něco s příjmovou částí, a taky uspoří, protože třeba nebude tak rozmařilý a bude žít skromněji, takže pak trošku se svým příjmem vyjde.

Martina: To je pravda, ale to jsme trošku vágní, protože se neví, kolik důchodu mu sežere inflace, a také jsme netušili, jak se o nás vláda postará, co se týká cen energií, a podobně. Člověk nečekal, že budeme mít téměř nejdražší elektrickou energii ve střední Evropě. Jak říkají Monty Pythonovi hoši: „Španělskou inkvizici nikdo nečeká.“

Karel Červený: A přitom jí máme nejlevnější, co se týká výroby.

Martina: A přitom jí vyrábíme.

Karel Červený: Nejlevněji.

Martina: Dobrá myšlenka, ale i tam můžeme najít určitá úskalí. Ale tato myšlenka samozřejmě dává logiku.

Karel Červený: My pořád v hospodářských konceptech vycházíme z toho, že to vždycky nějak dopadlo. Bylo pár krizí, řecká i jiné, rok 2008, 2009, toxické balíčky ve Spojených státech, celá ekonomická krize, a tak dále. Ale je to nezodpovědné chování politiků, bankéřů, finančních skupin, kteří si s ekonomikou ve světě dělají, co chtějí.

Martina: A mohou.

Karel Červený: A mohou.

Martina: Vy sám jste řekl, že finanční produkty a ziskuchtivé algoritmy, kterým rozumí málokdo, mohou podkopat základy globální ekonomiky, a milióny lidí vyhnat z domovů. Teď jste znovu zmínil, že už se to stalo, když před tím kolem roku 2006 varovali ekonomové, a byli označováni za blázny. Myslím, že to hezky popisuje film Sázka na nejistotu, Big Short.

Karel Červený: Neviděl jsem.

Otevřenost, volné proudění myšlenek, peněz, lidí, zboží, je dost iluzorní. Vraťme se zpátky a klaďme překážky, nebuďme tak benevolentní, protože to nahrává nejsilnějším.

Martina: Velmi dobrý. Myslíte, že nás krize čeká znovu? Protože se na tom moc nezměnilo, a dokonce se toxické akcie, o které šlo v roce 2008, obchodují stále, jenom zabaleny v dalších derivátech. Myslíte si, že se to může, nebo bude opakovat?

Karel Červený: Rozhodně. Jakákoliv velká finanční skupina, zvláště když se ještě spojí s nějakými dalšími, tak jsou schopny vytvořit, nebo vyvolat otřesy. To je provázanost světa. Globalizace způsobila strašně moc škod. Sice hodně států vymanila ze strašné bídy, ale druhou stránkou mince jsou ohromné škody na zranitelnosti celého systému. Vezměte si, že se před nějakou dobou – nevím, jak je to dlouho – ucpal celý Suezský průplav.

Martina: Ano, to bylo, když se tam vzpříčila loď naložená kontejnery, a zablokovala Suez.

Karel Červený: A stalo se to proto, že si tam kapitán dělal s lodí nějaké obloučky, nějaké sprosté obrázky, aby to bylo vidět z družice, nebo z letadla – proto se tam vzpříčila – dělal něco, co dělat neměl. Ale co je důležité, že materiálové toky, celá logistika se zastavila díky jedné lodi v Suezském průplavu.

Martina: A ukázala se křehkost celého systému.

Karel Červený: Ano. A zrovna tak v Panamském průplavu není voda, takže už polovina, nebo třetina lodí tam nemůže proplouvat, protože jsou moc těžké ve výtlaku. Takže svět je opravdu nesmírně zranitelný, a myslím, že taková otevřenost, aby volně proudily myšlenky, peníze, lidé, zboží, je dost iluzorní, a že bychom se měli vrátit trochu zpátky. To není zpátečnické myšlení, to je pouční z vývoje. Prostě bychom měli klást nejrůznější překážky, a nemít takovou benevolenci, jaká byla, protože to nahrává těm, kteří jsou na světě nejsilnější.

Martina: Jste někdy, když pozorujete svět kolem sebe, překvapen, kolik si toho třeba vaši spoluobčané nechají líbit?

Karel Červený: Takhle jsem neuvažoval. Spíš to vnímám tak, že je mi líto, že díky těm, kteří nás vedou, nejsme už dávno tam, kde bychom mohli být, kdyby nás nevedli, nebo nás vedli zodpovědně. Tyto promarněné příležitosti lidstva mě neuvěřitelně hnětou.

Martina: A co myslíte, že je promarněná příležitost, na kterou byste sázel? Z jaké oblasti je? Dá se to pojmenovat?

Karel Červený: Zastavení drancování přírody. Úleva mnoha lidem. Existuje třeba velmi špičková knížka o tom, co se vyvíjí v současných laboratořích na celém světě, kam cpou Apple, IBM, Google stovky miliard dolarů. Kniha se jmenuje Medicína budoucnosti, a napsal to Thomas Schulz, a tam se dozvíte, co všechno je možné, co už medicína vymyslela. Ale je pravda, že tyto laboratoře jsou hlavně zacílené tak, aby miliardáři nikdy neumřeli, aby tady byli stovky let, případně na věky věků. Je taky zajímavé si přečíst něco o takovém guruovi, jako je hlavní vývojář Google, nějaký Ray Kurzweil, který se chce v roce 32 – to nastane singularita – jako první člověk na Zemi nechat nahrát do počítače, a to zase bude nějaký bod zlomu, od kterého budeme vědět, že to jde. A když se takhle rozhodne mnoho lidí, že se nechají nahrát do počítače, tak nevíme, jaký to bude mít sociální dopad. Takže nás čeká tolik zajímavých věcí.

Ale já jsem utekl z vaší otázky, co by se tak mohlo zdařit, kdyby politici byli moudří lidé, a mysleli na lidstvo. Rozhodně bychom mohli Zemi vyspravit, mohli bychom vymýšlet systémy, které budou fungovat, a nebudou produkovat nechtěné zlo, nebo nechtěné důsledky dobrých úmyslů. Ve světě by šlo udělat řadu neuvěřitelných pozitivních věcí. Ale bohužel, my se pořád plácáme jenom ve vylepšovaném rozpočtu, a není žádná kloudná myšlenka, jak změnit školství, jak změnit zdravotnictví, jak změnit bydlení, jak se postarat o to, aby se svět rozvíjel rozumným způsobem. Řeší se jenom nicotné záležitosti, které otravují lidi. Systém parlamentních stran je už dávno překonán – vznikl ve století páry.

My bychom dneska spíš potřebovali systém podobný Senátu, kdy máme v jedné třetině Senátu lidi s kreditem, a ti by se domluvili mezi sebou, co je třeba dělat. Rozumní lidé s kreditem by se domluvili, a neztráceli by čas vzájemným hašteřením opozice a koalice, a kdo a co udělal hůř. A takhle to běží celá desetiletí, že se pořád hádají titíž lidé. To je prostě hrůza, to jsou promarněné příležitosti. Když jdete na letenský hřbitov, nebo někde vidíte tisíce padlých, tak si řeknete, že všechny tyto mladé životy jsou zmařený potenciál lidství a nápadů. Takže já se hodně tážu po potenciálu, co by mohlo být, kdyby se tohle nestalo. To jsem se rozohnil, omlouvám se.

Martina: Namísto toho se naplňuje to, co jste říkal v první části našeho rozhovoru, že Orwell přichází, protože vzniká společnost permanentního dozoru, ve které je, a bude sledován každý náš pohyb, vše se ukládá, a bude ukládat, do firemních, státních, zdravotních, evropských databází, a člověk nikdy neví, kdy to bude použito v jeho prospěch, a kdy to bude zneužito. Máte z tohoto obavu? Jeden náš host, Luděk Nezmar, který se věnuje kybernetické bezpečnosti, to nazval digitálním gulagem.

Karel Červený: Obavu… V mých představách, v mé imaginaci, to asi nenabylo takových rozměrů, abych tam měl obavu. Ale je zajímavé, že celý tento sledovací systém má své výhody, ale záleží na tom, kdo jej dostane do rukou, kdo bude tento systém spravovat. A sázet na to, že to budou lidumilové, asi nejde. Vidíme to v Číně. Tam je nejpokročilejší systém, který ještě neuvěřitelným způsobem vylepšují, a západní Evropa to chce kopírovat, a tak odkazuje na terorismus, a na všechny tyto věci, a že potřebujeme vědět, kde nám kdo utíká…

Smart Dust, inteligentní prach – miliardy mikročipů v omítkách, chodnících, cestách, oknech – bude posílat do centrály údaje o teplotě, tlaku, vlhkosti, a o pohybech lidí

Martina: Vždycky se najdou důvody k odůvodnění – Proč.

Karel Červený: Vždycky se najdou. Možná vás ještě překvapím tím, že se bude prosazovat takzvaný Smart Dust, chytrý, inteligentní prach, což budou mikročipy v omítkách, chodnících, v cestách, oknech, balkónech. Prostě všude v nových městech a v nových domech bude zabudován tento Smart Dust, který bude posílat do centrály údaje o teplotě, tlaku, vlhkosti, o pohybech lidí, o statice tunelů, mostů, a tak nikdo neuteče, žádný zločinec neuteče, protože ho miliardy těchto mikročipů budou vidět. Takže to bude dovedeno k dokonalosti.

Martina: Jenomže ty miliardy mikročipů nebudou vidět jenom zločince, ale budou vidět úplně každého. Považujte toto za vývoj? Protože z hlediska technologického to určitě vývoj je. Ale z hlediska člověka, z hlediska lidství? Co vy na to?

Karel Červený: Mně by na tom nejvíc vadil pocit, že jsem nahý, a nemůžu skrýt ani své myšlenky, nebo nemohu skrýt vůbec nic, nemám žádné soukromí. Když mě bude chtít kdokoli proskenovat, tak mě prostě proskenuje. Tak ano, z toho bych strach měl, a to dost velký.

Martina: Možná bude řešení něco takového – jak jste mluvil o tom pánovi, že se v roce 2032 nechá nahrát do počítače. To je věc, kterou si momentálně vůbec neumíme představit.

Karel Červený: To trochu vychází z filmu Transcedence, a je to velmi, velmi lákavé pro lidi, kteří by tady chtěli být dlouho. Ale uvidíme, jaký svět bude. Takže ta moje Synergie vlastně pitvá tyto věci – minulé události, současné události, budoucí události – pitvá, kde se co dějinně zajímavého semlelo, a mám z toho vždycky nějaké poučení, nějaký závěr, a to, čeho si všímat. Neumím na všechno odpovědět, spíš je v této knize víc otázek než odpovědí, ale má přispět k tomu, aby se lidem lépe myslelo, aby brali v úvahu opomíjené věci, něco, co může být poslední kapkou. To jsou velice malinké stimuly, které pohnou, popostrčí velké, a ty se rozjedou ve své interakci s něčím. Takže synergie jsou cestou k pochopení nejrůznějších potíží a problémů.

K poznání, že by člověk měl zlepšovat především sám sebe, dospějí jen jednotlivci. Ale celek společnosti nikoli.

Martina: A zdá se, že lidstvo dělá všechno pro to, aby i tentokrát naplnilo Fermiho paradox. Vy jste tady na začátku říkal, že jediná svoboda je v naší vlastní hlavě. Dá se tedy říci, že moudrost, která platí už tisíce let, že na prvním místě by měl člověk zlepšovat sám sebe, stále platí, a že nejspolehlivější místo bude skutečně uvnitř naší vlastní hlavy? Řekněte mi, dokázal byste se podepsat pod výrok jednoho buddhistického mistra, který řekl: „Lidé věnují všechnu svou energii, sílu, a myšlenkovou kapacitu tomu, aby se jim samotným dařilo dobře, aby byli šťastní. Až začnou věnovat svoje síly tomu, aby se dařilo dobře druhým, pak budou skutečně šťastní.“ Řekněte mi, mohla by toto být cesta, nebo to shodíme ze stolu se slovy: „Utopie“?

Karel Červený: Utopie. Asi jsem vás překvapil, ale lidstvo už mělo tolik možností tohle udělat. To není na úrovni masy lidí, to je na úrovni jednotlivců. Když jste to přečetla, tak to znělo jako za nás za všechny, ale to je možné udělat jenom na úrovni jednotlivců, kdy si uvědomí: „Mám rezervy. Žiji si sobecky sám pro sebe, a nemyslím na druhé, tak udělám foglarovsky jeden dobrý skutek.“

Martina: Do modrého života.

Karel Červený: Do modrého života, ano. Takže na úrovni jednotlivce to jde, to podepíšu okamžitě. Ale lidstvo k tomuto nedojde, nebo možná až v roku milión, což je jenom fiktivní název, a s časovým členěním budoucnosti to nemá nic společného. Ale my jsme prostě nepoučitelní. Já si nikdy nemyslel, že se dočkám velké války, a to ještě na území Ukrajiny, nikdy mě nenapadlo, že je něco takového možné. Když byli sovětští soudruzi a jejich impérium, tak to vypadalo, že je svět vyvážený, předvídatelný, vybalancovaný, a podívejte, všichni jsme museli změnit názor tak, že to je možné. Že je možné, že Čína může napadnout Tchaj-wan, že se do toho zaplete Japonsko, Spojené státy, možná Rusko. Ohnisek možných konfliktů je asi 300.

Martina: Ale vy jste před malou chvílí tvrdil, že to, aby se lidé začali věnovat hlavně tomu, aby byl šťastný jejich blízký člověk, nebo jiný člověk, je možné jen na úrovni jedinců. Tak já bych skončila tak, jak jsme začali: Podle Paretova pravidla by stačilo 20 procent.

Karel Červený: Ano. Kritická masa je zhruba 25 procent, to máte pravdu. Ano, Paretovo. Kéž by všichni používali Paretovo pravidlo, protože by si velice usnadnili život: Malé příčiny, velké následky.

Martina: A pak by ani tato utopie nemusela být utopií.

Karel Červený: Kéž bychom se potom nemuseli tázat, co je to dystopie.

Všechny příspěvky s Karel Červený

Diskuze:

  1. Ešteže existuje prirodzená rovnováha. Človek s tymto všetkým povedanym súhlasí. Zároveň však vie, že tam, kde má niekto menej peňazí, technologií…. Tam prichádza k niečomu krásnemu, že človek je aj chránený od toľkých sprostostí a je tak nejak stastnejší..

  2. Celý hovor jen v rovině materialismu. Jenže to horší je, že podstaty, které nevidíme, jsou i škodolibé, slabě řečeno. A ty už mohou vědět, jak zasahovat, kam mířit.

  3. Naprostá většina lidí touží po uznání. Dospělí se snaží dosáhnout uznání v životě, děti a ti kterým se to nepodaří si hledají náhradu a nalézají ji na netu. Tam může být bezvýznamný slabý úředník svalnatcem, který každého protivníka rozmlátí na cucky. Vypadá to, že ani pan Červený, ani Radio Universum nechápe základní lidské potřeby.
    „nezbývá, než si položit otázku, zda se nestaneme ochotnými oběťmi umně připravených aplikací. Zda nepodlehneme omylu, že jsou tady pro nás, pro naše pohodlí, a nepřehlédneme to podstatné, že otročíme my jim – tedy ne aplikacím, ale všem těm, kdo stojí za nimi.“
    Myslím, že je to špatně položená otázka. Naprostá většina se ani nestane obětí, ani otrokem, bude na nich trávit určitý čas, který by trávila díváním na telku, která bývá také placena reklamami, nebo během jízdy v MHD, kdy by koukali do blba. I když by si mohli místo toho začít povídat se sousedem.

    „co chcete naučit lidi, kteří mají nízké vzdělání, nebo nikdy neuplatnili to, čím se vyučili, nebo co vystudovali?“
    Cokoli. Chybějící vzdělání nebývá překážkou úspěšného výkonu povolání, chybějící vzdělání bývá ale překážkou získání takového povolání, díky byrokratickým pravidlům. Ovšem umělá inteligence je v současnosti nebezpečí pro kancelářské profese. Kopáče, nebo elektrikáře se zatím netkne. Doba, kdy vám přijde zapojit zásuvku robot je stále daleko.
    „A teď co s lidmi, kteří nebudou mít práci?“
    No, mohou trávit víc času na sociálních sítích. Nebo založit společnost. Napsat knihu. A dokazuje to, že ta údajná nutnost snížit důchody, na které prý naši potomci kterých jsme nepočali dost prý nedokáží vydělat, je jen hloupá výmluva.
    Umělá inteligence se dokáže naučit a kombinovat současné znalosti, ale zatím není schopna vymyslet něco nového.
    Pokud se chceme mít dobře, musíme produkovat a zisk tu musí zůstávat a být investován. Pokud je zisk vyváděn do zahraničí, můžeme dřít jako mourovatí a nic z toho nebude. Stejně tak, pokud budeme sedět v kancelářích a pilně úřadovat. Úředníci jsou potřební, ale nevytváří produkt, jen zvyšují jeho cenu. Když je jich moc, škodí.
    Počítače umožnily sbírání obrovského množství informací, jak se zlepšují, jejich množství roste. Vidíme to na formulářích potřebných k vyřízení našich záležitostí. Záleží, k čemu je používáme, vláda nechtěla zrychlit vyřizování tehdejších žádostí, ale víc informací o poddaných a úředníci si chtějí zachovat svou moc a místa. Průkazy u nás se den po vypršení platnosti nedají obnovit, a nedají použít jako průkaz totožnosti pro obnovení, musíte si zažádat jako byste doklad nikdy neměli. Je to čistě byrokratické rozhodnutí. V zahraničí je běžné, obnovit propadlý doklad který je i několik let neplatný. Zatímco v zahraničí jde o službu, u nás jde o výkon moci nad poddanými.
    Nevím, jak paní Kociánová přišla na to, že umělá inteligence je levná, její využití je zatím spíš vyjímečné, pochybuji, že ovlivňuje ceny.
    Najít si další práci a dřít až padnu na hubu, to je recept na šťastný život pro plebs od našich expertů.
    Lidi, kteří věnují svou energii aby se druhým dařilo dobře, máme. Říká se jim dobroser.

    1. To, o čem si povídají v rozhovoru je čajček. Problém s umělou inteligencí je snaha o její vojenské využití. Jinak řečeno velmoci učí umělou inteligenci zabíjet lidi.

      1. Bože, dek mi sílu změnit to, co změnit mohu; dej mi trpělivost smířit se s tím, co změnit nemohu; a dej mi moudrost, abych mezi těmi dvěma možnostmi správně rozeznal.

        Jde to zastavit? Ne.
        Jde proti tomu bojovat? Ne.
        Zbývá jediné: snažit se dostat mezi ty, kteří skončí na vrchu. Ten rozhovor je hezký výčet toho, kam se koukat.

  4. Kéž by se všichni ti bohatci, jako Sereš, Gates, Cukrberk, tamti z Gůglu, a komplet celá administrativa SSA „nahráli do počítače“! Já bych pak k němu přišel, udělal cvak a byl by na pár (desítek) let pokoj.

    Tak že pan Červený neví, že zemřel profesor Zelený, že neviděl Big short, to se asi může stát. Ale blábolit cosi o malování obrazců v Suezském průplavu a tvrdit, že je chybí voda v Panamském, to už hraničí s tím, že ho nemá smysl poslouchat. Stejně o příčinách toho bordelu neví nic, nebo nechce říct.

  5. pouze blafy, zadna umela inteligence neexistuje, pouze dosud nebyvala urychlena automatizace daleko vetsiho mnozstvi dat, AI marketing ma za ucel animovat hlupaky aby nakupovali akcie spolecnosti ktere na tom jeste nevydelaly ani dolar, tak to bylo s dot.com hysterii r 2000 a tohle je stejne, zase vyrobi na burze dalsi bublinu ktera nevyhnutelne splaskne, zadny computer nemysli a nikdy myslet nebude, co se do nej nacpe, to zase vyplivne.Clovek nemuze vyvinout neco chytrejsiho nez je lidsky mozek.

    1. Víceméně souhlas. Technicky je jistě možné vyrobit umělé neurony a perceptrony, nebo jejich funkce simulovat na univerzálním počítači. Jenže zatim jsme na úrovni žížaly.

      Abychom mohli říci, že jsme vytvořili umělou inteligenci, museli bychom především dokazat definovat, co vlastně je inteligence jako taková.

      Vždycky si vybavím výklad pana Wéricha co je středověk: „Střed je bod stejně vzdálený od začatku i od konce. Ten začátek je pevný, neměnný (protože nevíme, kdy to vlastně začalo). Ale ten konec se neustale pohybuje, a s ním se pohybuje i ten střed. Takže dnešek jednou bude středověkem“.

      Neznáte? Pusťte si předscény Wericha a Horníčka. Ono je tam kolem ještě spousta srandy, ale to podstatné jsem zde reprodukoval:

      nebuďme domýšliví, žijeme
      v budoucím středovéku 🙂 🙂

  6. Martina: „Posléze se nám to třeba nějak zvrhne, ať už nadužíváním, nebo se prostě třeba dostanou do špatných rukou“.

    Ono se nám „to“ nezvrhne nějak. Ono je naprosto zákonité, že se „to“ zvrhne.. To zlo totiž není v žádném objevu či vynálezu, ale jen a jen v lidech. To „nebo třeba“ je tam zcela nesmyslné. Vše, co někdo vymyslí, se vždy dostane jak do dobrých, tak do špatných rukou. Myslet si, že tentokrát to bude jinak je naivní a sebevražedné.

    1. To platí zcela obecně, tedy i o umělé inteligenci.

      Druhá věc je, zda to, čemu dnes říká spousta lidí umělá inteligence, je skutečně inteligence, a zda je skutečně umělá.

      Turing definoval test takto: posaďte do místnosti testujicí osoby a nechte je hovořit s někým skrytým za závěsem. Pokud nikdo nepozná, zda hovořil s jiným člověkem nebo se strojem, máte stroj s umělou inteligencí.

      Jednoduché, ale má to jeden háček. Bude asi dost velký rozdíl, jestli tam posadíte Otíka z vesničky mé střediskové, ministra Jurečku, konstruktéra kosmických lodí, šachového velmistra nebo Alberta Einsteina. Takže kolik a jak inteligentních lidí je k průkaznosti testu potřeba?

      I když však prokážeme, že máme inteligentní stroj, narazime na dalši problém. Pokud bude fungovat jen jako poradce, ponese veškerou odpovědnost člověk či skupina lidí, radami se řídící. Pokud ale stroji dovolíte cokoliv ovladat přimo, např. řidit auto nebo protiraketový systém státu, kdo ponese odpovědnost?

      1. … jestliže ale budeme AI využívat jen jako poradce, bude dosažitelný efekt silně omezený (ne)inteligencí těch, kterým bude radit, takže může vzniknout víc škody než užitku ….

    1. Každá inteligence je umělá, i ta lidská. Zkuste držet nemluvně zavřené v místnosti bez oken, bez kontaktu s lidmi, bez učení, bez knih, do 16 let a pak mu udělejte test na IQ ….

      1. podle mne to dite nebude mene inteligentni nez kdyby zavrene nebylo, pouze nebude mit vedomosti. Vetsina lidi zamenuje intelekt a vedomosti a chybne se domniva ze cim vice vedomosti, tim vice intelektu, kdyby tomu tak bylo, nepobihaly by po svete hordy magoru s akademickym titulem. Intelekt je geneticky zdedeny a predstava ze ho lze merit IQ testem je infantilni, vysledek prakticky vzdy podleha preferencim testujiciho,respektive autora testu, dle toho co on povazuje za intelekt. Teprve ukazka toho jak dotycny vedomosti uplatnuje muze byt kriteriem posouzeni intelektu, ale vzdy to bude pouze subjektivni pohled.

  7. A jde Pervitin drogu či Ečko či marihuanu či kokain či druh. A  je zničit tyto drogy laboratoře používají mafiáni, prodejci. 6e návykový a zneužitý Despace a Kabalou a Chaosem temnotou a zlem obludou ! A pervitin je v ze-mých zničit že Ukrajině Zelenski falešný prezident ,používá Pervitin a  ale přežene tak zemře alspon by pokoj od něj. A vojáci a žoldáci píchají pervitin tak roboti bez citů a emocí pozitivních a bez srdce tak schopni vydržet i  kulky v těle a zabíjí i nevinné civilisty či vojáky vzdaly. A eu parlament Brusel používá !

    1. Tento príspevok je peknou ukážkou práce umelej inteligencie.
      Má zrejme ukázať, že až tak moc sa tej inteligencie netreba báť.

Napsat komentář