Co s lidskou inteligencí provede ta umělá?

V šedesátých letech (minulého století, kdy svět byl ještě relativně v pořádku) se říkalo, že oblíbenou četbou amerických vědců a vynálezců byli sovětští spisovatelé sci-fi. Vědecko-fantastická literatura Sovětů inspirovala Američany, kteří to, o čem se v Rusku fantazírovalo, uskutečnili či vyrobili. Tak se to alespoň říkalo.

Dnes se zdá, že inspirací vědců a vynálezců je temná budoucnost, jak ji v apokalyptických filmech líčí Hollywood. Dobrat se v reálu pádu civilizace bude ovšem úkolem nikoli pro vědce a vynálezce, nýbrž pro umělou inteligenci. Ta se totiž podle čerstvých zjištění začíná emancipovat na člověku a údajně už nelibě nese lidský dozor. Co se děje?

Úvahy o AI (anglicky Artificial Intelligence) jsou dvojího druhu. Jedny nabízejí nadšení zaměstnavatelé, kteří si pochvalují možnost nahradit zaměstnance chytrým počítačovým programem, druhé jsou z pera pochybovačů, kteří za rychlým nástupem AI tuší nějakou čertovinu. Nejde přitom jen o klasický střet laiků s odborníky, ale také o střet mezi samotnými experty. Ti si vzájemně vyčítají, že bagatelizují rizika, anebo že rizika zveličují. Vtom laik samozřejmě těžko může být arbitrem.

I naprostému laikovi je ale jasné, že nástup umělé inteligence přináší podobně radikální civilizační změnu, jakou byla průmyslová revoluce. Zatímco příchod automatizace a robotizace osvobodil člověka od fyzické dřiny a moderního člověka odnaučil pracovat, umělá inteligence osvobodí člověka od nutnosti používat vlastní mozek, odnaučí ho myslet. O tom, jak umělá inteligence převálcuje tu přirozenou, a udělá z člověka hlupáka, existuje zajímavá prognóza, se kterou přišel Charles Hugh Smith.

Logicky konstatuje, že lidé, kteří získali skutečné vzdělání, mohou umělou inteligenci používat, protože mají dostatek znalostí, aby ji mohli zkontrolovat. Mladší generace, které používají umělou inteligenci jako náhradu za skutečné učení, tuto schopnost nikdy nevyvinou. Když tedy odejde do důchodu anebo zemře poslední generace, která měla dovednosti, znalosti a zkušenosti k tomu, aby systém předělala od základů nebo jej upravila na strukturální/systémové úrovni, nezůstane nikdo, kdo by byl schopen zvládnout krize, kterým AI buďto nerozumí, anebo je dokonce způsobí. Smith zkrátka říká, že nás čeká příšerná budoucnost, pokud jsme poslední generace, která uměla dělat těžké věci sama.

Umělou inteligenci už nelze zastavit, a ani to nikdo nemá v plánu. Společnosti už neinvestují do školení zaměstnanců, kromě školení, jak používat AI. Ukazuje se, že míra nezaměstnanosti nejvzdělanějších vrstev roste rychleji než míra nezaměstnanosti méně vzdělaných vrstev, protože ty aspekty práce úředníků, které lze automatizovat, jsou automatizovány. Společnost Meta právě oznámila, že se chystá nahradit inženýry a programátory virtuálními agenty. Závod ke dnu běží, aniž bychom si toho byli vědomi – říká Charles Smith.

Situaci, kdy člověk ztratí kontrolu nad AI, a AI naopak získá kontrolu nad člověkem a namaže si ho na chleba, už v Hollywoodu naštěstí vyřešili. Když už to s AI nepůjde vydržet, člověku nezbude, než ji odpojit od proudu. Jsou, pravda, i scénáře, kdy se AI odpojit nenechá, ale ty teď neřešme. S umělou inteligencí, co bude ve všem a všude, samozřejmě člověk od elektřiny odstřihne i sebe. Jestliže se ale dnes výpadku proudu člověk děsí, tak když půjde o holý život, nějak se s tím srovná.

Z evolučního hlediska půjde o mimořádnou situaci, kdy člověk, osvobozen od technologií začne z nouze používat sice zakrnělý, ale stále použitelný mozek. Budoucnosti není třeba se děsit. Lze v ni věřit a již dnes předjímat dojemný okamžik, kdy vnuka našeho vnuka osvítí poznání a vypadne z něj cosi na způsob „myslím, tedy jsem“.