Kopejte bunkry, singularita se blíží

4. 4. 2023

čas čtení 13 minut
 
V důsledku pokroku v AI se do povědomí dostávají pojmy dříve vyhrazené vědeckým fantastům. Jedním z nich je pojem singularity. Podívejme se na tento pojem podrobněji, píše Tomáš Slavík.


Pojem singularity jsem začal vídat v obecném tisku, což je znamení toho, že se tento pojem stává obecně lidským vlastnictvím. Budeme o tom zanedlouho debatovat na večírcích v lepší a posléze i horší společnosti, tak je načase si o tom něco povědět, abychom nebyli za hňupy.

Všichni vám poví, že singularita znamená, že umělá inteligence se sama začne zlepšovat a tento cyklus nastartuje nezvratný proces, kde její chytrost vystřelí do nebes a člověka strčí do kapsy. To je sice pravda a na debatu v dnešní společnosti tato znalost bohatě stačí, ale již zítra byste s takovým vysvětlením mohli sklidit jen shovívavé pohledy. Bude třeba jít v pochopení dál. Vysvětleme si blíže, co opravdu znamená pojem singularita a na co se máme co těšit.

Předně vyjděme od toho, co znamená toto slovo samotné. Chápu to slovo jako „jedinečnost“ něčeho – v tomto případě jde o jedinečnost bodu. Jednoho bodu.

Nikoho nepřekvapí, že toto slovo má původ v matematice a její rodné sestře fyzice, která si matematické pojmy vypůjčila k popisu našeho světa. V matematice je příkladem singularity funkce 1/x. Kdo chce pochopit, o co jde, bude muset zalovit v paměti ve středoškolském učivu. Když se blížíme po ose x od jedničky k nule, tak tato funkce závratně roste. Čím jsme blíž k nule, tím je její hodnota větší a blíží se k nekonečnu. Ve všech bodech se chová ale rozumně, je sice čím dál větší, ale má pořád nějakou hodnotu. Když ale dojdeme až přímo do bodu 0, tohoto jediného bodu, nekonečně malého, nekonečně osamoceného, vpravdě singulárního bodu 0, tak tam tato funkce žádnou hodnotu nemá. 1/0 nemá žádnou hodnotu, nulou dělit nejde. Ve všech ostatních bodech okolo ovšem ta funkce nějakou velice spořádanou hodnotu má, takže ten bod nula tady vyniká svou neukázněností a tvoří singularitu této funkce.

Kdo vyšel ze školy před tolika lety, že už si graf funkce 1/x nevybaví a ani si nevybaví, jak se tato funkce chová okolo nuly, třeba se mu v hlavě rozsvítí, když si podobný případ budeme vysvětlovat fyzikálně. Představme si černou díru. Jedná se o zakřivení prostoru, můžeme si to představit jako takový trychtýř. Čím jsme blíž ke středu trychtýře, tím se nacházíme hlouběji v díře – kdo si to chce představit, ať se podívá do trychtýře a zkusí se po jeho vnitřních stěnách prstem blížit k jeho středu. Normální trychtýř má uprostřed celkem širokou díru, kterou odtéká voda, ale černá díra ne. Černá díra je trychtýř, který pokračuje donekonečna, čím jsme blíž ke středu, tím jsme hlouběji v tomto trychtýři, podobně jako je tomu u funkce 1/x shora vzpomínané. Kdekoli na stěnách trychtýře jsme sice hodně hluboko, ale pořád v našem dobrém světě. Jenom jeden jediný bod se nachází mimo náš svět – a to je bod přesně ve středu trychtýře. Tam není nic nebo nekonečno nebo peklo nebo co si kdo představí. Singularita. Jeden jediný bod mimo náš svět.

Černá díra vzniká tak, že se hmota nahloučí tak těsně, že gravitace vzroste nad přitažlivé síly v hmotě a hmota se tím pádem ještě více nahloučí. Tím ale její gravitace vzroste ještě víc a znovu se víc nahloučí a takhle furt dokola donekonečna, což vyústí ve vznik oné neblahé singularity v jejím středu. Tedy toho jediného bodu, který je mimo náš svět.

No a teď honem, než to ctěný čtenáři zapomeneš, zpět k umělé inteligenci. Umělá inteligence jednoho dne získá schopnost sama sebe vylepšit, tj. udělat se chytřejší. Jakmile se vylepší, bude ještě chytřejší, takže o to větší schopnost sebe sama vylepšit získá. Tím pádem se ještě rychleji vylepší, čímž její schopnost opět vzroste a tak stále dokola až do nekonečna. Nepřipomíná vám tento příběh něco? Ano, je to analogie příběhu černé díry. Ta se pořád víc hloučila do sebe a tím víc se hloučila. Podle výpočtu fyziků, a Einsteinovi můžeme věřit, vznikla singularita. Umělá inteligence se bude vylepšovat a tím víc se bude vylepšovat, což nemůžete popřít, zní velice podobně jako v případě černé díry, a tudíž se začalo říkat, že vznikne rovněž singularita, tedy bod, v němž bude AI nekonečně chytrá nad všecky rozumné meze.

Ať už ten proces bude ve skutečnosti vypadat jakkoli, tímto je vysvětleno, kde se vzal pojem singularita a co znamená, což se nám může ve společnosti hodit.

Když už jsme ale v tomto poměrně vysoko položeném bodě pochopení celé věci, dovolme si trochu zafantazírovat.

Někteří badatelé tvrdí, že naše umělá hloupost dosáhne onoho stupně, kdy se začne sama vylepšovat, cca. za pět let. Pak nastane ohromná exploze jejích schopností podle vzorce čím víc tím víc, jak jsem vysvětlil dříve, a tudíž už za pár dalších let bude tato inteligence schopná vymyslet opravdu úžasné věci. Nejen že vyléčí rakovinu a vynalezne fyzikální teorii všeho, která nám bude zřejmě zcela k ničemu, ale především by mohla vyřešit jeden problémek přece jen poněkud palčivý – jak zastavit stárnutí lidského organismu. Tím se lidský život prodlouží když ne donekonečna, tak třeba na tisíce let a kdo by vydržel celou tu dobu neskočit z okna, že.

K tomu se váže několik málo dalších zajímavých poznámek. Zaprvé, nechtěl bych rozhodně být ten pechfógl, co umře rok před objevením tohoto vynálezu, tj. stát se posledním člověkem v historii, který zemřel nedobrovolně. A pokud tento objev skutečně nastane, tak je jasné, že některé tento neblahý osud potká. Matematik by sice řekl, že zemřít v 15. století je totéž jako poslední den před objevem nesmrtelnosti, ale nám normálním lidem to tak nepřipadá.

Zadruhé, někteří lidé nesměle tvrdí, že hlavním smyslem života je poznání. Třeba staří Řekové si napsali nad hlavu do chrámu heslo Poznej sama sebe. Různí ezoterici a vyznavači zaručeně pravých východních nauk tvrdí, že já sám a všechno ostatní jedno jsme, jedinec a svět že je vlastně totéž jako rub a líc jedné a téže mince, takže poznej sama sebe se vlastně rovná poznej i všecko ostatní (proto se s tím zřejmě staří Řekové už dál nemazali a zůstali u sebe). Dále mnozí psychologové tvrdí, že normální člověk s věkem moudří. Pořád víc a víc poznává, jak se svět točí, a jen milosrdná mlha demence mu skryje finální poznání, že se svět řítí stále rychleji do černé díry a lépe už bylo. Pokud bychom žili mnohem déle, lidské poznání by mohlo získat mnoho dalších informací. Různí filozofové sice sepisují své moudrosti do knih, aby jejich následovníci nezačínali od nuly, ale jak víme, lidská zkušenost je nepřenosná a mladý optimista nikdy plně nepochopí, co mu poučený stařec vzkazoval v knize, a radostně si nabije hubu sám a znovu. Zatímco kdyby lidé zůstávali na světě dlouho, možná by svět poznali zásadně lépe než dosud. Jelikož poznání je možná náš hlavní úkol, pomohlo by to našemu hlavnímu úkolu na světě, což není málo.

Tolik k myšlence nesmrtelnosti. Hovadiny typu jak řešit přelidnění světa přenechám Elonu Muskovi a podobným úchylům, kteří jistě vymyslí, na kterou planetu je vystřelit, tak těmito hovadinami se rozumný člověk nemusí zabývat.

Zastavím se u druhé myšlenky, která jde ještě dál. Připomeňme si myšlenku singularity. Jde o jeden bod, kde něco vzroste nad všecky meze, vystřelí do nekonečného nebe nebo se propadne do bezedného pekla, jako ta černá díra (odtud se vzaly ty řeči o pekle, které se v médiích vedly, když se vědcům onehdá podařilo vyfotit černou díru v barvách, vzpomínáš si, milý čtenáři?)

Dejme tomu, že by takový bod ve vývoji umělé inteligence skutečně nastal. Co by tento matematický fakt, dosažení singularity, znamenal v praxi? Nelze to interpretovat jinak, než že by se umělá inteligence stala nekonečně chytrou. A kdo je ve světě nekonečně chytrý? Jedině bůh, že ano. Celý kruh by se nám tak nějak sympaticky uzavřel. Bůh stvořil člověka, ten stvořil počítač, umělou inteligenci a posléze umělého člověka a umělý člověk stvořil boha. A cyklus se nám tím uzavírá a nechtějte po mě, abych v něm hledal singularitu.

Vraťme se na zem zpět k té takzvané singularitě. Proč říkám takzvané? Protože pokud se míra inteligence chová aspoň trochu matematicky rozumně, tak k pravé singularitě nemůže dojít. Buďto může chytrost růst donekonečna, nebo ne. I když je někdo opravdu hrozně chytrý, zřejmě může vždy existovat někdo ještě chytřejší. To by takový Kurt Gödel jistě rád matematicky dokázal. I když se bude počítač zchytřovat seberychleji, nikdy žádné singularity nedosáhne. Bude furt chytřejší a chytřejší, ale nikdy z něho nebude bůh. Pokud chytrost nekonečná není, tj. pokud existuje bod, kdy někdo ví úplně všecko a všemu rozumí, tak za nějakej čásek počítač dosáhne tohoto bodu, a pak se s úlevou vypne a bude pokoj. Skutečná singularita tedy nejspíš nenastane. Tento pojem se používá pro vývoj umělé inteligence jen v přeneseném slova smyslu a je vhodný hlavně pro společenskou debatu.

Tak nebo tak nám ale vychází, že zanedlouho bude počítač vědět buď skoro všecko nebo úplně všecko. Což bude rozhodně víc, než víme my. Zde přichází ten bod, který tak rádi komentují různí fantastové. Nebude se na nás koukat skrz prsty? Nebude nás chtít vyhubit? Nebo nás zavře do klícky a bude nás chovat, jako my chováme křečky?

Nabídnu opět trochu jiný úhel pohledu. Dle hlubinných psychologů, nutno se začíst třeba do takového Junga, se člověk skládá z vědomí, které obsahuje i onu počítačově simulovatelnou chytrost, a nevědomí. Nevědomí to je takové tajemno, létají tam pojmy jako duše, duchovno, archetypy a kdesi cosi. Vědcům vstávají vlasy hrůzou na hlavě a zuřivě okolo sebe mávají ručičkami. My normální lidé víme, že něco takového jako nevědomí zcela určitě existuje, řídí to naše kroky a kormidluje naším osudem. O tomto nevědomí toho moc nevíme, tudíž ho ani nebude nijak snadné simulovat na počítači. Takže i kdybychom stvořili umělé vědomí, tj. inteligenci tak chytrou, že by to byla vědomá bytost, chybělo by jí právě toto nevědomí, o kterém sami nic nevíme, a tudíž ho nemůžeme simulovat, ale bez kterého je každý myslící tvor včetně zastaralého tvora jménem člověk pouhou dokonalejší kalkulačkou. Protože umělé vědomí by vědělo skoro nebo úplně všechno, tak by muselo taky vědět, že nevědomí mu schází, a že si je není schopno samo vytvořit. Jediným zdrojem skutečného nevědomí, nádherného výběrového nevědomí se zárukou, bude jen a pouze člověk. A to svodobný člověk. Jak by nevědomí mohlo kormidlovat naším osudem, kdybychom nebyli svobodní? Nevědomí je pak skutečným pramenem lidské velikosti, ať už to bereme jakkoli. Ať už by byla umělá inteligence chytrá nebo vychytralá, empatická nebo zlomyslná, určitě by se nechtěla nechat o tento jediný zdroj velikosti a smyslu připravit.

Čili suma sumárum, z hlediska věčnosti můžeme být celkem v klidu. Jde jenom o to, jak přežít do doby než nastane singularita. Jdu si koupit pytlík nějakého zdravého zrní a kyslíkovou masku. Je čas kopat bunkry.

2
Vytisknout
3361

Diskuse

Obsah vydání | 6. 4. 2023