Facebook jako stroj posledního soudu

18. 12. 2020

čas čtení 6 minut
Architektura moderního webu představuje pro lidstvo vážné hrozby. Ještě není pozdě zachránit se, napsala Adrienne LaFranceová.


Předpokládalo se, že stroj posledního soudu nikdy nebude existovat. Mělo jít o myšlenkový experiment, který probíhal takto: Představte si zařízení s jediným účelem, zničit veškerý lidský život. Nyní předpokládejte, že tento stroj je pohřben hluboko v podzemí, ale spojen se všemi počítači, které zase komunikují se senzory po celých USA.

Senzory mají pátrat po známkách nadcházející apokalypsy - nebránit konci světa, ale dokončit jej. Pokud úroveň radiace naznačuje jaderné exploze ve třech amerických městech současně, senzory vyrozumí stroj posledního soudu, který je naprogramován tak, aby v reakci na to odpálil několik jaderných hlavic. V tomto okamžiku není cesty zpět. Jaderná reakce způsobující jaderný výbuch je spuštěna v dostatečném počtu na to, aby vymazala veškerý život na Zemi. Dojde k příšernému záblesku, velkému třesku, pak k vytrvalému hluku.

Skutečná úděsnost stroje posledního soudu spočívá v jeho autonomii, v myšlence, že je naprogramován tak, aby detekoval sérii environmentálních vstupů a pak jednal, bez lidského zásahu. "Neexistuje šance na lidskou intervenci, kontrolu a konečné rozhodnutí," napsal vojenský stratég Herman Kahn ve své knize z roku 1960 "O termojaderné válce", která přišla s hypotézou stroje posledního soudu. Toto pojetí mělo učinit jadernou válku nevyhratelnou a tudíž nemyslitelnou.

Kahn dospěl k závěru, že zautomatizované zničení veškerého života na Zemi by bylo nemorální. Byť i jen nekonečně malé riziko chyby je příliš velké na to, aby ospravedlnilo existenci stroje posledního soudu. Žádný stroj by neměl být sám o sobě tak silný - ale ani žádný jednotlivý člověk.

Sověti skutečně vyrobili během studené války verzi stroje posledního soudu. Přezdívali mu "Mrtvá ruka". Ale až dosud se nám jakýmsi zázrakem podařilo naučit se žít s bombou. Teď se musíme naučit, jak přežít sociální sítě.

Lidé mají sklon stěžovat si, jakoby se na Facebooku něco pokazilo teprve nedávno. Existuje pocit, že sociální síť byla kdysi užitečná, nebo přinejmenším mohla být dobrá, jen kdybychom zatáhli za několik pák: Nějaké to moderování a kontrola faktů zde, trochu regulace onde, možná federální protitrustová žaloba. Ale to je příliš optimistický a krátkozraký pohled. Dnešní sociální sítě, k nimž Facebook patří, byly navrženy tak, aby podporovaly věci, které je činí tak škodlivými. Jsou zabudovány v samotné jejich architektuře.

Sociální síť dělá přesně to, k čemu byla určena. Facebook neexistuje proto, aby hledal pravdu a přinášel ji, nebo aby zlepšoval veřejné zdraví, nebo aby volal mocné k odpovědnosti, nebo aby zastupoval zájmy svých uživatelů, ačkoliv tyto fenomény mohou být příležitostnými vedlejšími produkty jeho existence. Počátečním cílem společnosti bylo "dát lidem moc sdílet a učinit svět otevřenějším a propojenějším". Místo toho vzala pojem "společenství" a zbavila jej veškerého morálního významu. Například vzestup konspiračního hnutí QAnon je jedním z logických důsledků existence sociální sítě. To proto, že Facebook - spolu s Googlem a YouTubem - je perfektní pro amplifikaci a šíření dezinformací mezi globální obecenstvo rychlostí světla. Facebook je agentem vládní propagandy, cíleného obtěžování, rekrutace teroristů, emocionální manipulace a genocidy - historická světová zbraň, která nežije v podzemí, ale v Disneylandem inspirovaném kampusu v Menlo Parku v Kalifornii.

Giganti sociálních sítí dosáhli úspěchu tím, že jsou ve své honbě za rozšiřováním dogmaticky neutrální vůči hodnotám. Někdy po cestě sem se Facebook rozhodl, že potřebuje nejen značně velkou základnu uživatelů, ale základnu ohromující, bezprecedentní velikosti. Toto rozhodnutí ho navedlo na cestu únikové rychlosti, do zlomového dobu, od nějž může škodit společnosti pouhou svou existencí.

Před několika týdny majitel Facebook Mark Zuckerberg hájil rozhodnutí nezrušit účet Stevu Bannonovi, poté co v zásadě argumentoval ve prospěch stětí dvou vysoce postavených amerických představitelů, epiodemiologa Anthonyho Fauciho a ředitele FBI Christophera Wraye. Vedlo mě to k otázce, na níž neexistuje odpověď, ale přesto ji stále lidem kladu: Jak mnoho z násilí v reálném světě by se nikdy nestalo, kdyby Facebook neexistoval?

Ohromný rozsah Facebooku dává Zuckerbergovi bezprecedentní vliv na globální populaci. Pokud není nejmocnějším mužem planety, nachází se velmi blízko vrcholu.

Nová dozorčí rada Facebooku vytvořená v reakci na stížnosti a pověřená úkolem moderovat a rozhodovat o svobodě projevu, představuje další rozšíření této moci.

Každý, kdo to myslí vážně s omezováním škod způsobených lidstvu sociálními sítěmi by měl samozřejmě zvážit odchod z Facebooku a Instagramu a Twitteru i jakéhokoliv dalšího algoritmicky pokrouceného informačního prostředí, které lidmi manipuluje. Ale musíme přijmout širší pohled na to, co by mohlo napravit prostředí sociálních sítí. To by vyžadovalo postavit se logice dnešních platforem - především samotné pojetí ohromného měřítka coby způsobu, jímž se lidé shromažďují. Potřebujeme alternativy. A potřebujeme, aby dost lidem záleželo na těchto alternativách, abychom zlomili zakletí kapitálu a masové pozornosti, které vytváří fatalismus ohledně webu, tak jak dnes vypadá.

Pořád věřím, že internet je pro lidstvo dobrý, ale navzdory sociálním sítím, nikoliv kvůli nim. Musíme také hledat cesty k nápravě aspektů naší společnosti a kultury, které sociální sítě těžce poškodily. Bude to vyžadovat intelektuální nezávislost, respektující debatu a stejné rebelantství, které kdysi pomohlo vyvolat osvícenství.

Možná nedokážeme předvídat budoucnost, ale víme, jak vzniká: Ze záblesků vzácné a skutečné invence, kterou udržují naživu lidé, jež jí věnují čas a pozornost. Právě teď příliš mnoho lidí dovoluje algoritmům a technologickým gigantům, aby jimi manipulovali. Ve výsledku se realita stává nedosažitelnou. Stroj posledního soudu tohoto století je zde a bzučí všude kolem.

Nemusí to tak být.

Podrobnosti v angličtině: ZDE

0
Vytisknout
3702

Diskuse

Obsah vydání | 23. 12. 2020