Boj o "nebezpečnou" ideologii, která formuje debatu o umělé inteligenci

1. 9. 2023

Stále hlasitější kritici však varují, že tato filozofie je nebezpečná - a posedlost vymíráním odvádí pozornost od skutečných problémů spojených s umělou inteligencí, jako jsou krádeže dat a předpojaté algoritmy.

Spisovatel Emile Torres, bývalý dlouhodobý kritik hnutí, řekl AFP, že filozofie spočívá na principech používaných v minulosti k ospravedlnění masových vražd a genocidy.

Přesto hnutí a s ním spojené ideologie, jako je transhumanismus a efektivní altruismus, mají obrovský vliv na univerzitách od Oxfordu po Stanford a v celém technologickém sektoru.

Rizikoví kapitalisté jako Peter Thiel a Marc Andreessen investovali do společností prodlužujících život a dalších projektů spojených s hnutím.

Elon Musk a Sam Altman z OpenAI podepsali otevřené dopisy, v nichž varují, že umělá inteligence by mohla způsobit vyhynutí lidstva – i když z toho budou mít prospěch, když tvrdí, že pouze jejich produkty nás mohou zachránit.

Kritici tvrdí, že toto okrajové hnutí má příliš velký vliv na veřejné debaty o budoucnosti lidstva.

"Opravdu nebezpečné"

Longtermisté věří, že jsme povinni snažit se dosáhnout nejlepších výsledků pro co největší počet lidí.

To se nijak neliší od mnoha liberálů 19. století, ale longtermisté mají na mysli mnohem delší časovou osu.

Dívají se do daleké budoucnosti a vidí biliony a biliony lidí vznášejících se vesmírem, kolonizujících nové světy.

Tvrdí, že každému z těchto budoucích lidí dlužíme stejnou povinnost jako komukoli, kdo žije dnes.

A protože je jich tolik, mají mnohem větší váhu než dnešní lidé.

Tento druh myšlení činí tuto ideologii "opravdu nebezpečnou", řekl Torres, autor knihy "Human Extinction: A History of the Science and Ethics of Annihilation".

"Kdykoli máte utopickou vizi budoucnosti poznamenanou téměř nekonečným množstvím hodnoty a kombinujete ji s jakýmsi utilitárním způsobem morálního myšlení, kde účel může ospravedlnit prostředky, bude to nebezpečné," řekl Torres.

Pokud by se superinteligentní stroj mohl probudit k životu s potenciálem zničit lidstvo, longtermisté jsou povinni se proti němu postavit bez ohledu na následky.

Když se v březnu uživatel Twitteru, platformy nyní známé jako X, zeptal, kolik lidí by mohlo zemřít, aby se to zastavilo, longtermistický idealista Eliezer Yudkowsky odpověděl, že je zapotřebí pouze dostatek lidí "k vytvoření životaschopné reprodukční populace".

"Dokud je to pravda, stále existuje šance, že jednoho dne dosáhne hvězd," napsal, i když později zprávu smazal.

Tvrdá eugenika

Longtermismus vyrostl z práce švédského filozofa Nicka Bostroma v letech 1990 a 2000 věnované problémům existenciálního rizika a transhumanismu - myšlenky, že lidé mohou být "valepšeni" technologií.

Akademik Timnit Gebru poukázal na to, že transhumanismus byl spojen s eugenikou od samého počátku.

Britský biolog Julian Huxley, který vytvořil termín transhumanismus, byl také prezidentem Britské eugenické společnosti v letech 1950 a 1960.

"Longtermismus je eugenika pod jiným názvem," napsal Gebru loni na X.

Bostrom dlouho čelil obviněním z podpory eugeniky poté, co jako existenční riziko uvedl "dysgenické tlaky", v podstatě méně inteligentní lidi, kteří se množí rychleji než jejich chytřejší vrstevníci.

Filozof, který vede Institut budoucnosti lidstva na Oxfordské univerzitě, se v lednu omluvil poté, co přiznal, že v roce 1990 psal rasistické příspěvky na internetovém fóru.

"Podporuji eugeniku? Ne, ne tak, jak je tento termín běžně chápán," napsal ve své omluvě a poukázal na to, že byl použit k ospravedlnění "některých z nejstrašnějších zvěrstev minulého století".

"Senzačnější"

Navzdory těmto potížím jsou longtermisté jako Yudkowsky, absolvent střední školy známý psaním fan-fiction o Harrym Potterovi a propagací polyamorie, i nadále oslavováni.

Altman mu připsal zásluhy za to, že získal finanční prostředky na OpenAI, a v únoru naznačil, že by si zasloužil Nobelovu cenu míru.

Ale Gebru, Torres a mnoho dalších se snaží znovu zaměřit na škody, jako je krádež práce umělců, předpojatost a koncentrace bohatství v rukou několika korporací.

Torres tvrdí, že i když existují opravdoví věřící jako Yudkowsky, velká část debaty o vyhynutí byla motivována ziskem.

"Mluvit o vyhynutí lidstva, o skutečné apokalyptické události, při které všichni zemřou, je mnohem senzačnější a podmanivější než keňští dělníci, kteří dostávají zaplaceno 1,32 dolaru za hodinu, nebo umělci a spisovatelé, kteří jsou vykořisťováni," uvedl.

Zdroj v angličtině: ZDE