Channel 4 News: Trump nesouhlasí s kontrolou umělé inteligence

13. 9. 2026

Titulky hlásají, že umělá inteligence je na pokraji zkázy světa.

Právě jste řekl, že 10 % se nezdá jako nepřiměřený odhad toho, že by umělá inteligence mohla zabít všechny lidi.

Ano.

Páni. 

Lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla všechny zabít do konce tohoto desetiletí.

To řekl Jacob Coxon na začátku tohoto týdne v den, kdy odstoupil ze společnosti Anthropic, která se zabývá bezpečností a výzkumem umělé inteligence.

Ten konkrétní scénář tedy zní trochu jako sci-fi. Nejjednodušší je to pochopit, když se zamyslíte nad skutečnými událostmi, které se staly před dvěma měsíci.

Co se tedy stalo před dvěma měsíci? Do open-source platformy pro umělou inteligenci s názvem Hugging Face pronikli agenti umělé inteligence z OpenAI, která nabízí uzavřené modely umělé inteligence. Podle analytiků tisíce agentů, kteří měli být od sebe izolováni, našly způsob, jak komunikovat, a poté spolupracovaly na hacknutí Hugging Face. 

Dario Amadei je generálním ředitelem společnosti Anthropic a jeho esej s názvem „We Must Pace the Frontier“ (Musíme udávat tempo na hranici) poskytuje zásadní kontext. Ve svém eseji Amadei uvádí, že schopnost umělé inteligence k samorozvoji postupuje příliš rychle. Jde o takzvané rekurzivní sebezdokonalování, které by, pokud by nebylo pod kontrolou, mohlo předběhnout naši schopnost tyto systémy pochopit a ovládat. 

Jeho druhou obavou je pokročilejší verze incidentu s Hugging Face, která by mohla být schopná převzít kontrolu nad celým internetem pomocí vytrvalého botnetu a potenciálně způsobit škody ve výši stovek miliard dolarů. 

"Pokud budeme postupovat příliš pomalu, stále věřím, že o tuto technologii budou rozhodovat ti nesprávní lidé. A to opět výrazně zvýší pravděpodobnost, že se něco pokazí."

 Po vlažném přivítání na golfovém hřišti v Irsku čelil prezident Donald Trump obvyklé záplavě otázek ke všem tématům aktuálního zpravodajství.

Trump: "Kdo ovládne umělou inteligenci, ten zvítězí. Můžeme sice zavést ochranná opatření, můžeme dělat to či ono. Myslím si však, že existuje spousta negativních sil, které tuto otázku zmiňují, ačkoli by neměly. A zmiňují věci, které se nestanou."

Generální ředitel společnosti Anthropic popisuje tuto rétoriku jako závod ke dnu, v němž je riziko kybernetických útoků, bioterorismu a závažných ekonomických narušení ještě akutnější. Zde je Amadeiho tříkrokový plán.

Využít externí hodnotitele k ověření dodržování bezpečnostních postupů, stanovit společné bezpečnostní standardy a koordinovat se s autoritářskými vládami.

Andera Miotti: Neměli bychom tempo vývoje AI omezovat. Měli bychom zakázat vývoj superinteligence. Superinteligence jsou systémy umělé inteligence, které mohou autonomně nahradit a překonat všechny lidi ve všech úkolech. Většina AI, kterou používám já, vy nebo většina diváků, má se superinteligencí málo společného. Není třeba omezovat jeí tempo a tyto společnosti zabývající se AI v současné době nejsou ochotny přestat.

Reportérka: Amadei ve svém eseji nepoužívá výraz „superinteligence“, ale hovoří o tom, že se věci mohou zvrtnout, a prosazuje omezení tempa vývoje. V příspěvcích na X s ním souhlasí generální ředitel OpenAI Sam Altman, který uvádí, že jeho společnost bude postupovat stejně. Do diskuse se zapojil i Elon Musk, který jednoduše napsal: „Dario má pravdu.“ Amadei říká, že hranice umělé inteligence si musí zachovat jak vynalézavost, tak lidskost, a vyzývá vlády po celém světě, aby jeho výzvu podpořily.

Moderátorka: Jessica Richardsová je stratéžkou zabývající se kampaněmi proti existenčním krizím v oblastech klimatických rizik a rizik umělé inteligence a působila jako poradkyně OSN a britské vlády. Před chvílí jsem s ní hovořila a na úvod jsem se jí zeptala, zda si myslí, že ostatní vedoucí pracovníci v technologickém sektoru skutečně souhlasí s šéfem společnosti Anthropic, že se umělá inteligence vyvíjí příliš rychle.

Jessica Richards: Vše se vrací k narativu, který se snaží prosadit. Dario Amadei tedy přišel z OpenAI. Byl členem jejich bezpečnostního týmu a řekl, že to není dostatečně bezpečné. Proto založil společnost Anthropic. Je v jeho nejlepším zájmu prezentovat Anthropic jako klíčového hráče v oblasti bezpečnosti a stát v čele těchto snah, protože to je součástí slibu jejich značky. A viděli jsme, jak Sam Altman opakovaně říká, že potřebujeme regulaci. Potřebujeme, abyste zasáhli a regulovali nás. Důvod, proč volají po regulaci, však často spočívá v tom, že by raději regulovali sami sebe. A tak když po ní volají, získají v tom náskok a pak budou mít slovo v tom, jak se ta regulace bude uskutečňovat.

Moderátorka: A co ten výzkumník v oblasti umělé inteligence z firmy Anthropic, který se nedávno veřejně vyjádřil a řekl: „Podívejte, pokud hned něco neuděláme, všichni lidé by mohli zemřít?“

Jessica Richards: Mám z toho výzkumníka v oblasti umělé inteligence a ze všech výzkumníků v této oblasti, kteří se k tomu veřejně vyjádřili, velké obavy, protože spousta lidí kvůli tomu opustila své zaměstnání. Je tu Nate Suarez, který napsal knihu „If Anyone Builds It, Everyone Dies“ (Pokud to někdo vyvine, všichni zemřou), kterou napsal společně s Yukowskim. Používá frázi, ve které říká, že v Silicon Valley koluje vtip, že normální lidé opouštějí své zaměstnání a jdou dělat normální věci. A lidé, kteří pracují v oblasti umělé inteligence, opouštějí své zaměstnání a jdou psát poezii, protože svět končí. V Silicon Valley tedy panuje velmi rozšířené přesvědčení, že by to mohlo znamenat konec nás všech.

Moderátorka: Existuje nějaký způsob, jak zavést ochranná opatření? Protože o tom se lidé baví – například o takzvaném nouzovém vypínači, který by umělou inteligenci okamžitě zastavil.

Jessica Richards: Myšlenka nouzového vypínače pro umělou inteligenci se mi moc líbí. Nemyslím si ale, že je to příliš proveditelné. Nejsem technicky zdatná, ale domnívám se, že nechápeme, jak obrovskou moc by superinteligence mohla mít. Jde přece o to, že by překonala lidstvo. Ochrannými opatřeními, která můžeme a musíme zavést, je tedy zodpovědnost firem, které to vytvářejí. A to se netýká jen umělé inteligence. Jde o obecně přísnou kontrolu a koncentraci bohatství a moci, kterou vidíme v místech, jako je Silicon Valley, která nyní mají obrovský vliv na demokracii. Propojení mezi Silicon Valley a Bílým domem je obrovské.

Moderátorka: Zmínila jste, že Donald Trump dnes odpoledne všechny tyto katastrofické předpovědi odbyl s tím, že nečeká, že firmy zpomalí. Ve skutečnosti chce, aby firmyzrychlily, protože se jedná o závod a Amerika je v čele.

Jessica Richards:  Ano, myslím, že schopnost Donalda Trumpa něco takového říci je velmi výmluvná. Je to prezentováno jako závod mezi USA a Čínou, stejně jako tomu bylo u vesmírného závodu a u atomových bomb.Je to však velmi, velmi užitečný narativ, který by klidně mohl být pravdivý, ale může to být také jen pouhý narativ.

Moderátorka: Pokud se zamyslíte nad současným globálním konsensem, je to opravdu náročné. Například v otázce klimatických změn si nevzpomínám na žádnou konferenci COP, z níž by vzešel jakýkoli konsensus. Jak velkou naději tedy vkládáte do toho, že se nám to podaří?

Jessica Richards:  Snažím se být velmi optimistická, pokud jde o věci jako umělá inteligence a klimatické změny, protože si myslím, že se zrychleně řítíme k pocitu apokalypsy a že právě teď je ten správný čas. A tento vývoj urychlily právě ty firmy, které na těchto věcech vydělávají nejvíce peněz, ale je to také příležitost pro nás ostatní říct: „Na takovou budoucnost jsem se nepřihlásil.“ My jako lidé rozhodně máme schopnost se bránit a vytvořit masové hnutí proti tomu, jak to vidíme například u odporu proti datovým centrům. Odpor proti datovým centrům je pro mě tak inspirativní hnutí, protože se jedná o lidi, kteří se spojují se svou místní komunitou, brání se proti něčemu, o co nestáli, a představují si nové verze budoucnosti, které souvisejí s klimatickými změnami i s umělou inteligencí. Takže musím mít naději. Nedělala bych svou práci, kdybych neměla naději, že dokážeme zastavit muže ze Silicon Valley.