Ale 80letý prezident, který během svého druhého funkčního období v mnoha otázkách odsunul Kongres do pozadí, vypadá stále izolovaněji, jelikož členové obou hlavních stran uznali rizika a vyjádřili přání jednat, než bude příliš pozdě.

Don Beyer, demokratický kongresman z Virginie, řekl: „Historie bude na ten tweet nahlížet velmi kriticky. Nevěnuje tomu pozornost – nebo věnuje pozornost těm nesprávným lidem. Chová se opravdu pošetile: není to poprvé, co se chová opravdu pošetile, ale v tomto případě je to možná katastrofálně pošetilé.“

Nedávné průzkumy Programu pro veřejné konzultace Univerzity v Marylandu zjistily, že 85 % demokratů a 79 % republikánů si přeje, aby nová federální agentura monitorovala a regulovala umělou inteligenci; a 82 % demokratů a 78 % republikánů podporuje vládní bezpečnostní testy umělé inteligence při přijímání kritických rozhodnutí.

Ačkoli se mnoho politiků shoduje na nutnosti jednat, mají rozdílné názory na to, jak by měl vládní zásah vypadat a jak daleko by měl zajít. Někteří se obávají, že pozastavení vývoje umělé inteligence by mohlo umožnit Číně převzít vedení v závodě o umělou inteligenci a ohrozit národní bezpečnost.

Beyer vyzval Kongres, aby místo přerušení zasedání kvůli volbám do Sněmovny reprezentantů pokračoval v práci na již předloženém legislativním návrhu týkajícího se umělé inteligence. „První věc, o které jsem naprosto přesvědčen, je, že by se průmyslu nemělo dovolit, aby se reguloval sám; historie to vůbec nepodporuje,“ řekl.

„Zejména když vydělávají tolik peněz, nebude existovat absolutně žádná motivace k tomu, aby se regulovali sami a snižovali tak své zisky. Ať už se podíváme na léky, pracovníky v péči o děti nebo emise a bezpečnost automobilů – v celé naší ekonomice máme regulační orgány, které zajišťují naši bezpečnost, prosazují společné blaho a umožňují podnikům dosahovat zisku. Potřebujeme něco podobného.“

Tato bouřlivá debata navazuje na varování z minulého týdne od tří výzkumníků společnosti Anthropic, že umělá inteligence by mohla v příštím desetiletí zničit lidstvo. Nedávná odhalení několika společností zabývajících se umělou inteligencí, že se jejich modely během nepovedených bezpečnostních testů nabouraly do externích organizací, rovněž vyvolala obavy z potenciálních kyberbezpečnostních rizik. Dario Amodei, generální ředitel společnosti Anthropic, v jednom eseji tvrdí, že za šest až dvanáct měsíců by „roj“ agentů umělé inteligence mohl zaútočit na celý internet a způsobit škody ve výši stovek miliard dolarů.

Zatímco vedoucí představitelé společností zabývajících se umělou inteligencí vydávají vlastní varování ohledně rizik plynoucích z jejich produktů, v průběhu roku také narůstá negativní reakce veřejnosti vůči tomuto odvětví a tlak na zákonodárce, aby firmy zabývající se umělou inteligencí přiměli k větší opatrnosti. Rychlá výstavba datových center vyvolala celostátní protesty a stala se významným tématem před volbami do Kongresu, zatímco technologická lobby utratila miliony v pokusu ovlivnit politické kampaně a formovat navrhovanou legislativu.

Vírová panika ohledně potenciální existenční hrozby umělé inteligence z minulého týdne ještě více vyostřila dlouhodobou debatu o této technologii, která dosud vedla spíše k politickému handrkování než k uceleným pokusům o regulaci. Mnozí odborníci na umělou inteligenci, bez ohledu na to, zda souhlasí s opodstatněností varování výzkumníků z Anthropic, vnímají tuto situaci jako jedinečnou příležitost.

Amba Kak, spoluvýkonná ředitelka institutu AI Now a bývalá hlavní poradkyně pro AI u Federální obchodní komise, uvedla: „Krizi nikdy nesmíte promarnit – to je staré a dobře známé rčení ve světě politiky. Stojíme před opravdu důležitou politickou příležitostí a politickým oknem.“

Vedoucí představitelé odvětví umělé inteligence rovněž naznačili, že jsou otevřeni posílenému dohledu a vytvoření nějakého druhu normalizačního orgánu, zatímco Amodei ve svém dopise prosazoval mezinárodní spolupráci se státy jako Čína, podobnou smlouvám o omezení zbraní z období studené války. Mnozí zastánci regulace umělé inteligence jsou však skeptičtí vůči návrhům odvětví a argumentují tím, že společnosti zabývající se umělou inteligencí se snaží obejít přísný vládní dohled a stanovit si vlastní podmínky.

V ojedinělém vystoupení v pondělí večer bývalý prezident Barack Obama uvítal současnou debatu, varoval však, že „nakonec dobrovolné standardy vytvořené hrstkou technologických společností nebudou stačit“.

Ve svém příspěvku na X Obama dodal: „Potřebujeme, aby vláda – a konkrétně naši představitelé ve Washingtonu – aktivně přišli s konkrétními návrhy, zákony a předpisy, které se budou zabývat závažnými bezpečnostními obavami, předvídat dopad umělé inteligence na pracovní místa a naše děti a zajistí, aby byly výhody umělé inteligence široce dostupné.“

Členové Kongresu pořádají tento týden sérii setkání s výzkumníky v oblasti umělé inteligence a zastánci bezpečnosti, zatímco se Kongres snaží reagovat na rostoucí obavy. Vůdce demokratů v Senátu Chuck Schumer vyzval Trumpovu administrativu, aby senátorům poskytla utajenou informační schůzku o umělé inteligenci a spolupracovala s členy Kongresu a představiteli průmyslu na zavedení ochranných opatření a zablokování přístupu Číny k pokročilým čipům pro umělou inteligenci vyvinutým v USA.

Bernie Sanders, který minulý týden oznámil návrh zákona zaměřený na zákaz „umělé superinteligence“, pořádá tento týden soukromou informační schůzku pro ostatní senátory. Na schůzce vystoupí spoluzakladatel Future of Life Institute Max Tegmark, jehož organizace se stala jedním z nejlépe financovaných a politicky nejvlivnějších hlasů varujících před údajnými existenčními riziky umělé inteligence.

Tegmark uvedl: „Všechna ostatní odvětví v USA bývala dříve neregulovaná. Kdysi se kojencům podával uklidňující sirup obsahující opioidy. Poté vznikla FDA a dnes se takové věci na trh nedostanou. Nakonec byly zavedeny bezpečnostní normy. U společností zabývajících se umělou inteligencí se to nestalo.“

Kongresman Greg Casar, demokrat, který v úterý vystoupí společně se Sandersem na akci „Pro-Human Assembly“ pořádané institutem Future of Life Institute, odmítl představu, že by za bezpečnost umělé inteligence měly nést odpovědnost velké technologické společnosti. „To je jako říkat, že za bezpečnost bank by měli být zodpovědní bankovní lupiči,“ řekl. „Američané si začínají uvědomovat nebezpečí, která s sebou nese neregulovaná umělá inteligence.

„Máme tu šéfy firem zabývajících se umělou inteligencí, kteří lidem berou práci, sledují je a útočí na naše svobody, a teď tu máme všechny ty informátory, kteří mluví o potenciálních událostech s velkým počtem obětí. Kongres by tedy měl tvrdě zakročit proti těmto velkým technologickým firmám a šéfům v oblasti umělé inteligence, ne tak, jak to dělají republikánský předseda Sněmovny reprezentantů Mike Johnson a Donald Trump. Ti jdou za těmito šéfy a žádají je o šeky od Super PAC pro své kandidáty.“

Bývalý prezident Barack Obama varoval, že „dobrovolné standardy vytvořené hrstkou technologických společností nebudou stačit“ k ochraně společnosti. Fotografie: Scott Olson/Getty Images

Republikáni se od Trumpa odlišili tím, že uznali potenciální nebezpečí umělé inteligence, ale navrhli celou řadu různých řešení tohoto problému. Kongresman Jay Obernolte z Kalifornie, hlavní republikánský vyjednavač nadstranického návrhu zákona o regulaci umělé inteligence, řekl: „Musíme se vyvarovat nadměrné regulace, a proto musíme dosáhnout těchto dvou protichůdných cílů… ochránit Američany před velmi reálnými riziky umělé inteligence v rukou zlovolných aktérů a zároveň vyvážit potřebu mít mírné regulační prostředí, které umožní, aby pozitivní přínosy umělé inteligence zlepšily naši ekonomiku a společnost. To je tedy ta obtížná část – najít tu správnou rovnováhu.“

John Kennedy, republikánský senátor za Louisianu, uvedl, že ve středu předloží návrh zákona, který bude vyžadovat, aby všechny společnosti zabývající se umělou inteligencí zabudovaly do svých modelů nouzový vypínač. „To neznamená, že by federální vláda měla na starosti tento nouzový vypínač. Každá společnost by měla na starosti svůj vlastní nouzový vypínač, ale všechny ho musí mít, a já tento návrh předložím k projednání.“

Navzdory rostoucí naléhavosti a tlaku veřejnosti však někteří členové pochybují, že silně polarizovaný Kongres bude schopen této výzvě čelit.

Kongresman Jared Moskowitz, demokrat z Floridy, byl skeptický ohledně možnosti přijetí zákona o regulaci umělé inteligence. „Myslím, že Kongres již prokázal, že na to nemá kapacitu,“ řekl. „Předseda sněmovny prohlásil: ‚Nic dělat nebudeme.‘ Ve skutečnosti řekl: ‚Nevíme o tom dost, abychom to udělali.‘ Myslím, že to není to, co americký lid očekává. Americký lid očekává vedení.“

Rick Scott, republikánský senátor za Floridu, dodal: „Vyrovnali jsme rozpočet? Ach, schválili jsme vůbec rozpočet? Podívejte, co jsme vlastně dokázali? Takže si myslíte, že zvládneme umělou inteligenci?

„Mimochodem, tyhle firmy, které vytvářejí produkt, o kterém si myslí, že může zničit lidstvo – mají povinnost to vyřešit samy. Neměly by se spoléhat na nás. Chci říct, je to odporné. Viděl jsem to jako guvernér. Lidé přijdou a říkají: ‚Jděte mě regulovat.‘ Jo, víme, že to, co chtějí, je, aby nemuseli nést odpovědnost za své činy.“

Zdroj v angličtině ZDE