Velké technologické firmy záměrně odvrátily pozornost světa od existenčního rizika umělé inteligence, varuje špičkový vědec
25. 5. 2024
čas čtení
3 minuty
Max Tegmark varuje, že toto zlehčování není náhodné a hrozí, že se přísná regulace, která je nutná, oddálí a pak už bude pozdě
Přední vědec varoval, že se velkým technologickým firmám podařilo odvrátit pozornost světa od existenčního rizika, které umělá inteligence pro lidstvo stále představuje.
Max Tegmark uvedl, že přesun pozornosti od zániku života k širšímu pojetí bezpečnosti umělé inteligence hrozí nepřijatelným zpožděním při zavádění přísných regulací pro tvůrce nejvýkonnějších programů.
„V roce 1942 postavil Enrico Fermi pod chicagským fotbalovým hřištěm vůbec první reaktor se samoudržující se řetězovou jadernou reakcí,“ řekl Tegmark, který vystudoval fyziku. „Když se o tom dozvěděli tehdejší špičkoví fyzici, opravdu se vyděsili, protože si uvědomili, že právě byla překonána jediná největší překážka, která zbývala k sestrojení jaderné bomby. Modely umělé inteligence, které mohou projít Turingovým testem [kdy někdo v rozhovoru nedokáže poznat, že nemluví s jiným člověkem], jsou stejným varováním pro en druh umělé inteligence, nad kterou můžete ztratit kontrolu. Proto vás nyní varují lidé jako Geoffrey Hinton a Yoshua Bengio - a dokonce i mnoho technologických ředitelů, alespoň v soukromí.“
Tegmarkova nezisková organizace Future of Life Institute loni na základě těchto obav zveřejnila výzvu k šestiměsíční „pauze“ ve výzkumu pokročilé umělé inteligence. Spuštění modelu GPT-4 společnosti OpenAI v březnu téhož roku bylo podle něj kanárkem v uhelném dole a ukázalo, že riziko je nepřijatelně blízko.
Navzdory tisícům podpisů od odborníků včetně Hintona a Bengia, dvou ze tří „kmotrů“ umělé inteligence, kteří byli průkopníky přístupu ke strojovému učení, na němž je tento obor dnes založen, nebyla žádná pauza schválena.
Ttěžiště mezinárodní regulace AI se však poslední době přesunulo pryč od existenčního rizika.
Tegmark varuje, že zlehčování nejzávažnějších rizik není náhodné.
„To je přesně to, co jsem předpovídal, že se stane na základě průmyslového lobbingu,“ řekl. „V roce 1955 vyšly první články v časopisech, že kouření způsobuje rakovinu plic, a člověk by si myslel, že poměrně rychle dojde k nějaké regulaci. Ale ne, trvalo to až do roku 1980, protože existoval obrovský tlak ze strany průmyslu na odvedení pozornosti. Mám pocit, že právě to se děje nyní.
Umělá inteligence samozřejmě způsobuje škody i v současnosti: je tu předpojatost, poškozuje marginalizované skupiny...
Snížena podpora pro regulaci umělé inteligence ze strany některých technologických lídrů je způsobena tím, že „myslím, že všichni mají pocit, že uvízli v nemožné situaci, kdy, i když chtějí přestat, nemohou. Takže jediný způsob, jak dosáhnout toho, aby bezpečnost byla na prvním místě, je, že vláda zavede bezpečnostní normy pro všechny.“
Podrobnosti v angličtině ZDE
2913
Diskuse