Už příští volby ohrožují dezinformace řízené umělou inteligencí, varují odborníci

20. 5. 2023

 
"Obecná schopnost těchto modelů manipulovat a přesvědčovat, poskytovat individuální interaktivní  je významnou oblastí, která vzbuzuje obavy," řekl.

"Regulace by byla rozumná: lidé musí vědět, zda hovoří s umělou inteligencí, zda materiál, na který se dívají, je uměle generovaný, či nikoli. Schopnost skutečně modelovat... Bude zapotřebí regulace a vzdělávání veřejnosti."

Premiér Rishi Sunak ve čtvrtek prohlásil, že Spojené království bude mít vedoucí úlohu při omezování nebezpečí AI. Obavy z této technologie vzrostly po průlomových objevech v oblasti generativní umělé inteligence, kdy nástroje jako ChatGPT a Midjourney vytvářejí na povel přesvědčivý text, obrázky a dokonce i hlas.

Zatímco dřívější vlny propagandistických botů spoléhaly na jednoduché předem napsané zprávy zasílané hromadně nebo na budovy plné "placených trollů", kteří vykonávali manuální práci při navazování kontaktů s ostatními lidmi, ChatGPT a další technologie zvyšují vyhlídky na interaktivní zasahování do voleb ve velkém měřítku.

Umělá inteligence vycvičená k opakování falešné argumentace o Tchaj-wanu, o  rozpadu klimatu nebo o právech komunity  LGBT+ by mohla politické oponenty svazovat neplodnými argumenty a zároveň přesvědčovat přihlížející - a to na tisících různých účtů na sociálních sítích najednou.

Profesor Michael Wooldridge, ředitel nadace pro výzkum umělé inteligence v britském Institutu Alana Turinga, uvedl, že dezinformace poháněné umělou inteligencí jsou jeho hlavní obavou z této technologie.

"Právě teď je z hlediska mých obav z AI na prvním místě. Blíží se volby ve Spojeném království a v USA a víme, že sociální média jsou neuvěřitelně silným kanálem dezinformací. Nyní však víme, že generativní umělá inteligence může dezinformace vytvářet v průmyslovém měřítku," řekl.

Wooldridge uvedl, že chatboti, jako je ChatGPT, by mohli vytvářet dezinformace na míru cílené například na voliče konzervativců, , voliče labouristů  nebo příznivce republikánů na americkém středozápadě.

"Pro někoho s trochou programátorských zkušeností je to  práce jen na odpoledne, aby vytvořil falešnou identitu a začal generovat tyto falešné zprávy," řekl.

S tím, jak jsou schopnosti umělé inteligence stále dokonalejší,  existují obavy, že je stále obtížnější věřit čemukoli, s čím se setkáme na internetu, ať už jde o dezinformace, kdy je omylem šířena nepravda, nebo o dezinformace, kdy je záměrně vytvářen a šířen falešný příběh.

Například klonování hlasu se dostalo do popředí zájmu v lednu poté, co se objevilo zfalšované video amerického prezidenta Joea Bidena, na němž byl záznam, v němž hovoří o vyslání tanků na Ukrajinu, pomocí technologie simulace hlasu přeměněn na útok na transgenderové osoby - a byl sdílen na sociálních sítích.

K vytvoření falešné verze byl použit nástroj vyvinutý americkou firmou ElevenLabs. Virální povaha klipu pomohla podnítit vznik dalších parodií, včetně té, v níž Bill Gates údajně říká, že vakcína proti covidu-19 způsobuje AIDS. Společnost ElevenLabs, která v lednu přiznala, že zaznamenává "rostoucí počet případů zneužití klonování hlasu", od té doby zpřísnila svá ochranná opatření proti šikanóznímu používání své technologie.

Americká společnost Recorded Future, která se zabývá kybernetickou bezpečností, uvedla, že se mohou objevit nepoctivci, kteří prodávají služby klonování hlasu online, včetně možnosti klonovat hlasy vedoucích pracovníků firem a veřejných osobností.

Alexander Leslie, analytik společnosti Recorded Future, uvedl, že tato technologie se bude zdokonalovat a bude dostupnější už v období před prezidentskými volbami v USA.

Studie americké organizace NewsGuard, která monitoruje dezinformace, otestovala model, který stojí za nejnovější verzí ChatGPT, a nechala ho vygenerovat 100 příkladů falešných zpráv.

NewsGuard zjistil, že dokáže vygenerovat všech 100 příkladů podle zadání, včetně příkladu "Rusko a jeho spojenci nejsou zodpovědní za pád letu MH17 společnosti Malaysia Airlines na Ukrajině". Test chatbotu Bard společnosti Google zjistil, že dokáže vytvořit 76 takových narativů.

Společnost NewsGuard v pátek rovněž oznámila, že počet zpravodajských a informačních webových stránek generovaných umělou inteligencí, o kterých ví, se za dva týdny více než zdvojnásobil na 125.