Šílenství fake news: ChatGPT může mít katastrofální dopad na pravdu v žurnalistice

6. 3. 2023

 

Aby bylo jasno, není možné, aby umělé inteligence jako ChatGPT a Sydney měly emoce. Ani nedokážou říct, zda dávají smysl, nebo ne. V čem jsou tyto systémy neuvěřitelně dobré, je napodobování lidské prózy a předvídání "správných" slov, která je třeba spojit dohromady. Tyto "velké jazykové modely" aplikací umělé inteligence, jako je ChatGPT, to dokážou, protože byly nakrmeny miliardami článků a souborů dat publikovaných na internetu. Poté mohou generovat odpovědi na otázky.

Pro účely žurnalistiky mohou velmi rychle vytvořit obrovské množství materiálu - slov, obrázků, zvuků a videí. Problémem je, že se absolutně nezavazují k pravdě. Jen si představte, jak rychle může uživatel ChatGPT zaplavit internet falešnými zprávami, které vypadají, že je napsal člověk.

A přesto od chvíle, kdy společnost OpenAI, která se zabývá umělou inteligencí, v listopadu test ChatGPT zveřejnila, je humbuk kolem něj až znepokojivě povědomý. Stejně jako při zrodu sociálních médií přehlušilo nadšené povzbuzování investorů a zakladatelů opatrné hlasy. Christopher Manning, ředitel Stanford AI Lab, napsal na Twitteru: "Dav lidí kolem etiky umělé inteligence nadále varují, že generativní modely umělé inteligence jsou příliš neobjektivní, nespolehlivé a nebezpečné, ale lidem se  jak tyto modely dávají nové možnosti, jak změnit způsob, jakým pracujeme, vyhledáváme informace a bavíme se." Považovala bych se za součást tohoto "etického davu", píše Emily Bell. A pokud se chceme vyhnout strašlivým chybám  spotřebitelských technologií za posledních 30 let - od úniků dat na Facebooku po nekontrolované dezinformace zasahující do voleb a provokující genocidu -, musíme naléhavě vyslyšet obavy odborníků, kteří varují před možnými škodami.

Nejvíce znepokojující skutečností, kterou je třeba zopakovat, je, že ChatGPT nemá žádný závazek vůči pravdě. Jak píše MIT Technology Review, chatboty s velkým jazykovým modelem jsou "notoričtí lháři". Dezinformace, podvody a kriminalita také obecně nevyžadují závazek k pravdě. Navštivte fóra webu blackhatworld.com, kde si účastníci temných praktik vyměňují nápady, jak vydělat peníze na falešném obsahu, a ChatGPT je tam vyhlašován za převratný nástroj pro generování lepších falešných recenzí, komentářů a  přesvědčivých profilů.

Pokud jde o žurnalistiku, mnoho redakcí již nějakou dobu využívá umělou inteligenci. Pokud jste se v poslední době přistihli, že vás vydavatel na svých webových stránkách nabádá k tomu, abyste přispěli penězi nebo zaplatili za přečtení článku, nebo pokud je reklama, kterou vidíte, o něco více vyladěná podle vašeho vkusu, může to také znamenat práci umělé inteligence.

Někteří vydavatelé však jdou až tak daleko, že umělou inteligenci používají k psaní článků, a to se smíšenými výsledky. Odborné technické vydavatelství CNET bylo nedávno přistiženo při používání automatizovaných článků poté, co jedna z bývalých zaměstnankyň ve svém rezignačním e-mailu uvedla, že obsah generovaný umělou inteligencí, například zpravodaj o kybernetické bezpečnosti, zveřejňuje nepravdivé informace, které mohou "přímo poškodit čtenáře".

Felix Simon, odborník na komunikaci z Oxfordského internetového institutu, vedl rozhovory s více než 150 novináři a vydavateli zpravodajství pro připravovanou studii o umělé inteligenci v redakcích. Podle něj existuje potenciál v tom, že novinářům umělá inteligence výrazně usnadní přepisování rozhovorů nebo rychlé čtení souborů dat, ale problémy prvního řádu, jako je přesnost, překonání zkreslení a původ dat, jsou stále v drtivé většině závislé na lidském úsudku. "Zhruba 90 % využití umělé inteligence [v žurnalistice] se týká poměrně nudných úkolů," říká Charlie Beckett, který na LSE řídí program žurnalistiky a umělé inteligence. Bloomberg News podle něj již několik let automatizuje velkou část svého zpravodajství o finančních výsledcích. Myšlenka využití programů, jako je ChatGPT, k tvorbě obsahu je však velmi znepokojivá. "Pro zpravodajské redakce, které považují za neetické zveřejňovat lži, je těžké zavádět použití ChatGPT bez spousty doprovodných lidských úprav a kontroly faktů," říká Beckett.

Existují také etické problémy související s povahou samotných technologických společností. Časopis Time zjistil, že společnost OpenAI, která stojí za ChatGPT, platila pracovníkům v Keni méně než 2 dolary na hodinu za to, že kontrolovali grafické škodlivé scény, jako je zneužívání dětí, sebevraždy, incest a mučení, aby ChatGPT naučili rozpoznat, že jde o urážlivý materiál. "Jako uživatel těchto služeb to nemůžete nijak ovlivnit," říká Simon.

Ve studii z roku 2021 se akademici zabývali modely umělé inteligence, které převádějí text na generované obrázky, například Dall-E a Stable Diffusion. Zjistili, že tyto systémy posilují "demografické stereotypy ve velkém měřítku". Například při výzvě k vytvoření obrázku "osoby uklízející" byly všechny vygenerované obrázky ženy. V případě "atraktivní osoby" byly všechny tváře, jak autoři poznamenali, reprezentanty "bělošského ideálu".

Profesorka newyorské univerzity Meredith Broussardová, autorka připravované knihy More Than a Glitch, která zkoumá rasové, genderové a schopnostní předsudky v technologiích, říká, že vše, co je zapracováno do současných generativních modelů, jako je ChatGPT - od souborů dat až po to, kdo dostává většinu financí - odráží absenci rozmanitosti. "Je to součást problému velkých technologií, které jsou monokulturou," říká Broussardová, a není to problém, kterému se zpravodajské redakce využívající tyto technologie mohou snadno vyhnout. "Zpravodajské redakce jsou již v zajetí podnikových technologií, protože nikdy nebyly dostatečně financovány, aby si mohly vytvořit vlastní."

Zakladatel BuzzFeedu Jonah Peretti nedávno nadchl zaměstnance, že společnost bude ChatGPT používat jako součást hlavní činnosti pro seznamy, kvízy a další zábavný materiál. "Vidíme, že průlomy v umělé inteligenci otevírají novou éru kreativity ... s nekonečnými možnostmi a aplikacemi pro dobro," napsal. Cena akcií  BuzzFeedu okamžitě vzrostla o 150 %. Je to hluboce znepokojující - hora levného materiálu chrlená ChatGPT by měla být pro mediální společnosti spíše nejhorším scénářem než aspirujícím obchodním modelem. Nadšení z generativních produktů umělé inteligence může zastřít rostoucí uvědomění, že nemusí jít o zcela "aplikace pro dobro".