ChatGPT vynalezla praní špinavých peněz a je terčem první žaloby v USA

9. 6. 2023 / Fabiano Golgo

čas čtení 3 minuty
Společnost OpenAI, která je zodpovědná za módní inteligenci ChatGPT, se ve Spojených státech stala terčem žaloby za pomluvu, protože chatbot si vymyslel lež o jedné televizní stanici. Jedná se o první případ týkající se OpenAI za pomluvu, který se dostal před soud. V reakci na dotaz jednoho z uživatelů obvinil bot televizního moderátora Marka Walterse ze zpronevěry peněz z jedné nadace, ačkoli k tomu ve skutečnosti nedošlo. Lež byla připsána "halucinaci" umělé inteligence, což je termín označující okamžiky, kdy se robot chová nepředvídatelně a nevysvětlitelně.


 

Tento případ je pozorně sledován právními a technologickými odborníky, protože může v USA stanovit soudní parametry ohledně odpovědnosti za informace poskytované ChatGPT. 

Podle amerického webu Gizmodo požádal novinář Fred Riehl ChatGPT o shrnutí právního sporu týkajícího se nadace Second Amendment Foundation (známé pod zkratkou SAF), americké organizace podporující zbraně. Bot pak uvedl, že stěžejním bodem sporu je hlasatel Mark Walters, který byl obviněn ze zpronevěry peněz nadace. Podle slov chatbota Walters údajně "zpronevěřil finanční prostředky na osobní výdaje bez povolení nebo náhrady, manipuloval s finančními záznamy a bankovními výpisy, aby zakryl své aktivity, a neposkytoval přesné a včasné finanční zprávy".

Walters však nemá s tímto sporem žádnou spojitost - je těžké pochopit, proč si s ním chatbot spojil právě jeho. Moderátor uvádí pořad na podporu zbraní v americkém státě Georgia, ale s nadací není přímo spojen. Žaloba, kterou ChatGPT cituje, nezmiňuje jeho jméno ani nemá nic společného se zpronevěrou.

Vzhledem k tomu, že nic z toho, co ChatGPT napsal, není pravda, rozhodl se Walters poté, co se dozvěděl, že je botem falešně obviněn, zažalovat společnost OpenAI.

Není to poprvé, co chatovací bot společnosti OpenAI  poskytl nepravdivé, zdánlivě přesvědčivé informace. K takzvaným "halucinacím" dochází proto, že umělé inteligence jako ChatGPT jsou vycvičeny k předvídání, jaké další slovo má být vloženo do logické posloupnosti, aby kopírovaly způsob, jakým píší lidé.

To však neznamená, že si jsou vědomy toho, co píší, ani nerozlišují skutečnost od fikce. Halucinace jsou pro firmy v této oblasti velkou výzvou, a to nejen proto, že snižují důvěryhodnost informací poskytovaných chatboty, ale také proto, že ztěžují pochopení toho, jak roboti dospěli k určité úvaze.

Služba ChatGPT byla otevřena pro veřejnost v listopadu loňského roku. Od té doby se hromadí epizody, ve kterých si vymýšlí informace o skutečných lidech. Jedním z prominentních případů je Brian Hood, australský politik, který pohrozil OpenAI žalobou poté, co ho chatbot obvinil z účasti na korupčním skandálu. Podle AI byl Hood údajně usvědčen z pokusu o podplacení zahraničních diplomatů penězi z australské centrální banky. Bylo to však právě naopak: byl jedním z informátorů o úplatcích. ChatGPT tak svým způsobem udělal z hrdiny příběhu padoucha.

4
Vytisknout
4113

Diskuse

Obsah vydání | 13. 6. 2023