Najdete na webu také pornografické video s vámi uprostřed sexuálního aktu, vytvořené umělou inteligencí?
25. 3. 2024
čas čtení
8 minut
Moderátorka Channel 4 News Cathy Newman: Tohle jsem já v
porno videu, ale je to úplně falešné. Je to jen něčí představa, že se
mnou v podstatě souloží. Zkoumali jsme dep fake porno a zneužívající
video průmysl, který se rychle rozvíjí s pomocí umělé inteligence.
"Kdybyste nevěděli, že to nejsem já, mysleli byste si, že je to skutečné."
Svět digitálně upravených videí a obrázků, které lze vytvořit pomocí jediné fotografie něčího obličeje. Našli jsme miliony falešných videí a snímků statisíců žen.
"Prošli jsme doslova peklem a zpět."
"Dobře, tohle je. Teď už dost nechutné."
Odhalujeme, jak hluboko to tvůrcům dewep fake prochází a jestli se něco dělá, aby je zastavili.
"Tohle je prostě naprosto. Odporné."
Na začátku tohoto roku byly explicitní fotografie Taylor Swift s umělou inteligencí na Twitteru zobrazeny nejméně 45 000 000krát, než byly staženy. Na Facebooku a Instagramu údajně běžely reklamy, které ukazovaly rozmazané deep fake sexuální snímky americké herečky Jenny Ortegové, když jí bylo pouhých 16 let. Meta je od té doby odstranila.
A právě tento týden vyšlo najevo, že italská premiérka Georgia Meloniová požaduje odškodné ve výši 100 000 eur kvůli deep fake pornografickým videím s její podobou. Identifikovali jsme pět nejoblíbenějších stránek s deep fake pornem, které hostují zmanipulované snímky a videa celebrit. Jen tyto stránky získaly za tři měsíce téměř 100 milionů zhlédnutí. Jsou na nich videa a snímky přibližně 4000 osob, které jsou veřejně známé. Zjistili jsme, že nejméně 250 z nich jsou Britové.
Elena Michaelová, ředitelka organizace NotYourPorn: "Tato technologie je tak snadno dostupná, stala se tak běžnou a normalizovanou, že ani nepřemýšlíme o tom, zda s tím dotyčná osoba skutečně souhlasí, a to je neuvěřitelně nebezpečné."
Existuje od roku 2017, ale nezávislý výzkum, o který se podělil se zpravodajským kanálem Channel 4 News, ukazuje, že v roce 2023 bylo vytvořeno více deep fake pornografických videí než ve všech ostatních letech dohromady. Stává se stále běžnějším způsobem sledování porna, jen na nejlepších stránkách byla videa zhlédnuta více než 4,2 miliardykrát. Pro představu, je to téměř trojnásobek počtu lidí, kteří sledovali poslední finále mistrovství světa ve fotbale.
Nejde však jen o celebrity. Nejčastěji se zaměřují na soukromé osoby, a to nyní hlavně pomocí aplikací. Nejnovější výzkumy ukazují, že počet takzvaných svlékacích a obnažovacích aplikací prudce roste. Denně zfalšují tisíce snímků žen. Stačí k tomu jedna fotografie ze sociálních sítí.
"Paniku, skutečnou slepou paniku, nevěřícnost a ani jsem v tu chvíli nevěděla, že se to nějak jmenuje, a nevěděla jsem, že se tomu říká deep fake pornografie nebo něco takového, prostě tyhle obrázky najednou existovaly a.. A přesto - panika, kolik lidí je vidělo? A? Někteří lidé je sdíleli. Našli by je lidé? Byly umístěny na nějaké jiné a známější pornografické stránky? Předpokládejme, že mi to vždycky tak nějak proběhlo hlavou."
Sophie Parrishová je 31letá květinářka a matka dvou dětí, která žije v Merseyside. Před více než rokem objevila na internetu deep fake fotografie svých aktů. Někdo blízký její rodině vzal fotografie z Facebooku a Instagramu a nahrál je na webovou stránku, kde muži sdíleli deep fake materiály, zveřejňovali ponižující komentáře a obrázky, na kterých nad fotografiemi masturbovali.
"Takže tohle je obrázek, který někdo nahrál, takže je to moje hlava a to, co jsem byla digitálně umístěna na nahé ženské tělo, jen horní polovina těla."
A jak jste se při tom cítia? Vždyť je to naprosto nechutné. Že ano?
Poslední průzkum ukazuje, že nyní existuje asi 200 aplikací, kam může kdokoli nahrát obrázek a okamžitě vytvořit deep fake porno. Většina těchto aplikací vznikla v loňském roce. Technologie umělé inteligence pokročila tak rychle, že je pro aplikace levné a snadné vytvářet tyto snímky v obrovském množství . V roce 2023 bylo na deset veřejných webových stránek nahráno 600 000 deep fake záběrů žen a dětí, soukromých osob. Přestože jsou to falešné záběry, jejich dopad je velmi reálný.
"Předtím jsem všem věřila. Moje zeď byla vždycky dole, ale teď už nevěřím nikomu."
Je to srdcervoucí.
"Hrozné. Dívám se teď na všechny lidi a říkám si, a co to dělají? Proč se na mě dívají? Nejdřív jsem se snažila zapadnout do pozadí, protože jsem se tak nějak v duchu dostala do bodu, kdy jsem si říkala, že kdybych se třeba každý den nelíčila a nesnažila se každý den, možná by ke mně neměl takovou přitažlivost. Stalo by se to?"
Neexistuje žádný zákon proti vytváření explicitních deep fake snímků a videí, ale od ledna je v Británii nezákonné je sdílet nebo šířit. Ale protože Sophie snímky nahlásila už v roce 2022, ačkoli policie muže zadržela, žádné další kroky nebyly podniknuty. Než se zákon změnil, založila petici a o zneužívání informovala veřejnost.
"Jste si jistá, že by ho ten zákon chytil?"
"Ne, myslím, že ten zákon není dostatečně silný."
"Dobře, tohle je. Teď už dost nechutné. Prostě tohle je jen něčí fantazie. V podstatě se mnou souloží. A já vím, že to nejsem já. Vím, že to není skutečné, ale připadá mi to jako znásilnění.
Stop.
Takže.
Jsem ráda, že jsem to viděla, protože chci vědět, co je tam venku, ale víte, že to už nemůžete neodvidět. To je něco, co. Budu se k tomu vracet."
Naše šetření odhalilo, že za poslední tři měsíce šlo více než 70 % návštěvníků pěti nejnavštěvovanějších stránek s deep fake pornem přes vyhledávače. Společnost Google nám sdělila, že chápe, jak znepokojující mohou být tyto záběry a že lidé mohou stránky s tímto obsahem z vyhledávání zablokovat. Uvedli, že vyvíjejí další ochranná opatření, včetně nástrojů, které lidem pomohou se chránit. Společnost Meta nám sdělila, že přísně zakazuje služby nabízející umělou inteligencí generované záběry nahých těl vytvořené bez souhlasu zobrazených lidí. Společnost X se k tomu odmítla vyjádřit. Podle kritiků to prostě nestačí.
"Platformy na tomto druhu obsahu vydělávají, a to nejen pornografické společnosti, nejen deep fake pornografické společnosti, ale také sociální sítě. Tlačí to návštěvnost na jejich stránky, zvyšuje to reklamu. Myslím, že existuje spousta různých způsobů. Dokonce i když mají uživatele na platformách, které, víte, mohou hrát jinou roli a mohou si koupit produkty na svých stránkách, ale stále se dopouštějí zneužívání v jiné části této role, kterou hrají na jakémkoli webu sociálních médií, ze kterého profitují, a to by nemělo být přijatelné."
2762
Diskuse