„Rádi bychom ji viděli v pornografických videích": temný svět sexuálních fake - a ženy, které se brání

13. 1. 2025

čas čtení 11 minut
 
Britská vláda slíbila potírání umělou inteligencí vytvořené pornografie (česká nedělá nic)  - ale účastníci kampaně varují, že to není dostatečně efektivní

Začalo to anonymním e-mailem. „Je mi opravdu moc, moc líto, že vás oslovuji,“ stálo v něm. Pod slovy byly tři odkazy na internetové fórum. „Obrovské varování ... Obsahují oplzlé obrázky, které byly vytvořeny ve photoshopu.“

Jodie (ne její pravé jméno) ztuhla. Sedmadvacetiletá žena z Cambridgeshire měla v minulosti problémy s lidmi, kteří kradli její fotografie, aby si založili seznamovací profily a účty na sociálních sítích. Nahlásila to na policii, ale bylo jí řečeno, že s tím nemohou nic dělat, a tak to nechala.

Ale tento e-mail z 10. března 2021 nebylo možné ignorovat. Klikla na odkazy. „Bylo to, jako by se zastavil čas,“ řekla. „Vzpomínám si, že jsem vykřikla. Úplně jsem se zhroutila.“

Fórum, alternativní pornografická webová stránka, obsahovalo stovky jejích fotografií - samotné, na dovolené, s kamarádkami a spolubydlícími - spolu s komentáři, které je nazývaly „děvkami“ a „kurvami“ a vyzývaly lidi, aby je hodnotili nebo fantazírovali o tom, co by dělaly.

 

Osoba, která snímky zveřejnila, také sdílela výzvu pro ostatní členy fóra: aby použili plně oblečené fotografie Jodie z jejího soukromého Instagramu a vytvořili sexuálně explicitní „deepfakes“ - digitálně upravený obsah vytvořený pomocí umělé inteligence.

„Nikdy předtím jsem to nedělal, ale rád bych ji viděl v pornografickém videu... Rád si s vámi také popovídám/ukážu vám více jejích fotek...,“ psali. V reakci na to uživatelé zveřejnili své výtvory: stovky syntetických obrázků a videí zobrazujících ženské tělo s tváří Jodie. Na některých se objevovala její podoba ve třídě, v oblečku školačky a znásilněňovaná učitelem. Jiné ji ukazovaly zcela „nahou“. „Na všech těch obrázcích h jsem měla sex,“ řekla. „Šok a zkáza mě pronásledují dodnes.“

Falešné záběry - které byly nyní odstraněny - patří k rostoucímu počtu umělých, sexuálně explicitních fotografií a videí, které se po celém světě pořizují, prodávají a obchodují online - v aplikacích sociálních médií, v soukromých zprávách a prostřednictvím herních platforem, stejně jako na fórech pro dospělé a pornografických stránkách.

Minulý týden britská vláda oznámila „zásah“ proti explicitním deepfakes a slíbila rozšířit stávající zákon tak, aby bylo vytváření těchto snímků bez souhlasu trestné, stejně jako jejich sdílení, které je od ledna 2024 nezákonné. Na objednávání deepfakes, tedy na to, aby je pro vás někdo vytvořil, se však zákon vztahovat nebude. Vláda také zatím nepotvrdila,   zda budou muset oběti prokázat, že pachatel měl zlý úmysl.

V sídle Linky pomoci pro za  pornografii vyráběné jako pomsta na předměstí Exeteru říká osmadvacetiletá Kate Worthingtonová, vedoucí praktická lékařka, že je zoufale zapotřebí silnějších zákonů - bez mezer.

Linka pomoci, která byla spuštěna v roce 2015, je specializovanou službou pro oběti zneužívání intimních snímků a je částečně financována britským ministerstvem vnitra. Případy deepfake jsou na historicky nejvyšší úrovni: počet hlášení o zneužití syntetických snímků vzrostl od roku 2017 o 400 %. V poměru k celkovému počtu případů zneužití intimních podob však zůstávají malé - v loňském roce se jednalo o 50 případů, což představuje asi 1 % celkového počtu případů. Hlavním důvodem je to, že je to drasticky podhlášeno, říká Worthingtonová. „Oběť často nemá ani tušení, že její snímky byly sdíleny.“

Tým si všiml, že mnoho pachatelů zneužívání deepfake snímků se zdá být motivováno „kulturou sběratelů“. „Často se to neděje s úmyslem, aby o tom dotyčná věděla,“ říká Worthingtonová. „Prodává se, vyměňuje, obchoduje se s ním pro sexuální uspokojení - nebo pro získání statusu. Pokud jste to vy, kdo tento obsah nachází a sdílí, vedle Snap handles, Insta handles, LinkedIn profilů, můžete být oslavováni.“ Mnohé z nich jsou vytvořeny pomocí „nudistických“ aplikací. V březnu charitativní organizace, která provozuje linku pro pomoc s pornem z pomsty, nahlásila 29 takových služeb společnosti Apple, která je odstranila.

V jiných případech byly syntetické snímky použity k přímému zastrašování nebo ponižování lidí. Na lince důvěry se objevily případy, kdy mladí chlapci vytvářeli falešné incestní snímky příbuzných žen, muži se závislostí na pornu vytvářeli syntetické snímky svých partnerek, které prováděly sexuální akty, k nimž v reálném životě nedaly souhlas, a lidé se nechávali fotografovat v posilovně, z čehož pak vznikla deepfaked videa, aby to vypadalo, že mají sex. Většina z těchto osob - ale ne všechny - jsou ženy. Přibližně 72 % případů deepfake, s nimiž se linka důvěry setkala, se týkalo žen. Nejstarší z nich bylo sedmdesát let.

Bylo zaznamenáno také několik případů, kdy se terčem deepfake staly muslimské ženy, které měly na sobě odhalující oblečení nebo sundaný hidžáb.

Bez ohledu na záměr je dopad často extrémní. „Tyto fotografie jsou často tak realistické. Váš kolega, soused, babička nepozná rozdíl,“ říká Worthingtonová.

Linka pro pomoc při pornografii z pomsty může lidem pomoci odstranit zneužívající snímky. Třicetiletá Amanda Dashwoodová, která na lince důvěry pracuje již dva roky, říká, že to je obvykle prioritou volajících. „Říkají: 'Panebože, prosím, pomozte mi, potřebuji to odstranit, než to uvidí lidé,'“ říká.

Ona a její kolegyně z týmu linky důvěry - osm žen, většinou ve věku do 30 let - mají k dispozici různé nástroje. Pokud oběť ví, kde byl jejich obsah zveřejněn, tým zašle žádost o odstranění přímo na danou platformu. Některé platformy tyto žádosti zcela ignorují. Linka pomoci však spolupracuje s většinou těch hlavních - od Instagramu a Snapchatu po Pornhub a OnlyFans - a v 90 % případů se jim podaří dosáhnout odstranění.

Pokud oběť neví, kde byl obsah zveřejněn, nebo má podezření, že byl sdílen šířeji, požádají ji, aby poslala selfie a prohnali ji technologií rozpoznávání obličeje (s jejím souhlasem), nebo použijí nástroje pro zpětné vyhledávání obrázků. Tyto nástroje nejsou spolehlivé, ale mohou odhalit materiál sdílený na otevřeném webu.

Tým může také poradit kroky, které zabrání opětovnému zveřejnění tohoto materiálu na internetu. Odkáží lidi na službu nazvanou StopNCII, nástroj vytvořený za finanční podpory společnosti Meta charitativní organizací SWGFL, která se zabývá bezpečností na internetu a pod kterou spadá i linka pomoci v oblasti pomstychtivého porna.

Lidé mohou nahrávat fotografie - skutečné nebo syntetické - a technologie vytvoří jedinečný hash, který se sdílí s partnerskými platformami - včetně Facebooku, Instagramu, TikToku, Snapchatu, Pornhubu a Redditu (nikoli však X nebo Discordu). Pokud se pak někdo pokusí tento obrázek nahrát, je automaticky zablokován. Od prosince byl hashován milion obrázků a preventivně zablokováno 24 000 nahrávání.

Některé ženy  také pokračují v nahlašování existence pornografických deep fakes na policii, ale reakce se drasticky liší podle složek. Obětem, které se snaží nahlásit zneužití syntetických snímků, bylo řečeno, že policie nemůže pomoci s upravenými snímky nebo že trestní stíhání by nebylo ve veřejném zájmu.

Sophie Mortimerová, vedoucí linky důvěry, vzpomíná na jiný případ, kdy policie řekla: „Ne, to nejste vy, to je někdo, kdo vypadá jako vy“ - a odmítla to vyšetřovat. „Někdy mám pocit, že policie hledá důvody, proč se takovými případy nezabývat,“ říká Mortimerová

V listopadu Sam Millar, asistentka vrchního policejního konstábla a strategická ředitelka pro násilí na ženách a dívkách v Národní radě policejních náčelníků, řekla při parlamentním vyšetřování zneužívání intimních snímků, že je „hluboce znepokojena“ nedostatečným pochopením legislativy ze strany policistů a nejednotností v případech. „Dokonce i včera mi jedna oběť řekla, že hovoří se 450 oběťmi deepfake snímků, ale pouze dvě z nich měly pozitivní zkušenost s policií,“ řekla.

Podle Jodie je potřeba lepší informovanosti o zneužívání deepfake - jak mezi veřejností, tak mezi policií - jasná.

Poté, co byla upozorněna na své deepfakes, strávila hodiny procházením příspěvků a snažila se dát dohromady, co se stalo.

Uvědomila si, že je nesdílel někdo cizí, ale její blízký přítel Alex Woolf, absolvent Cambridge a bývalý mladý skladatel roku BBC. Zveřejnil její fotografii, na které byl oříznutý. „Věděla jsem, že jsem tu fotku na Instagram nedala a poslala ji jen jemu. V tu chvíli mi to došlo.“

Poté, co Jodie a ostatní ženy strávily hodiny procházením svých grafických materiálů a předaly policii USB s 60 stranami důkazů, byl Woolf obviněn.

Následně byl odsouzen a dostal 20týdenní podmíněný trest odnětí svobody s povinností rehabilitace a 150 hodin neplacených prací. Soud mu nařídil zaplatit odškodné 100 liber každé z 15 obětí a vymazat všechny snímky ze svých zařízení. Odsouzení - 15 případů zasílání zpráv, které byly hrubě urážlivé, neslušné, obscénní nebo výhrůžné - se však týkalo spíše urážlivé povahy příspěvků než samotné nabídky syntetických snímků.

Jodie je vůči policii velmi kritická. „Od začátku jsem měla pocit, že zneužívání neberou vážně,“ říká. Říká také, že ji čekal „těžký boj“ s fórem o odstranění syntetických snímků.

Největší obavy jí však dělá samotný chybějící zákon. Kdyby Woolf nezveřejnil drsné komentáře, možná by nebyl odsouzen. A podle zákona navrženého vládou - na základě dosud zveřejněných podrobností - by jeho čin spočívající v objednávání falešných snímků Jodie nebyl konkrétním trestným činem.

Ministerstvo spravedlnosti uvedlo, že napomáhání někomu ke spáchání trestného činu je již nezákonné - což by se vztahovalo i na obtěžování. Jodie však řekla: „Aby prokuratura mohla rozhodnout o obvinění, musí to být neprůstřelné a černé na bílém. Proč bychom tedy měli připustit existenci této mezery?“

Mnozí si neuvědomují, že to dělají „normální“ lidé.
Jodie


Jodie doufá, že si lidé uvědomí „monumentální dopad“, který může mít zneužívání deepfake. Po třech letech mluví pod pseudonymem, protože kdyby použila své skutečné jméno, riskovala by, že se stane opět terčem útoku. Přestože byly původní snímky odstraněny, žije podle svých slov v „neustálém strachu“, že některé z nich mohou stále někde kolovat.

Ovlivnilo to také její přátelství, vztahy a celkově její pohled na muže. „Pro mě to byla největší zrada od někoho, komu jsem opravdu věřila,“ říká. Mnozí si neuvědomují, že to dělají „normální lidé“, dodává. Nejsou to „zrůdy nebo podivíni. Jsou to lidé, kteří žijí mezi námi - naši kolegové, partneři, přátelé“.

Zdroj v angličtině ZDE

0
Vytisknout
2564

Diskuse

Obsah vydání | 14. 1. 2025