Channel 4 News: Nezadržitelně se šíří sexualizované záběry děti, vytvořené umělou inteligencí
16. 1. 2026
čas čtení
7 minut
Moderátor, Channel 4 News, čtvrtek 15. ledna 2025, 19 hodin: V
současné době umožňuje rychlý vývoj různých nástrojů umělé inteligence
na internetu šíření nelegálních dětských sexuálních obrázků, což
znepokojuje odborníky a představuje výzvu pro schopnost zákona reagovat.
Náš pořad získal exkluzivní přístup k nejnovějším údajům, které
ukazují, jak rychle se tento znepokojivý problém rozšiřuje. Upozornění:
reportáž Sophie Braybrookové obsahuje témata, která mohou být pro
některé diváky nepříjemná.
Britská Dolní sněmovna: Činnost Groku a X je odporná.
Reportérka: Po
týdnech negativních reakcí Elon Musk omezil svůj nástroj umělé
inteligence Grok. Přední politici byli pobouřeni jeho schopností
generovat ponižující a v některých případech nelegální sexuální obrázky.
Některé z nich zobrazují děti. Můžeme však prozradit, že Grok je jen
malou částí mnohem většího problému. Skutečnost je mnohem rozšířenější a
mnohem temnější.
Data sdílená exkluzivně s Channel 4 News dokazují, že množství materiálu sexuálně zneužívajícího děti online každým rokem stoupá, podle Internet Watch Foundation o 7 % v roce 2025. Ale když se podíváte na AI, statistiky ukazují alarmující trend. V roce 2024 byla videa s dětskou sexuální abuzí generovaná AI téměř neexistující. Ale do loňského roku objevila IWF téměř 3 500 těchto nelegálních, zneužívajících videí. Když IWF narazí na tento obsah, snaží se jej odstranit. Také jej hodnotí podle toho, jak extrémní je.
"V materiálech generovaných umělou inteligencí vidíme, že 66 % z nich spadá do kategorie A, což je nejhorší typ sexuálního zneužívání dětí. Jedná se o penetraci a také o velmi malé děti."
"Vypadají opravdu realisticky. Před dvanácti měsíci lidé nebyli schopni tak snadno vytvářet tento druh videí pomocí AI. Ale teď to dokážou. Také jsme dostali příklady toho, co pachatelé zveřejňují online. Je to znepokojivý vhled do jejich myšlení."
"Prostě miluju vědomí, že kvalita, jakkoli je v tuto chvíli skvělá, se bude jen zlepšovat."
"Čím více experimentuji, tím více mě překvapuje, jak je to necenzurované. Aktualizace a vylepšení budou šílené."
"Páni, AI udělala opravdu velký skok vpřed, co se pohybu týče. Dříve to bylo zjevně falešné. Nyní je to 10 z 10."
Reportérka: Nadace Lucy Faithful Foundation podporuje lidi, kteří jsou znepokojeni svým chováním, jako jsou ti, kteří sledují nelegální obsah s dětmi.
"Toto používání sexuálních obrázků generovaných umělou inteligencí se neděje izolovaně, protože ve skutečnosti 91 % lidí, kteří řekli, že sledují sexuální záběry generované umělou inteligencí, také přiznalo, že sledují sexuální záběry dětí, které nejsou generovány umělou inteligencí. Počet lidí, kteří nás kontaktují a říkají, že sledují sexuální obrázky dětí generované umělou inteligencí, se loni zdvojnásobil oproti předchozímu roku.
I když jsou tato videa uměle vytvořená, neznamená to, že jsou zcela falešná. Modely, které tato videa vytvářejí, jsou trénovány na skutečných obrázcích dětí, které jsou často již oběťmi zneužívání.
Pachatelé často mají oblíbené dítě a možná s tímto dítětem nedochází k sexuálnímu mučení, zoofilii nebo násilnému obsahu, ale používají AI k vytváření horšího materiálu. A ve skutečnosti víme, že vystavení materiálu se sexuálním zneužíváním dětí, ať už je generován umělou inteligencí nebo ne, vás vede a zvyšuje pravděpodobnost, že budete mít přímý kontakt s dětmi, což je také sexuální zneužívání dětí. Není to tedy bez obětí. Je to ve skutečnosti opravdu nebezpečný trend."
Reportérka: Britská Vláda oznámila, že brzy zakáže přizpůsobování modelů umělé inteligence za účelem vytváření materiálu se sexuálním zneužíváním dětí. Aktivisté tvrdí, že to mělo být už včera
Moderátor: Nyní se ke mně připojuje Claire McGlynn, profesorka práva na Durhamské univerzitě. Můžeme navázat tam, kde Sophie skončila ve své reportáži? Jak moc bychom se měli obávat toho, že generování obrázků sexuálního zneužívání dětí pomocí umělé inteligence přeroste v reálné zneužívání?
Claire McGlynn: Měli bychom být velmi znepokojeni, protože některé studie jasně ukazují, že asi 40 % uživatelů materiálů zobrazujících sexuální zneužívání dětí následně navázalo kontakt s dětmi.
Moderátor: Prohlížení materiálů s dětskou pornografií je samo o sobě škodlivé, ale může být také cestou k páchání trestných činů. Rozdíl je v tom, že tyto materiály, tedy AI obrázky s dětskou pornografií, jsou snadno dostupné, a to je důvod k obavám.
Claire McGlynn: Ano, rozhodně. Internet Watch Foundation také jasně uvedla, že některé z těchto materiálů jsou dostupné na otevřeném webu. Není těžké je najít. Není skrytý na dark webu. Je na otevřeném webu a část z něj je na mainstreamových stránkách.
Moderátor: Takže je to trestný čin, vytvořit tento materiál, že? Proč nevidíme záplavu trestních stíhání? Znamená to, že lidé tento materiál používají, vytvářejí a unikají trestu?
Claire McGlynn: Ano, existuje velké množství lidí, kteří tento druh materiálu vytvářejí a sdílejí. Policie se zabývá mnoha z těchto trestních stíhání, ale všichni víme, že policie má skutečné potíže s řešením sexuálního zneužívání dětí obecně, stejně jako s CSAM. Je toho prostě příliš mnoho. Proto se musíme zaměřit na platformy, které tento materiál vytvářejí, a musíme jít po těch, kteří vytvářejí nástroje, které lidé používají k výrobě tohoto materiálu.
Moderátor: Máme k dispozici nedávný příklad, který vzbudil velký zájem. A v posledních dnech Elon Musk a X oznámili, že zavedou nová omezení pro nástroj Grok AI ohledně toho, co může a nemůže dělat. Ale je to všechno reakce na situaci, že? V okamžiku, kdy se něco stane, je už téměř pozdě.
Claire McGlynn: Ano, je to velmi vítaný krok. Ale ano, měli to udělat hned od začátku. Zákon o online bezpečnosti jasně stanoví, že společnost jako X měla provést posouzení rizik nástroje jako X, a jakékoli nejzákladnější posouzení rizik by vám ukázalo a řeklo, že může být použit k tomuto účelu. Neměl tedy být nikdy vydán, aby mohl generovat tento druh materiálů.
Moderátor: Ale i s ochrannými opatřeními, i kdyby Elon Musk udělal vše, co by lidé jako vy chtěli, aby udělal, způsob, jakým AI funguje a jak s ní lidé pracují, jistě znamená, že lidé najdou způsoby, jak to obejít, protože AI reaguje na podněty. Generuje nové věci. Používá svou vlastní představivost.
Claire McGlynn: To je pravda, ale jedná se o produkty, které jsou navrženy určitým způsobem. Musíme tedy vynaložit větší úsilí na to, aby existovaly ochranné mechanismy, které zajistí, že budeme stejně rychlí jako ti, kteří se snaží systém obejít. Pracujeme na tom, aby byla zajištěna zejména ochrana dětí.
294
Diskuse