Žáci v britských školách používají umělou inteligenci k vytváření sexuálně explicitních snímků jiných dětí
28. 11. 2023
Organizace na ochranu dětí vyzývají k naléhavým opatřením, která by žákům pomohla pochopit rizika vytváření snímků, které z právního hlediska představují sexuální zneužívání dětí
Skupina odborníků na zneužívání dětí a technologie varovala, že děti v britských školách používají umělou inteligenci (AI) k vytváření nemravných snímků jiných dětí.
Uvedli, že řada škol poprvé hlásí, že žáci používají technologii generující umělou inteligenci k vytváření snímků dětí, které z právního hlediska představují materiál sexuálního zneužívání dětí.
Emma Hardyová, ředitelka Britského centra pro bezpečnější internet (UKSIC), uvedla, že tyto obrázky jsou "děsivě" realistické.
"Kvalita snímků, které vidíme, je srovnatelná s profesionálními fotografiemi dětí, které se každoročně pořizují ve školách po celé zemi," uvedla Hardyová, která je zároveň ředitelkou komunikace nadace Internet Watch Foundation.
"Fotorealistická povaha snímků dětí generovaných umělou inteligencí znamená, že někdy jsou děti, které vidíme, rozpoznatelné jako oběti předchozího sexuálního zneužívání.
"Děti je třeba varovat, že se tyto snímky mohou šířit po internetu a skončit tak, že je uvidí cizí lidé a sexuální predátoři. Potenciál zneužití této technologie je děsivý," řekla.
Organizace na ochranu dětí UKSIC tvrdí, že školy musí urychleně jednat a zavést lepší systémy pro blokování materiálů, které zneužívají děti.
"Zprávy, které zaznamenáváme, o tom, že děti pořizují tyto snímky, by nás neměly překvapovat. Tyto typy škodlivého chování bychom měli předvídat, když se nové technologie, jako jsou generátory umělé inteligence, stanou přístupnější veřejnosti," uvedl ředitel UKSIC David Wright.
"Děti možná zkoumají možnosti generátorů obrázků umělou inteligencí, aniž by si plně uvědomovaly, jakou škodu mohou způsobit. Ačkoli jsou počty případů malé, jsme na začátku a je třeba, aby se kroky podnikaly hned - dříve, než budou školy zahlceny a problém se rozroste," dodal.
Zobrazování sexuálního zneužívání dětí je ve Spojeném království nezákonné - ať už jde o zobrazení generované umělou inteligencí, nebo o fotografie - přičemž i kreslené nebo jiné méně realistické zobrazení je stále nezákonné vytvářet, vlastnit a šířit.
Diskuse