Grok AI Elona Muska generuje obrázky „nezletilých osob v minimálním oblečení“
2. 1. 2026
xAI tvrdí, že pracuje na vylepšení systémů poté, co selhání bezpečnostních opatření vedlo tento týden k vlně sexualizovaných záběrů
Chatbot Grok Elona Muska v pátek zveřejnil, že selhání bezpečnostních opatření vedlo k tomu, že na sociální platformě X generoval „snímky zobrazující nezletilé osoby v minimálním oblečení“. Chatbot, produkt společnosti xAI Elona Muska, generoval po celý týden vlnu sexualizovaných obrázků v reakci na podněty uživatelů.
Screenshoty sdílené uživateli na X ukázaly, že veřejná mediální záložka Groku byla plná takových obrázků. Společnost xAI uvedla, že pracuje na vylepšení svých systémů, aby zabránila budoucím incidentům.
„Existují ojedinělé případy, kdy uživatelé vyžádali a obdrželi obrázky AI zobrazující nezletilé osoby v minimálním oblečení,“ uvedl Grok v příspěvku na X v reakci na dotaz uživatele. „Společnost xAI má bezpečnostní opatření, ale neustále pracujeme na vylepšeních, abychom takové požadavky zcela blokovali.“
„Jak již bylo uvedeno, identifikovali jsme mezery v bezpečnostních opatřeních a urgentně je opravujeme – CSAM je nelegální a zakázané,“ napsala společnost xAI na účet @Grok na X s odkazem na materiál zobrazující sexuální zneužívání dětí.
Mnoho uživatelů na X v posledních dnech vyzvalo Grok, aby generoval sexualizované, neoprávněné umělou inteligencí upravené verze obrázků, v některých případech odstranil lidem oblečení bez jejich souhlasu. Musk ve čtvrtek repostoval AI fotografii sebe sama v bikinách s popiskem s emodži plačícího smíchu, čímž narážel na tento trend.
Generování sexualizovaných obrázků Grokem se zdálo postrádat bezpečnostní zábrany, což umožňovalo, aby se v jeho příspěvcích objevovaly nezletilé osoby, obvykle ženy, které měly na sobě málo oblečení. Ve čtvrtek Grok v odpovědi uživateli na X uvedl, že většině případů lze zabránit pomocí pokročilých filtrů a monitorování, i když „žádný systém není stoprocentně spolehlivý“, a dodal, že xAI upřednostňuje vylepšení a kontroluje podrobnosti sdílené uživateli.
Když byla firma xAI požádána o komentář e-mailem, odpověděla zprávou: „Legacy Media Lies“ (Lži tradičních médií).
Problém využívání umělé inteligence k vytváření materiálů s dětskou sexuální tematikou je v odvětví umělé inteligence dlouhodobým problémem. Studie Stanfordské univerzity z roku 2023 zjistila, že datový soubor používaný k trénování řady populárních nástrojů umělé inteligence pro generování obrazů obsahoval více než 1000 obrázků s dětskou sexuální tematikou. Trénování umělé inteligence na obrázcích zneužívání dětí může podle odborníků umožnit modelům generovat nové obrázky zneužívaných dětí.
Grok má také historii selhání v udržování bezpečnostních opatření a zveřejňování dezinformací. V květnu loňského roku začal Grok zveřejňovat příspěvky o krajně pravicovém spiknutí „genocidy bílých“ v Jižní Africe v příspěvcích, které s tímto konceptem neměly žádnou souvislost. Společnost xAI se také v červenci omluvila poté, co Grok začal zveřejňovat fantazie o znásilnění a antisemitský materiál, včetně označování sebe sama jako „MechaHitler“ a chválení nacistické ideologie.Firma nicméně týden po těchto incidentech uzavřela smlouvu s americkým ministerstvem obrany v hodnotě téměř 200 milionů dolarů.
Zdroj v angličtině ZDE
Diskuse