20. 7. 2023
Brusel/Praha, 20. července 2023 - Česká policie by měla vysvětlit, proč a jak využívá program umělé inteligence na rozpoznávání obličejů. Vyzývají k tomu pirátský europoslanec a kvestor Marcel Kolaja společně s pirátskou poslankyní Klárou Kocmanovou na základě zjištění neziskové organizace na ochranu lidských práv Iuridicum Remedium. Zákaz právě takového využití umělé inteligence požaduje Evropský parlament v Aktu o umělé inteligenci, a to kvůli snadnému zneužití.
Z vyjádření české policie pro Iuridicum Remedium vyplývá, že policisté software tajně používají už téměř rok, a to na základě pokynu policejního prezidenta. Informaci nyní sdělili na základě žádosti dle zákona o svobodném přístupu k informacím, detaily ale zveřejnit odmítli.
“Systém umělé inteligence dokáže v reálném čase rozpoznat obličej třeba ze záběrů z pouličních kamer nebo z fotografií na sociálních sítích. A obličej pak přiřadit ke konkrétní osobě. Třeba v Rusku a dalších zemích s autoritářskými tendencemi tyto softwary úřady zneužívají k represi opozičních politiků, aktivistů nebo novinářů či k identifikaci účastníků demonstrací. To jsou zkušenosti, ze kterých jsme vycházeli v Evropském parlamentu, když jsme pracovali na Aktu o umělé inteligenci a rozhodli jsme se pro zákaz využití v reálném čase nebo bez soudního příkazu. Pokud mohou bezpečnostní složky rozpoznávání obličejů využívat, jak se jim zamane, vždy hrozí zneužití. Fakt, že software česká policie využívá bez toho, aniž by jasně řekla jakým způsobem, proto považuji za velmi varovné. Policie to musí vysvětlit,” myslí si Kolaja.
Proti biometrickému sledování se vymezuje také pirátská poslankyně Klára Kocmanová.
“S používáním biometrického sledování jsou spojena značná rizika. Technologie může chybovat, hledaná osoba je identifikována pouze s určitou pravděpodobnostní jistotou. Například je prokázáno, že podobnost mezi sourozenci či příbuznými může být pro takový systém matoucí. Naprosto alarmující je i fakt, že u lidí tmavé pleti je chybovost systémů neporovnatelně vyšší než u lidí se světlou pletí. Navíc, takový systém lze jen obtížně kontrolovat a pokud není kontrolovaný, může být snadno zneužívaný. S ohledem na tyto závažná rizika je na místě chtít po Policii vysvětlení, proč a za jakým účelem se rozhodli tento systém využívat.”
Právě o vysvětlení a poskytnutí více informací bude Iuridicum Remedium dále usilovat. “Plánujeme podniknout další právní kroky, abychom se o tomto systému a jeho použití ze strany Policie ČR dozvěděli více. Kromě začerněných klíčových částí již obdržených dokumentů nás bude zajímat například to, jestli byla vypracována studie dopadů na ochranu osobních údajů a také jak dopadlo vyhodnocení fungování systému, které měla policie podle pokynu zpracovat do konce března letošního roku,” vysvětluje advokát IuRe Jan Vobořil.
Evropský parlament nedávno rozpoznávání obličejů zařadil na seznam zakázaných využití umělé inteligence v rámci vznikajícího Aktu o umělé inteligenci. Nově by jej tak směly používat jen bezpečnostní složky, a to až zpětně a na základě rozhodnutí soudu. Nyní probíhají trialogy, kde se na finální podobě Aktu domlouvá Parlament s Evropskou komisí a národními vládami. Celou zprávu o zjištěních organizace Iuridicum Remedium naleznete zde.
Diskuse