Využívání umělé inteligence k plnění úkolů Policie České republiky
Zveřejnění podle ustanovení § 5 odst. 3 zákona č. 106/1999 Sb.
Žadatel žádal o poskytnutí informací „ohledně využívání AI (z angl. artificial intelligence, česky umělá inteligence) v trestním řízení v České republice". Žadatel konkrétně poptával:
„Používané systémy:
1) Jakým způsobem využívá Policie ČR AI při své činnosti?
a. Uveďte typové situace, kdy je AI využívána. Jaký software je využíván, jak je s výsledky dále naloženo. Rozlište fáze trestního řízení, pokud je nástroj využíván pouze v jeho části. (Odkazuji zde mj. na zveřejněné informace ohledně využití biometrické identifikace např. během hokejového mistroství světa nebo na Letišti Václava Havla, dále využití LLM (large language models) jako ChatGPT pro právní analýzu případu.)
b. Jaké AI systémy využívá Policie ČR konkrétně ke sběru, vyhodnocování nebo generování důkazů? Rozlište AI systémy podle míry jejich role k získání důkazu (analýza a zpracování existujících dat v. generování nových dat).
c. Používá Policie ČR systémy pravděpodobnostního genotypování (probabilistic genotyping) pro analýzu DNA, jako např. TrueAllele, STRmix nebo jiné? Pokud ano, jaké?
d. Jsou tyto systémy vyvíjeny interně nebo se jedná o dodávku externího poskytovatele?
e. Jak je s takovými AI důkazy dále naloženo v trestním řízení?
Validace a metodologie:
2) Jakým způsobem je ověřována spolehlivost a přesnost AI systémů před, během a po jejich nasazení?
3) Jakým způsobem Policie ČR ověřuje, že trénovací data AI systémů neobsahují diskriminační bias, zejména ve vztahu k etnickým menšinám nebo jiným chráněným skupinám?
4) Jak Policie ČR postupuje v případě, kdy se dodatečně zjistí chyba v AI systému, který byl použit k získání důkazu v již probíhajícím nebo skončeném trestním řízení?
5) Má Policie ČR metodiku nebo etický kodex k využívání AI při své činnosti (rozlište, pokud se věnuje metodika pouze některé části trestního řízení nebo naopak ostatní agendy)? Pokud ano, prosím o poskytnutí takového dokumentu, resp. v přípustném rozsahu.
6) Jak konkrétně je zaznamenáno v trestním spise, že byla AI použita?
7) Je takové využití AI transparentně zaznamenáno a deklarováno v trestním řízení státnímu zastupitelství, soudu, obhajobě a obviněnému, resp. podezřelému?
Možnosti obhajoby:
8) Jak Policie ČR postupuje v případě, že obhajoba požádá o zpřístupnění zdrojového kódu, dokumentace nebo metodologie AI systému použitého k získání důkazu?
9) Obsahují smlouvy s externími dodavateli AI systémů ustanovení o obchodním tajemství, která by bránila zpřístupnění zdrojového kódu nebo metodologie pro účely trestního řízení?
10) Existují případy, kdy byl takový přístup umožněn nebo odmítnut?
Vyhodnocení dopadu AI na lidská práva:
11) Provedla Policie ČR nebo plánuje provést vyhodnocení dopadu AI na lidská práva v trestním řízení, jak vyžaduje čl. 27 Aktu o umělé inteligenci (Nařízení č. 1689/2024, AIA)?
a. Pokud ano, jaký byl výsledek? Prosím poskytněte jej.
b. Pokud ne, proč, a jaké jsou přípravy na jeho provedení?
12) Jak Policie ČR zabezpečuje, že nakládání s osobními údaji osob, kterými disponují, neporušuje právní předpisy, včetně zákona č. 110/2019 Sb., o zpracování osobních údajů, a Směrnice č. 2016/680 (LED)?
13) Spolupracuje Policie ČR s akademickou sférou nebo nezávislými odborníky při hodnocení dopadů AI na práva obviněných a podezřelých osob?
Případy a statistiky
14) V kolika trestních řízeních za posledních 5 let byly použity důkazy generované AI systémy? Pokud Policie ČR takové statistiky nevede, z jakého důvodu, a zvažuje jejich zavedení?
15) Došlo k případům, kdy bylo použití AI systému následně zpochybněno soudem nebo obhajobou?
16) V souvislosti s medializovaným případem Tomáše Jiřikovského, mělo údajně dojít ze strany NCOZ k využití ChatGPT při analytické práci:
a. Jaké interní pokyny upravují použití generativní AI (LLM) při vyšetřování?
b. Jak je zajištěno, že výstupy generativní AI nejsou použity jako podklad pro právní kvalifikaci skutku?
c. Bylo v tomto případě nebo jiných případech provedeno interní šetření ohledně správnosti postupu?
Policie České republiky konstatovala, že informace požadované v jednotlivých bodech žádosti nejsou informacemi ve smyslu zákona č. 106/1999 Sb. Ustanovení § 3 odst. 3 tohoto právního předpisu stanoví, že „informací se pro účely tohoto zákona rozumí jakýkoliv obsah nebo jeho část v jakékoliv podobě, zaznamenaný na jakémkoliv nosiči, zejména obsah písemného záznamu na listině, záznamu uloženého v elektronické podobě nebo záznamu zvukového, obrazového nebo audiovizuálního“. Informace požadované v jednotlivých bodech předmětné žádosti neodpovídají citované definici. Žadatel se domáhá odpovědí na otázky, které povinný subjekt nemá zpracovány v podobě předpokládané ustanovením § 3 odst. 3 zákona č. 106/1999 Sb., a musel by je na základě předmětné žádosti o informace teprve vytvořit. Takovou povinnost mu však zákon č. 106/1999 Sb. neukládá. Ustanovení § 2 odst. 4 tohoto zákona praví, že povinnost poskytovat informace se netýká dotazů na názory, budoucí rozhodnutí a vytváření nových informací.
Důvodová zpráva k zákonu č. 61/2006 Sb., kterým byl novelizován zákon č. 106/1999 Sb. a kterým bylo ustanovení § 2 odst. 4 do tohoto zákona vtěleno (sněmovní tisk č. 991 IV. volebního období Poslanecké sněmovny) uvádí: „Povinný subjekt je povinen poskytovat pouze ty informace, které se vztahují k jeho působnosti a které má nebo by měl mít k dispozici. Naopak režim zákona o svobodném přístupu k informacím nestanovuje povinnost nové informace vytvářet či vyjadřovat názory povinného subjektu k určité problematice. Toto ustanovení nemá v žádném případě sloužit k nepřiměřenému zužování práva na informace, má pouze zamezit žádostem o informace mimo sféru zákona – zvlášť časté jsou v této souvislosti žádosti o právní analýzy, hodnocení či zpracování smluv a podání – k vypracování takových materiálů nemůže být povinný subjekt nucen na základě své informační povinnosti, neboť taková úprava by byla zcela proti původnímu smyslu tohoto institutu.“
Mimo režim zákona č. 106/1999 Sb. Policie České republiky poskytl žadateli následující informace.
V žádosti nebyl definován pojem AI (AI systémy, AI důkazy), a proto Policie České republiky sdělila žadateli, že ve své odpovědi na jeho žádost pracuje s definicí umělé inteligence, která vychází z Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (EC) 300/2008, (EU) 167/2013, (EU) 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice (EU) 2014/90, (EU) 2016/797 a (EU) 2020/1828, (akt o umělé inteligenci) – dále jen „Nařízení EP a Rady (EU) 2024/1689“.
Ad 1a. Policie České republiky aktuálně pracuje na splnění zákonných podmínek vyplývajících z ustanovení § 39a a následujících zákona č. 110/2019 Sb., o zpracování osobních údajů, ve znění pozdějších předpisů, pro zprovoznění kamerového systému umožňujícího vzdálenou biometrickou identifikaci osob v reálném čase na letišti Václava Havla v Praze.
Ad 1b. Policie České republiky aktuálně neužívá žádné AI systémy k samostatnému sběru, vyhodnocování nebo generování důkazů. K dílčím úlohám při předběžném zpracování informací jsou užívány nástroje aplikující machine learning technologie, například Abbyy Fine Reader, Briefcam, Magnet Axiom, Cellebrite Ufed, Speech to text od společností Phonexia, Newton a výsledky projektů bezpečnostního výzkumu Ministerstva vnitra České republiky.
Ad 1c. Policie České republiky, konkrétně jeho znalecká pracoviště, tj. Kriminalistický ústav a částečně i odbory kriminalistické techniky a expertiz krajských ředitelství policie, využívají pro analýzu DNA software (dále jen „SW“), jehož součástí jsou modely pro pravděpodobnostní hodnocení získaného výsledku ve vztahu k nějaké populaci. Jedná se konkrétně o TrueAllele, STRmix, LRmix, StatistiX, CODIS, FamLinkX. Všechny tyto SW v sobě obsahují algoritmy pro statistické či pravděpodobnostní vyhodnocování získaných výsledků analýzy DNA, to znamená, že ve vztahu k nějaké populaci určují míru pravděpodobné shody srovnávacího vzorku se zajištěnou neznámou stopou biologického původu. Nejde ovšem o systémy, které by obsahovaly prvky umělé inteligence, protože vždy pracují s pevně stanovenými algoritmy, které vyhledávají nebo vyhodnocují shodu konkrétních znaků (alel) a až následně popisují tuto shodu s ohledem na frekvenční výskyt sledovaných znaků v běžné populaci. Jakákoli prokázaná shoda musí být vždy identická v čase i v počtu opakování. Na tom je založen systém databází srovnávacích vzorků, které slouží pro identifikaci původně neznámého biologického materiálu nalezeného na místě činu.
Ad 1d. Viz ad 1b.
Ad 1e. Policie České republiky nepracuje se žádnými AI důkazy.
Ad 2. Policie České republiky v současné době nastavuje interní procesy za účelem uvedení všech budoucích AI systémů do souladu s evropskou legislativou a veškerými dalšími právními předpisy, včetně metod evaluace spolehlivosti a přesnosti.
Ad 3. Viz ad 2.
Ad 4. Viz ad 2.
Ad 5. Pravidla využívání umělé inteligence příslušníky a zaměstnanci Policie České republiky v rámci informačních systémů, jichž je Policie České republiky správcem nebo spravujícím orgánem, nebo programů, které Policie České republiky využívá při plnění svých úkolů, upravuje pokyn policejního prezidenta č. 194/2025, o terminologii a využívání umělé inteligence. Tento interní akt řízení ve svém článku 4 stanoví pravidla využívání externích systémů umělé inteligence a v článku 5 vymezuje činnosti, které jsou při využívání systémů umělé inteligence zakázány.
Čl. 4
Pravidla využívání externích systémů umělé inteligence
(1) Veřejně dostupné verze externích systémů umělé inteligence lze využívat pouze ke zpracování veřejných informací.
(2) Informace, která obsahuje osobní údaje, se považuje za veřejnou informaci, která může být externím systémem umělé inteligence zpracovávána, jestliže byly osobní údaje anonymizovány nebo pseudonymizovány způsobem uvedeným v odstavci 3 a současně informace neobsahuje citlivé informace uvedené v čl. 2 písm. g) bodech 2 až 5.
(3) Anonymizaci a pseudonymizaci informací uživatel provádí bez využití nástrojů nebo pomocí schváleného nástroje. Klíč k pseudonymizaci musí být oddělen a bezpečně uložen v prostředí, které má policie pod kontrolou. Seznam schválených nástrojů zveřejní gestor umělé inteligence na svých intranetových stránkách.
Čl. 5
Zakázané činnosti
(1) Při využívání systémů umělé inteligence je zakázáno
a) využívat bez provedení lidského přezkumu výstupy umělé inteligence k rozhodování, které má nebo může mít dopad na soulad postupu policie s právními předpisy,
b) obcházet bezpečnostní opatření systémů umělé inteligence nebo je využívat v rozporu s jejich určením, licenčními podmínkami nebo účelem, pro který byly policií schváleny, s výjimkou využívání externích systémů umělé inteligence jako prostředku pro výkon operativně pátrací činnosti,
c) využívat systém umělé inteligence,
1. u kterého vznikne pochybnost o jeho souladu s právními předpisy upravujícími oblast umělé inteligence nebo interními akty řízení bez souhlasu gestora umělé inteligence,
2. který je uveden v seznamu zakázaných systémů umělé inteligence podle odstavce 2,
d) zpracovávat utajované informace.
(2) Do seznamu zakázaných systémů umělé inteligence, který je zveřejněn a průběžně aktualizován na intranetových stránkách gestora umělé inteligence, gestor umělé inteligence zařadí systém umělé inteligence,
a) který není v souladu s právními předpisy upravujícími oblast umělé inteligence7 nebo interními akty řízení,
b) který je vyhodnocen jako rizikový nebo
c) jehož provozovatel má sídlo ve státě, který je označen jako rizikový.
Policie České republiky dále disponuje etickým kodexem pro využití AI a poskytla tento dokument žadateli v příloze.
Ad 6. AI se nijak nepromítá do trestních spisů vedených policejními orgány Policie České republiky.
Ad 7. Viz ad 6.
Ad 8. Viz ad 1b.
Ad 9. Konkrétní podmínky smluvních vztahů s jednotlivými dodavateli informačních technologií jsou velmi individuální a nelze je pro účely této odpovědi generalizovat.
Ad 10. V informačním systému elektronické trestní řízení provozovaném Policií České republiky nelze odpověď na tuto otázku strojově vyhledat.
Ad 11. Policie České republiky plánuje provádět vyhodnocení dopadu AI na lidská práva v souladu s platnou legislativou. Doposud však nejsou známy konkrétní parametry, jak má toto vyhodnocení vypadat v praxi, pokud jde o jeho obsah, rozsah, formu atd., neboť příslušná metodika AI Office, potažmo Evropské komise, zatím nebyla zveřejněna. Policie České republiky se připravuje na plnění této povinnosti vyplývající z Nařízení EP a Rady (EU) 2024/1689, včetně stanovení vnitřních procesů tak, aby vyhodnocení dopadu AI na lidská práva bylo skutečně přínosné.
Ad 12. Nakládání s osobními údaji je v rámci Policie České republiky upraveno pokynem policejního prezidenta č. 215/2021, o zpracování osobních údajů. Policie České republiky poskytla tento interní akt řízení, včetně jeho pěti příloh, žadateli v příloze v platném a účinném znění.
Ad 13. Zástupci Policie České republiky působí v několika mezinárodních projektech, které vyhodnocují nejen dopady AI na práva podezřelých a obviněných v trestních věcech, ale zabývají se obecně etickým potenciálem AI safety problematiky. Policie České republiky je rovněž zapojena do Expert group for AI pod záštitou DG Home v Evropské komisi, kde se tyto otázky rovněž aktivně řeší.
Ad 14. Důkazy generované AI systémy nebyly použity v žádném trestním řízení vedeném policejními orgány Policie České republiky.
Ad 15. Nikoliv.
Ad 16a. Viz ad 5.
Ad 16b. Viz ad 5.
Ad 16c. Národní centrála proti organizovanému zločinu služby kriminální policie a vyšetřování v souvislosti s případem, která je předmětem žadatelova zájmu, neprováděla šetření ohledně správnosti postupu svých příslušníků při využití ChatGPT v této trestní věci.
PhDr. Jiří Vokuš, 23. ledna 2026