Čl. 6 · Klasifikační pravidla pro vysoce rizikové systémy AI

Znění čl. 6 odst. 1 až 8 se pro rozsah cituje po částech u příslušných bodů výkladu.

Související ustanovení: čl. 2 odst. 2 (produktově vázané systémy), čl. 3 bod 14 (bezpečnostní komponenta), čl. 7 (změny přílohy III), čl. 43 (posuzování shody), čl. 49 odst. 2 (registrace), čl. 96 (pokyny Komise), čl. 97 (akty v přenesené pravomoci), příloha I (harmonizační předpisy), příloha III (rizikové oblasti)

Související předpisy EU: nařízení a směrnice uvedené v příloze I (sektorová harmonizace)

I. Dvě cesty do vysokého rizika

1 Čl. 6 zavádí dvě samostatné cesty, jimiž se systém stává vysoce rizikovým. První je cesta produktová (odst. 1 ve spojení s přílohou I): systém je vysoce rizikový, protože je bezpečnostní komponentou regulovaného produktu, nebo je sám takovým produktem. Druhá je cesta samostatná (odst. 2 ve spojení s přílohou III): systém je vysoce rizikový, protože jeho použití spadá do některé z citlivých oblastí uvedených v příloze III. Obě cesty jsou konkretizací rizikově založeného přístupu, na němž nařízení stojí. Bod 26 odůvodnění uvádí, že typ a obsah pravidel se mají přizpůsobit intenzitě a rozsahu rizik, která mohou systémy AI vytvářet.

2 Obě cesty jsou nezávislé. Postačí naplnění jedné z nich. Právní následek je v obou případech týž, totiž podřízení systému požadavkům kapitoly III a povinnostem posouzení shody. Rozdíl je v mechanice: produktová cesta se opírá o existující sektorovou harmonizaci, samostatná cesta o samostatný katalog rizikových oblastí.

II. Produktová cesta (odst. 1 a příloha I)

3 Podle odstavce 1 je systém vysoce rizikový, jsou-li splněny obě podmínky: - (a) systém je určen k použití jako bezpečnostní komponenta produktu, nebo je sám produktem, na který se vztahují harmonizační předpisy Unie z přílohy I; - (b) tento produkt, případně systém jako produkt, podléhá podle uvedených předpisů posouzení shody třetí stranou. Kritériem tedy není jen souvislost s regulovaným produktem, nýbrž i to, že daný sektorový režim vyžaduje posouzení shody nezávislou třetí stranou. Bod 50 odůvodnění tuto cestu potvrzuje a demonstrativně vyjmenovává dotčené produkty, mimo jiné strojní zařízení, hračky, výtahy, rádiová a tlaková zařízení, zdravotnické prostředky a diagnostické zdravotnické prostředky in vitro, automobilový průmysl a letectví. Že se u bezpečnostních komponent řeší právě prevence rizik pro zdraví a bezpečnost, připomíná bod 47 odůvodnění.

4 Podmínka posouzení shody třetí stranou vylučuje z produktové cesty ty regulované produkty, u nichž postačí posouzení shody vlastními silami výrobce. Smyslem je navázat přísnější režim AI Actu na produkty, jejichž riziko už zákonodárce považoval za natolik významné, že vyžaduje nezávislé ověření. Vzájemný vztah AI Actu a sektorové harmonizace u těchto systémů řeší čl. 2 odst. 2. Bod 51 odůvodnění současně upozorňuje, že klasifikace systému jako vysoce rizikového podle tohoto nařízení neznamená, že produkt, jehož je systém bezpečnostní komponentou, je vysoce rizikový i podle kritérií příslušných sektorových předpisů. Obě roviny se posuzují samostatně.

II.a Tři výluky doplněné novelou (odst. 1a až 1c)

5 Nařízení (EU) 2026/1744 (čl. 1 bod 8) vložilo do čl. 6 tři nové odstavce, které produktovou cestu zužují. Kdo klasifikuje podle původní dvoukrokové logiky, může dojít k opačnému výsledku, než jaký nařízení dnes dává.

6 Odstavce 1a a 1b míří na pojem bezpečnostní komponenty a stojí proti sobě. Podle odst. 1a se za bezpečnostní komponentu nepovažuje systém používaný výhradně pro aspekty uživatelské podpory, optimalizace výkonnosti, efektivity služeb, automatizace, pohodlí nebo kontroly kvality, které nesouvisejí s bezpečností. Odstavec 1b to hned vyvažuje: bez ohledu na odst. 1a se za bezpečnostní komponentu považuje systém, jehož selhání nebo chybné fungování by ohrozilo zdraví a bezpečnost. Rozhodná tedy není deklarovaná funkce, ale následek selhání.

7 Odstavec 1c míří na druhou podmínku, tedy na posouzení shody třetí stranou. Produkt, u něhož se posouzení třetí stranou vyžaduje pouze z důvodu jiných rizik než rizik pro zdraví a bezpečnost, zejména kvůli distribuci rádiového spektra nebo elektromagnetické interferenci bez vlivu na zdraví a bezpečnost, se nepovažuje za produkt splňující podmínku podle odst. 1 písm. b). Pro rádiová zařízení je to podstatné zúžení: samotné to, že produkt prochází posouzením třetí stranou podle rádiové směrnice kvůli spektru, ho do vysokého rizika nevtahuje.

III. Samostatná cesta (odst. 2 a příloha III)

8 Podle odstavce 2 jsou vysoce rizikové rovněž systémy uvedené v příloze III. Příloha III vypočítává osm oblastí (biometrika, kritická infrastruktura, vzdělávání, zaměstnávání, přístup k základním službám, vymáhání práva, migrace a azyl, správa soudnictví a demokratické procesy). Systém je vysoce rizikový, spadá-li jeho zamýšlený účel pod některý z případů užití v příloze uvedených. Podrobný výklad přílohy III je níže. Bod 52 odůvodnění k samostatné cestě dodává, kdy jsou tyto systémy vysoce rizikové. Musí s ohledem na zamýšlený účel představovat vysoké riziko újmy na zdraví, bezpečnosti nebo na základních právech. Přihlíží se přitom k závažnosti možné újmy i k pravděpodobnosti, že nastane.

IV. Filtr významného rizika (odst. 3)

9 Odstavec 3 zavádí významnou výjimku ze samostatné cesty. Systém uvedený v příloze III se za vysoce rizikový nepovažuje, pokud nepředstavuje významné riziko újmy na zdraví, bezpečnosti nebo základních právech, a to ani tím, že by podstatně ovlivňoval výsledek rozhodování. Jde o materiální korektiv: pouhé formální zařazení do oblasti přílohy III nestačí, chybí-li reálné významné riziko. Bod 53 odůvodnění tento korektiv vysvětluje tak, že systémem bez podstatného vlivu na výsledek rozhodování se rozumí systém, který nemá vliv na podstatu, a tím ani na výsledek rozhodování, ať už lidského, nebo automatizovaného. Že označení za vysoce rizikové má být vyhrazeno systémům s významným škodlivým dopadem na zdraví, bezpečnost a základní práva, potvrzuje i bod 46 odůvodnění.

10 Výjimka se uplatní, je-li splněna některá ze čtyř podmínek: - (a) systém plní úzce zaměřený procesní úkol; - (b) zlepšuje výsledek dříve dokončené lidské činnosti; - (c) odhaluje vzorce nebo odchylky v rozhodování, aniž má bez řádného lidského přezkumu nahradit nebo ovlivnit dříve dokončené lidské posouzení; - (d) provádí přípravný úkol v rámci posouzení relevantního pro případy užití z přílohy III. Tyto čtyři podmínky popisují situace, v nichž systém hraje pomocnou, nikoli rozhodovací roli. Bod 53 odůvodnění ke každé podmínce nabízí příklady, které pomáhají vytyčit hranici: k písmenu (a) systém převádějící nestrukturovaná data na strukturovaná, třídění příchozích dokumentů do kategorií nebo odhalování duplicit mezi velkým počtem žádostí. K písmenu (b) systém zdokonalující formulace dříve vypracovaných dokumentů, například po stránce odborného vyjadřování či akademického stylu. K písmenu (c) sedí nástroj, který u zavedeného způsobu známkování zpětně hledá odchylky a upozorní na anomálie. K písmenu (d) inteligentní zpracování souborů, tedy indexování, vyhledávání a zpracování textu a řeči nebo překlad výchozích dokumentů.

11 Odstavec 3 obsahuje tvrdou zpětnou pojistku: bez ohledu na uvedené čtyři podmínky se systém považuje za vysoce rizikový vždy, pokud provádí profilování fyzických osob. Profilování tedy filtr uzavírá; systém, který profiluje, se výjimky nedovolá, i kdyby jinak plnil jen pomocný úkol. Mám za to, že jde o záměrně přísné pravidlo, které má zabránit obcházení vysokého rizika přeznačením profilovacího systému na „pomocný nástroj”. Bod 53 odůvodnění tuto pojistku podpírá: u systémů z přílohy III se vždy má za to, že představují významné riziko, zahrnují-li profilování ve smyslu čl. 4 bodu 4 nařízení (EU) 2016/679, čl. 3 bodu 4 směrnice (EU) 2016/680 nebo čl. 3 bodu 5 nařízení (EU) 2018/1725. Obsah pojmu profilování se tedy přebírá z uvedených předpisů o ochraně osobních údajů.

12 Filtr je dynamický. Podle odstavců 6 a 7 může Komise akty v přenesené pravomoci (čl. 97) čtyři podmínky doplňovat nebo rušit, avšak s výslovnou zárukou v odstavci 8: změna nesmí snížit celkovou úroveň ochrany zdraví, bezpečnosti a základních práv. Filtr lze tedy zpřísnit i zmírnit, nikdy však na úkor dosažené úrovně ochrany.

V. Vlastní posouzení, dokumentace a pokyny (odst. 4, 5)

13 Uplatnění filtru není bez dozoru. Podle odstavce 4 poskytovatel, který se domnívá, že systém z přílohy III není vysoce rizikový, své posouzení zdokumentuje před uvedením na trh, podléhá povinnosti registrace podle čl. 49 odst. 2 a na žádost předloží dokumentaci příslušným orgánům. Text neukládá procesní důkazní břemeno výslovně; ukládá dokumentaci, registraci a předložení na vyžádání. Praktický účinek je ale obdobný: kdo dokumentaci nemá, nemá čím svůj závěr obhájit. Nesprávné vyhodnocení filtru je porušením nařízení se všemi důsledky. Dokumentační a registrační povinnost jako pojistku sledovatelnosti a transparentnosti předpokládá i bod 53 odůvodnění.

14 Podle odstavce 5 měla Komise po konzultaci s Evropskou radou pro umělou inteligenci nejpozději do 2. února 2026 vydat pokyny k praktickému provádění tohoto článku, a to podle čl. 96, spolu s úplným seznamem praktických příkladů systémů, které vysoce rizikové jsou a které nejsou. Tyto pokyny jsou pro praxi klasifikace zásadní a je nutné je sledovat. Komentář vychází ze znění nařízení a pokyny nenahrazuje. Vydání těchto pokynů doplněných komplexním seznamem praktických příkladů předjímá bod 53 odůvodnění.

15 Stav k srpnu 2026. Komise zveřejnila 19. května 2026 zatím jen návrh pokynů ke klasifikaci vysoce rizikových systémů a otevřela k němu cílenou konzultaci. Konečné pokyny v době psaní vydány nebyly. Návrh není právně nic, ani měkký nástroj; kdo podle něj dnes klasifikuje, měl by počítat s tím, že se znění může změnit.

Příklady

Případy jsou konstruované, ne rozhodnuté věci.

1. Obě cesty vedle sebe (odst. 1 a 2). Software řídící brzdový systém vozidla je vysoce rizikový po první cestě: je bezpečnostní komponentou produktu podle přílohy I a ten podléhá posouzení shody třetí stranou. Nástroj na třídění životopisů je vysoce rizikový po druhé cestě, protože spadá do bodu 4 přílohy III. Souvislost mezi nimi žádná není, každá cesta stojí sama.

2. Kdy výjimka platí a kdy ne (odst. 3). Systém, který v přijímacím řízení jen setřídí přílohy podle typu a najde v nich požadované doklady, plní přípravný úkol podle písmene (d) a výjimka se uplatní. Systém, který uchazeče obodová a seřadí podle předpokládané úspěšnosti, výjimku nevyužije, i kdyby konečné rozhodnutí dělal člověk. Rozhoduje, jestli systém posouzení připravuje, nebo ho fakticky provádí.

3. Profilování výjimku vylučuje vždy (odst. 3). Nástroj, který u žadatelů o úvěr hledá nesrovnalosti ve vyplněném formuláři, může spadnout pod písmeno (c). Jakmile ale začne z chování žadatele odvozovat jeho osobnostní rysy, jde o profilování a výjimku nelze použít bez ohledu na to, jak úzký úkol plní.

4. Doložení výjimky (odst. 4). Poskytovatel, který se na výjimku spoléhá, musí své posouzení zdokumentovat před uvedením na trh a systém přesto zaregistrovat. Kdo si řekne, že se ho vysoké riziko netýká, a nic nezaznamená, nemá při kontrole čím doložit, že výjimka byla namístě.

Co z toho plyne v praxi

Nejdřív zjistěte, kterou cestou jdete. Příloha I a příloha III jsou dva nezávislé mechanismy. U přílohy I se ptáte na produkt a na posouzení shody, u přílohy III na účel použití. Systém může spadat pod obě.

Výjimku podle odst. 3 berte jako doložitelné rozhodnutí, ne jako úlevu. Musíte posouzení zaznamenat, na žádost ho předložit a systém i tak registrovat podle čl. 49 odst. 2. A profilování fyzických osob výjimku vylučuje vždy.

Co nepomůže. Že systém dělá jen „podporu rozhodování” a poslední slovo má člověk. Lidský přezkum výjimku sám o sobě nezakládá; výjimka se váže na povahu úkolu, ne na to, kdo klikne na tlačítko.

Termín. Povinnosti u vysoce rizikových systémů odsunulo nařízení (EU) 2026/1744: podle přílohy III na 2. 12. 2027 a podle přílohy I na 2. 8. 2028.

Z judikatury

Zatím žádná. Klasifikační pravidla se ještě nestala použitelnými a rozhodnutí, která by je vykládala, neexistují. Komise má podle čl. 6 odst. 5 vydat pokyny k praktickému provádění tohoto článku s praktickými příklady; do jejich vydání je hlavním vodítkem text přílohy III a body 52 až 63 odůvodnění.

Otevřené otázky

1. Kde přesně končí „přípravný úkol” (odst. 3 písm. d). Mezi setříděním podkladů a jejich předhodnocením je plynulý přechod. Bez pokynů Komise a bez rozhodovací praxe nese poskytovatel riziko vlastního výkladu.

2. Co je „úzce zaměřený procesní úkol” (písm. a). Text neurčuje, jestli se úzkost posuzuje podle počtu vstupů, podle dopadu výstupu, nebo podle obojího.

3. Jak se posoudí systém s více zamýšlenými účely. Nástroj použitelný v náboru i v běžné administrativě spadá do přílohy III jen jedním ze svých účelů. Jestli se posuzuje jako celek, nebo po funkcích, nařízení neřeší.

4. Vztah odst. 3 a čl. 49 odst. 2. Výjimka zbavuje požadavků kapitoly III, ale registrační povinnost zůstává. Co přesně se registruje u systému, který vysoce rizikový není, není z textu zřejmé.