Nařízení (EU) 2024/1689 (AI Act) · Kapitola III · Vysoce rizikové systémy AI

Čl. 43 · Posuzování shody

Znění

V případě vysoce rizikových systémů AI uvedených v bodě 1 přílohy III, u nichž poskytovatel při prokazování souladu vysoce rizikového systému AI s požadavky stanovenými v oddíle 2 použil harmonizované normy uvedené v článku 40 nebo v relevantních případech společné specifikace uvedené v článku 41, si poskytovatel zvolí jeden z následujících postupů posuzování shody na základě:

a) interní kontroly uvedené v příloze VI nebo

b) posouzení systému řízení kvality a posouzení technické dokumentace za účasti oznámeného subjektu podle přílohy VII.

Při prokazování souladu vysoce rizikového systému AI s požadavky stanovenými v oddíle 2 se poskytovatel řídí postupem posuzování shody stanoveným v příloze VII, pokud:

a) neexistují harmonizované normy uvedené v článku 40 a nejsou k dispozici společné specifikace uvedené v článku 41;

b) poskytovatel nepoužil harmonizovanou normu nebo použil jen její část;

c) společné specifikace uvedené v písmenu a) existují, ale poskytovatel je nepoužil;

d) jedna nebo více harmonizovaných norem uvedených v písmenu a) byla zveřejněna s omezením a pouze pro tu část normy, která byla omezena.

Pro účely postupu posuzování shody uvedeného v příloze VII si poskytovatel může zvolit kterýkoli z oznámených subjektů. Je-li však vysoce rizikový systém AI určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány nebo orgány, institucemi a jinými subjekty EU, jedná jako oznámený subjekt orgán dozoru nad trhem uvedený v čl. 74 odst. 8, případně 9.

U vysoce rizikových systémů AI uvedených v bodech 2 až 8 přílohy III uplatňují poskytovatelé postup posuzování shody založený na interní kontrole uvedené v příloze VI, který nestanoví zapojení oznámeného subjektu.
U vysoce rizikových systémů AI, na které se vztahují právní předpisy Unie v oblasti harmonizace uvedené v oddíle A přílohy I, uplatňuje poskytovatel příslušné postupy posouzení shody, které stanoví uvedené právní akty. Na tyto vysoce rizikové systémy AI se vztahují požadavky stanovené v oddíle 2 této kapitoly, které jsou součástí uvedeného posouzení. Použijí se rovněž body 4.3, 4.4, 4.5 a pátý odstavec bodu 4.6 přílohy VII.

Pro účely tohoto posouzení jsou oznámené subjekty, které byly oznámeny podle těchto právních aktů, oprávněny kontrolovat shodu vysoce rizikových systémů AI s požadavky stanovenými v oddíle 2, pokud byl posouzen soulad těchto oznámených subjektů s požadavky stanovenými v čl. 31 odst. 4, 5, 10 a 11 v rámci postupu pro oznamování podle těchto právních aktů.

Pokud právní akt uvedený v oddíle A přílohy I umožňuje výrobci produktu neúčastnit se posuzování shody třetí stranou za předpokladu, že tento výrobce uplatnil všechny harmonizované normy pokrývající všechny příslušné požadavky, může tento výrobce tuto možnost využít pouze v případě, že uplatnil rovněž harmonizované normy nebo v relevantních případech společné specifikace uvedené v článku 41, které pokrývají všechny požadavky stanovené v oddíle 2 této kapitoly.

U vysoce rizikových systémů AI, u kterých již byl postup posuzování shody proveden, musí být proveden nový postup posuzování shody v případě podstatné změny, bez ohledu na to, zda má být změněný systém dále distribuován, nebo zda jej i nadále používá jeho současný zavádějící subjekt.

U vysoce rizikových systémů AI, které se po uvedení na trh nebo do provozu dále učí, nepředstavují změny takového vysoce rizikového systému AI a jeho výkonnosti podstatnou změnu, pokud byly poskytovatelem před stanoveny v okamžiku počátečního posouzení shody a jsou součástí informací obsažených v technické dokumentaci uvedené v bodě 2 písm. f) přílohy IV.

Komisi je svěřena pravomoc přijmout akty v přenesené pravomoci v souladu s článkem 97 s cílem změnit přílohy VI a VII jejich aktualizací s ohledem na technický pokrok.
Komisi je svěřena pravomoc přijmout akty v přenesené pravomoci v souladu s článkem 97, kterými se mění odstavce 1 a 2 tohoto článku, s cílem podrobit vysoce rizikové systémy AI uvedené v bodech 2 až 8 přílohy III postupu posuzování shody uvedenému v příloze VII nebo jejích částech. Komise přijímá tyto akty v přenesené pravomoci s přihlédnutím k účinnosti postupu posuzování shody založeného na interní kontrole podle přílohy VI v oblasti prevence nebo minimalizace rizik pro zdraví, bezpečnost a ochranu základních práv, která tyto systémy představují, jakož i k dostupnosti přiměřených kapacit a zdrojů mezi oznámenými subjekty.

Znění: Úřední věstník EU z 12. 7. 2024. Konsolidované znění po novele nařízením (EU) 2026/1744 zatím vydané není.

Změněno nařízením (EU) 2026/1744 Přepsán odst. 3 o posuzování shody u systémů spadajících pod přílohu I oddíl A.

Komentář

U biometriky z přílohy III bodu 1 si poskytovatel volí mezi interní kontrolou podle přílohy VI a posouzením s oznámeným subjektem podle přílohy VII jen tehdy, když použil harmonizované normy nebo společné specifikace. Pokud takové normy nejsou nebo je nepoužil v plném rozsahu, musí jít cestou přílohy VII s oznámeným subjektem. U ostatních oblastí přílohy III stačí interní kontrola podle přílohy VI. Systémy ve výrobcích podle přílohy I jedou v sektorových postupech. Podstatná změna systému znamená nové posouzení.

Znění čl. 43 odst. 1 až 6 je rozsáhlé; Nosné pasáže citujeme verbatim u příslušných bodů výkladu.

Související ustanovení: čl. 40 a 41 (domněnka shody), oddíl 2 této kapitoly (požadavky), čl. 31 (požadavky na oznámené subjekty), čl. 44 (certifikáty), čl. 46 (odchylka), čl. 74 odst. 8 a 9 (orgán dozoru nad trhem jako oznámený subjekt), čl. 97 (výkon přenesené pravomoci), příloha I oddíl A (harmonizační předpisy), příloha III (rizikové oblasti), příloha IV (technická dokumentace), příloha VI (interní kontrola), příloha VII (posouzení oznámeným subjektem)

Obsah výkladu

I.Dva režimy posuzování shody1 II.Biometrika (bod 1 přílohy III): podmíněná volba3 III.Body 2 až 8 přílohy III: interní kontrola6 IV.Produktově vázané systémy (odst. 3)8 V.Podstatná změna a systémy, které se dále učí (odst. 4)10 VI.Dynamika režimu (odst. 5 a 6)12

I. Dva režimy posuzování shody

1 Čl. 43 je procesním jádrem bloku. Rozlišuje dva režimy posuzování shody. Prvním je interní kontrola podle přílohy VI, tedy posouzení, které provádí sám poskytovatel bez účasti třetí strany. Druhým je posouzení za účasti oznámeného subjektu podle přílohy VII, jehož obsahem je posouzení systému řízení kvality a posouzení technické dokumentace a jehož výstupem je certifikát podle čl. 44. Volba mezi nimi není libovolná. Řídí se tím, do které oblasti přílohy III systém spadá a zda poskytovatel použil harmonizované normy nebo společné specifikace. Bod 123 odůvodnění k účelu celého článku uvádí, že posouzení shody má u vysoce rizikových systémů AI proběhnout před jejich uvedením na trh nebo do provozu, a to v zájmu vysoké úrovně jejich důvěryhodnosti.

2 Základní dělící linie vede mezi biometrikou (bod 1 přílohy III) a ostatními oblastmi (body 2 až 8 přílohy III). U biometriky přichází v úvahu i posouzení oznámeným subjektem, u ostatních oblastí zásadně postačuje interní kontrola. Toto rozvržení odráží míru rizika, kterou zákonodárce jednotlivým oblastem přiřkl: u biometrické identifikace a kategorizace považoval nezávislé ověření za potřebnější než u ostatních vysoce rizikových oblastí. Bod 125 odůvodnění tuto volbu vysvětluje. Alespoň v počáteční fázi uplatňování nařízení je namístě omezit posuzování shody třetími stranami u systémů, které se netýkají produktů. Provádí je proto zpravidla sám poskytovatel na vlastní odpovědnost, „s jedinou výjimkou, kterou tvoří systémy AI určené pro biometriku”.

II. Biometrika (bod 1 přílohy III): podmíněná volba

3 U systémů podle bodu 1 přílohy III (biometrika) rozlišuje odstavec 1 dvě situace. Použil-li poskytovatel harmonizované normy podle čl. 40, případně společné specifikace podle čl. 41, si poskytovatel zvolí jeden z následujících postupů posuzování shody na základě buď interní kontroly uvedené v příloze VI, nebo posouzení systému řízení kvality a posouzení technické dokumentace za účasti oznámeného subjektu podle přílohy VII. Kdo tedy staví na normě, má volbu a může se posouzení oznámeným subjektem vyhnout.

4 Nepoužil-li poskytovatel harmonizovanou normu (nebo jen její část), případně norma či specifikace vůbec neexistuje nebo byla zveřejněna s omezením, stává se postup podle přílohy VII (oznámený subjekt) povinným. Zdůrazňuji praktický důsledek této konstrukce: harmonizovaná norma je u biometriky nejen usnadněním, ale i klíčem k volbě mírnějšího postupu. Absence normy nebo odklon od ní vede k povinnému zapojení oznámeného subjektu se všemi náklady a časovými nároky, které s tím souvisejí.

5 Pro postup podle přílohy VII platí, že poskytovatel si zpravidla může zvolit kterýkoli oznámený subjekt. Odstavec 1 však obsahuje výjimku pro citlivé sektory: je-li systém určen k uvedení do provozu donucovacími, imigračními nebo azylovými orgány nebo orgány a subjekty Unie, jedná jako oznámený subjekt orgán dozoru nad trhem podle čl. 74 odst. 8, případně 9. Mám za to, že jde o záměrné podřízení nejcitlivějších systémů veřejnému dozoru namísto soukromého certifikačního subjektu.

III. Body 2 až 8 přílohy III: interní kontrola

6 U ostatních oblastí přílohy III je režim jednodušší. Odstavec 2 stanoví: U vysoce rizikových systémů AI uvedených v bodech 2 až 8 přílohy III uplatňují poskytovatelé postup posuzování shody založený na interní kontrole uvedené v příloze VI, který nestanoví zapojení oznámeného subjektu. Pro kritickou infrastrukturu, vzdělávání, zaměstnávání, přístup k základním službám, vymáhání práva, migraci a azyl i správu soudnictví tedy postačuje interní kontrola bez třetí strany.

7 Tato volba je předmětem odborné diskuse a bude předmětem výkladové praxe. Interní kontrola znamená, že shodu u citlivých systémů (například hodnocení uchazečů o zaměstnání nebo posuzování nároku na veřejnou podporu) posuzuje sám poskytovatel. Zákonodárce zde vsadil na odpovědnost poskytovatele a na následný dozor nad trhem namísto předběžné certifikace. Případný přesun těchto oblastí pod režim oznámeného subjektu ponechal na budoucích aktech v přenesené pravomoci (odstavec 6, viz níže).

IV. Produktově vázané systémy (odst. 3)

8 Odstavec 3 upravuje systémy vázané na produkty podle oddílu A přílohy I, tedy produktovou cestu vysokého rizika (viz čl. 6 odst. 1). Zde se posuzování shody neřídí přílohami VI a VII, nýbrž postupy stanovenými v příslušném sektorovém harmonizačním předpisu. Požadavky oddílu 2 této kapitoly se přitom stávají součástí tohoto sektorového posouzení a doplňkově se použijí i vybrané body přílohy VII. Nedochází tedy ke zdvojení posuzování. Požadavky nařízení se integrují do již existujícího sektorového režimu. Bod 124 odůvodnění potvrzuje záměr minimalizovat zátěž provozovatelů a předejít zdvojování, když stanoví, že použitelnost požadavků nařízení nemá mít vliv na konkrétní logiku, metodiku ani obecnou strukturu posuzování shody podle příslušných harmonizačních předpisů Unie.

9 Odstavec 3 obsahuje pojistku proti obcházení. Umožňuje-li sektorový předpis výrobci neúčastnit se posouzení třetí stranou za podmínky, že uplatnil všechny harmonizované normy, může výrobce této úlevy využít jen tehdy, pokud uplatnil rovněž harmonizované normy (případně společné specifikace podle čl. 41) pokrývající všechny požadavky oddílu 2. Mám za to, že tím se brání situaci, kdy by se produktově vázaný systém vyhnul nezávislému posouzení, aniž by pokryl specifické požadavky nařízení na AI.

V. Podstatná změna a systémy, které se dále učí (odst. 4)

10 Odstavec 4 řeší časovou dimenzi shody. Bylo-li posouzení shody již provedeno, musí být proveden nový postup posuzování shody v případě podstatné změny, a to bez ohledu na to, zda je změněný systém dále distribuován, nebo zda jej používá dosavadní zavádějící subjekt. Shoda tedy není jednorázová; podstatná změna systému znovu spouští posouzení. Bod 128 odůvodnění uvádí jako příklady změny, která spouští nové posouzení, změnu operačního systému nebo softwarové architektury a změnu zamýšleného účelu systému.

11 Odstavec 4 zároveň vymezuje hranici pro systémy, které se po uvedení na trh dále učí. Změny výkonnosti takového systému nepředstavují podstatnou změnu, byly-li poskytovatelem předem stanoveny v okamžiku počátečního posouzení shody a jsou součástí technické dokumentace podle bodu 2 písm. f) přílohy IV. Zdůrazňuji praktický klíč: předvídané a zdokumentované učení nové posouzení nespouští, kdežto změna nad rámec původně stanovených mezí ano. Rozhraní mezi předvídanou adaptací a podstatnou změnou bude sporným místem u systémů se schopností dalšího učení. Tuto mez potvrzuje i bod 128 odůvodnění, podle něhož změny algoritmu a výkonnosti systémů, které se dále „učí”, nemají být podstatnou změnou, byly-li předem stanoveny poskytovatelem a posouzeny v okamžiku posuzování shody.

VI. Dynamika režimu (odst. 5 a 6)

12 Odstavce 5 a 6 činí z posuzování shody dynamický režim. Podle odstavce 5 může Komise akty v přenesené pravomoci (čl. 97) aktualizovat přílohy VI a VII s ohledem na technický pokrok. Podle odstavce 6 může Komise akty v přenesené pravomoci podrobit postupu podle přílohy VII i systémy z bodů 2 až 8 přílohy III, tedy zapojit oznámený subjekt. Přihlédne přitom k tomu, jak účinně interní kontrola rizikům předchází, a k dostupným kapacitám oznámených subjektů. Rovnováha mezi interní kontrolou a nezávislým posouzením tak není trvalá. Zákonodárce ponechal Komisi prostor ji v budoucnu zpřísnit.

Příklady

Případy jsou konstruované, ne rozhodnuté věci.

1. Kdy stačí interní kontrola. Systém pro třídění žádostí o práci spadá do bodu 4 přílohy III. Posuzuje ho sám poskytovatel podle přílohy VI, oznámený subjekt se nezapojuje. Systém pro biometrickou identifikaci spadá do bodu 1 a tam se za určitých podmínek oznámený subjekt zapojit musí.

2. Harmonizovaná norma jako zkratka. Poskytovatel biometrického systému, který plně použije harmonizovanou normu pokrývající příslušné požadavky, se zapojení oznámeného subjektu vyhne. Kdo normu nepoužije nebo ji použije jen zčásti, jde cestou přílohy VII.

3. Podstatná změna po certifikaci. Systém projde posouzením a poskytovatel ho pak doučí na jiných datech pro jiný účel. Posouzení se opakuje, protože jde o podstatnou změnu podle čl. 3 bodu 23.

Co z toho plyne v praxi

Cestu si určete dřív než rozpočet. Zapojení oznámeného subjektu znamená jiný harmonogram i jiné náklady než interní kontrola.

Sledujte harmonizované normy. Jejich zveřejnění v Úředním věstníku může posuzování zásadně zjednodušit a u biometriky přímo rozhoduje o tom, jestli potřebujete třetí stranu.

Termín. Povinnosti u vysoce rizikových systémů odsunulo nařízení (EU) 2026/1744 na 2. 12. 2027 (příloha III) a 2. 8. 2028 (příloha I).

Z judikatury

Zatím žádná.

Otevřené otázky

1. Dostupnost harmonizovaných norem. Bez nich se domněnka shody podle čl. 40 nedá využít. Termín jejich vydání není v rukou poskytovatelů ani Komise, ale normalizačních organizací.

2. Kdy se posouzení opakuje. Odstavec 4 váže opakování na podstatnou změnu. U modelů, které se dál učí z provozu, není hranice ostrá.

3. Kapacita oznámených subjektů. Odstavec 6 dovoluje Komisi rozšířit zapojení třetí strany i na body 2 až 8 přílohy III. Jestli na to bude kapacita, je otevřené.