Nařízení (EU) 2024/1689 (AI Act) · Kapitola IX · Dozor a práva dotčených osob
Čl. 80 · Postup nakládání se systémy AI, které nejsou při použití přílohy III poskytovatelem klasifikovány jako vysoce rizikové
Znění
-
Pokud má orgán dozoru nad trhem dostatečný důvod se domnívat, že systém AI klasifikovaný poskytovatelem jako nikoliv vysoce rizikový podle čl. 6 odst. 3 ve skutečnosti vysoce rizikový je, provede hodnocení dotčeného systému AI ohledně jeho klasifikace jako vysoce rizikového systému AI, a to na základě podmínek stanovených v čl. 6 odst. 3 a v pokynech Komise.
-
Pokud v průběhu tohoto hodnocení orgán dozoru nad trhem zjistí, že dotčený systém AI vysoce rizikový je, vyzve bez zbytečného odkladu příslušného poskytovatele, aby přijal veškerá nezbytná opatření k uvedení systému AI do souladu s požadavky a povinnostmi stanovenými v tomto nařízení a aby ve lhůtě, kterou může orgán dozoru nad trhem stanovit, přijal vhodná nápravná opatření.
-
Domnívá-li se orgán dozoru nad trhem, že použití dotčeného systému AI není omezeno pouze na území jeho členského státu, informuje o výsledcích hodnocení a o opatřeních, která má poskytovatel na jeho žádost přijmout, neprodleně Komisi a ostatní členské státy.
-
Poskytovatel zajistí, aby byla přijata veškerá nezbytná opatření k uvedení dotyčného systému AI do souladu s požadavky a povinnostmi stanovenými v tomto nařízení. Pokud dotčený poskytovatel systému AI neuvede systém AI do souladu s těmito požadavky a povinnostmi ve lhůtě uvedené v odstavci 2 tohoto článku, uloží se mu pokuty v souladu s článkem 99.
-
Poskytovatel zajistí, aby byla přijata veškerá vhodná nápravná opatření ohledně všech dotčených systémů AI, které dodal na trh v Unii.
-
Pokud poskytovatel dotčeného systému AI ve lhůtě uvedené v odstavci 2 tohoto článku přiměřená nápravná opatření nepřijme, použije se čl. 79 odst. 5 až 9.
-
Pokud v průběhu hodnocení podle odstavce 1 tohoto článku orgán dozoru nad trhem zjistí, že poskytovatel daný systém AI nesprávně klasifikoval jako nikoliv vysoce rizikový s cílem obejít uplatňování požadavků uvedených v kapitole III oddíle 2, uloží se poskytovateli pokuty v souladu s článkem 99.
-
Při výkonu své pravomoci monitorovat uplatňování tohoto článku a v souladu s článkem 11 nařízení (EU) 2019/1020 mohou orgány dozoru nad trhem provádět vhodné kontroly, zejména s přihlédnutím k informacím uloženým v databázi EU uvedené v článku 71 tohoto nařízení.
Znění: Úřední věstník EU z 12. 7. 2024. Konsolidované znění po novele nařízením (EU) 2026/1744 zatím vydané není.
Komentář
Orgán může přezkoumat systém, který se klasifikaci vyhnul filtrem čl. 6 odst. 3, a přeřadit ho do vysokého rizika, s pokutou za obcházení.
nosné pasáže citujeme u příslušných bodů výkladu.
Související ustanovení: čl. 6 odst. 3 (filtr významného rizika), čl. 6 odst. 4 (dokumentace a registrace), čl. 6 odst. 5 (pokyny Komise), čl. 49 (registrace), čl. 71 (databáze EU), čl. 79 odst. 5 až 9 (dočasná opatření), čl. 99 (sankce), kapitola III oddíl 2 (požadavky na vysoce rizikové systémy)
Související předpisy EU: nařízení (EU) 2019/1020 (čl. 11)
Obsah výkladu
I.Kontrola sebeklasifikace podle čl. 6 odst. 3 a 4 (odst. 1)1 II.Náprava a odkaz na postup podle čl. 79 (odst. 2 až 6)4 III.Sankce za nesoulad a za obcházení (odst. 4, 7, 8)6I. Kontrola sebeklasifikace podle čl. 6 odst. 3 a 4 (odst. 1)
1 Čl. 80 je kontrolním protějškem výjimky v čl. 6 odst. 3. Podle čl. 6 odst. 3 se systém uvedený v příloze III za vysoce rizikový nepovažuje, pokud nepředstavuje významné riziko a splňuje některou ze čtyř podmínek (úzce zaměřený procesní úkol; zlepšení výsledku dokončené lidské činnosti; odhalování vzorců rozhodování bez náhrady lidského posouzení; přípravný úkol), přičemž tato výjimka nikdy neplatí, pokud systém provádí profilování fyzických osob. Podle čl. 6 odst. 4 poskytovatel své posouzení zdokumentuje před uvedením na trh a podléhá povinnosti registrace podle čl. 49 odst. 2.
2 Odstavec 1 opravňuje orgán dozoru, který má dostatečný důvod se domnívat, že systém klasifikovaný poskytovatelem jako nikoli vysoce rizikový ve skutečnosti vysoce rizikový je, provést hodnocení jeho klasifikace na základě podmínek čl. 6 odst. 3 a pokynů Komise (čl. 6 odst. 5). Postup tak přezkoumává právě uplatnění filtru významného rizika.
3 Vstupním bodem kontroly je registrační a dokumentační povinnost. Právě proto, že poskytovatel musí posouzení zdokumentovat (čl. 6 odst. 4) a systém registrovat (čl. 49 odst. 2), a že orgán může využít informace z databáze EU (čl. 71, viz odstavec 8), je sebeklasifikace přezkoumatelná, nikoli konečná.
II. Náprava a odkaz na postup podle čl. 79 (odst. 2 až 6)
4 Podle odstavců 2 až 5 platí, že zjistí-li orgán, že systém vysoce rizikový je, vyzve bez zbytečného odkladu poskytovatele, aby jej uvedl do souladu a přijal vhodná nápravná opatření ve stanovené lhůtě; při přeshraničním dosahu informuje Komisi a členské státy; poskytovatel zajistí nápravu u všech dotčených systémů dodaných na trh v Unii.
5 Podle odstavce 6 platí, že nepřijme-li poskytovatel přiměřená nápravná opatření ve lhůtě, použije se čl. 79 odst. 5 až 9. Postup se tak v okamžiku selhání nápravy napojuje na obecný mechanismus dočasných opatření a jejich odůvodněnosti, čímž se sjednocuje s režimem podle čl. 79.
III. Sankce za nesoulad a za obcházení (odst. 4, 7, 8)
6 Odstavec 4 stanoví, že neuvede-li poskytovatel systém do souladu ve lhůtě podle odstavce 2, uloží se mu pokuty v souladu s článkem 99. Odstavec 7 přidává zvláštní skutkovou podstatu: zjistí-li orgán, že poskytovatel systém nesprávně klasifikoval jako nikoliv vysoce rizikový s cílem obejít uplatňování požadavků kapitoly III oddílu 2, uloží se mu pokuty podle článku 99. Mám za to, že jde o cílené protiobcházecí pravidlo: postihuje strategické podhodnocení klasifikace a spolu s profilovací pojistkou v čl. 6 odst. 3 uzavírá prostor pro únik z režimu vysokého rizika.
7 Pokuty podle článku 99 se u těchto porušení pohybují v pásmu podle čl. 99 odst. 4 (za nesoulad s povinnostmi jiných provozovatelů než podle čl. 5, správní pokuty až do výše 15 000 000 EUR nebo až 3 % celkového celosvětového ročního obratu podle toho, která hodnota je vyšší). Výši a uložení pokuty určuje s ohledem na okolnosti podle čl. 99 odst. 7 příslušný orgán členského státu.
8 Odstavec 8 opravňuje orgány dozoru provádět při monitorování uplatňování tohoto článku vhodné kontroly v souladu s článkem 11 nařízení (EU) 2019/1020, zejména s přihlédnutím k informacím uloženým v databázi EU podle čl. 71. Kontrola sebeklasifikace se tak opírá o registrační infrastrukturu nařízení.