Čl. 49 · Registrace

Související ustanovení: čl. 6 odst. 2 a 3 (klasifikace a filtr významného rizika), čl. 60 (testování v reálných podmínkách), čl. 71 (databáze EU), čl. 74 odst. 8 (přístup vnitrostátních orgánů), příloha III (rizikové oblasti), příloha VIII (registrační údaje), příloha IX (informace k registraci testování v reálných podmínkách)

I. Registrace jako podmínka uvedení na trh

1 Čl. 49 uzavírá cestu ke shodě registrací systému v databázi EU. Registrace zviditelňuje vysoce rizikové systémy před jejich uvedením na trh a je podmínkou předcházející uvedení. Účel registrace, totiž usnadnit práci Komise a členských států v oblasti AI a zvýšit transparentnost vůči veřejnosti, vyjadřuje bod 131 odůvodnění. Podle odstavce 1 platí: Před uvedením vysoce rizikového systému AI uvedeného v příloze III, s výjimkou vysoce rizikových systémů AI podle bodu 2 přílohy III, na trh nebo do provozu poskytovatel nebo případně zplnomocněný zástupce zaregistruje sebe a svůj systém do databáze EU uvedené v článku 71.

2 Zdůrazňuji dvojí povahu registrace. Zaprvé je předběžná: provádí se před uvedením na trh, nikoli až následně, takže se stává vstupní podmínkou zákonného uvedení systému na trh. Zadruhé je dvousložková: poskytovatel registruje sebe i systém. Adresátem povinnosti je poskytovatel, případně jeho zplnomocněný zástupce. Registrace se týká systémů podle přílohy III, s výslovnou výjimkou bodu 2 (kritická infrastruktura), pro nějž platí zvláštní režim podle odstavce 5.

II. Registrace i u systémů vyňatých filtrem

3 Odstavec 2 rozšiřuje registrační povinnost i na systémy, které vysoce rizikové nejsou. Podle jeho znění: Před uvedením systému AI, u něhož poskytovatel došel k závěru, že nepředstavuje vysoké riziko podle čl. 6 odst. 3, na trh nebo do provozu tento poskytovatel nebo případně zplnomocněný zástupce zaregistruje sebe a tento systém do databáze EU uvedené v článku 71. Mám za to, že jde o promyšlenou pojistku proti zneužití filtru významného rizika podle čl. 6 odst. 3: kdo se filtru dovolá a systém z přílohy III za vysoce rizikový nepovažuje, musí to zviditelnit registrací, a nese tak svůj závěr veřejně. Filtr tedy nevede k mlčení, nýbrž k registrovanému a přezkoumatelnému tvrzení poskytovatele. Bod 131 odůvodnění tuto povinnost výslovně vztahuje i na poskytovatele, kteří se domnívají, že systém uvedený mezi příklady vysoce rizikového použití v příloze není vysoce rizikový na základě výjimky.

III. Registrace veřejnými zavádějícími subjekty

4 Odstavec 3 zavádí registrační povinnost i na straně poptávky. Povinnost dopadá i na zavádějící subjekty, které jsou veřejnými orgány nebo orgány, institucemi či jinými subjekty Unie, případně osobami jednajícími jejich jménem. Před uvedením do provozu nebo použitím systému podle přílohy III, opět s výjimkou bodu 2, se zaregistrují, vyberou systém a zaregistrují jeho používání v databázi EU. Poznamenávám, že registrace zde nedopadá na soukromé zavádějící subjekty. Míří na veřejný sektor, u něhož je transparentnost používání vysoce rizikových systémů považována za potřebnější. Bod 131 odůvodnění k tomu dodává, že ostatní zavádějící subjekty mají právo se do databáze zaregistrovat dobrovolně, kdežto povinná je registrace pro veřejné orgány, agentury a subjekty.

IV. Citlivé oblasti a neveřejná část databáze

5 Odstavec 4 upravuje citlivé oblasti, tedy systémy podle bodů 1, 6 a 7 přílohy III (biometrika, vymáhání práva a migrace, azyl a správa ochrany hranic). Tady se registrace podle odstavců 1 až 3 provádí v zabezpečené neveřejné části databáze EU. Obsahuje jen užší okruh informací, který vymezují odkazy na oddíly A, B a C přílohy VIII a na body přílohy IX. Do těchto částí mají přístup pouze Komise a vnitrostátní orgány podle čl. 74 odst. 8.

6 Zdůrazňuji napětí, které odstavec 4 vyvažuje. Transparentnost registrace se u citlivých oblastí střetává s bezpečnostními a operativními zájmy (typicky u donucovacích a azylových orgánů). Řešením není vynětí z registrace, nýbrž její přesun do neveřejné části databáze s omezeným okruhem informací a omezeným přístupem. Systém se tedy registruje vždy. Liší se jen viditelnost registrace a rozsah zveřejněných údajů. Bod 131 odůvodnění to potvrzuje. U systémů v oblasti vymáhání práva, migrace, azylu a řízení ochrany hranic se registrační povinnosti plní v zabezpečeném neveřejném oddílu. Přístup do něj je přísně omezen na Komisi a na orgány dozoru nad trhem.

V. Kritická infrastruktura: vnitrostátní úroveň

7 Odstavec 5 vysvětluje výjimku bodu 2 přílohy III (kritická infrastruktura), kterou odstavce 1 až 3 z registrace v databázi EU vyjímaly. Podle jeho znění: Vysoce rizikové systémy AI uvedené v příloze III bodě 2 se registrují na vnitrostátní úrovni. Systémy určené jako bezpečnostní komponenty kritické infrastruktury se tedy neregistrují do celounijní databáze, nýbrž na úrovni členského státu. Mám za to, že důvodem je citlivost bezpečnostních komponent kritické infrastruktury, u nichž centralizovaná veřejná evidence není namístě. Shodně bod 131 odůvodnění uvádí, že systémy v oblasti kritické infrastruktury se registrují pouze na vnitrostátní úrovni.

VI. Návaznost na databázi EU podle čl. 71

8 Registrační povinnosti čl. 49 jsou provázány s databází EU podle čl. 71, který databázi zřizuje a spravuje. Podle čl. 71 zřizuje a udržuje databázi Komise ve spolupráci s členskými státy. Databáze obsahuje jednak vysoce rizikové systémy podle čl. 6 odst. 2 registrované v souladu s čl. 49 (a s čl. 60 pro testování v reálných podmínkách), jednak systémy vyňaté filtrem podle čl. 6 odst. 3 registrované podle čl. 6 odst. 4 a čl. 49. Poznamenávám, že informace registrované podle čl. 49 jsou zásadně veřejně dostupné a strojově čitelné, s výjimkou zabezpečené části podle čl. 49 odst. 4. Čl. 49 tedy stanoví registrační povinnost, kdežto čl. 71 určuje samotný nástroj, strukturu vkládaných údajů (oddíly A, B a C přílohy VIII) a režim jejich zpřístupnění.