Čl. 95 · Kodexy chování v případě dobrovolného uplatňování konkrétních požadavků

Znění čl. 95 (odst. 1 až 4) se pro rozsah cituje po nosných pasážích u příslušných bodů výkladu.

Související ustanovení: čl. 4 (gramotnost v oblasti AI), čl. 8 až 15 (požadavky na vysoce rizikové systémy, kapitola III oddíl 2), čl. 50 (transparentnost), čl. 56 (kodexy správné praxe pro obecné modely), čl. 64 (úřad pro AI), čl. 65 (Evropská rada pro umělou inteligenci)

I. Systematické zařazení a povaha kodexů chování

1 Čl. 95 uzavírá rizikovou pyramidu nařízení zdola. Zatímco zákazy podle čl. 5 odpovídají nepřijatelnému riziku, kapitola III vysokému riziku a čl. 50 transparentnostnímu riziku, čl. 95 pokrývá zbytkové pásmo minimálního rizika, které nařízení jinak neupravuje. Zde platí zásada dobrovolnosti: systémy, jež nejsou vysoce rizikové, žádné hmotné požadavky kapitoly III plnit nemusí, mohou je však na sebe vztáhnout dobrovolně prostřednictvím kodexu. Ani toto pásmo ale není bez záruk. Bod 166 odůvodnění připomíná, že systémy AI související s produkty mají být při uvedení na trh nebo do provozu bezpečné, i když vysoce rizikové nejsou. Jako záchranná síť se na ně uplatní nařízení (EU) 2023/988 o obecné bezpečnosti výrobků. Zásada dobrovolnosti podle čl. 95 se tedy týká hmotných požadavků kapitoly III, nikoli obecné bezpečnostní úrovně produktu, kterou zajišťuje jiný předpis.

2 Adresátem odstavce 1 nejsou provozovatelé, nýbrž úřad pro AI a členské státy. Podle znění Úřad pro AI a členské státy podporují a usnadňují vypracovávání kodexů chování, včetně souvisejících mechanismů správy, které mají podpořit dobrovolné uplatňování některých nebo všech požadavků stanovených v kapitole III oddílu 2 na systémy AI, jež nejsou vysoce rizikovými systémy AI. Povinnost uložená veřejné straně je tedy povinností podpory a usnadnění, nikoli povinností kodex vydat nebo dodržet; té odpovídá na straně provozovatelů pouhá možnost.

3 Zdůrazňuji, že kodex chování sám o sobě nezakládá právně vynutitelnou povinnost. Jeho síla je dvojí a nepřímá. Zaprvé, přijme-li provozovatel kodex, zavazuje se k jeho obsahu a orgán dozoru může dodržování takového dobrovolného závazku posuzovat v rámci celkového hodnocení souladu a náležité péče. Zadruhé, rozšířený kodex se může stát faktickým odvětvovým standardem osvědčené praxe, od něhož se lze odchýlit jen s věcným zdůvodněním. Mám za to, že právě v této faktické normativní váze, nikoli ve vynutitelnosti, spočívá skutečný význam čl. 95.

II. Rozsah dobrovolného rozšíření požadavků

4 Odstavec 1 vymezuje předmět kodexů úzce: dobrovolné uplatňování některých nebo všech požadavků kapitoly III oddílu 2, tedy požadavků na vysoce rizikové systémy podle článků 8 až 15 (systém řízení rizik, jakost dat, technická dokumentace, vedení záznamů, transparentnost vůči zavádějícím subjektům, lidský dohled, přesnost a kybernetická bezpečnost), na systémy, které vysoce rizikové nejsou. Rozšíření je tedy modulární; provozovatel může převzít jen některé požadavky a při jejich výběru se zohlední dostupná technická řešení a osvědčené postupy v daném odvětví. Bod 165 odůvodnění tuto skládanost potvrzuje. Poskytovatelé nerizikových systémů mají být vybízeni k vytváření kodexů, které podpoří dobrovolné uplatňování některých nebo všech povinných požadavků platných pro vysoce rizikové systémy. Kodexy se mají přizpůsobit zamýšlenému účelu systému a nižšímu souvisejícímu riziku. A mají přihlédnout k dostupným technickým řešením i k osvědčeným postupům v odvětví, jako jsou modelové a datové karty.

5 Odstavec 2 rozšiřuje záběr ještě dále. Úřad pro AI a členské státy usnadňují i vypracovávání kodexů, které se týkají dobrovolného uplatňování konkrétních požadavků na všechny systémy AI na základě jasných cílů a klíčových ukazatelů výkonnosti. Zatímco odstavec 1 přenáší na neriziková použití požadavky režimu vysokého rizika, odstavec 2 otevírá prostor pro požadavky vlastní, formulované mimo katalog kapitoly III. Demonstrativní výčet v odstavci 2 zahrnuje pět okruhů: - prvky z etických pokynů Unie pro zajištění důvěryhodnosti AI; - posuzování a minimalizaci dopadu na environmentální udržitelnost; - podporu gramotnosti v oblasti AI; - inkluzivní navrhování zohledňující rozmanitost; - posuzování negativního dopadu na zranitelné osoby a na genderovou rovnost. Týž výčet nese i bod 165 odůvodnění. Mezi dobrovolné doplňkové požadavky řadí prvky etických pokynů Unie pro zajištění důvěryhodnosti AI, udržitelnost životního prostředí a gramotnost v oblasti AI. K tomu inkluzivní a rozmanitý návrh se zřetelem ke zranitelným osobám a k přístupnosti pro osoby se zdravotním postižením. A genderovou vyváženost vývojových týmů. Bod 165 zároveň vysvětluje, proč čl. 95 odst. 2 podmiňuje tyto kodexy jasnými cíli a klíčovými ukazateli výkonnosti: bez měřitelných cílů by dobrovolný závazek postrádal účinnost, a proto mají být kodexy na takových ukazatelích založeny a vypracovány inkluzivně se zapojením zúčastněných stran.

6 Provázání na gramotnost v oblasti AI (odstavec 2 písm. c) je praktické. Povinnost zajišťovat dostatečnou gramotnost podle čl. 4 platí sice bez ohledu na rizikovost systému, avšak nemá podobu formalizovaného programu. Kodex chování se proto nabízí jako nástroj, jímž lze obsah této povinnosti v daném odvětví konkretizovat a doložit. Obdobně dopad na životní prostředí, který nařízení jinak jako hmotný požadavek na jednotlivé systémy neukládá, získává přes odstavec 2 alespoň dobrovolný rámec.

III. Kdo kodexy vypracovává a jak

7 Odstavec 3 určuje okruh tvůrců široce. Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů AI či subjekty, které tyto systémy zavádějí, nebo organizace, které je zastupují, případně tito aktéři společně, a to i za účasti zúčastněných stran včetně organizací občanské společnosti a akademické obce. Kodex se může vztahovat na jeden nebo více systémů AI s přihlédnutím k podobnosti jejich zamýšleného účelu. Autorem tedy není veřejná strana. Role úřadu pro AI a členských států zůstává podpůrná a usnadňující.

8 Odstavec 4 ukládá, aby úřad pro AI a členské státy při podpoře a usnadňování zohlednily konkrétní zájmy a potřeby malých a středních podniků, včetně podniků začínajících. Toto zaměření se opakuje napříč nařízením a u kodexů chování má zvláštní smysl. Dobrovolné převzetí požadavků vysokého rizika je pro menší subjekty nákladné. Kodex jim proto může posloužit jako odstupňovaná a únosná cesta k vyšší důvěryhodnosti, aniž by nesly plnou tíhu režimu kapitoly III.

IV. Odlišení od kodexů správné praxe podle čl. 56

9 Čl. 95 je nutné pečlivě odlišit od kodexů správné praxe podle čl. 56, s nimiž jej spojuje jen podobnost názvu. Rozdíly jsou zásadní. Kodex chování podle čl. 95 je dobrovolný, může se týkat kteréhokoli systému AI a nezakládá vynutitelnou povinnost. Kodex správné praxe podle čl. 56 se naopak váže na obecné modely AI, konkretizuje povinnosti poskytovatelů těchto modelů podle čl. 53 a čl. 55 a Komise jej může prováděcím aktem schválit a udělit mu obecnou platnost v rámci Unie (čl. 56 odst. 6). Kodex správné praxe tak plní funkci přechodného, kvazinormativního nástroje do doby existence harmonizovaných norem, kdežto kodex chování zůstává dobrovolným závazkem.

10 Praktický důsledek tohoto odlišení je významný. Poskytovatel obecného modelu, který se nechce řídit kodexem správné praxe podle čl. 56, musí soulad s povinnostmi prokázat jinými, rovnocennými prostředky, a nese k tomu důkazní břemeno. Naproti tomu provozovatel, který nepřevezme kodex chování podle čl. 95, žádnou povinnost neporušuje, protože se pohybuje v pásmu minimálního rizika. Záměna obou institutů by proto vedla k chybnému závěru o rozsahu povinností; v komentáři k čl. 56 se ke kodexům správné praxe vracíme podrobně.