Čl. 13 · Transparentnost a poskytování informací zavádějícím subjektům

klíčové odstavce jsou citovány u příslušných bodů výkladu.

Související ustanovení: čl. 14 (opatření lidského dohledu popsaná v návodu), čl. 15 (úrovně přesnosti a metriky uváděné v návodu), čl. 12 (protokoly, jejichž interpretaci návod popisuje), čl. 9 odst. 2 (rizika, na něž návod upozorňuje), čl. 26 (povinnosti zavádějících subjektů), čl. 50 (transparentnost vůči dotčeným osobám, odlišný adresát)

I. Transparentnost vůči zavádějícímu subjektu, nikoli vůči veřejnosti (odst. 1)

1 Podle odstavce 1 jsou vysoce rizikové systémy navrženy tak, aby bylo jejich fungování dostatečně transparentní a zavádějícím subjektům umožňovalo interpretovat výstup systému a vhodně jej používat. Zdůrazňuji, koho čl. 13 chrání: adresátem transparentnosti je zavádějící subjekt (profesionální uživatel), nikoli dotčená fyzická osoba ani veřejnost. Tím se čl. 13 zřetelně odlišuje od čl. 50, který zakládá transparentnost vůči osobám vystaveným systému (například povinnost oznámit, že osoba komunikuje se systémem AI, nebo označit uměle vytvořený obsah). Obě roviny je nutné držet oddělené: čl. 13 je transparentnost „dovnitř” hodnotového řetězce, čl. 50 „navenek” vůči dotčeným osobám. Účel čl. 13 osvětluje bod 72 odůvodnění, podle něhož mají být systémy navrženy tak, aby zavádějící subjekty pochopily, jak systém funguje, vyhodnotily jeho funkčnost a porozuměly jeho silným stránkám i omezením, a mohly tak činit informovaná rozhodnutí a systém správně zvolit i používat.

2 Transparentnost podle čl. 13 je zároveň funkčně podřízena souladu s dalšími povinnostmi: má být zajištěn takový typ a stupeň transparentnosti, aby poskytovatel i zavádějící subjekt mohli dostát svým povinnostem podle oddílu 3. Transparentnost zde tedy není hodnotou o sobě, nýbrž předpokladem odpovědného používání a lidského dohledu podle čl. 14.

II. Návod k použití (odst. 2, 3)

3 Odstavec 2 ukládá, aby byly systémy opatřeny návodem k použití ve vhodném digitálním nebo jiném formátu, obsahujícím stručné, úplné, správné a jasné informace, které jsou pro zavádějící subjekty relevantní, přístupné a srozumitelné. Návod k použití je tak jádrovým nástrojem transparentnosti a zároveň dokumentem, jehož neúplnost nebo nesrozumitelnost sama zakládá nesoulad s požadavky oddílu 2.

4 Odstavec 3 vypočítává minimální povinný obsah návodu v písmenech a) až f). Patří sem totožnost a kontaktní údaje poskytovatele (písm. a); vlastnosti, schopnosti a omezení výkonnosti systému (písm. b), zejména jeho zamýšlený účel, úroveň přesnosti, spolehlivosti a kybernetické bezpečnosti podle čl. 15 a známé či předvídatelné okolnosti ovlivňující rizika podle čl. 9 odst. 2; předem stanovené změny systému (písm. c); opatření v oblasti lidského dohledu uvedená v článku 14 (písm. d); potřebné výpočetní a hardwarové zdroje, očekávanou životnost a opatření údržby (písm. e); a popis mechanismů pro shromažďování a interpretaci protokolů podle článku 12 (písm. f).

5 Zdůrazňuji systémovou roli písmene b) bodu ii a písmene d). Informace o přesnosti, spolehlivosti a kybernetické bezpečnosti (čl. 15) a o opatřeních lidského dohledu (čl. 14) jsou tím kanálem, jímž se poznatky poskytovatele dostávají k zavádějícímu subjektu a bez nichž by zavádějící subjekt nemohl vykonávat účinný dohled. Návod k použití proto propojuje čl. 13 s čl. 14 a čl. 15 do funkčního celku: poskytovatel musí sdělit to, co zavádějící subjekt potřebuje k bezpečnému provozu.

6 Mám za to, že standard „stručné, úplné, správné a jasné” je nutné vykládat z pohledu adresáta. Návod psaný jazykem srozumitelným jen vývojáři nedostojí požadavku srozumitelnosti pro zavádějící subjekt; naopak přílišná stručnost na úkor úplnosti odporuje požadavku úplnosti. Vyváženost obou hledisek bude předmětem výkladové praxe. Bod 72 odůvodnění váže standard srozumitelnosti na potřeby a předvídatelné znalosti cílových zavádějících subjektů. Navíc požaduje, aby byl návod k použití dostupný v jazyce, který je pro tyto subjekty snadno srozumitelný a který určí příslušný členský stát.

III. Vztah k odpovědnosti a k čl. 50

7 Čl. 13 je klíčovým rozhraním mezi poskytovatelem a zavádějícím subjektem v rozdělení odpovědnosti podle nařízení. Poskytovatel odpovídá za to, že systém je transparentní a doprovázený řádným návodem. Zavádějící subjekt následně odpovídá za to, že systém používá v souladu s návodem (čl. 26). Nedostatečný návod tak může přenést nebo rozšířit odpovědnost poskytovatele, zatímco použití v rozporu s řádným návodem zatěžuje zavádějící subjekt. Připomínám, že tím nejsou nijak dotčeny povinnosti transparentnosti vůči dotčeným osobám podle čl. 50, které se posuzují samostatně.

Příklady

Případy jsou konstruované, ne rozhodnuté věci.

1. Komu je návod určen. Návod psaný pro datové vědce u systému, který v nemocnici obsluhují zdravotní sestry, požadavek neplní. Bod 72 odůvodnění váže srozumitelnost na předvídatelné znalosti cílových zavádějících subjektů, ne na znalosti autora.

2. Jazyk (bod 72 odůvodnění). Návod dostupný jen anglicky u systému nasazovaného v české nemocnici požadavek nemusí splnit. Jazyk určuje členský stát a měřítkem je snadná srozumitelnost pro zavádějící subjekt.

3. Omezení, která se uvádějí. Uvést jen to, co systém umí, nestačí. Odstavec 3 žádá i známá a předvídatelná omezení a okolnosti, za kterých může systém představovat riziko.

Co z toho plyne v praxi

Čl. 13 a čl. 50 se pletou, ale míří jinam. Čl. 13 mluví k zavádějícímu subjektu, aby uměl výstup správně vyložit. Čl. 50 mluví k dotčeným osobám a k veřejnosti. Splnění jednoho nenahrazuje druhé.

Návod je součást produktu, ne příloha. Bez něj systém požadavky nesplňuje bez ohledu na to, jak dobře funguje.

Z judikatury

Zatím žádná.

Otevřené otázky

1. Jak podrobná má být informace o výkonnosti. Nařízení žádá úroveň přesnosti a relevantní metriky, ale neurčuje, jestli stačí souhrn, nebo se mají uvést i výsledky podle podskupin.

2. Kdo určuje jazyk v přeshraničním nasazení. Systém dodaný do více států potřebuje návod v jazyce každého z nich, což u malých trhů zvyšuje náklady neúměrně. Text úlevu nedává.