Čl. 92 · Pravomoc provádět hodnocení

1. Úřad pro AI může po konzultaci s radou provádět hodnocení dotčeného obecného modelu AI s cílem: a) posoudit, zda poskytovatel plní povinnosti podle tohoto nařízení, jsou-li informace shromážděné podle článku 91 nedostatečné nebo b) zkoumat na úrovni Unie systémová rizika obecných modelů AI se systémovým rizikem, zejména na základě kvalifikované výstrahy vědecké komise v souladu s čl. 90 odst. 1 písm. a).

3. Pro účely odstavce 1 může Komise požádat o přístup k dotčenému obecnému modelu AI prostřednictvím aplikačních programovacích rozhraní nebo dalších vhodných technických prostředků a nástrojů, včetně zdrojového kódu.

Související ustanovení: čl. 68 odst. 2 (kritéria nezávislých odborníků), čl. 90 odst. 1 písm. a (výstraha jako podklad), čl. 91 (předchozí žádost o informace), čl. 93 (navazující žádost o opatření), čl. 98 odst. 2 (přezkumný postup pro prováděcí akty), čl. 101 (pokuty za neposkytnutí přístupu)

I. Hodnocení modelu a přístup k němu

1 Čl. 92 je nejsilnějším vyšetřovacím nástrojem oddílu. Úřad pro AI může po konzultaci s radou provádět hodnocení obecného modelu, a to buď k posouzení souladu, jsou-li informace získané podle čl. 91 nedostatečné (odst. 1 písm. a), nebo ke zkoumání systémových rizik modelů se systémovým rizikem, zejména na základě kvalifikované výstrahy vědecké komise podle čl. 90 odst. 1 písm. a (odst. 1 písm. b). Hodnocení tak navazuje buď na selhání informační cesty podle čl. 91, nebo na odborný signál podle čl. 90. Provádění hodnocení výslovně uvádí mezi prosazovacími nástroji úřadu pro AI i bod 164 odůvodnění.

2 Odstavec 3 dává Komisi pravomoc požádat o přístup k modelu prostřednictvím aplikačních programovacích rozhraní nebo dalších vhodných technických prostředků a nástrojů, včetně zdrojového kódu. Zdůrazňuji, že přístup ke zdrojovému kódu je nejhlubším zásahem do sféry poskytovatele, jaký oddíl umožňuje. Mám za to, že jej nutno vykládat a užívat restriktivně a v souladu se zásadou přiměřenosti: přichází v úvahu tam, kde mírnější prostředky (dokumentace, rozhraní) k dosažení účelu hodnocení nepostačují.

3 Odstavec 2 umožňuje jmenovat nezávislé odborníky, kteří hodnocení provedou jménem Komise, a to i z řad vědecké komise. Tito odborníci musí splňovat kritéria podle čl. 68 odst. 2. Ověřil jsem zněním, že čl. 68 odst. 2 vyžaduje zejména odbornost v oblasti AI, nezávislost na jakémkoli poskytovateli systémů nebo obecných modelů AI a schopnost jednat s náležitou péčí, přesně a objektivně. Nezávislost hodnotitelů je tak podmínkou legitimity hodnocení. Zapojení nezávislých odborníků, kteří hodnocení provedou jménem úřadu pro AI, předpokládá bod 164 odůvodnění právě jako nástroj využití nezávislých odborných znalostí.

4 Odstavec 4 obdobně jako u čl. 91 předepisuje náležitosti žádosti o přístup (právní základ, účel a odůvodnění, lhůta) a poučení o pokutách podle článku 101 za neposkytnutí přístupu. Neposkytnutí přístupu za účelem hodnocení je tedy samostatným sankčním důvodem podle čl. 101 odst. 1 písm. d.

II. Provedení hodnocení a záruky

5 Odstavec 6 svěřuje Komisi pravomoc přijmout prováděcí akty stanovící podrobnosti a podmínky hodnocení včetně zapojení nezávislých odborníků. Přijímají se přezkumným postupem podle čl. 98 odst. 2. Podrobná pravidla hodnocení tedy nejsou ponechána případové libovůli, nýbrž mají být předem stanovena obecně závazným aktem.

6 Odstavec 7 opět nabízí předstupeň strukturovaného dialogu před žádostí o přístup, tentokrát s cílem shromáždit více informací o interním testování modelu, interních zárukách proti systémovým rizikům a dalších opatřeních poskytovatele. Máme za to, že tato posloupnost (dialog, žádost o informace podle čl. 91, teprve pak hodnocení podle čl. 92) vyjadřuje stupňovitost zásahu: tvrdší nástroj nastupuje až tehdy, nepostačil-li mírnější.