Čl. 90 · Výstraha vědecké komise ohledně systémového rizika

1. Vědecká komise může úřadu pro AI zaslat kvalifikovanou výstrahu, pokud má důvodné podezření, že: a) obecný model AI představuje na úrovni Unie konkrétní identifikovatelné riziko nebo b) obecný model AI splňuje podmínky uvedené v článku 51.

Související ustanovení: čl. 51 (klasifikace obecných modelů se systémovým rizikem), čl. 65 (Evropská rada pro umělou inteligenci, „rada"), čl. 68 (vědecká komise nezávislých odborníků), čl. 91 až 94 (pravomoci vykonatelné po výstraze)

I. Kvalifikovaná výstraha jako spouštěč

1 Čl. 90 zavádí zvláštní iniciační mechanismus. Vědecká komise (čl. 68) může úřadu pro AI zaslat kvalifikovanou výstrahu, má-li důvodné podezření, že obecný model buď představuje na úrovni Unie konkrétní identifikovatelné riziko (písm. a), nebo splňuje podmínky uvedené v článku 51 (písm. b). Ověřil jsem zněním, že čl. 51 vymezuje klasifikaci obecného modelu AI se systémovým rizikem dvěma cestami. Buď přes schopnosti s velkým dopadem, mimo jiné při kumulativním výpočtu výcviku nad 10^25 operací s pohyblivou řádovou čárkou. Nebo rozhodnutím Komise podle kritérií přílohy XIII. Výstraha podle písm. b) tedy signalizuje, že model podle vědecké komise překračuje práh systémového rizika. Oba spouštěče předjímá bod 163 odůvodnění. Vědecká komise může úřadu pro AI poskytnout kvalifikovanou výstrahu ve dvou případech. Má-li důvod se domnívat, že model představuje konkrétní a identifikovatelné riziko na úrovni Unie. Nebo že splňuje kritéria pro klasifikaci jako obecný model se systémovým rizikem.

2 Vědecká komise je poradní a odborný orgán složený z nezávislých odborníků (čl. 68); mezi její úkoly patří upozorňovat úřad pro AI na možná systémová rizika na úrovni Unie právě v souladu s čl. 90. Mám za to, že kvalifikovaná výstraha je spouštěčem, ne závazným zjištěním. Sama o sobě nezakládá povinnost poskytovatele ani sankci. Otevírá ale Komisi cestu k výkonu prosazovacích pravomocí. Bod 163 odůvodnění k tomu uvádí, že výstraha povede k následným opatřením, jako jsou šetření.

II. Postup po výstraze a jeho návaznosti

3 Podle odstavce 2 může Komise po kvalifikované výstraze, prostřednictvím úřadu pro AI a po informování rady, vykonávat pravomoci tohoto oddílu za účelem posouzení věci; o veškerých opatřeních podle čl. 91 až 94 úřad pro AI radu informuje. Radou se rozumí Evropská rada pro umělou inteligenci (čl. 65), koordinační orgán složený ze zástupců členských států. Zapojení rady zajišťuje, že centralizovaný postup Komise zůstává ve styku s vnitrostátní úrovní, byť rozhodovací pravomoc náleží Komisi.

4 Odstavec 3 stanoví náležitosti výstrahy (kontaktní místo poskytovatele dotčeného modelu se systémovými riziky, popis relevantních skutečností a důvodů, další relevantní informace). Struktura je obdobná jako u stížnosti navazujícího poskytovatele podle čl. 89 odst. 2: nařízení i zde váže procesní krok na odůvodnění a minimální obsah, aby výstraha byla přezkoumatelná a nezakládala se na pouhém dojmu.