Nařízení (EU) 2024/1689 (AI Act) · Přílohy
Příloha XIII · Kritéria pro určování obecných modelů AI se systémovým rizikem podle článku 51
Znění
Aby určila, zda má obecný model AI schopnosti nebo dopad rovnocenný těm, které jsou stanoveny v čl. 51 odst. 1 písm. a), zohlední Komise tato kritéria:
a) počet parametrů modelu;
b) kvalita nebo velikost datového souboru, měřená například prostřednictvím tokenů;
c) množství výpočetních operací použitých pro trénování modelu, měřená ve operacích s pohyblivou řádovou čárkou nebo uvedená jako kombinace jiných proměnných, jako jsou odhadované náklady na trénování, odhadovaná doba potřebná pro trénování nebo odhadovaná spotřeba energie pro účely trénování;
d) modality vstupů a výstupů modelu, jako je „z textu na text“ (velké jazykové modely), „z textu na obrázek“, multimodalita a nejmodernější prahové hodnoty pro určení schopností s velkým dopadem pro jednotlivé modality a konkrétní druh vstupů a výstupů (např. biologické sekvence);
e) referenční hodnoty a hodnocení schopností modelu, včetně zohlednění počtu úkolů bez dodatečného trénování, schopnosti učit se novým, odlišným úkolům, míry jeho autonomie a škálovatelnosti a nástrojů, k nimž má přístup;
f) zda má z důvodu svého dosahu velký dopad na vnitřní trh, což se předpokládá, pokud je zpřístupněn alespoň 10 000 registrovaných podnikatelských uživatelů usazených v Unii;
g) počet registrovaných koncových uživatelů.
Znění: Úřední věstník EU z 12. 7. 2024. Konsolidované znění po novele nařízením (EU) 2026/1744 zatím vydané není.
Komentář
Kritéria, podle kterých Komise označuje obecný model za model se systémovým rizikem podle čl. 51 (parametry, kvalita a velikost dat, výpočet, modality, dosah).
Související ustanovení: čl. 51 (klasifikace modelů se systémovým rizikem), čl. 52 (postup určení), čl. 3 bod 64 (schopnosti s velkým dopadem), čl. 3 bod 65 (systémové riziko)
1 Příloha XIII vypočítává sedm kritérií, která Komise zohledňuje při posouzení, zda má obecný model schopnosti nebo dopad rovnocenný těm, jež zakládají klasifikaci modelu se systémovým rizikem podle čl. 51 odst. 1 písm. a): počet parametrů modelu; kvalitu nebo velikost datového souboru. Množství výpočetních operací použitých k trénování. Modality vstupů a výstupů a nejmodernější prahové hodnoty pro schopnosti s velkým dopadem. Referenční hodnoty a hodnocení schopností modelu (včetně míry autonomie a nástrojů, k nimž má přístup); dosah na vnitřní trh; a počet registrovaných koncových uživatelů. Obsah pojmu systémové riziko, k němuž kritéria směřují, přibližuje bod 110 odůvodnění: zahrnuje mimo jiné skutečné nebo rozumně předvídatelné negativní dopady spojené se závažnými haváriemi, narušením kritických odvětví, důsledky pro veřejné zdraví a bezpečnost, dopady na demokratické procesy, veřejnou a hospodářskou bezpečnost či šíření nezákonného, nepravdivého nebo diskriminačního obsahu, přičemž se zvyšuje se schopnostmi a dosahem modelu. Kritéria přílohy XIII jsou nástrojem, jak tuto míru schopností a dosahu zachytit.
2 Kritéria přílohy XIII fungují jako kvalitativní protiváha kvantitativní domněnky. Podle čl. 51 odst. 2 se má za to, že model má schopnosti s velkým dopadem, přesahuje-li kumulativní hodnota výpočtu použitého k jeho výcviku, měřená množstvím operací s pohyblivou řádovou čárkou, hodnotu 10^25. Vedle této prahové domněnky umožňuje čl. 51 odst. 1 písm. b) určit model se systémovým rizikem i rozhodnutím Komise s ohledem na kritéria přílohy XIII, tedy i tam, kde početní práh není překročen, avšak ostatní ukazatele svědčí o rovnocenných schopnostech nebo dopadu. Tuto dvoukolejnost popisuje bod 111 odůvodnění: kumulativní množství výpočetních operací měřené v operacích s pohyblivou řádovou čárkou je podle aktuálního stavu vývoje jednou z relevantních aproximací schopností modelu, a proto se stanoví počáteční prahová hodnota zakládající domněnku systémového rizika. K jejímu doplnění může Komise přijmout individuální rozhodnutí na základě celkového posouzení kritérií uvedených v příloze, jako je kvalita nebo velikost trénovacích dat, počet podnikatelských a koncových uživatelů, způsoby vstupů a výstupů či úroveň autonomie a nástroje, k nimž má model přístup; kritéria přílohy XIII tak fungují jako kvalitativní korektiv početního prahu.
3 Za pozornost stojí kritérium podle písmene f): velký dopad na vnitřní trh se předpokládá, je-li model zpřístupněn alespoň 10 000 registrovaných podnikatelských uživatelů usazených v Unii. Toto číslo je vyvratitelnou indicií dosahu, nikoli samostatným prahem systémového rizika. Podle čl. 51 odst. 3 může Komise prahové hodnoty i ukazatele měnit akty v přenesené pravomoci s ohledem na vývoj technologií, takže kritéria přílohy XIII nejsou statická.