Nařízení (EU) 2024/1689 (AI Act) · Kapitola III · Vysoce rizikové systémy AI
Čl. 12 · Vedení záznamů
Znění
-
Vysoce rizikové systémy AI po dobu svého životního cyklu technicky umožňují automatické zaznamenávání událostí (dále jen „protokoly“).
-
Aby byla zajištěna úroveň sledovatelnosti fungování vysoce rizikového systému AI, která je přiměřená zamýšlenému účelu systému, funkce protokolování umožní zaznamenávání událostí, které jsou relevantní pro:
a) identifikaci situací, které mohou vést k tomu, že daný vysoce rizikový systém AI bude představovat riziko ve smyslu čl. 79 odst. 1 nebo že dojde k podstatné změně;
b) usnadnění monitorování po uvedení na trh uvedené v článku 72, a
c) sledování fungování vysoce rizikových systémů AI podle čl. 26 odst. 5.
- U vysoce rizikových systémů AI uvedených v bodu 1 písm. a) přílohy III funkce protokolování zajišťuje minimálně:
a) záznam trvání každého použití systému (datum a čas zahájení a datum a čas ukončení každého použití);
b) referenční databázi, s níž systém porovnává vstupní data;
c) vstupní data, u nichž vyhledávání vedlo ke shodě;
d) identifikaci fyzických osob podílejících se na ověřování výsledků, jak je uvedeno v čl. 14 odst. 5.
Znění: Úřední věstník EU z 12. 7. 2024. Konsolidované znění po novele nařízením (EU) 2026/1744 zatím vydané není.
Komentář
Systém automaticky loguje události po celý životní cyklus tak, aby šla zpětně dohledat riziková situace, podstatná změna i podklad pro monitoring po uvedení na trh.
1. Vysoce rizikové systémy AI po dobu svého životního cyklu technicky umožňují automatické zaznamenávání událostí (dále jen „protokoly“).
Související ustanovení: čl. 19 (automaticky generované protokoly), čl. 26 odst. 5 (nakládání s protokoly u zavádějícího subjektu), čl. 72 (monitorování po uvedení na trh), čl. 79 odst. 1 (systém představující riziko), čl. 14 odst. 5 (ověření identifikace osobami), příloha III bod 1 písm. a) (systémy biometrické identifikace na dálku)
I. Automatické protokolování a jeho účel (odst. 1, 2)
1 Čl. 12 ukládá, aby vysoce rizikové systémy AI po dobu svého životního cyklu technicky umožňovaly automatické zaznamenávání událostí (protokoly). Zdůrazňuji povahu povinnosti: čl. 12 je požadavkem na návrh a schopnost systému (systém musí protokolování technicky umožnit), nikoli sám o sobě povinností protokoly uchovávat a vyhodnocovat. Navazující povinnosti nakládat s protokoly nesou provozovatelé podle oddílu 3 a kapitoly IX (zejména čl. 19 a čl. 26 odst. 5); čl. 12 je jejich technickým předpokladem. Bod 71 odůvodnění řadí tuto schopnost k nástrojům sledovatelnosti, když žádá, aby vysoce rizikové systémy technicky umožňovaly automatické zaznamenávání událostí prostřednictvím protokolů po celou dobu své životnosti.
2 Odstavec 2 váže rozsah protokolování na sledovatelnost fungování systému přiměřenou zamýšlenému účelu a vymezuje tři účely, k nimž mají být události relevantní: identifikaci situací, kdy systém může představovat riziko ve smyslu čl. 79 odst. 1 nebo dojít k podstatné změně (písm. a); usnadnění monitorování po uvedení na trh podle čl. 72 (písm. b); a sledování fungování systému podle čl. 26 odst. 5 (písm. c). Protokolování tedy není samoúčelné; slouží dozoru, monitorování a zpětné vazbě řízení rizik.
II. Zvláštní režim biometrické identifikace na dálku (odst. 3)
3 Odstavec 3 stanoví zpřísněné minimum pro systémy uvedené v bodě 1 písm. a) přílohy III. Tento bod jsme ověřili čtením přílohy III: jde o systémy biometrické identifikace na dálku (nikoli o pouhé biometrické ověřování jeden k jednomu, které příloha III z této kategorie výslovně vylučuje). U nich funkce protokolování zajišťuje minimálně záznam trvání každého použití (datum a čas začátku i konce), referenční databázi, s níž systém porovnává vstupní data, vstupní data vedoucí ke shodě a identifikaci fyzických osob podílejících se na ověřování výsledků podle čl. 14 odst. 5.
4 Mám za to, že toto zpřísnění není náhodné. U biometrické identifikace na dálku je riziko zásahu do soukromí a rovnosti nejvyšší. Zákonodárce proto vyžaduje takový rozsah protokolů, aby šlo zpětně zjistit, kdo, kdy a s jakým výsledkem systém použil, a spojit ten záznam s lidským ověřením podle čl. 14 odst. 5. Protokolování je zde nástrojem odpovědnosti a dohledatelnosti zásahu. Bod 73 odůvodnění tuto vazbu mezi protokoly a lidským ověřením potvrzuje, když připouští, aby samostatná ověření různými osobami podle čl. 14 odst. 5 byla automaticky zaznamenávána v protokolech generovaných systémem.