Čl. 5 · Zakázané postupy v oblasti AI

Znění čl. 5 (odst. 1 písm. a až h a odst. 2 až 8) je pro rozsah citováno po částech u příslušných bodů výkladu.

Související ustanovení: čl. 3 body 1, 2, 34 až 46 (systém AI, riziko, biometrie, vymáhání práva), čl. 6 a příloha III (biometrie ve vysokém riziku), čl. 27 (posouzení dopadů na základní práva), čl. 49 (registrace), čl. 50 (transparentnost), čl. 96 (pokyny Komise), čl. 99 odst. 3 (sankce), příloha II (trestné činy pro čl. 5 odst. 1 písm. h bod iii)

Související předpisy EU: GDPR (nařízení (EU) 2016/679), zejména čl. 9; směrnice (EU) 2016/680 (o ochraně údajů v trestních věcech); listina základních práv EU (čl. 1, 7, 8, 21)

I. Povaha, adresáti a systematika zákazů

1 Čl. 5 odst. 1 zakazuje deset postupů; osm od počátku a další dvě, písm. ba) a bb), přidalo nařízení (EU) 2026/1744 s účinky od 2. prosince 2026 (viz oddíl o novele níže). U vysokého rizika nařízení použití dovoluje, splníte-li podmínky; tady žádné takové podmínky nejsou a soulad s ostatními požadavky nařízení zákaz nezhojí.

2 Slovo „absolutní” je ale namístě používat opatrně, protože u tří písmen neplatí bez výhrady. Písmeno h) je celé postavené na výjimce: biometrická identifikace na dálku v reálném čase na veřejně přístupných místech pro účely vymáhání práva je zakázána, není-li nezbytně nutná pro jeden ze tří vyjmenovaných cílů, a i tehdy podléhá povolení a dalším podmínkám odstavců 2 až 4. A u nových písmen ba) a bb) vymezuje dosah zákazu odstavec 1a: pouhá způsobilost systému nestačí. U zbylých sedmi písmen zákaz výhrady nemá.

3 Souhlas dotčeného člověka na tom u osmi původních písmen nic nemění. Výjimkou je nové písm. ba), kde je absence souhlasu přímo znakem zákazu: zakázán je materiál vytvořený nebo upravený, „aniž by dotčená osoba poskytla svobodný, konkrétní, informovaný, jednoznačný a výslovný souhlas”. Tam tedy souhlas rozhoduje.

4 Zákazy chrání jádro hodnot z čl. 1: lidskou důstojnost, autonomii vůle, rovnost a soukromí. Bod 28 odůvodnění to říká přímo. Dotčené praktiky považuje za mimořádně škodlivé a nekalé. Odporují podle něj hodnotám Unie, tedy úctě k lidské důstojnosti, svobodě, rovnosti, demokracii a právnímu státu. A odporují základním právům z Listiny, včetně zákazu diskriminace, ochrany údajů a soukromí a práv dítěte.

5 Zákaz dopadá na široký okruh lidí a firem, ale sloveso se mezi písmeny liší a je namístě to číst pozorně. Písmena a), b) a c) zakazují „uvádění na trh, uvádění do provozu nebo používání” bez dalšího. Písmena d), e), f) a g) zakazují „uvádění na trh, uvádění do provozu pro tento konkrétní účel nebo používání”; obecný systém dodaný bez toho účelu tedy pod zákaz nespadá. Písmeno h) zakazuje jen používání. Tento zákaz dopadá jak na poskytovatele (kdo systém vyvíjí a dodává), tak na zavádějící subjekt (kdo ho nasadí a používá ve své činnosti) i na další provozovatele. Rozhodující proto není vaše role v hodnotovém řetězci, ale samotné jednání. Zakázaného postupu se dopustí i ten, kdo systém jenom používá.

6 Zákazy platí od 2. 2. 2025, tedy dřív než většina ostatních povinností nařízení. Za jejich porušení hrozí podle čl. 99 odst. 3 nejvyšší sankční pásmo: správní pokuta až 35 000 000 EUR, a jde-li o podnik, až 7 % celkového celosvětového ročního obratu za předchozí rok, podle toho, co je vyšší. Pro srovnání, porušení povinností u vysoce rizikových systémů má strop 15 000 000 EUR nebo 3 %. Už tou sazbou tedy nařízení říká, že zákazy z čl. 5 jsou nejzávažnější kategorie, jakou zná.

7 Odstavec 8 říká, že článkem nejsou dotčeny zákazy plynoucí z jiného práva Unie. Zákazy podle čl. 5 se tedy použijí vedle jiných zákazů, ne místo nich. Typicky vedle GDPR nebo antidiskriminačního práva. Totéž říká bod 45 odůvodnění: nařízením nejsou dotčeny postupy zakázané právem Unie, včetně práva na ochranu údajů, nediskriminace, ochrany spotřebitele a hospodářské soutěže. K jednotnému výkladu jednotlivých zákazů vydala Komise pokyny podle čl. 96. Čl. 99 odst. 1 na ně výslovně odkazuje, takže se při posuzování jednotlivých zákazů musí sledovat.

II. Manipulace a zneužití zranitelnosti (písm. a, b)

8 Písmeno a) zakazuje systémy, které využívají podprahových technik mimo vědomí osob nebo záměrně manipulativních či klamavých technik. Musí jít o techniky, jejichž cílem nebo důsledkem je podstatné narušení chování člověka: znatelně zhorší jeho schopnost rozhodnout se informovaně, což ho dovede k rozhodnutí, které by jinak neudělal, a způsobí mu to nebo by mu to mohlo způsobit významnou újmu. Proč zrovna tyto techniky, vysvětluje bod 29 odůvodnění. Podkopávají autonomii, schopnost rozhodování a svobodnou volbu člověka. Dělají to buď podprahovými signály, které člověk nevnímá, nebo jinými technikami, kterým není schopen odolat. Jako prostředí, kde je kontrola nad tím, čemu je člověk vystaven, největší, uvádí například rozhraní mezi mozkem a strojem nebo virtuální realitu.

9 Skutková podstata má čtyři prvky a musí být splněné najednou: (i) manipulativní, klamavá nebo podprahová technika, (ii) podstatné narušení chování tím, že se zhorší schopnost rozhodnout se informovaně, (iii) rozhodnutí, které by člověk jinak neudělal, a (iv) významná újma. Dvě věci stojí za zdůraznění. Zaprvé stačí „cíl nebo důsledek”. Úmysl manipulovat se nevyžaduje, stačí manipulativní účinek. Zadruhé leží práh u „významné” újmy, ne u jakékoli nevýhody. Běžné přesvědčovací techniky, tedy legitimní reklama, pod zákaz nespadají, protože tento kvalifikovaný účinek nemají. Obojí potvrzuje bod 29 odůvodnění. Poskytovatel ani zavádějící subjekt nemusí mít v úmyslu způsobit značnou újmu, plyne-li ta újma z manipulativních praktik. A běžné legitimní obchodní praktiky, například reklama v souladu s platným právem, se za škodlivou manipulaci samy o sobě nepovažují. Týž bod dodává dvě upřesnění: újma se může v čase nasčítat a zákaz nemá dopadat na zákonné lékařské postupy, jako je psychologická léčba nebo tělesná rehabilitace podle platného práva a lékařských norem.

10 Písmeno b) zakazuje systémy, které využívají zranitelnosti člověka nebo skupiny kvůli věku, zdravotnímu postižení nebo specifické sociální či ekonomické situaci, pokud je jejich cílem nebo důsledkem podstatné narušení chování působící významnou újmu. Oproti písmenu a) tu odpadá znak zhoršení informovaného rozhodnutí. Stačí zneužití zranitelnosti vymezené skupiny. Bod 29 odůvodnění ty skupiny přibližuje. U zdravotního postižení odkazuje na směrnici (EU) 2019/882. Jako příklad lidí zvlášť zranitelných kvůli sociální nebo ekonomické situaci uvádí osoby žijící v extrémní chudobě a etnické nebo náboženské menšiny.

11 Obě písmena jsou k sobě jako obecné a zvláštní. Písmeno a) chrání kohokoli před manipulací. Písmeno b) přidává zesílenou ochranu vymezeným zranitelným skupinám, kde se nemusí prokazovat zhoršená schopnost rozhodování, protože zranitelnost sama o sobě zakládá zvýšené riziko. Mám za to, že v konkrétním případě se obě písmena mohou uplatnit současně a orgán dozoru si vybere tu skutkovou podstatu, jejíž znaky umí doložit spolehlivěji.

III. Sociální skórování (písm. c)

12 Písmeno c) zakazuje systémy pro hodnocení nebo klasifikaci fyzických osob v určitém časovém úseku na základě jejich sociálního chování nebo známých, odvozených nebo předvídaných osobních či osobnostních vlastností. Zakázané je to tehdy, když výsledný sociální kredit vede ke znevýhodňujícímu zacházení. A to buď (bod i) v sociálních kontextech, které s původním sběrem dat nesouvisejí, nebo (bod ii) v míře neodůvodněné či nepřiměřené tomu sociálnímu chování a jeho závažnosti.

13 Zákaz míří na to, čemu se říká sociální skórování. Zásadní je, že se netýká jen orgánů veřejné moci. Dopadá i na soukromé subjekty, což je oproti běžné představě „státního” sociálního kreditu podstatně širší. Zároveň to není zákaz jakéhokoli hodnocení. Legitimní bodování bonity nebo hodnocení zaměstnance z relevantních a kontextově souvisejících dat pod něj nespadá, chybí-li přenos do nesouvisejícího kontextu (bod i) nebo nepřiměřenost (bod ii). Hranice mezi zakázaným skórováním a dovoleným hodnocením, které může být vysoce rizikové podle přílohy III, je proto v praxi nejcitlivější otázkou tohoto písmene. Bod 31 odůvodnění to potvrzuje z obou stran. Hodnocení sociálního kreditu výslovně zahrnuje veřejné i soukromé aktéry a může vést k diskriminačním výsledkům a k vyloučení celých skupin, čímž zasahuje právo na důstojnost a zákaz diskriminace. Zároveň nemají být dotčeny zákonné postupy posuzování osob prováděné za zvláštním účelem podle unijního či českého práva.

IV. Predikce trestné činnosti z profilování (písm. d)

14 Písmeno d) zakazuje systémy pro posuzování rizika, že fyzická osoba spáchá trestný čin, výhradně na základě profilování nebo posouzení jejích osobnostních znaků a vlastností. Zákaz míří na prediktivní policejní práci, která se zaměřuje na jednotlivce a opírá se jen o jeho profil, ne o skutek. Bod 42 odůvodnění zákaz opírá o presumpci neviny. Lidé mají být posuzováni podle svého skutečného chování, ne podle chování, které AI předvídá pouze z profilování nebo z osobnostních rysů, jako je státní příslušnost, místo narození, bydliště, počet dětí, výše dluhu nebo typ vozidla.

15 Rozhoduje slovo „výhradně”. Zákaz se výslovně netýká systémů, které podporují lidské posouzení zapojení osoby do trestné činnosti, pokud už to posouzení stojí na objektivních a ověřitelných skutečnostech přímo souvisejících s trestnou činností. Hranice tedy vede mezi predikcí odvozenou z osobnostního profilu (zakázáno) a analytickou podporou lidského hodnocení opřeného o konkrétní důkazy (dovoleno, byť zpravidla v režimu vysokého rizika podle přílohy III). Na systémy, které predikují místo nebo čas činnosti a ne konkrétní osobu, toto písmeno vůbec nedopadá. Bod 42 odůvodnění hranici doplňuje. Zákaz nedopadá na analýzy rizik, které nestojí na profilování jednotlivců. Jako příklad uvádí posuzování pravděpodobnosti finančních podvodů podniků z podezřelých transakcí nebo nástroje, které ze známých tras předvídají pravděpodobnost odhalení omamných látek či nezákonného zboží celními orgány. A dodává, co musí být splněno u dovolené podpory lidského posouzení: důvodné podezření opřené o objektivní ověřitelné skutečnosti a posouzení člověkem.

V. Necílené vytváření databází obličejů (písm. e)

16 Písmeno e) zakazuje systémy, které vytvářejí nebo rozšiřují databáze rozpoznávání obličeje necíleným získáváním zobrazení obličeje z internetu nebo kamerových záznamů. Zákaz reaguje na praxi hromadného stahování tváří (anglicky scraping) a je záměrně široký. Rozhoduje totiž to, že sběr není cílený, ne k čemu má databáze sloužit. Cílené pořízení konkrétních snímků na základě zákonného titulu proto zákazu nepodléhá, kdežto plošné vytěžování veřejně dostupných obrázků pod něj spadá. Zákaz doplňuje ochranu podle GDPR, ale nenahrazuje ji (odst. 8). Důvod shrnuje bod 43 odůvodnění: tato praxe přispívá k pocitu hromadného sledování a může vést k hrubému porušování základních práv, včetně práva na soukromí.

VI. Rozpoznávání emocí na pracovišti a ve školách (písm. f)

17 Písmeno f) zakazuje systémy, jejichž cílem je odvodit emoce fyzické osoby na pracovišti a ve vzdělávacích institucích. Výjimkou jsou systémy určené k zavedení nebo uvedení na trh z lékařských nebo bezpečnostních důvodů. Zákaz je kontextově omezený: míří právě na pracoviště a školu, kde je mocenská nerovnováha a tlak na dotčené lidi největší. Bod 44 odůvodnění to omezení vysvětluje dvěma důvody. Prvním je právě ta nerovnováha moci ve spojení s invazivní povahou těchto systémů, která může vést ke znevýhodňujícímu zacházení. Druhým je slabý vědecký základ rozpoznávání emocí: omezená spolehlivost, nedostatečná specifičnost a omezená zobecnitelnost, protože výraz emocí se liší mezi kulturami, mezi situacemi i u téhož člověka.

18 Výjimka pro lékařské a bezpečnostní důvody je úzká a je namístě vykládat ji zdrženlivě. Mám za to, že pod ni spadá třeba detekce únavy řidiče z bezpečnostních důvodů, ale ne hodnocení „nasazení” nebo „naladění” zaměstnance, které je jádrem zakázaného postupu. Bod 44 odůvodnění výjimku váže na systémy uváděné na trh výhradně z lékařských nebo bezpečnostních důvodů, například na systémy k terapeutickému použití. K detekci únavy je namístě dodat bod 18 odůvodnění. Únava a bolest jsou fyzické stavy, které stojí mimo samotnou definici systému rozpoznávání emocí. Zjišťování únavy pilotů nebo řidičů kvůli předcházení nehodám proto pod písmeno f) nespadá už proto, že o rozpoznávání emocí vůbec nejde. Na lékařskou a bezpečnostní výjimku se přitom odvolávat vůbec nemusíte. Rozpoznávání emocí mimo pracoviště a školy tímto písmenem zakázané není, spadá ale zpravidla do režimu transparentnosti podle čl. 50 a může být vysoce rizikové.

VII. Biometrická kategorizace citlivých znaků (písm. g)

19 Písmeno g) zakazuje systémy biometrické kategorizace, které jednotlivě kategorizují fyzické osoby na základě jejich biometrických údajů za účelem dovození nebo odvození jejich rasy, politických názorů, členství v odborových organizacích, náboženského nebo filozofického přesvědčení, sexuálního života nebo sexuální orientace. Výčet chráněných citlivých znaků odpovídá zvláštním kategoriím údajů podle čl. 9 GDPR a chrání před tím, aby se ty nejcitlivější charakteristiky odvozovaly z biometrie. Totéž říká bod 30 odůvodnění, který zákaz vztahuje na odvozování politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení, rasy a sexuálního života nebo orientace z biometrických údajů, jako je obličej nebo otisky prstů.

20 Zákaz se netýká označování nebo filtrování legálně získaných souborů biometrických údajů (například snímků) na základě biometrických údajů v oblasti vymáhání práva. Výjimka je úzká. Jde o technické třídění zákonně držených dat, ne o odvozování citlivých znaků jako takové. Stojí za poznámku, že biometrická kategorizace podle nezakázaných kritérií zakázaná není, podléhá ale povinnosti transparentnosti podle čl. 50 a podle okolností i režimu vysokého rizika. Bod 30 odůvodnění výjimku potvrzuje: nedopadá na zákonné označování, filtrování nebo kategorizaci souborů biometrických údajů získaných v souladu s právem, jako je třídění zobrazení podle barvy vlasů nebo očí využitelné při vymáhání práva. Bod 16 odůvodnění navíc z pojmu biometrické kategorizace vyjímá čistě vedlejší prvky neoddělitelně spjaté s jinou službou, například filtry rysů obličeje na on-line tržištích nebo v sociálních sítích, pokud tedy nejsou prostředkem, jak nařízení obejít.

VIII. Biometrická identifikace na dálku v reálném čase (písm. h, odst. 2 až 7)

21 Písmeno h) zakazuje používání systémů biometrické identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva. Použít takový systém smí donucovací orgán jen tehdy, když je to nezbytně nutné, a jen v nezbytně nutné míře. K tomu musí jít o jeden ze tří taxativně vymezených cílů. Zaprvé cílené vyhledávání určitých obětí únosů, obchodování s lidmi nebo sexuálního vykořisťování a vyhledávání pohřešovaných osob. Zadruhé prevence konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti nebo skutečného a bezprostředního či předvídatelného teroristického útoku. Zatřetí lokalizace nebo identifikace osoby podezřelé ze spáchání trestného činu z přílohy II, za který lze uložit trest odnětí svobody v maximální délce nejméně čtyři roky. Proč je zrovna tento zákaz nejpřísnější, vysvětluje bod 32 odůvodnění. Identifikace v reálném čase obzvlášť zasahuje do soukromí velké části populace, vyvolává pocit neustálého sledování a nepřímo odrazuje od výkonu svobody shromažďování. K tomu technické nepřesnosti mohou vést ke zkresleným a diskriminačním výsledkům, hlavně podle věku, etnické příslušnosti, rasy, pohlaví nebo zdravotního postižení. Podle bodu 33 odůvodnění jsou výjimky přípustné jen tam, kde je použití nezbytně nutné k dosažení významného veřejného zájmu, jehož význam převáží nad riziky. Hranice nejméně čtyř let odnětí svobody u třetího cíle má zajistit, aby použití šlo odůvodnit jen dostatečnou závažností činu, a seznam z přílohy II vychází ze seznamu 32 trestných činů podle rámcového rozhodnutí 2002/584/SVV.

22 Písmeno h) je postavené jako zákaz s úzkými výjimkami, ne jako dovolení s podmínkami. Vykládá se proto restriktivně a výjimky se nerozšiřují. Tři meze jsou zabudované rovnou do definic v čl. 3. Zaprvé jde jen o identifikaci na dálku v reálném čase (bod 42), ne o následnou identifikaci (bod 43), která je zpravidla vysoce riziková podle přílohy III. Zadruhé jen ve veřejně přístupném prostoru (bod 44). Zatřetí jen pro účely vymáhání práva (bod 46). Mimo tyto meze písmeno h) nedopadá a použití se řídí jiným režimem, hlavně GDPR. Potvrzuje to i pododstavec za písmenem h), podle kterého není dotčen čl. 9 GDPR pro zpracování biometrických údajů k jiným než donucovacím účelům. Jak poznat reálný čas od následné identifikace, naznačuje bod 17 odůvodnění. U reálného času proběhne zaznamenání, porovnání i identifikace okamžitě nebo bez významného zpoždění. A nemá vznikat prostor pro obcházení pravidel tím, že se zavede malé zpoždění. Že mimo účel vymáhání práva písmeno h) nedopadá, potvrzují body 38 a 39 odůvodnění. Zvláštní rámec nařízení se pro jiné účely nepoužije a zpracování biometrických údajů se tam řídí čl. 9 odst. 1 GDPR, respektive čl. 10 směrnice (EU) 2016/680, vůči kterému tato úprava působí jako zvláštní pravidlo přednostní před obecným (lex specialis).

23 Odstavce 2 a 3 přidávají k výjimkám procesní záruky a ty jsou samy o sobě podmínkou zákonnosti. Když je nesplníte, je použití nezákonné, i kdyby některý ze tří cílů naplněný byl. Podle odstavce 2 lze systém použít pouze k potvrzení totožnosti konkrétně cílené osoby. Musíte přitom zohlednit povahu situace, tedy závažnost, pravděpodobnost a rozsah újmy, kdyby se systém nepoužil, i důsledky pro práva všech dotčených lidí. A použít ho smíte teprve poté, co donucovací orgán dokončil posouzení dopadů na základní práva podle čl. 27 a zaregistroval systém v databázi EU podle čl. 49. V řádně odůvodněných naléhavých případech lze začít i bez registrace, když se provede bez zbytečného odkladu. Tyto prvky rozvádí bod 34 odůvodnění. Zohlednit je třeba povahu situace, která vedla k žádosti, i důsledky pro práva a svobody všech dotčených. Systém se nasadí pouze k potvrzení totožnosti konkrétně cílené osoby a jen v nezbytně nutném rozsahu co do doby i zeměpisného a osobního rozsahu. A nasadí se až po dokončení posouzení dopadů a, nestanoví-li nařízení jinak, po registraci systému. Pro každý případ má být vhodně zvolena referenční databáze osob.

24 Podle odstavce 3 podléhá každé použití předchozímu povolení justičního nebo nezávislého správního orgánu a jeho rozhodnutí je závazné. V naléhavé situaci lze začít i bez povolení, požádat o ně se ale musí nejpozději do 24 hodin. Když je povolení zamítnuto, použití se okamžitě zastaví a veškeré údaje, výsledky a výstupy se vymažou. Bod 35 odůvodnění tuto záruku vykládá. Povolení má být zásadně získáno před použitím a výjimka z důvodu naléhavosti je namístě jen tehdy, když je fakticky a objektivně nemožné je získat předem. Vymazání se týká vstupních údajů, které systém získal během používání, a výsledků a výstupů, ne však vstupů zákonně získaných podle jiného práva. Orgán povolení udělí jen tehdy, když je na základě objektivních důkazů přesvědčen o nezbytnosti a přiměřenosti použití omezeného na nezbytnou dobu a zeměpisný a osobní rozsah. Klíčová je poslední věta odstavce 3: výlučně na základě výstupu systému nelze přijmout žádné rozhodnutí s nepříznivými právními účinky pro člověka. Automatický výstup tedy sám o sobě nesmí zakládat zásah, vyžaduje se lidské posouzení.

25 Odstavce 4 až 7 přidávají dozorovou a ohlašovací vrstvu. Každé použití se oznamuje orgánu dozoru nad trhem a orgánu pro ochranu osobních údajů (odstavec 4). Příslušné orgány předkládají Komisi výroční zprávy (odstavec 6). Komise zveřejňuje souhrnné výroční zprávy (odstavec 7). Tuto vrstvu předjímá bod 36 odůvodnění, podle kterého je o každém použití informován příslušný orgán dozoru nad trhem i vnitrostátní orgán pro ochranu osobních údajů a oba k použití předkládají Komisi výroční zprávu.

26 Odstavec 5 je klíčem k celému režimu: používání systému není dovolené automaticky. Je dovolené jen tehdy, pokud se členský stát rozhodne ho ve svém právu povolit, a to v mezích písmene h) a odstavců 2 a 3. Členský stát pak stanoví podrobná pravidla o žádostech, povolování, dohledu a podávání zpráv, oznámí je Komisi do 30 dnů a může zavést i přísnější úpravu. Z toho plyne dvojí. Bez vnitrostátní úpravy, která to výslovně povolí, je nepřípustné i to výjimkové použití. A členské státy mohou jít nad rámec ochrany podle nařízení, ne pod něj. Nařízení tu stanoví strop dovoleného použití, ne standard, který by bylo nutné dovolit. Tento princip potvrzuje bod 37 odůvodnění: použití je možné jen tam, kde se členský stát rozhodl tuto možnost výslovně stanovit v podrobných pravidlech svého práva, a jen v míře tam stanovené. Členské státy nemusejí tuto možnost stanovit vůbec, nebo ji mohou stanovit jen pro některé z cílů, které povolené použití odůvodňují, a svá pravidla oznámí Komisi do 30 dnů.

Příklady

Následující případy jsou konstruované, ne rozhodnuté věci. Slouží k tomu, aby bylo vidět, kudy hranice vede, protože právě na hranici se text článku nejhůř používá.

1. Skórování zákazníků (písm. c). Banka boduje bonitu klienta z jeho platební historie, příjmu a dluhů. Zákaz nedopadá: data souvisejí s posuzovaným kontextem a míra je přiměřená. Kdyby ale táž banka do skóre započetla, jak se klient chová na sociálních sítích nebo s kým se stýká, a odepřela mu podle toho úvěr, jde o přenos do nesouvisejícího kontextu podle bodu i) a zákaz se uplatní. Hranicí není to, že se boduje, ale odkud data pocházejí a co se z nich vyvozuje.

2. Únava versus nasazení (písm. f). Kamera v kabině sleduje otevření očí a polohu hlavy řidiče a při známkách únavy spustí varování. Nespadá pod zákaz, a to hned dvakrát: únava je podle bodu 18 odůvodnění fyzický stav mimo definici rozpoznávání emocí, a i kdyby o rozpoznávání emocí šlo, kryje to bezpečnostní výjimka. Táž kamera vyhodnocující, jestli se řidič tváří spokojeně a jak je „naladěný na směnu”, pod zákaz spadá. Bezpečnostní výjimka ji nekryje, protože k bezpečnosti se nevztahuje.

3. Cílený a necílený sběr (písm. e). Policie na základě soudního příkazu stáhne z kamerového záznamu snímky konkrétního podezřelého. Zákaz nedopadá, protože sběr je cílený. Firma, která projede veřejné profily a vybuduje z nich databázi tváří pro budoucí rozpoznávání, spadá pod zákaz bez ohledu na to, k čemu tu databázi chce použít. Rozhoduje necílenost, ne účel.

4. Místo versus osoba (písm. d). Systém předpovídající, ve které čtvrti a v jakou denní dobu roste riziko krádeží, pod písmeno d) nespadá, protože necílí na konkrétního člověka. Systém, který ze státní příslušnosti, bydliště a počtu dětí spočítá u jmenované osoby pravděpodobnost, že spáchá trestný čin, spadá. Mezi tím leží systém, který analyzuje konkrétní podezřelé transakce a předá výsledek vyšetřovateli k posouzení. Ten je dovolený, protože posouzení stojí na objektivních skutečnostech a rozhoduje člověk.

5. Manipulace versus reklama (písm. a). Reklama, která zdůrazňuje výhody produktu a časově omezenou slevu, pod zákaz nespadá, ani když je nátlaková. Chybí kvalifikovaný účinek, tedy významná újma. Rozhraní, které v hazardní aplikaci zrychluje sázky pod prahem vnímání a systematicky vede uživatele k prohrám nad rámec jeho rozpočtu, se zákazu blíží: podprahová technika, narušení rozhodování a majetková újma jsou na místě.

Co z toho plyne v praxi

Kdy se vás to týká. Kdykoli systém AI vyvíjíte, uvádíte na trh nebo jen používáte. U většiny písmen jsou zakázané všechny tři činnosti, takže se odpovědnosti nezbavíte tím, že systém jen provozujete a nevyrobili jste ho.

Co udělat před nasazením. Projděte systém proti všem deseti zákazům z odst. 1 (osm původních a od 2. 12. 2026 i písm. ba) a bb)). Není to formalita: zákazy platí od 2. 2. 2025, tedy dřív než většina nařízení, a nesou nejvyšší sankci. Screening dělejte podle toho, co systém dělá, ne podle toho, jak se jmenuje a v jakém oboru běží.

Co nepomůže. Souhlas dotčeného člověka zákaz nezhojí. Splnění požadavků na vysoce rizikové systémy taky ne. A zákaz platí vedle GDPR a antidiskriminačního práva, ne místo nich, takže jedno jednání může založit sankci ve dvou režimech současně.

U biometrické identifikace na dálku navíc. Bez zvláštní české úpravy, která ji výslovně povolí, je nepřípustné i to výjimkové použití podle písm. h). Pokud takovou úpravu stát přijme, může být přísnější než nařízení, mírnější ne.

Z judikatury

Zatím žádná. Čl. 5 se používá od 2. 2. 2025 a k datu poslední kontroly tohoto komentáře nejsou k dispozici rozhodnutí Soudního dvora Evropské unie ani rozhodnutí českých soudů, která by jednotlivé zákazy vykládala. Neuvádím proto žádnou judikaturu, místo abych vydával za výklad soudu něco, co ho nemá.

Vodítkem tedy zůstávají pokyny Komise k zakázaným praktikám vydané podle čl. 96 dne 4. 2. 2025 (dostupné i česky). Nejsou závazné, ale čl. 99 odst. 1 ukládá členským státům přihlížet k nim při stanovení sankcí, takže je nelze pominout. Kdo se o ně opře, měl by to označit jako výkladové vodítko Komise, ne jako právní názor soudu.

Otevřené otázky

Tady výklad končí a začíná to, na co článek sám neodpovídá. Nepředstírám, že je to vyřešené.

1. Kde leží práh „významné” újmy (písm. a, b). Nařízení jej nedefinuje a bod 29 odůvodnění jen dodává, že se újma může v čase nasčítat. Není jasné, jestli stačí újma majetková, nebo se počítá i psychická a jak intenzivní musí být. Bez rozhodovací praxe zbývá argumentovat obdobou z ochrany spotřebitele.

2. Hranice sociálního skórování (písm. c). Nejcitlivější místo celého článku. Pokyny Komise ji popisují, ale nezávazně, a rozhodnutí soudu neexistuje. V praxi to znamená, že hodnotící systém na pomezí se posuzuje s reálnou nejistotou o výsledku.

3. Co znamená „výhradně” u profilování (písm. d). Kolik neprofilového vstupu musí systém zpracovat, aby už nešlo o predikci „výhradně na základě profilování”? Text ani odůvodnění to neurčují. Mám za to, že rozhodné bude, jestli neprofilový vstup nese samostatnou vypovídací hodnotu, nebo jen dotváří profil, ale je to výklad, ne jistota.

4. Souběh sankcí s GDPR. Odstavec 8 potvrzuje, že se režimy sčítají. Neřeší ale, jak se vypořádat se zásadou zákazu dvojího trestání za týž skutek, když orgán dozoru nad trhem uloží pokutu podle čl. 99 a úřad pro ochranu osobních údajů podle GDPR za totéž zpracování.

5. Česká úprava k písm. h). Bez vnitrostátního opt-in nelze biometrickou identifikaci na dálku v reálném čase použít ani výjimkově. Jestli a v jakém rozsahu ho Česko přijme, není v době psaní tohoto komentáře postavené najisto. Sledujte návrh zákona o umělé inteligenci připravovaný MPO.

Změna nařízením (EU) 2026/1744

Čl. 5 dostal dva nové zákazy (čl. 1 bod 7 souhrnného balíčku). Použijí se od 2. 12. 2026, ne od 2. 2. 2025 jako zbytek článku; plyne to z nového písmene a) třetího pododstavce čl. 113.

Písmeno ba) zakazuje nekonsensuální intimní materiál. Doslova zakazuje uvádění na trh, uvádění do provozu nebo používání systémů AI, které vytvářejí „realistický obrazový, filmový, zvukový či podobný materiál zobrazující intimní partie identifikovatelné fyzické osoby nebo identifikovatelnou fyzickou osobu účastnící se explicitně zobrazených sexuálních aktivit” nebo s takovým materiálem manipulují, aniž by k tomu dotčená osoba dala svobodný, konkrétní, informovaný, jednoznačný a výslovný souhlas.

Stojí za povšimnutí, že souhlas je tu postavený přísněji než v GDPR: přibylo slovo výslovný. Konkludentní souhlas tedy nestačí.

Písmeno bb) zakazuje materiál zobrazující pohlavní zneužívání dětí. Odkazuje na čl. 2 písm. c) a e) směrnice 2011/93/EU a vyjímá jen případy, kdy se podle vnitrostátního práva uplatní okolnost vylučující protiprávnost.

Přibyly odstavce 1a a 1b. Odstavec 1a zužuje obě nová písmena a rozlišuje přitom podle role. Uvádění na trh nebo do provozu je zakázáno jen tehdy, je-li vytváření takového materiálu zamýšleným účelem systému, anebo je-li vzhledem k jeho návrhu, trénování, architektuře, schopnostem či funkcím zaměřeným na uživatele „důvodně předvídatelným a reprodukovatelným výsledkem, aniž by byla nutná významná technická úprava”, a systém současně nemá přiměřená a odpovídající technická bezpečnostní opatření, která by takovému vytváření spolehlivě bránila a zjištěné zneužití opravovala. Teoretická způsobilost systému tedy nestačí ani u poskytovatele.

Pro zavádějící subjekt platí čistě účelový test: používání je zakázáno jen tehdy, používá-li systém za účelem vytvoření takového materiálu nebo manipulace s ním. Kdo systém provozuje k něčemu jinému, nemá povinnost dokládat technická opatření; ta míří na toho, kdo systém uvádí na trh nebo do provozu.

Odstavec 1b se týká jen písmene ba): za manipulaci se nepovažuje zásah, který nezvyšuje expozici vyobrazených intimních partií ani nemění povahu explicitně zobrazovaných sexuálních aktivit.

Praktický dopad. Zákaz nemíří jen na provozovatele služeb typu „nudifikátor”. Míří na kohokoli, kdo takový systém uvádí na trh, do provozu nebo ho používá, a spadá do nejvyššího sankčního pásma podle čl. 99 odst. 3, tedy až 35 000 000 EUR nebo 7 % obratu.