AI Act přináší jistější prostředí pro firmy i uživatele

Pro technologické firmy to znamená jasná pravidla namísto nahodilé regulace. Nařízení má podpořit inovace, růst podnikání a rozvoj moderních AI řešení, z nichž těží nejen firmy samotné, ale i celá společnost. A jaké systémy AI jsou zakázané?

Akt o umělé inteligenci zajišťuje uživatelům ochranu před manipulací, diskriminací, nadměrným sledováním nebo neetickým zpracováním dat. Posiluje také schopnost lidí rozeznat realitu od uměle vytvořeného obsahu a chrání jejich práva i důstojnost v digitálním prostoru.

Jednotlivé části aktu o umělé inteligenci začínají platit postupně. Od 2. února 2025 již je platný zákaz některých konkrétních praktik, např. zneužívání zranitelnosti lidí či používání manipulačních technik. Od 2. 8. 2025 se přidala pravidla pro obecné modely AI a členské státy určují své dozorové orgány.

Nařízení začne v plném rozsahu platit od 2. 8. 2026 a o rok později, od 2. 8. 2027, se přidají specifická pravidla pro vysoce rizikové AI systémy.

Český telekomunikační úřad bude sehrávat klíčovou roli v dohledu nad umělou inteligencí v tuzemsku. Stává se partnerem veřejnosti v oblasti informování a ochrany uživatelských práv a zároveň dozorovým orgánem pro vysoce rizikové AI systémy.

ČTÚ bude kontrolovat, zda firmy a organizace dodržují povinnosti plynoucí z aktu o umělé inteligenci, a zajišťovat, aby systémy využívané v Česku byly bezpečné, transparentní a spravedlivé.

Spolupráce s dalšími národními institucemi

Agendu Aktu o umělé inteligenci si v České republice mezi sebou rozděluje několik odborných institucí.

Úřad pro ochranu osobních údajů

• Úřad pro ochranu osobních údajů se zaměří na otázky zpracování osobních údajů v AI systémech.

Ministerstvo průmyslu a obchodu

• Ministerstvo průmyslu a obchodu bude plnit roli gestora celého nařízení a koordinovat jeho implementaci.

Úřad pro technickou normalizaci

• Úřad pro technickou normalizaci, metrologii a státní zkušebnictví bude jmenovat subjekty posuzování shody a zajišťovat fungování AI sandboxu, který bude provozovat Česká agentura pro standardizaci.

Veřejný ochránce práv

• Důležitou roli bude mít také Veřejný ochránce práv, který bude dohlížet na ochranu základních práv u vysoce rizikových systémů.

Česká národní banka

• Česká národní banka bude dohlížet na systémy využívané ve finančním sektoru.

Přehled zakázaných AI systémů

• Hodnocení nebo klasifikace fyzických osob nebo skupin osob na základě jejich sociálního chování nebo osobních či osobnostních vlastností (tzv. sociální kredit/social scoring). Je zakázáno, aby sociální kredit vedl ke znevýhodňujícímu nebo nepříznivému zacházení, které nesouvisí s původním kontextem (např. že kvůli nezaplacené záloze na energie bude člověku odmítnuta půjčka v bance) nebo je neodůvodněné nebo nepřiměřené jejich sociálnímu chování nebo jeho závažnosti (např. člověk jednou zaplatí pozdě zálohu na energie a již nemá možnost přihlásit se do výběrového řízení na určité pracovní pozice).

• Posuzování rizik fyzických osob s cílem posoudit nebo předvídat riziko, že fyzická osoba spáchá trestný čin, a to výhradně na základě profilování fyzické osoby nebo posouzení jejích osobnostních znaků a vlastností (tzv. predikce trestné činnosti). Je zde ale výjimka pro případy, kdy se systémy AI používají na podporu lidského posouzení zaměřeného na zapojení osoby do trestné činnosti.

• Kategorizace fyzických osob na základě biometrických údajů za účelem dovození nebo odvození jejich rasy, politických názorů, členství v odborových organizacích, náboženského nebo filozofického přesvědčení, sexuálního života nebo sexuální orientace. Je zde ale výjimka, jako je třídění zobrazení podle barvy vlasů nebo očí, které lze použít například v oblasti vymáhání práva.

• Biometrická identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva. Jsou zde ale výjimky, např. z důvodu hledání pohřešovaných osob, teroristických hrozeb nebo pátrání po nebezpečných pachatelích.

• Využívání zranitelnosti fyzické osoby nebo určité skupiny osob v důsledku jejich věku, zdravotního postižení nebo specifické sociální nebo ekonomické situace.

• Vytváření nebo rozšiřování databází rozpoznávání obličeje prostřednictvím necíleného získávání zobrazení obličeje z internetu nebo kamerových záznamů.

• Odvozování emocí fyzických osob na pracovišti a ve vzdělávacích institucích. Je zde ale výjimka pro lékařské nebo bezpečnostní důvody.

• Využívání podprahových technik nebo záměrně manipulativních či klamavých technik.

Úplný přehled zakázaných AI systémů je uveden v čl. 5 AI Act - zakázané postupy v oblasti AI.

Článek Český telekomunikační úřad ze dne úterý 23. prosince 2025

Další články od Český telekomunikační úřad