Začínají platit nová pravidla transparentnosti pro AI

Od 2. 8. 2026 nabyly účinnosti pravidla transparentnosti podle čl. 50 nařízení Evropského parlamentu a Rady (EU) 2024/1689, známého jako Akt o umělé inteligenci - AIA. Český telekomunikační úřad proto doporučuje všem poskytovatelům a uživatelům systémů umělé inteligence, aby své povinnosti včas vyhodnotili a přijali potřebná opatření.

Český telekomunikační úřad upozorňuje poskytovatele i uživatele systémů umělé inteligence, že nové požadavky se mohou týkat širokého okruhu subjektů, které AI systémy vyvíjejí nebo využívají při své činnosti a doporučuje dotčeným subjektům, aby nejprve vyhodnotily svou roli (např. pomocí identifikační kalkulačky AI Act Compliance Checker), následně identifikovaly povinnosti, které se na ně vztahují, a poté nastavily odpovídající interní procesy a opatření.

Prvním krokem je správně určit, jakou roli subjekt zastává

Jednou z klíčových otázek při posuzování povinností podle AIA je určení, zda subjekt vystupuje jako poskytovatel systému umělé inteligence, nebo jako zavádějící subjekt.

Poskytovatelem je osoba, která systém AI vyvíjí nebo ho nechává vyvíjet a uvádí jej na trh nebo do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou. Zavádějícím subjektem je naopak osoba, která systém AI používá při jiné než osobní neprofesionální činnosti.

Správné rozlišení těchto rolí je zásadní, protože jednotlivé povinnosti podle čl. 50 AIA se liší. Zatímco některé požadavky dopadají pouze na poskytovatele systémů AI, jiné se vztahují pouze na jejich uživatele.

Pokud subjekt vyvíjí a současně používá vlastní systém umělé inteligence, musí počítat s povinnostmi v obou rolích.

Kdy musí být uživatel informován, že komunikuje s AI

Jedním z nových požadavků je povinnost zajistit transparentnost při přímé komunikaci člověka se systémem AI.

Podle čl. 50 odst. 1 AIA musí poskytovatelé systémů určených k přímé interakci s fyzickými osobami zajistit, aby lidé byli vhodným způsobem informováni, že komunikují s umělou inteligencí. Týká se to např. chatbotů, voicebotů nebo dalších nástrojů, které s uživateli komunikují obdobným způsobem jako člověk.

Cílem tohoto pravidla je umožnit uživatelům činit informovaná rozhodnutí a zabránit situacím, kdy by systém AI působil jako skutečná osoba bez odpovídajícího upozornění.

Obsah vytvořený pomocí AI musí být označen

Další oblastí, na kterou se pravidla transparentnosti zaměřují, je obsah vytvořený nebo upravený pomocí umělé inteligence.

Podle čl. 50 odst. 2 AIA musí poskytovatelé systémů AI zajistit, aby výstupy generované těmito systémy - např. zvuk, obraz, video nebo text - byly označeny ve strojově čitelném formátu tak, aby bylo možné jejich původ detekovat. Povinnost se vztahuje na všechny uvedené typy obsahu s výjimkami stanovenými právní úpravou.

Odlišná pravidla platí pro subjekty, které AI pouze využívají. Zavádějící subjekty mají podle čl. 50 odst. 4 povinnost označovat pouze určité typy obsahu - zejména tzv. deepfake a texty vytvářené nebo upravované pomocí AI za účelem informování veřejnosti o záležitostech veřejného zájmu.

Pokud např. subjekt zveřejní obrazový, zvukový nebo video obsah vytvořený či významně upravený pomocí AI takovým způsobem, že může působit jako autentický, musí veřejnost informovat o tom, že byl tento obsah vytvořen nebo upraven s využitím umělé inteligence.

Stejná povinnost se týká i textů zveřejněných za účelem informování veřejnosti o otázkách veřejného zájmu, pokud byly vytvořeny nebo upraveny systémem AI.

ČTÚ upozorňuje, že označení musí být jasné a snadno rozpoznatelné. V praxi lze využít např. označení typu "AI generated" pro plně vytvořený obsah nebo "AI modified" pro obsah upravený pomocí umělé inteligence. Další příklady vhodného označování obsahuje Kodex správné praxe pro transparentnost AI generovaného obsahu.

Povinnosti při využívání rozpoznávání emocí nebo biometrické kategorizace

Pravidla transparentnosti se vztahují také na systémy AI využívané k rozpoznávání emocí nebo biometrické kategorizaci osob.

Pokud zavádějící subjekt takový systém používá, musí podle čl. 50 odst. 3 AIA dotčené fyzické osoby vhodným způsobem informovat o jeho využití.

Akt o umělé inteligenci současně obsahuje několik výjimek z těchto povinností, např. v některých oblastech souvisejících s odhalováním trestné činnosti.

ČTÚ proto doporučuje každému subjektu, aby při posuzování konkrétní situace ověřil, zda se na jeho činnost některá z výjimek nevztahuje.

Jak postupovat při zavádění nových pravidel

ČTÚ doporučuje subjektům, kterých se pravidla transparentnosti mohou týkat, zejména:

Využít relevantní pokyny Evropské komise a Kodex správné praxe pro transparentnost AI generovaného obsahu
Identifikovat konkrétní povinnosti a nastavit postupy pro jejich plnění
Seznámit se s požadavky čl. 50 Aktu o umělé inteligenci (AIA)
Vyhodnotit svou roli podle AIA

Dodržování pravidel transparentnosti bude kontrolováno příslušnými orgány dozoru nad trhem v jednotlivých členských státech Evropské unie - v České republice bude jedním z těchto orgánů také Český telekomunikační úřad.

V některých případech bude dohled vykonávat přímo Evropský úřad pro umělou inteligenci (Úřad pro AI), zejména v případech souvisejících s poskytovateli obecných modelů umělé inteligence.

Příslušnost konkrétního dozorového orgánu se bude vždy odvíjet od charakteru subjektu, jeho role a typu využívaného systému AI.

Český telekomunikační úřad proto doporučuje všem poskytovatelům a uživatelům systémů umělé inteligence, aby své povinnosti včas vyhodnotili a přijali opatření potřebná k zajištění souladu s novými pravidly transparentnosti.