Jak označovat obsah vytvořený umělou inteligencí

Český telekomunikační úřad za účasti zástupců ministerstev, dalších úřadů, médií, profesních organizací i firem uspořádal workshop věnovaný transparentnosti při využívání umělé inteligence. Hlavním tématem byl článek 50 evropského aktu o umělé inteligenci a jeho uplatňování v praxi.

Musí televize upozornit diváka, pokud při výrobě pořadu použila umělou inteligenci, byť třeba i jen okrajově? Dejme tomu, když AI pouze odstranila šum z obrazu, nebo třeba digitálně omladila herce? A co když úředník využije AI při přípravě správního rozhodnutí, ale celý výstup následně sám zkontroluje, podepíše se pod něj a převezme tak odpovědnost?

Právě na podobných příkladech se ukazuje, že ani poměrně konkrétně formulovaná pravidla nemusí mít v praxi vždy jednoznačný výklad.

Proto jsme na ČTÚ uspořádali workshop o transparentnosti v oblasti AI, který vedly Anna Hroudová, vedoucí oddělení dozoru umělé inteligence, a Ivana Kudláčková, koordinátorka AI.

Pozvání přijali zástupci Ministerstva průmyslu a obchodu, Ministerstva vnitra, Ministerstva kultury, Úřadu pro ochranu osobních údajů, NÚKIB, České národní banky, České televize, Seznam.cz a řady dalších institucí a organizací.

Zajímalo nás především, s jakými problémy se při zavádění pravidel transparentnosti setkávají a co od budoucí dozorové praxe očekávají.

Nechceme totiž nastavovat postupy pouze od stolu, bez znalosti prostředí, ve kterém se budou uplatňovat.

Co všechno znamená transparentnost AI

Úvodní část workshopu patřila evropské regulaci. Michaela Valtrová z Ministerstva průmyslu a obchodu představila požadavky článku 50 aktu o umělé inteligenci, který lze chápat ve dvou základních rovinách.

• První představuje informační povinnosti vůči lidem, např. komunikace člověka s chatbotem, nebo že je vystaven systému rozpoznávání emocí, nebo že některý obsah byl uměle vytvořen či upraven.

• Druhou rovinu tvoří problematika technické identifikovatelnosti syntetického obsahu.

Rozdíl je mimo jiné v tom, komu je informace určena a co se z ní má dozvědět. Uživatel chatbota má vědět, že komunikuje s umělou inteligencí. U syntetického obsahu se řeší také technické označení výstupů, např. pomocí metadat.

V případě realisticky vytvořených nebo upravených obrazových a zvukových materiálů zase může být podstatné, zda je divák schopen rozeznat skutečný záznam od uměle vytvořeného.

ČTÚ představil svůj pohled na transparentnost také v širších souvislostech aktu o umělé inteligenci. Vedle informování veřejnosti je důležitá možnost lidského dohledu, dohledatelnost a přezkoumatelnost jednotlivých kroků systému a odpovědnost subjektů, které jej poskytují nebo využívají.

Tyto otázky spolu souvisejí, ale nelze na ně použít jeden univerzální postup.

AI při rozhodování úřadů a při mediální tvorbě

Jak rozdílné může být využití umělé inteligence, ukázaly dvě prezentace z praxe. První byla ukázka nasazení AI asistenta ve veřejné správě pro správní agendy. Úředníkovi má usnadnit práci s dokumenty, kontrolovat úplnost podkladů a pomáhat s přípravou návrhů. Sám ale správní rozhodnutí nevydává. Výstupy musí být možné ověřit a upravit a konečné rozhodnutí zůstává na odpovědné úřední osobě.

Následně jsme se podívali na to, jak se musí s požadavky na transparentnost vypořádat subjekt z oblasti mediální. Vedle evropské regulace musí zohlednit vlastní kodex, autorská a osobnostní práva i způsob, jakým diváci obsah vnímají. Připravovaná interní pravidla proto počítají s různými situacemi, od běžných technických úprav až po realistický obsah vytvořený nebo změněný pomocí AI.

U označování obsahu přitom nejde jen o splnění formální povinnosti. Pokud například AI pomůže odstranit šum z nahrávky nebo upravit barvy, je situace jiná, než když vytvoří realistickou podobu člověka, který ve skutečnosti před kamerou vůbec nestál. Ani v druhém případě však nelze automaticky přehlížet žánr, účel a okolnosti zveřejnění.

Při příliš širokém používání upozornění by navíc hrozilo, že se jejich význam postupně vytratí. Divák nebo čtenář by sice věděl, že se na vzniku obsahu nějak podílela AI, ale už ne, zda šlo o drobnou technickou úpravu, nebo o zásah, který podstatně změnil výsledné sdělení.

Kdy označení pomáhá a kdy už ztrácá smysl

Po prezentacích následovalo rozdělení do skupin, z nichž jedna by se dala označit jako mediální a druhá spíše jako právní. Účastníci mohli brainstormovat, porovnat své zkušenosti, upozornit na problematická místa regulace a diskutovat o tom, jak požadavky aktu o umělé inteligenci převést do běžných pracovních postupů.

Z diskuse vzniknou další metodické podklady

Pro ČTÚ bylo důležité slyšet pohledy těch, kteří s umělou inteligencí skutečně pracují nebo připravují její využití ve svých organizacích. Jinak se totiž pravidla transparentnosti promítají do práce redakčních týmů, jinak do správního řízení a jinak například do provozu služby, která komunikuje přímo se zákazníkem.

Podněty z obou pracovních skupin nyní zpracujeme a vyhodnotíme. V plánu je příprava metodických manuálů a také dokumentu s otázkami a odpověďmi, který pomůže vyjasnit některé opakující se nejasnosti.

V dialogu s odbornou veřejností chceme pokračovat, a to i prostřednictvím dalších tematických setkání.

Článek Český telekomunikační úřad ze dne čtvrtek 22. října 2026

Další články od Český telekomunikační úřad