Poznáte, kdy komunikujete se strojem?

AI vytváří texty, obrázky i videa, odpovídá zákazníkům v chatovacích oknech a dokáže napodobit hlas konkrétní osoby nebo její vzhled. Pro spotřebitele však může být stále obtížnější poznat, kdy mají před sebou skutečného člověka či autentický obsah a kdy výsledek vytvořila umělá inteligence.

Od 2. 8. 2026 proto v Evropské unii platí nová pravidla transparentnosti podle nařízení o umělé inteligenci, známého jako AI Act. Ne každý obrázek, text nebo video vytvořené pomocí umělé inteligence musí být na první pohled jasně označeno. Článek 50 AI Actu stanovuje několik rozdílných povinností podle toho, o jaký systém a způsob jeho použití jde.

Jedna z povinností dopadá přímo na poskytovatele systémů, které vytvářejí nebo upravují text, obraz, zvuk či video. Ti musí zajistit, aby bylo možné výstup vytvořený pomocí AI rozpoznat ve strojově čitelném formátu. Může jít např. o digitální vodoznak, údaje uložené v souboru nebo jiný technický prvek.

Spotřebitel tedy nemusí označení vždy vidět pouhým okem.

Pozor na deepfakes

Přísnější požadavky se vztahují na takzvané deepfakes. Jde např. o realisticky vypadající video politika pronášejícího výrok, který ve skutečnosti nikdy neřekl, nebo fotografii zobrazující událost, která se nestala.

Pokud někdo při své profesní činnosti vytvoří nebo upraví pomocí AI obrazový, zvukový či audiovizuální obsah, který se podobá skutečným osobám, místům, objektům nebo událostem a může být mylně považován za autentický, musí jeho umělý původ jasně uvést. Může-li takový obsah někoho uvést v omyl, byť i neúmyslně, pak osoba, která ho pomocí AI vytvořila, musí jasně informovat o jeho původu. Postačí k tomu např. zmíněná ikona AI či krátké sdělení na začátku audionahrávky. U uměleckých, satirických či fiktivních děl však pravidla připouštějí citlivější způsob označení, aby zbytečně nenarušovalo samotný zážitek," říká Eduarda Hekšová, ředitelka spotřebitelské organizace dTest.

Chatbot, nebo člověk?

Další pravidlo se týká chatbotů a dalších systémů určených k přímé komunikaci s lidmi. Pokud např. spotřebitel zahájí konverzaci se zákaznickou podporou e-shopu, měl by být informován, že na druhé straně komunikuje s umělou inteligencí a nikoliv s pracovníkem společnosti.

Výjimkou mohou být případy, kdy je už ze samotných okolností zcela zřejmé, že člověk komunikuje s AI systémem. Odlišná situace může nastat také tehdy, pokud jsou výstupy před předáním uživateli skutečně kontrolovány člověkem.

Pozor, rozpoznávám emoce!

AI Act pamatuje rovněž na systémy, které rozpoznávají emoce nebo kategorizují osoby na základě biometrických údajů. Může jít např. o práci s podobou obličeje, hlasem nebo dalšími charakteristikami člověka.

Pokud jsou lidé takovému systému vystaveni, provozovatel je o tom musí informovat.

Informování o záležitostech veřejného zájmu

Zvláštní pravidlo platí také pro texty určené k informování o záležitostech veřejného zájmu. Pokud byly vytvořeny nebo upraveny pomocí AI, má být jejich původ za stanovených podmínek jasně označen.

Výjimkou mohou být zejména případy, kdy text prošel lidskou redakční kontrolou a za jeho zveřejnění nese konkrétní osoba nebo subjekt redakční odpovědnost.

Nová pravidla se přitom netýkají běžného soukromého používání umělé inteligence. Pokud si spotřebitel nechá pomocí AI např. upravit soukromou fotografii nebo sestavit text pro vlastní potřebu, povinnosti podle článku 50 se na něj zpravidla nevztahují.

Především profesionální poskytovatelé a uživatelé AI však budou muset nově počítat s tím, že spotřebitel má mít podstatně lepší možnost poznat, kdy do obsahu nebo komunikace zasáhla umělá inteligence.

Článek dTest, o.p.s. ze dne úterý 18. srpna 2026

Další články od dTest, o.p.s.