Aspekty trénování AI pomocí uživatelského obsahu

Digitální platformy si ve smluvních podmínkách stále častěji vyhrazují právo používat uživatelský obsah k vývoji umělé inteligence. Aktualizované podmínky přitom řada lidí odklikne, aniž by se se změnami blíže seznámila. Co trénování umělé inteligence pomocí uživatelského obsahu znamená, kde leží jeho právní hranice a kdy by měli uživatelé zpozornět?

Nahrávání fotografií prodávaného oblečení na online tržiště, zveřejňování videí na sociálních sítích nebo psaní uživatelských recenzí je dnes běžnou součástí digitálních služeb, které využívá většina z nás.

Potvrzením obchodních podmínek však platformě nemusíte umožnit pouze zobrazení tohoto obsahu ostatním uživatelům.

Můžete jí zároveň udělit rozsáhlou licenci k jeho dalšímu využití, např. v tomto znění:

• Potvrzením obchodních podmínek nám udělujete celosvětovou, nevýhradní, bezplatnou a převoditelnou licenci s právem udělit podlicenci k používání, kopírování, upravování, šíření nebo vytváření odvozených děl z vašeho obsahu a pro vývoj a zlepšování umělé inteligence.

"Určitá licence je pro fungování sociálních sítí, online tržišť a dalších digitálních služeb zpravidla nezbytná. Platforma potřebuje oprávnění obsah uložit, zobrazit ostatním uživatelům nebo jej technicky přizpůsobit různým zařízením. Ustanovení umožňující využít uživatelský obsah také pro vývoj a zlepšování modelů umělé inteligence se však ve smluvních podmínkách začala ve větší míře objevovat až v posledních letech. Takové využití již může výrazně přesahovat to, co si uživatel při nahrání fotografie, videa nebo textu pod běžným fungováním služby představí," říká Eduarda Hekšová, ředitelka spotřebitelské organizace dTest.

Využití obsahu k trénování AI nemusí být samo o sobě škodlivé. Modely mohou zlepšovat vyhledávání, překlady, doporučování relevantního obsahu, automatické titulky nebo odhalování podvodů a nezákonných příspěvků. Platforma by však měla srozumitelně vysvětlit, které druhy obsahu používá a zda se jedná pouze o zlepšení konkrétní služby.

Obecné formulace o vývoji umělé inteligence nebo zdokonalování produktů mohou zahrnovat podstatně širší okruh budoucích využití, která uživatel při zveřejnění obsahu nepředpokládal a která tak nejsou pro daný vztah přiměřené.

Problém tedy není licence samotná, ale její šíře a nejednoznačnost.

Čemu je potřeba věnovat pozornost

Největší opatrnost je namístě u služeb, do kterých uživatelé vkládají fotografie obličejů, nahrávky hlasu, zdravotní údaje, soukromé zprávy či pracovní dokumenty.

Rizikem může být např. vytváření podrobných profilů uživatelů z těchto fotografií, zpráv či dokumentů nebo odvozování citlivých informací z jejich obsahu.

Chybně či nevyváženě natrénovaný model může rovněž některé osoby znevýhodňovat, nesprávně označovat jejich obsah za závadný nebo o nich vytvářet nepřesné závěry.

Rizikem je také to, že odstranění příspěvku nebo zrušení uživatelského účtu nemusí automaticky znamenat odstranění obsahu z dat, která jsou k trénování AI poskytnuta.

Podmínky by proto měly srozumitelně uvádět, k jakému konkrétnímu účelu bude umělá inteligence trénována a jaký obsah k tomu platforma použije. Uživatel by se v nejlepším možném případě měl rovněž dozvědět, zda platforma vyvíjí vlastní model nebo využívá model externího dodavatele, komu mohou být data předána a jak dlouho budou trénovací podklady uchovávány.

Ochrana osobních údajů

Představte si, že na online platformu nahrajete fotografii bundy, kterou chcete prodat, a na snímku jste zároveň zachyceni vy. Ve smluvních podmínkách se můžete dočíst, že platformě udělujete licenci k použití fotografie, např. k jejímu uložení, zobrazení ostatním uživatelům nebo trénování systému, který rozpoznává druh a barvu nabízeného oblečení.

Zásady ochrany osobních údajů by naproti tomu měly vysvětlit, jak platforma nakládá s informacemi vztahujícími se přímo k vám, zda fotografii analyzuje, jaké údaje z ní získává, za jakým účelem a na jakém právním základě je zpracovává, jak dlouho je uchovává a komu je předává.

Přijetí licence k fotografii samo o sobě neznamená, že platforma může bez omezení analyzovat obličej zachycené osoby nebo z něj odvozovat její věk, zdravotní stav či jiné osobní charakteristiky. Při pohybu na platformách je proto vhodné nečíst pouze ustanovení o licenci ve smluvních podmínkách, ale nahlédnout také do zásad ochrany osobních údajů.

Pochybil i Zoom

Rizika příliš široce formulované licence ukázal v roce 2023 případ komunikační platformy Zoom. Její podmínky umožňovaly využívat zákaznický obsah také pro účely strojového učení a umělé inteligence, přičemž společnost uváděla, že zvukové, obrazové a chatové záznamy nepoužije bez souhlasu zákazníka.

Nebylo však jasné, kdo a jak má takový souhlas udělit a zda o využití obsahu může rozhodnout vlastník účtu za všechny účastníky hovoru. Potenciálně přitom mohlo jít o nahrávky hlasu a obličeje, soukromé rozhovory nebo pracovní dokumenty.

Po kritice Zoom podmínky změnil a výslovně uvedl, že zvuk, video, chat, sdílené obrazovky, přílohy ani další komunikační obsah zákazníků k trénování svých ani cizích modelů umělé inteligence nepoužívá.

Případ ukazuje, že obecný odkaz na souhlas nebo vývoj AI nestačí. Podmínky by měly přesně určit, jaký obsah může být použit, k jakému účelu a kdo o jeho využití rozhoduje.

Článek dTest, o.p.s. ze dne pátek 23. října 2026

Další články od dTest, o.p.s.