Umělá inteligence z pohledu spotřebitele

Spotřebitelé a jejich inteligentní zařízení vytvářejí obrovská množství dat a právě umělá inteligence je ideální pro zpracování všech těchto údajů. dTest se zaměřuje na hlavní otázky, na které by se měl spotřebitel předem zeptat, než je začne používat.

Používáte chytrý mobilní telefon, počítač, uvažujete o chytré domácnosti nebo takovou domácnost už máte? Jezdíte autem a chodíte po ulicích? Pak je důležité vědět, že počítačové programy zpracovávají údaje, které vaše chování vytváří, a to různým způsobem a k různým účelům.

Už v současné době je zpracování údajů fyzických osob významně regulováno, zejména obecným nařízením o zpracování osobních údajů, které je i u nás známé pod anglickou zkratkou GDPR. Tato pravidla musí zachovávat i každý systém, který se sám učí a optimalizuje, tedy systém využívající umělou inteligenci.

Tyto systémy nemohou libovolně zpracovávat vaše osobní údaje, např. nemohou bez právního důvodu sledovat vaše chování na ulici a spojovat toto chování s jinými daty. Návrh nového nařízení o umělé inteligenci jde však dále.

"Důvodem pro připravovanou evropskou regulaci umělé inteligence je zachování základních práv a hodnot Unie, při zachování konkurenčních výhod, které rozvoj systémů užívajících umělou inteligenci mohou společnosti přinášet. Některé praktiky, jako například takzvaný social scoring známý z Číny, má být chystaným nařízením jednoznačně zakázán. Je možné, že průměrný spotřebitel bude mít s hodnocením dopadů zařízení a aplikací užívajících nástroje umělé inteligence potíže. To je však pouze špička ledovce. Umělá inteligence může zpracovávat a hodnotit celou řadu údajů, která se spotřebitelů dotýkají nepřímo. Představte si třeba svůj životopis zaslaný velké korporaci. Je možné, že velké množství žádostí o práci vyhodnotí program bez účasti člověka s použitím kritérií, které se tento program naučil používat. Budou tato kritéria v souladu se zákonem? To nevíme, říká Eduarda Hekšová, ředitelka spotřebitelské organizace dTest.

A co by vás jako spotřebitele mělo při výběru zařízení nebo aplikace z pohledu rizik spojených s umělou inteligencí zajímat?

První otázkou, kterou si musíte položit je, zda zařízení nebo aplikace někam po internetu předává data.

Druhou otázkou je, zda vám vadí možnost, že zařízení nebo aplikace za vás do větší nebo menší míry může rozhodovat. Pokud vám to vadí, musíte si zjistit, zda vám byla dostatečně, jasně a srozumitelně vysvětlena kritéria pro toto rozhodování a zda s těmito kritérii souhlasíte.

dTest společně s ostatními evropskými spotřebitelskými organizacemi usiluje o posílení práv spotřebitelů ve vztahu k umělé inteligenci. Snažíme se nařízení doplnit o popis dalších zakázaných praktik, zajistit transparentnost a práva spotřebitelů na obranu a odškodnění v případech, kdy bude umělá inteligence používána v rozporu s tímto nařízením.

Nové technologie vyžadují důvěru spotřebitelů, nesmí napomáhat k dehumanizaci společnosti.

Článek dTest, o.p.s. ze dne pondělí 25. dubna 2022

Další články od dTest, o.p.s.