Umělá inteligence a její dopady na ekonomické chování spotřebitelů

Umělá inteligence se může stát schopným pomocníkem nových šmejdů, kteří mohou získané informace o spotřebitelích, jejich historii vyhledávání na internetu a aktivitách na sociálních sítích využít k manipulaci s cílem ovlivnit jejich ekonomické chování.

Umělá inteligence (AI - Artificial Intelligece) se v nejbližší době patrně výrazně uplatní v řadě profesí. Její přínos bude patrný nejprve při řešení stereotypních kancelářských úloh, v přípravě odpovědí na stále se opakující dotazy, při vyplňování formulářů, plánování, třídění dat či při vytváření jednoduchých textových útvarů. S umělou inteligenci se však pojí také řada bezpečnostních rizik, které jsou navíc umocněny jejím překotným vývojem.

"Z možných rizik, která umělá inteligence představuje, je patrné, že spotřebitelé budou nuceni veškeré informace náležitě ověřovat z několika zdrojů a být více než kdy dříve obezřetní při sdílení osobních a citlivých údajů. Otázky ochrany osobních údajů, regulace zpracování osobních údajů a její vymahatelnost se tak stávají čím dál naléhavější. Personalizované nabídky navíc mohou zneprůhlednit nabídky na trhu a ve svém důsledku působit diskriminačně vůči jiným spotřebitelům," říká Eduarda Hekšová, ředitelka spotřebitelské organizace dTest

Schopnost efektivnějšího sběru a třídění dat bude dozajista lákavá pro společnosti, které se zabývají zpracováním osobních údajů a jejich marketingového využití. Stále častěji se budeme setkávat s personalizovanými slevovými a cenovými nabídkami, s články a recenzemi, které nás budou utvrzovat v nákupu výrobku, který jsme se snažili vyhledat na internetu apod.

Manipulace však nemusí končit pouze u nakupování. Umělá inteligence může stejně dobře třídit a vyhodnocovat širokou paletu veřejně projevovaných názorů. V nesprávných rukou se proto může stát efektivním nástrojem k šíření dezinformací a nepravdivých zpráv přesně zacílenému publiku.

Pozor si budeme muset dát také na bezpečnost a pravidelné aktualizace veškerých síťových zařízení jako jsou modemy, WiFi routery, ale také mobilní telefony a počítače.

Hackeři s využitím virů s prvky umělé inteligence budou mít snazší cestu k napadení těchto zařízení phishingovými a jinými útoky a k následné krádeži dat či identity.

Regulace umělé inteligence

Z pohledu regulace představuje umělá inteligence rovněž nebývalou výzvu. Na některé aspekty spojené s riziky, které plynou z jejího rozvoje, má na evropské úrovni odpovídat připravovaný akt o umělé inteligenci. Ten má umělou inteligenci především definovat, roztřídit jednotlivé systémy založené na umělé inteligenci podle toho, jaké pro společnost představují riziko a nastavit základní pravidla jejich užívání.

Z návrhu aktu plyne, že některé vysoce rizikové systémy umělé inteligence by měly být zcela zakázány. Jedná se např. o systémy využívající podprahové vnímání či takzvaný social-scoring, tedy oceňování spotřebitelů určitou hodnotou či skóre podle jejich vlastností a ekonomického či sociálního chování.

Návrh má dále zavést řadu povinností pro poskytovatele systémů umělé inteligence související s hodnocením jejich rizik, transparentností a informováním spotřebitele.

Povinnosti vůči spotřebiteli mohou zahrnovat uvedení informace o tom, zda a jakým způsobem je umělá inteligence využívána - např. ke zpracování dat spotřebitele, při koupi zboží a vytváření navazujících cílených nabídek.

Vedle těchto povinností se dále nabízí celá řada opatření, které teoreticky řeší některá rizika spojená s užíváním umělé inteligence - např. zákaz použití podoby či hlasu reálných osobností bez jejich souhlasu, označení každého obsahu generovaného umělou inteligencí či povinnost informovat spotřebitele o tom, že komunikuje s umělou inteligencí a možnost odvolat se v takovém případě k živé osobě.

Většina těchto pravidel však přichází pozdě a ve světě gllobálního otevřeného internetu jsou navíc v podstatě nevymahatelná.

A jaká doporučení by spotřebitelům k potlačení rizik souvisejících s umělou inteligencí dala sama umělá inteligence?

Odpověď získaná prostřednictvím ChatGPT Mar 23 Version:

• Sledujte, jak se vývojáři a společnosti chovají k etickým otázkám týkajícím se umělé inteligence, sledujte novinky v této oblasti, zúčastňujte se diskuzí a vzdělávejte se - čím více budete rozumět této technologii, tím lépe budete schopni ji používat a minimalizovat přitom rizika spojená s jejím využitím

• Využívejte spolehlivé softwarové nástroje, zkontrolujte, zda jsou spolehlivé a zda vám poskytují dostatečnou ochranu, ujistěte se, že vám nainstalovaný software nepřináší více škody než užitku

• Buďte obezřetní při sdílení svých osobních dat, přemýšlejte o tom, co sdílíte online a s kým a sledujte, jak jsou vaše osobní údaje používány a jaké jsou vaše možnosti ochrany soukromí

Článek dTest, o.p.s. ze dne pátek 14. dubna 2023

Další články od dTest, o.p.s.