logo dTest, o.p.s.

Umělá inteligence a její dopady na ekonomické chování spotřebitelů

Umělá inteligence se může stát schopným pomocníkem nových šmejdů, kteří mohou získané informace o spotřebitelích, jejich historii vyhledávání na internetu a aktivitách na sociálních sítích využít k manipulaci s cílem ovlivnit jejich ekonomické chování.

Umělá inteligence (AI - Artificial Intelligece) se v nejbližší době patrně výrazně uplatní v řadě profesí. Její přínos bude patrný nejprve při řešení stereotypních kancelářských úloh, v přípravě odpovědí na stále se opakující dotazy, při vyplňování formulářů, plánování, třídění dat či při vytváření jednoduchých textových útvarů. S umělou inteligenci se však pojí také řada bezpečnostních rizik, které jsou navíc umocněny jejím překotným vývojem.

"Z možných rizik, která umělá inteligence představuje, je patrné, že spotřebitelé budou nuceni veškeré informace náležitě ověřovat z několika zdrojů a být více než kdy dříve obezřetní při sdílení osobních a citlivých údajů. Otázky ochrany osobních údajů, regulace zpracování osobních údajů a její vymahatelnost se tak stávají čím dál naléhavější. Personalizované nabídky navíc mohou zneprůhlednit nabídky na trhu a ve svém důsledku působit diskriminačně vůči jiným spotřebitelům," říká Eduarda Hekšová, ředitelka spotřebitelské organizace dTest

Schopnost efektivnějšího sběru a třídění dat bude dozajista lákavá pro společnosti, které se zabývají zpracováním osobních údajů a jejich marketingového využití. Stále častěji se budeme setkávat s personalizovanými slevovými a cenovými nabídkami, s články a recenzemi, které nás budou utvrzovat v nákupu výrobku, který jsme se snažili vyhledat na internetu apod.

Manipulace však nemusí končit pouze u nakupování. Umělá inteligence může stejně dobře třídit a vyhodnocovat širokou paletu veřejně projevovaných názorů. V nesprávných rukou se proto může stát efektivním nástrojem k šíření dezinformací a nepravdivých zpráv přesně zacílenému publiku.

Pozor si budeme muset dát také na bezpečnost a pravidelné aktualizace veškerých síťových zařízení jako jsou modemy, WiFi routery, ale také mobilní telefony a počítače.

Hackeři s využitím virů s prvky umělé inteligence budou mít snazší cestu k napadení těchto zařízení phishingovými a jinými útoky a k následné krádeži dat či identity.

Regulace umělé inteligence

Z pohledu regulace představuje umělá inteligence rovněž nebývalou výzvu. Na některé aspekty spojené s riziky, které plynou z jejího rozvoje, má na evropské úrovni odpovídat připravovaný akt o umělé inteligenci. Ten má umělou inteligenci především definovat, roztřídit jednotlivé systémy založené na umělé inteligenci podle toho, jaké pro společnost představují riziko a nastavit základní pravidla jejich užívání.

Z návrhu aktu plyne, že některé vysoce rizikové systémy umělé inteligence by měly být zcela zakázány. Jedná se např. o systémy využívající podprahové vnímání či takzvaný social-scoring, tedy oceňování spotřebitelů určitou hodnotou či skóre podle jejich vlastností a ekonomického či sociálního chování.

Návrh má dále zavést řadu povinností pro poskytovatele systémů umělé inteligence související s hodnocením jejich rizik, transparentností a informováním spotřebitele.

Povinnosti vůči spotřebiteli mohou zahrnovat uvedení informace o tom, zda a jakým způsobem je umělá inteligence využívána - např. ke zpracování dat spotřebitele, při koupi zboží a vytváření navazujících cílených nabídek.

Vedle těchto povinností se dále nabízí celá řada opatření, které teoreticky řeší některá rizika spojená s užíváním umělé inteligence - např. zákaz použití podoby či hlasu reálných osobností bez jejich souhlasu, označení každého obsahu generovaného umělou inteligencí či povinnost informovat spotřebitele o tom, že komunikuje s umělou inteligencí a možnost odvolat se v takovém případě k živé osobě.

Většina těchto pravidel však přichází pozdě a ve světě gllobálního otevřeného internetu jsou navíc v podstatě nevymahatelná.

A jaká doporučení by spotřebitelům k potlačení rizik souvisejících s umělou inteligencí dala sama umělá inteligence?

Odpověď získaná prostřednictvím ChatGPT Mar 23 Version:

Článek dTest, o.p.s. ze dne pátek 14. dubna 2023

Další články od dTest, o.p.s.

Umělá inteligence přináší otázky i v oblasti ochrany osobních údajů

Umělá inteligence a její dopady na ekonomické chování spotřebitelů

Řešení stížnosti na WhatsApp orgány EU je pro spotřebitele zklamáním

Jak reklamovat digitální obsah

Uzavírání smluv výhradně po telefonu již není možné

Akt o datech z hlediska práv spotřebitelů a GDPR

Nástrahy mobilních plateb

Nová pravidla upravují regulace pro sdílení videoobsahu

Pozor na podvody na Facebook Marketplace

Umělá inteligence z pohledu spotřebitele

Kdy a jak se vyplatí jít do předplacené telefonní karty

Jak spotřebitelé a obchodníci žijí s cookies

Datové schránky s fikcí doručení i v komunikaci soukromé povahy

Negativní dopady současného modelu cílené reklamy založené na sledování

Test 25 antivirů pro Windows a 11 pro macOS

Vaše osobní údaje na internetu v kontextu s GDPR

Jak reklamovat nekvalitní internetové připojení

Jak na bezpečné platby za online nákupy na e-shopu

Při změně operátora se snažte dodržet pár dobrých pravidel

Dva roky s GDPR

Test antivirů pro Windows a macOS

Dozorový úřad DPC vyšetřuje stížnost na Google kvůli sledování polohy

Fotografie z mobilů svou kvalitou často předčí snímky z levných kompaktů

Jak vybrat správný e-shop a nespálit se

Stále drahá data i volání českých mobilních operátorů

Online hra poradí, jak chránit osobní data na internetu

Nekalé praktiky pro sledování polohy uživatelů jsou v rozporu s GDPR

Bezpečné platby na internetu

Jak se studenti vyznají džungli smluv českých mobilních operátorů

Pokuste se změnit trh s mobilními tarify

Nové tarify T-Mobile a Vodafone uživatele nenadchnou

Mobilní data nejsou v Česku drahá, v Polsku jsou ale extrémně levná

Výzva operátorům ke změně cenové politiky

Budeme mít férové operátory i ceny za mobilní služby?

Jak to bude fungovat po zrušení roamingových poplatků v EU

Mobilní služby v Česku jsou nejdražší v EU

T-Mobile vyhrožuje exekucí a posílá vymahače pro neoprávněně sjednané pokuty

Kauza O2 ve věci jednostranné změny smlouvy se vrací Obvodnímu soudu pro Prahu 4

Firmy stále používají v komunikaci se zákazníky drahé telefonní linky

O2 se snaží zbavit zákazníka, který reklamuje zdražení jeho služeb

O2 opět porušuje zákon nevyžádanou aktivací neomezeného volání

Nezákonné poplatky za dokupování mobilních dat bude muset Vodafone vracet

Protiprávní jednání O2 poškozuje práva spotřebitelů

Jak se testují chytré telefony

Jak je to s cenami za volání na barevné telefonní infolinky

UHD TV zatím bez možností plného využití