Novinky ze světa AI, BI a chatbotů

Asociace za lepší ICT řešení přináší pravidelné shrnutí zajímavých článků z odborného tisku a specializovaných webů ze čtvrtého čtvrtletí roku 2021 z oblasti AI, BI a chatbotů - zaměřeno na změny v oblasti business intelligence, role chatbotů v zákaznickém servisu a jak zkreslená data poškozují modely strojového učení.

Jaké trendy budou BI ovlivňovat v následujících letech:

Nové způsoby prezentace informací prostřednictvím vyprávění - pomocí designu informací se snaží dodavatelé BI zjednodušit své prezentace způsobem, který uživatele provede konkrétním problémem či situací, a kromě prezentace základních dat také nabízí doporučení co dělat

BI se stává součástí ERP a CRM systémů - výhoda spočívá v tom, že se BI vyvíjí z odděleného nepropojeného procesu do podoby integrální součásti firemních pracovních toků

Pokrok zpracování přirozeného jazyka - to umožňuje firmám rozšířit využití BI do dalších procesů svého fungování a využívat nástroje hlubším způsobem

BI pro provozní účely - provozní BI používá data z různých zdrojů včetně chování spotřebitelů a narušení dodavatelského řetězce a nashromážděná data následně analyzuje - takový systém pak dokáže nabízet doporučení pro rychlá rozhodnutí

Přijetí cloudu - výhody cloudového řešení BI zahrnují přístupnost pro vzdálené uživatele, škálovatelnost, pružnost a rychlost nasazení

AI a ML - BI vylepšená o AI má potenciál změnit průměrného firemního uživatele v řadového datového vědce

Role chatbotů v zákaznickém servisu

Díky zpracování přirozeného jazyka (NLP) se chatboti stávají zdatnými v porozumění požadavkům uživatelů vysloveným v běžném, konverzačním jazyce. Rostoucí popularita chatbotů s umělou inteligencí a zpracováním řeči je v mnoha ohledech pouze předzvěstí nadcházejícího rozšíření hlasových botů v oblasti zákaznických služeb.

Obě tato technologie chtějí zapojit zákazníky do dynamických a vysoce personalizovaných konverzací kolem získávání odpovědí na jejich otázky.

Chatbot komunikuje prostřednictvím zpráv, zatímco hlasový bot se zapojuje čistě hlasem. Hlasoví boti musí nejen rozumět požadavkům zákazníků, ale musí být také schopni rozeznat záměr otázky. Tyto boti navíc musí mít přístup k informacím o zákazníkovi a být schopni syntetizovat hlasový požadavek, který se následně převede na text ke zpracování, aby mohli obratem poskytnout přesnou hlasovou odpověď.

Co se týče chatbotů, jejich implementace přináší určité investiční náklady. Tyto náklady však mohou být nižší v porovnání s náklady na mzdy v oblasti služeb zákazníkům, infrastrukturu a vzdělávání. Kromě implementace investičních nákladů jsou dodatečné náklady na chatboty poměrně nízké.

Výhody chatbota jsou, že pracuje neustále, je schopný poskytnout okamžitou odezvu, může odpovídat ve více jazycích a jeho odpovědi jsou konzistentní.

Nevýhodou jsou složitější dotazy zákazníků, na které chatbot není schopný odpovědět. Také ho mohou zneužít hackeři pro provádění svých útoků.

Otrávená data poškozují modely strojového učení

Díky cloud computingu došlo k značnému navýšení strojového učení. Útočníci se snaží ovlivňovat a zkreslovat doporučení pro uživatele pomocí falešných účtů s cílem zvýšit nebo snížit hodnocení a sdílet či propagovat určité produkty nebo obsah.

Algoritmická manipulace může být použita pro různé účely včetně dezinformací, phishingových podvodů nebo změny veřejného mínění.

Útoky otrávením dat nebo otrávením modelu zahrnují znečištění tréninkových dat modelu strojového učení. To ovlivňuje schopnost modelu poskytovat správné odpovědi. Útočníci také mohou odvodit potencionálně důležité informace, zamaskovat svůj vstup za účelem oklamání modelu, aby neudělal správnou klasifikaci nebo mohou vytvořit reverzní inženýrství modelu za účelem jeho replikace a lokální analýzy.

Rozdíl mezi útokem, který má způsobit vadnou předpověď nebo klasifikaci jako výstup modelu a útokem otrávením je vytrvalost.

Při otrávení je cílem útočníka zajistit, aby se jeho vstupy akceptovaly jako tréninková data a může trvat týdny, než útočník dosáhne otrávení dat. Otrávení dat lze dosáhnout ve scénáři černé skříňky vůči klasifikátorům nebo ve scénáři bílé skříňky, kde útočníci získají přístup k modelu a jeho privátním tréninkovým datům.

Reálnými příklady jsou útoky na spamové filtry používané poskytovateli e-mailových služeb. Není snadné najít řešení, jak těmto útokům čelit.

Náprava dopadu otrávení může vyžadovat časově náročné zpětné analýzy vstupů pro dotčenou třídu, aby se identifikovaly a odstranily všechny škodlivé vzorky dat.

Po útoku je nutné opětovné vytrénování modelu s dobrými daty.