logo Asociace za lepší ICT řešení, o.p.s.

Novinky ze světa AI, BI a chatbotů

Asociace za lepší ICT řešení přináší pravidelné shrnutí zajímavých článků z odborného tisku a specializovaných webů ze čtvrtého čtvrtletí roku 2021 z oblasti AI, BI a chatbotů - zaměřeno na změny v oblasti business intelligence, role chatbotů v zákaznickém servisu a jak zkreslená data poškozují modely strojového učení.

Jaké trendy budou BI ovlivňovat v následujících letech:

Role chatbotů v zákaznickém servisu

Díky zpracování přirozeného jazyka (NLP) se chatboti stávají zdatnými v porozumění požadavkům uživatelů vysloveným v běžném, konverzačním jazyce. Rostoucí popularita chatbotů s umělou inteligencí a zpracováním řeči je v mnoha ohledech pouze předzvěstí nadcházejícího rozšíření hlasových botů v oblasti zákaznických služeb.

Obě tato technologie chtějí zapojit zákazníky do dynamických a vysoce personalizovaných konverzací kolem získávání odpovědí na jejich otázky.

Chatbot komunikuje prostřednictvím zpráv, zatímco hlasový bot se zapojuje čistě hlasem. Hlasoví boti musí nejen rozumět požadavkům zákazníků, ale musí být také schopni rozeznat záměr otázky. Tyto boti navíc musí mít přístup k informacím o zákazníkovi a být schopni syntetizovat hlasový požadavek, který se následně převede na text ke zpracování, aby mohli obratem poskytnout přesnou hlasovou odpověď.

Co se týče chatbotů, jejich implementace přináší určité investiční náklady. Tyto náklady však mohou být nižší v porovnání s náklady na mzdy v oblasti služeb zákazníkům, infrastrukturu a vzdělávání. Kromě implementace investičních nákladů jsou dodatečné náklady na chatboty poměrně nízké.

Výhody chatbota jsou, že pracuje neustále, je schopný poskytnout okamžitou odezvu, může odpovídat ve více jazycích a jeho odpovědi jsou konzistentní.

Nevýhodou jsou složitější dotazy zákazníků, na které chatbot není schopný odpovědět. Také ho mohou zneužít hackeři pro provádění svých útoků.

Otrávená data poškozují modely strojového učení

Díky cloud computingu došlo k značnému navýšení strojového učení. Útočníci se snaží ovlivňovat a zkreslovat doporučení pro uživatele pomocí falešných účtů s cílem zvýšit nebo snížit hodnocení a sdílet či propagovat určité produkty nebo obsah.

Algoritmická manipulace může být použita pro různé účely včetně dezinformací, phishingových podvodů nebo změny veřejného mínění.

Útoky otrávením dat nebo otrávením modelu zahrnují znečištění tréninkových dat modelu strojového učení. To ovlivňuje schopnost modelu poskytovat správné odpovědi. Útočníci také mohou odvodit potencionálně důležité informace, zamaskovat svůj vstup za účelem oklamání modelu, aby neudělal správnou klasifikaci nebo mohou vytvořit reverzní inženýrství modelu za účelem jeho replikace a lokální analýzy.

Rozdíl mezi útokem, který má způsobit vadnou předpověď nebo klasifikaci jako výstup modelu a útokem otrávením je vytrvalost.

Při otrávení je cílem útočníka zajistit, aby se jeho vstupy akceptovaly jako tréninková data a může trvat týdny, než útočník dosáhne otrávení dat. Otrávení dat lze dosáhnout ve scénáři černé skříňky vůči klasifikátorům nebo ve scénáři bílé skříňky, kde útočníci získají přístup k modelu a jeho privátním tréninkovým datům.

Reálnými příklady jsou útoky na spamové filtry používané poskytovateli e-mailových služeb. Není snadné najít řešení, jak těmto útokům čelit.

Náprava dopadu otrávení může vyžadovat časově náročné zpětné analýzy vstupů pro dotčenou třídu, aby se identifikovaly a odstranily všechny škodlivé vzorky dat.

Po útoku je nutné opětovné vytrénování modelu s dobrými daty.

Článek Asociace za lepší ICT řešení, o.p.s. ze dne úterý 15. února 2022

Další články od Asociace za lepší ICT řešení, o.p.s.

Novinky a zajímavosti ze světa AI, BI a chatbotů

Novinky ze světa CRM, DMS a ERP

Zajímavosti ze světa AI, BI a chatbotů

Novinky ze světa CRM, DMS a ERP

Novinky ze světa CRM, DMS a ERP

Novinky ze světa AI, BI a chatbotů

Novinky ze světa CRM, DMS a ERP

Novinky ze světa AI, BI a chatbotů

Novinky ze světa CRM, DMS a ERP

Novinky ze světa AI, BI a chatbotů

Novinky ze světa CRM, DMS a ERP

Novinky ze světa AI, BI a chatbotů

Hlavní trendy ERP systémů pro rok 2022

Novinky ze světa AI, BI a RPA

Novinky ze světa AI, BI a RPA

Novinky ze světa CRM, DMS a ERP

Novinky ze světa AI, BI a RPA

Novinky ze světa CRM, DMS a ERP

Digitální trendy roku 2021

Proč neodkládat inovaci ERP systému

Novinky ze světa AI, BI a RPA

Novinky ze světa CRM, DMS a ERP

Novinky ze světa CRM, DMS a ERP

Zajímavé články ze světa podnikových informačních systémů

Recenze a hodnocení uživatelů ERP systémů 2019

Chatbot v roce 2019 v ČR

Praktické využití chatbotů na berlínské konferenci Chatbot Summit

Jak se v praxi využívá chatbot

Jak na GDPR audit

ERP systémy - aktuálně diskutovaná témata

Pro GDPR certifikaci dosud neexistue regulátorem oficiálně posvěcená autorita

Výsledky průzkumu připravenosti na GDPR mezi dodavateli podnikových informačních systémů

GDPR česky online s vysvětlivkami a komentáři

Jak zvýšit efektivitu provozu datového centra

Inovace podnikových systémů - pozvánka na seminář

Inspirujte se odborníky z nejlepších provozů v ČR na konferenci Lepší datová centra 2016

Asociace ICT přináší rešerši odborných časopisů

Jak najít lepší informační systém

Jak vytvořit lepší datová centra

Jak na snadnou správu firemních dokumentů