Mário Mitas

Spoluzakladatel společnosti Agnostix

Zatímco se velká část diskuse o AI točí kolem zániku profesí, jen málo se mluví o zásadních rizicích pro samotné firmy a organizace, jako jsou úniky dat, reputační škody i právní rizika. S tzv. Defenderem, který rozšiřuje a doplňuje platformu E.V.A. Insights dáváme firmám do rukou nástroj pro plné využití potenciálu konverzačního AI, aniž by ztratily přehled o bezpečnostních hrozbách, jako jsou nevhodné odpovědi či útoky ze strany uživatelů.

Naše zkušenosti z praxe ukazují, že boti velkých českých firem musí čelit desítkám různých forem útoků denně. Včasná detekce těchto rizik bude stále důležitější nejen ve fázi testování bota před uvedením na trh, ale i v plném provozu. S rapidním nárůstem využívání konverzační AI se objevuje i potřeba robustní ochrany.

Vidíme, že transparentnost AI výstupů a včasná detekce útoků jsou klíčové nejen pro naše klienty, ale pro firmy a organizace po celém světě.

Automatizované konverzační systémy jako chatboty, virtuální asistenti, instant messaging nebo live-chat jsou dnes nedílnou součástí zákaznického servisu a komunikace s klienty, ale většina firem nemá jasný přehled o tom, jak kvalitní tato komunikace skutečně je. E.V.A. Insights tuto slepou skvrnu odstraňuje a okamžitě ukazuje, co funguje a co ne.

Analytika interakcí mezi lidmi a chatbotem či voicebotem umožňuje nejen vylepšovat samotného asistenta, ale i zdokonalovat další služby, na které si například lidé v konverzacích stěžují, a posouvat tak celý byznys. Snažíme se firmám vrátit kontrolu nad tím, co svým zákazníkům říkají a s jakým výsledkem.

V rámci celé komunikace s klienty, která zahrnuje čím dál tím víc digitálních kanálů, je dnes obrovský prostor ke zlepšení. A to nejen po technické stránce, ale i z pohledu zákaznické zkušenosti.

Obavy z vojenského využití umělé inteligence jsou jistě oprávněné. Je ale potřeba upřesnit, že navzdory laickému názoru riziko jejího nasazení ve vojenském průmyslu nespočívá v tom, že by se umělá inteligence vymkla kontrole. Riziko spočívá v míře správnosti rozhodování autonomních vojenských strojů.

U kyberkriminality bych se spíše obával nástupu kvantových počítačů, které budou schopny prolomit současné šifry. Právě ty jsou dnes totiž absolutním základem soukromí v digitálním světě.