Nové funkce v platformě ESET PROTECT pro bezpečné firemní používání AI nástrojů

Nové funkce kyberbezpečnostní ochrany, které společnost ESET představila na konferenci RSAC 2026 umožní bezpečnostním týmům sledovat a vyšetřovat rizika spojená s každodenním používáním AI nástrojů a nasazováním AI agentů ve firmách, a to prostřednictvím platformy ESET PROTECT. Jejich spuštění je plánováno v letošním roce.

"S tím, jak se firmy stále více spoléhají na AI kvůli zvyšování produktivity a automatizaci, čelí rostoucím rizikům spojeným s únikem citlivých dat, porušením legislativních rámců a zavádějícími výstupy. Agentická AI přesouvá kyberbezpečnostní bojiště zpět na koncová zařízení. ESET strávil více než 30 let budováním špičkové ochrany koncových zařízení využívající AI a strojové učení, což nás staví do jedinečné pozice, ve které můžeme pomáhat firmám zabezpečit tuto další vlnu vývoje umělé inteligence přímo tam, kde vzniká," říká Juraj Jánošík, ředitel vývoje automatizovaných systémů a umělé inteligence ve společnosti ESET.

Nástroje umělé inteligence se stávají součástí každodenních pracovních postupů a mnoho zaměstnanců v souvislosti s tím používá otevřené cloudové chatboty bez dohledu IT oddělení. To vytváří rizika v podobě tzv. stínového AI (Shadow AI) a vystavuje rizikům citlivá data, jako jsou interní dokumenty, API klíče, tajné informace či přihlašovací údaje.

ESET na tuto situaci reaguje prostřednictvím různých technologií, které se dostávají co nejblíže ke zdroji. Jednou z nich je zabezpečený webový prohlížeč, který zachytí interakci s AI a v reálném čase analyzuje jak prompty (zadání úkolu či dotazu), tak odpovědi. Tím pomáhá předcházet úniku dat a detekovat škodlivý nebo zavádějící obsah dříve, než se dostane k uživatelům.

Během ukázek na konferenci RSAC 2026 označila nová bezpečnostní funkce škodlivé URL adresy v promptech chatbotů, zaznamenala tuto aktivitu na koncovém zařízení a zpřístupnila ji v platformě ESET PROTECT za účelem dalšího vyšetřování.

Stejný přístup pak používá i při pokusech o tzv. prompt injection (vkládání škodlivých instrukcí do promptů), na skripty a zadávání citlivých dat, což organizacím umožňuje blokovat nebo monitorovat aktivitu v souladu s jejich pravidly.

Bezpečnostní týmy získají díky logování v platformě ESET PROTECT přehled o tom, jak jsou AI nástroje v organizaci využívány, což jim pomůže efektivněji vyšetřovat rizika a prosazovat bezpečnostní politiky.

S tím, jak organizace rozšiřují využívání nástrojů agentické AI, se plocha útoku rozšiřuje nad rámec interakcí s chatboty a zahrnuje i nově vznikající rizika v dodavatelském řetězci umělé inteligence. Patří mezi ně kompromitované aplikační rámce a nástroje (AI frameworky), např. trojanizované komponenty v široce používaných knihovnách, jako je LiteLLM.

Dále mohou být rizikem autonomní agenti jako OpenClaw, kteří jsou schopni provádět akce v systému jen s omezeným dohledem.

ESET již své zákazníky chrání před útoky v dodavatelském řetězci prostřednictvím kompromitovaných knihoven distribuovaných přes standardní repozitáře. V současnosti však zaznamenává nárůst těchto typů útoků, což společnost ESET utvrzuje v odhodlání věnovat se dalšímu výzkumu a vývoji v oblasti AI nástrojů.

ESET AI Skills Checker

V rámci svých širších inovací v oblasti zabezpečení AI představuje společnost ESET také bezplatný nástroj ESET AI Skills Checker. Tento veřejně dostupný skener i pro uživatele mimo ekosystém ESET využívá stejnou technologii jako řešení zabezpečení koncových zařízení a ESET LiveGuard.

Analyzuje skilly (dovednosti) umělé inteligence na přítomnost škodlivého kódu nebo na možnost skrytých instrukcí či rizikového chování, a to pomocí vícevrstvé kontroly a cloudového sandboxingu.

Článek ESET software spol. s r. o. ze dne čtvrtek 21. května 2026

Další články od ESET software spol. s r. o.