V české společnosti rezonují obavy z bezpečnosti a zneužití AI

Podle nedávného průzkumu společnosti Agnostix se obavy ze zneužití umělé inteligence týkají přímo kyberkriminality nebo získávání citlivých dat. Dále se Češi obávají ztráty lidského kontaktu, ztráty kontroly nad AI a narušení soukromí. Méně lidí má obavy, že jim AI sebere práci nebo že se na ní stanou závislými.

Data z průzkumu ukazují, že nejsilněji v české společnosti nerezonuje strach z toho, že lidem umělá inteligence sebere práci, ale poměrně jasně nejčastěji zaznívají obavy z bezpečnosti a zneužití AI. Zhruba polovina Čechů se obává zneužití AI např. ke kyberkriminalitě a téměř stejně hojná je obava z úniku citlivých dat, ať už osobních, o rodině nebo třeba o firmě či podnikání.

Zatímco některé typy obav pramení hlavně z neznalosti a spadají spíše do žánru sci-fi, v tomto případě to neplatí. Různé formy bezpečnostních incidentů jsou totiž stále častější nejen v zahraničí, ale už i v Česku. A nejde zdaleka jen o úniky dat, na které musí být např. chatboti firem a institucí připraveni.

"Zkušenosti z praxe ukazují, že AI boti velkých českých firem čelí desítkám různých forem útoků denně. V prostředí komunikace mezi AI a člověkem musí firmy a instituce hlídat nejen soukromí uživatelů a dodržování GDPR, ale zároveň detekovat i potenciální trestné činy, kterých by se chatbot mohl dopustit podporou nelegálního nebo neetického chování. Náš Defender kromě těchto rizik detekuje stále častěji také snahy samotných uživatelů o zneužití chatbotů a voicebotů, kteří se je snaží hacknout nebo přepromptovat, aby pro sebe získali nějakou cennou informaci, výhodu či slevu. Bezpečnost dnes proto nespočívá jen v ochraně uživatelů, ale i samotných provozovatelů virtuální asistentů, chatbotů a voicebotů, ať už jde o firmy, organizace nebo státní instuce," říká Mário Mitas, spoluzakladatel společnosti Agnostix.

Ztráta kontaktu, kontroly i soukromí

Vedle bezpečnosti se Češi nejvíce obávají toho, že v souvislosti s používáním AI něco ztratí. Ale možná překvapivě nemají na mysli práci. 44 % Čechů se obává ztráty lidského kontaktu a toho, že častěji budeme mluvit se stroji než se skutečnými lidmi. S přibývajícím věkem respondentů rostou i obavy tohoto typu a např. mezi šedesátníky se ztráty lidského kontaktu obává více než polovina lidí.

Ztráty kontroly nad jednáním umělé inteligence se obávají 4 z 10 Čechů. A zatímco tato obava je poměrně stejně silná v různých věkových generacích, liší se u lidí s různým stupněm dosaženého vzdělání. Mezi vysokoškolsky vzdělanými lidmi se ztráty kontroly nad AI obává 43 % lidí, u respondentů se základním vzděláním je to jen 30 %.

Současnou výzvou není ani tak nasadit AI, ale spíš ji neustále hlídat a sledovat, co se např. v komunikacích mezi AI a člověkem odehrává. Nejde jen o zajištění faktické obsahové správnosti, tedy aby AI nehalucinovala, ale např. také o zajištění ochrany lidí ve složitých životních situacích. I zde bychom měli mít pod kontrolou, jak se konverzační AI k lidem chová a jak s nimi jedná. A to nejen ve fázi testování, ale především v plném provozu.

Ztráty soukromí se kvůli využívání AI obává 37 % Čechů. Strach z toho, že je pořád bude někdo poslouchat, má přitom poměrně výrazně více žen než mužů. Ženy se oproti mužům také v hojnější míře obávají toho, že jim nebo jejich blízkým AI sebere práci. Často medializovanou obavu má však celkově jen 20 % Čechů.

Ještě o něco méně lidí se obává vzniklé závislosti na umělé inteligenci a toho, že už se bez ní neobejdou. Tato obava je výrazně nejrozšířenější u mladé generace lidí mezi 18 a 26 lety, kde se závislosti na AI obává třetina respondentů.

Celkově nejméně lidí se pak obává situace, kdy se někdo dozví, že AI používají k podvádění. Tuto obavu mají jen 4 % Čechů.

Průzkumu společnosti Agnostix se uskutečnil mezi více než 1000 respondenty napříč Českem.

Článek Agnostix, s.r.o. ze dne úterý 9. června 2026

Další články od Agnostix, s.r.o.