Ako sa mení kybernetická bezpečnosť v čase, keď AI už len negeneruje odpovede, ale začína konať? Na bezpečnostnej konferencii Judgment Day 2026 otvorila Monica Verma tému agentnej AI, novej úrovne rizík aj potreby budovať odolnosť skôr, než sa organizácie pustia do jej nekontrolovaného nasadzovania. Z vystúpenia aj následného rozhovoru vyplynulo, že najväčšou výzvou dnes nie je samotná technológia, ale zodpovednosť, riadenie a pripravenosť organizácií.
AI už nie je len nástroj
Umelá inteligencia sa za posledné roky posunula od technológie, ktorá „niečo hovorí“, k technológii, ktorá „niečo robí“. Firmy už preto neriešia len kvalitu výstupov AI, ale aj to, k akým dátam má prístup, aké akcie vykonáva a ako ju v reálnom čase kontrolovať.
Práve tento posun urýchlil využívanie agentných nástrojov vo firmách. Mnohé organizácie pritom túto časť adopcie nemajú plne pod kontrolou. Jednou z najväčších výziev dneška je preto shadow AI – teda používanie AI nástrojov zamestnancami bez dostatočného prehľadu, pravidiel a riadenia zo strany firmy.
Najväčšia téma je zodpovednosť
Bez jasne nastavenej zodpovednosti sa nedajú správne uchopiť ani identity, oprávnenia či ochranné mechanizmy. Firmy musia počítať s tým, že AI agenti sa správajú ako nový typ neľudských identít, a preto potrebujú jasne definované hranice.
Keď AI rozhoduje alebo vykonáva akcie v mene organizácie, zodpovednosť nikdy nezostáva na AI nástroji. Vždy sa vracia späť k človeku a k firme, ktorá AI nasadila. Aj preto nestačí hovoriť o AI len ako o technickom nástroji. V skutočnosti ide o tému riadenia rizík, interných procesov a rozhodovania vedenia.
Riadenie AI nie je o technických detailoch, ale o biznisových dôsledkoch
Ak chce firma dostať tému AI na úroveň boardu a top manažmentu, musí ju preložiť do jazyka biznisového rizika. Vedenie totiž neuvažuje o AI cez technické nastavenia, ale cez reputáciu, regulačné dôsledky, finančné straty a dopad na fungovanie firmy.
Pri agentnej AI preto nestačí riešiť len technickú ochranu. Dôležité sú aj zámer, identita, integrita, auditovateľnosť, overiteľnosť a zodpovednosť. Inak povedané: nestačí mať AI, treba mať aj rámec, ktorý jej používanie udrží v bezpečných hraniciach.
Päť pilierov pripravenosti
Pripravenosť organizácie na AI sa nedá posudzovať len cez očakávanú návratnosť investície alebo rýchlosť zavádzania. Rozhodujúce je, či má firma zvládnutých päť základných oblastí: dátovú pripravenosť a validáciu, stratégiu a vedenie, kultúru a porozumenie AI, jasne nastavené riadenie a riadenie rizík a napokon technické kontroly a inžinierstvo. Práve tieto piliere ukazujú, či organizácia buduje AI odolnosť, alebo len zrýchľuje chaos.
Prvý pilier tvoria dáta. Ak firma nemá správne klasifikované, presné a dobre spravované dáta, AI nemôže fungovať bezpečne. Druhým pilierom je stratégia a vedenie – teda odpoveď na otázku, prečo vlastne AI nasadzovať, kde má priniesť hodnotu a ktoré oblasti majú byť prioritou. Tretí pilier predstavujú kultúra a porozumenie AI. Organizácia potrebuje vedieť, čo AI dokáže, kde sú jej limity a ako ju používať zodpovedne naprieč rôznymi rolami.
Vypočujte si videorozhovor s kyberbezpečnostnou expertkou
Štvrtým pilierom je riadenie, interné pravidlá a riadenie rizík. Nestačí mať internú smernicu alebo zákaz. Potrebný je fungujúci rámec, ktorý prepája technické tímy, právnikov, vedenie aj ďalších zainteresovaných ľudí. Piaty pilier tvoria technické kontroly a inžinierstvo – teda schopnosť doplniť pravdepodobnostnú povahu veľkých jazykových modelov o spoľahlivé technické kontroly, auditovateľnosť, validáciu výstupov a správne navrhnuté prostredie, v ktorom AI koná.
Problém nie je rýchlosť. Problém je jazda naslepo
Rýchle zavádzanie samo o sebe nie je chyba. Problém nastáva vtedy, keď firmy zrýchľujú bez toho, aby vedeli, kde sa práve nachádzajú. Bez pochopenia vlastnej vyspelosti, slabých miest a úrovne pripravenosti sa zo zavádzania AI stáva jazda naslepo. Organizácia potom rieši náklady a očakávané prínosy skôr, než si overí, či má zvládnuté dáta, pravidlá, vedenie a kontroly.
Aj preto je dôležité nehodnotiť AI len cez mediálny rozruch alebo tlak konkurencie. To, že technológiu používajú ostatní, ešte neznamená, že ju firma dokáže používať bezpečne. Odolnosť nevzniká rýchlosťou nasadenia, ale schopnosťou budovať rámec, v ktorom AI funguje predvídateľne a pod kontrolou.
Nestačí zakazovať. Treba vytvoriť rámec
Úplný zákaz AI nie je riešenie. Organizácie potrebujú vytvoriť bezpečný rámec jej používania, rozvíjať porozumenie AI naprieč firmou a nastaviť jasné pravidlá pre jednotlivé roly. Ak firma nedá ľuďom bezpečný spôsob, ako AI používať, technológia z organizácie nezmizne – len sa presunie mimo dohľadu.
A práve tu sa láme rozdiel medzi výhodou a chaosom. AI môže organizácii pomôcť zrýchliť rozhodovanie, zvýšiť efektivitu aj posilniť obranu. Lenže bez riadenia, zodpovednosti a pripravenosti sa z nej veľmi rýchlo stane ďalší zdroj rizika.
Ak si chcete túto tému pozrieť viac do hĺbky, k dispozícii je aj celý rozhovor s Monicou Verma a jej keynote prednáška z konferencie Judgment Day 2026.