Umelá inteligencia dnes zásadne mení spôsob, akým organizácie fungujú, inovujú a rozhodujú sa. Zároveň však dramaticky prepisuje aj podobu kybernetických hrozieb. Prednáška, s ktorou na konferencii Judgment Day 2025 vystúpil Bharat Mistry, Field CTO spoločnosti Trend Micro, nebola úvodom do umelej inteligencie, ale realistickým pohľadom na situáciu, v ktorej sa dnes bezpečnostné tímy nachádzajú.
Je určená pre tých, ktorí už dnes cítia, že AI mení bezpečnosť rýchlejšie, než na to stíhajú reagovať procesy, nástroje či tímy. Ukazuje, kde v skutočnosti vzniká najväčšie riziko – v nekontrolovanom používaní AI, práci s dátami, dôvere v technológiu a v útokoch, ktoré cielia priamo na ľudí, nie len na systémy. Zároveň ponúka zrozumiteľný rámec, ako sa v „AI chaose“ zorientovať a premýšľať o bezpečnosti strategicky, nie len reaktívne.
Z nuly na sto: nová realita bezpečnostných tímov
Bezpečnostné tímy sa v priebehu krátkeho času dostali do pozície, kde sa od nich očakáva okamžitá orientácia v oblasti umelej inteligencie. Kým v minulosti dominovali témy ako phishing, ransomvér či DDoS útoky, dnes je potrebné rozumieť veľkým jazykovým modelom, agentickej AI, prompt injection či rizikám spojeným s tréningom a prevádzkou AI systémov.
„Vedenie firiem dnes očakáva, že bezpečnostné tímy sa stanú expertmi na AI prakticky zo dňa na deň. Z nuly na sto. A táto zodpovednosť zostáva na ich pleciach.“
Rýchlosť, akou sa AI vyvíja a nasadzuje do praxe, vytvára prirodzený pocit zahltenia. Tento tlak sa zároveň prenáša priamo do SOC tímov, ktoré majú zabezpečiť prostredie, ktoré sa mení doslova v reálnom čase.
Shadow AI a rozširujúca sa útočná plocha
Používanie AI dnes už nie je výsadou IT oddelení. Zamestnanci využívajú generatívne nástroje na každodennú prácu, často bez formálneho schválenia, jasných pravidiel či povedomia o dôsledkoch. Shadow IT tak získava novú, podstatne rozsiahlejšiu podobu – shadow AI.
To prirodzene rozširuje útočnú plochu. Otázky ochrany dát, súladu s reguláciami a kontroly nad tým, aké informácie vstupujú do AI systémov, sa stávajú kľúčovými témami nielen pre IT, ale aj pre vedenie organizácií.
Keď AI pracuje v prospech útočníkov
Umelá inteligencia zároveň zásadne mení spôsob, akým fungujú kybernetické útoky. Phishing a podvody už nie sú limitované jazykom, regiónom ani kultúrnym kontextom. Generatívna AI umožňuje vytvárať presvedčivé správy v ľubovoľnom jazyku a tóne – rýchlo, lacno a vo veľkom rozsahu.
Osobitnú pozornosť si zaslúžia deepfake útoky. Falošné videohovory, syntetické hlasy a realistické digitálne identity dnes cielia priamo na dôveru a autoritu. Reálne prípady z praxe ukazujú, že dôsledkom môžu byť finančné straty v desiatkach miliónov dolárov.
Dáta, súkromie a regulácie: najcitlivejšia kombinácia
Jednou z najkomplexnejších oblastí je práca s dátami. Informácie vložené do AI systémov (najmä v cloude) často nie je možné získať späť ani plne kontrolovať ich ďalšie použitie. V kontexte regulácií, ako je EU AI Act, sa ochrana dát, transparentnosť fungovania modelov a prediktívna analytika dostávajú do centra pozornosti.
AI zároveň umožňuje sledovanie, profilovanie a predikciu správania naprieč zariadeniami a prostrediami, čo výrazne zvyšuje tlak na zodpovedné a kontrolované nasadzovanie týchto technológií.
Ako odhaliť pokročilé hrozby v sieti
Ako odhaliť pokročilé hrozby v sieti
Ako získať kontrolu späť
Bezpečná adopcia AI si vyžaduje komplexný prístup. Ochrana dát počas celého ich životného cyklu, zabezpečenie modelov a cloudovej infraštruktúry, prevencia nesprávnych konfigurácií, ochrana používateľov pred manipuláciou a schopnosť rýchlo reagovať na známe zraniteľnosti dnes tvoria základ kybernetickej odolnosti.
Bez automatizácie, prioritizácie a platformového prístupu sa bezpečnostné tímy nevyhnú zahlteniu alertmi a strate prehľadu. Práve tu zohráva AI dvojitú rolu – ako zdroj rizík, ale zároveň aj ako nevyhnutný nástroj obrany.
AI ako realita, nie vzdialená budúcnosť
Prednáška „AI ničí môj život: Skupinová terapia pre bezpečnostných lídrov“ ukazuje, že umelá inteligencia už nie je témou budúcnosti. Je súčasťou každodennej reality organizácií – s obrovským potenciálom, ale aj s rovnako veľkou zodpovednosťou.
Pozrite si videorozhovor s Bharatom Mistrym, kde ide do väčšej hĺbky praktických dopadov AI na kybernetickú bezpečnosť.
