Keď firmy riešia bezpečnosť umelej inteligencie, pozornosť sa prirodzene sústreďuje na samotný model. Čo z neho môže uniknúť, ako ho prinútiť ignorovať pravidlá alebo ako zabrániť tomu, aby pracoval s citlivými dátami.
Lenže útok nemusí začať pri modeli.
Veľká časť komunikácie medzi používateľom, aplikáciou a LLM prebieha cez API. Práve cez ne putujú požiadavky, odpovede aj informácie, s ktorými AI pracuje. Ak je API zle navrhnuté, má príliš široké oprávnenia alebo nedostatočne kontroluje, kto sa k čomu môže dostať, problém môže vzniknúť ešte skôr, než sa vôbec začne riešiť správanie samotného modelu.
Na konferencii Judgment Day 2026 sa tejto téme venoval Ondřej Číž, Senior Solution Engineer zo spoločnosti F5. Jeho pohľad bol jasný: AI bezpečnosť sa nedá riešiť izolovane. Model je len jedna časť celého reťazca.
Keď chatbot vie viac, než by mal povedať
Predstavme si interného firemného chatbota, ktorý má prístup k databázam a pomáha zamestnancom vyhľadávať či sumarizovať informácie.
Používateľ sa ho opýta na zoznam najdôležitejších klientov a ich zostatky na bankových účtoch.
Ak má model k týmto dátam prístup a medzi používateľom a modelom neexistuje ďalšia kontrola, technicky môže požiadavku jednoducho splniť. Problém pritom nemusí vzniknúť len pri úmyselnom útoku. Stačí slabo nastavená autorizácia, príliš široké oprávnenia alebo nesprávne navrhnuté API a používateľ sa môže dostať k informáciám, ktoré mu nikdy nemali byť dostupné.
Práve preto sa pri AI aplikáciách oplatí pozerať aj na to, čo sa deje medzi používateľom a modelom, nie iba na model samotný.
Máte záujem dozvedieť sa viac o technológiách F5? Kontaktujte našich špecialistov
Jednoduchý filter nestačí
Pri klasickej ochrane možno zablokovať konkrétny výraz, formát alebo typ požiadavky. Pri AI však často rozhoduje kontext.
Na tú istú citlivú informáciu sa dá opýtať desiatkami rôznych spôsobov. Jednoduchý zoznam zakázaných slov preto nemusí stačiť.
Do architektúry tak vstupujú ochranné mechanizmy typu AI guardrails alebo LLM firewall, ktoré nehodnotia len jednotlivé slová, ale aj význam požiadavky. Organizácia môže napríklad nastaviť pravidlá, podľa ktorých chatbot nesmie poskytovať osobné údaje klientov, informácie o zostatkoch, internú stratégiu alebo ďalšie dôverné dáta.
Vzniká tým zaujímavý paradox: na ochranu pred útokmi podporenými AI môže byť potrebná ďalšia AI, ktorá dokáže lepšie pochopiť kontext a vyhodnotiť, či je konkrétna požiadavka bezpečná.
AI aplikácia je stále aplikácia
Nové riziká však neznamenajú, že tie staré prestali existovať.
Ak firma prevádzkuje vlastný chatbot alebo inú AI službu, stále musí riešiť ochranu pred DDoS útokmi, botmi, zneužívaním API či nadmerným množstvom požiadaviek. Dôležitá zostáva autentifikácia, autorizácia, monitoring aj kontrola toho, k akým systémom a dátam má model prístup.
Bezpečnosť AI preto nie je samostatný ostrov. Je to ďalšia vrstva aplikačnej bezpečnosti, v ktorej sa nové typy útokov stretávajú s problémami, ktoré bezpečnostné tímy poznajú už roky.
A práve kombinácia týchto vrstiev rozhoduje o tom, či bude AI aplikácia skutočne bezpečná.
Vypočujte si videorozhovor s Ondřejom Čížom
Najväčší problém nemusí prísť zvonka
Existuje ešte jeden scenár, ktorý je možno menej nápadný, no pre firmy veľmi reálny.
Zamestnanec nahrá internú zmluvu, zákaznícke údaje alebo iný dôverný dokument do verejného AI nástroja, aby si ho nechal zosumarizovať či skontrolovať. Z jeho pohľadu ide o jednoduchší pracovný postup. Z pohľadu organizácie však môže ísť o stratu kontroly nad dátami.
Aj preto ochrana AI nie je len otázkou technológií. Je aj otázkou pravidiel, školení a toho, či firma svojim ľuďom poskytne bezpečný spôsob, ako AI používať.
A toto je len časť problému
API je jeden z kľúčových bodov, kde sa dnes ochrana AI aplikácií láme. Zďaleka však nie jediný.
Prompt injection, zneužitie oprávnení, únik dát, bot útoky, deepfake, automatizované skenovanie zraniteľností či nové riziká špecifické pre LLM vytvárajú oveľa širší obraz. Prezentácia Ondřeja Číža ukázala aj to, ako sa tieto hrozby prepájajú s klasickou aplikačnou bezpečnosťou a aké vrstvy ochrany by mala firma pri nasadzovaní AI zohľadniť.
Ak teda firma rieši len samotný model, môže jej uniknúť oveľa väčšia časť problému.
Ako má vyzerať ochrana interného AI chatbota? Kde má byť umiestnený LLM firewall? Čo všetko dokáže útočník zneužiť pri API komunikácii a prečo nestačí riešiť len samotný model?
Na tieto otázky sa Ondřej Číž pozrel podrobnejšie vo svojej prednáške na konferencii Judgment Day 2026.
Po vystúpení nám poskytol aj krátky videorozhovor, v ktorom tému rozvíja z praktického pohľadu – od toho, prečo sú aplikácie a API čoraz atraktívnejším cieľom útočníkov, až po to, čo by mali organizácie meniť vo svojom prístupe k ich ochrane.
