Umelá inteligencia a firemné chatboty sa stávajú bežnou súčasťou moderného biznisu. Ich prínos je zrejmý – zrýchľujú komunikáciu, zlepšujú zákaznícku podporu a dokážu efektívne spracovávať dáta. No s rýchlym nasadzovaním prichádzajú aj nové riziká.
Ondřej Číž, Solution Engineer zo spoločnosti F5, na konferencii Judgment Day 2025, ktorú organizovala Alanata, vysvetlil, ako AI riešenia bezpečne vyvíjať a chrániť pred útokmi.
Od SaaS po vlastné riešenie: kde AI beží, tam treba myslieť na bezpečnosť
Číž na príklade kryptomenového chatbota ukázal, ako môže vyzerať architektúra firemnej AI aplikácie – od frontendového webového rozhrania cez backend až po AI orchestrátor, LLM model a technika Retrieval-Augmented Generation (RAG).
Zároveň upozornil, že spôsob nasadenia AI výrazne ovplyvňuje bezpečnosť:
- SaaS AI (napr. Microsoft Copilot, Salesforce Einstein) – rýchle a pohodlné, no s vyššou závislosťou od tretej strany.
- Cloud-hosted AI – flexibilné riešenie na infraštruktúre poskytovateľov ako AWS či Azure, kde si firma spravuje konfiguráciu sama.
- Self-hosted AI – úplná kontrola na vlastnej infraštruktúre, ale aj najvyššie náklady a zodpovednosť.
- Edge-hosted AI – riešenia bežiace priamo na zariadeniach alebo v priemyselných systémoch, kde je rozhodujúca rýchlosť a súkromie.
Najväčšie hrozby: prompt injection a poisoning
Podľa Číža je dnes najčastejším útokom na chatboty prompt injection – manipulácia vstupov tak, aby model nerešpektoval pôvodné inštrukcie. Útočník tak môže donútiť model prezradiť citlivé dáta alebo interné API kľúče.
Ďalším rizikom je training data poisoning – podhodenie manipulatívnych alebo škodlivých dát do trénovacej množiny. To môže viesť k šíreniu nepravdivých výstupov alebo dokonca k vloženiu „backdoorov“, ktoré zneužije útočník.
Tieto hrozby sú súčasťou rámca OWASP LLM Top 10, ktorý pomenúva najkritickejšie riziká pri práci s veľkými jazykovými modelmi – od únikov citlivých údajov, cez zraniteľný dizajn pluginov až po riziko krádeže samotného modelu.
Ako nastaviť bezpečnú AI vo firme
Bezpečnosť AI chatbotov nie je len o samotnom modeli, ale o celom ekosystéme. Medzi kľúčové opatrenia patria:
- Web Application Firewall (WAF) – ochrana pred útokmi na webové rozhranie.
- DDoS mitigácia a bot defense – prevencia zahltenia služby masívnymi útokmi.
- API security – kontrola komunikácie medzi komponentmi a prevencia zneužitia API volaní.
- AI Gateway – špeciálna vrstva pre LLM, ktorá filtruje vstupy a výstupy modelu a zabraňuje únikom či nevhodným odpovediam.
Viac v rozhovore s Ondřejom Čížom
Po prednáške sme sa s Ondřejom porozprávali aj o praktických otázkach nasadzovania AI vo firmách. V rozhovore sa dozviete:
- aké varovné signály naznačujú, že rýchlo nasadený chatbot môže byť bezpečnostným rizikom,
- ako zavádzať AI tak, aby bola v súlade s GDPR a pritom nezdržovala inovácie,
- a kto by mal niesť hlavnú zodpovednosť za bezpečnosť AI riešení vo firme.
Bezpečná implementácia AI chatbotov už od návrhu
AI chatboty dokážu firmám priniesť výraznú konkurenčnú výhodu – od zefektívnenia zákazníckej podpory po rýchlejšie spracovanie dát. No rovnako ako každá iná technológia, aj ony sa môžu stať terčom sofistikovaných útokov. Ako zdôraznil Ondřej Číž, bezpečnosť musí byť zabudovaná do návrhu už od začiatku – od výberu modelu, cez správu dát až po ochranu API a výstupov.
Len tak môžu organizácie využiť plný potenciál umelej inteligencie a zároveň minimalizovať riziko, že sa z inovatívneho riešenia stane slabé miesto ich infraštruktúry.
V Alanata sledujeme tieto trendy a prinášame našim klientom nielen technológie, ale aj know-how, ktoré im pomôže nasadiť AI riešenia bezpečne a udržateľne.
