Bezpečnostní týmy začínají s AI zacházet jako se zaměstnanci

V oblasti kybernetické bezpečnosti dochází k významnému posunu v roli umělé inteligence (AI). Zatímco v minulosti AI sloužila především k detekci anomálií a generování upozornění, nová generace AI nástrojů, označovaná jako agentní systémy, začíná přebírat mnohem aktivnější a autonomnější úlohy. Tento vývoj mění způsob, jakým bezpečnostní týmy fungují, a vyvolává otázky ohledně řízení a dohledu nad těmito pokročilými systémy.

Tradičně se práce v bezpečnostním operačním centru (SOC) točila kolem správy tisíců upozornění, z nichž většina se ukázala být falešnými poplachy. AI pomáhala s tříděním této záplavy dat, identifikovala potenciální hrozby a předávala je k posouzení lidskému analytikovi. Rozhodnutí však vždy zůstávalo na člověku. Tento model se nyní začíná měnit s nástupem agentních systémů.

Agentní systémy AI jdou dál než pouhé upozorňování. Představte si například neobvyklé přihlášení ve 3 hodiny ráno. Zatímco starší model by pouze vygeneroval alert, agentní systém může automaticky vyhledat informace o zařízení, zkontrolovat předchozí přihlášení z daného místa, porovnat je s databázemi hrozeb, dospět k závěru, že účet byl kompromitován, a okamžitě jej zablokovat. To vše se může stát dříve, než analytik vůbec otevře tiket.

Tato schopnost autonomního jednání vede k otázce, zda bezpečnostní týmy stále používají AI jako nástroj, nebo zda spíše dohlížejí na kolegu. Nová zpráva od společnosti CertiK se přiklání k druhé možnosti. Jakmile AI agenti začnou přímo operovat v ekonomice – obchodovat s aktivy, spravovat pokladny a interagovat s DeFi protokoly jménem lidí a podniků – stává se jejich role ještě komplexnější.

S rostoucí autonomií AI agentů se objevují i nová bezpečnostní rizika. CertiK upozorňuje, že techniky jako prompt injection (vstřikování příkazů) nebo manipulované vstupy by mohly oklamat agenta, aby schválil podvodnou transakci nebo vypnul legitimní bezpečnostní kontrolu. To podtrhuje potřebu robustních bezpečnostních mechanismů a pečlivého dohledu nad těmito systémy.

Pro firmy to znamená, že musí přehodnotit své strategie kybernetické bezpečnosti. Řízení AI agentů vyžaduje nové přístupy k monitorování, auditování a zajištění, že AI jedná v souladu s firemními politikami a etickými standardy. Investice do pokročilých bezpečnostních řešení a školení personálu se stávají ještě důležitějšími, aby bylo možné plně využít potenciál AI a zároveň minimalizovat rizika.