Microsoft rozšiřuje ochranu firem před rizikovými AI agenty

Microsoft rozšířil bezpečnostní systém Project Perception tak, aby chránil firmy také před riziky spojenými s jejich vlastními AI agenty. Firma upozorňuje, že agenti mohou mít přístup k datům, nástrojům a důležitým procesům, takže chyba, manipulace nebo příliš široká oprávnění mohou mít podobné následky jako problém u interního uživatele.

Project Perception proto propojuje signály z identity, dat, cloudu, koncových zařízení, sítě a prostředí, ve kterém agent běží. Každému agentovi má přiřadit identitu, oddělený prostor a pravidla přístupu. Z těchto signálů průběžně vyhodnocuje riziko zamýšlené akce.

Součástí systému jsou takzvaní Guardian Agents, tedy ochranní agenti. Ti mají jednotlivé kroky ostatních agentů nepřetržitě sledovat a podle rostoucího rizika omezit jejich možnosti ještě před provedením akce. Systém má zároveň uchovávat záznamy, aby bezpečnostní pracovníci mohli zpětně zjistit, co se stalo a proč ochrana zasáhla.

Pro Microsoft jde o rozšíření Project Perception, který firma představila v červenci pro obranu před útoky využívajícími AI. Nová část se zaměřuje na agenty nasazené uvnitř organizace. Oznámení popisuje funkce a bezpečnostní principy, ale neuvádí cenu, očekávané tržby ani výsledky nezávislého testování účinnosti.