MI5 otevírá centrum pro hrozby AI, OpenAI varuje před incidenty

Britská tajná služba MI5 reaguje na rostoucí obavy z potenciálních hrozeb spojených s umělou inteligencí (AI) zřízením nového Centra pro hodnocení hrozeb AI (AITAC). Oznámil to generální ředitel MI5 Sir Ken McCallum, který zdůraznil, že lidská historie nemá zkušenosti s čelním střetem s aktérem, který je chytřejší než my a je schopen nás přechytračit. Toto prohlášení zaznělo během jeho výroční zprávy o hrozbách v londýnském sídle MI5.

AITAC bude fungovat v rámci MI5 a bude čerpat odborníky z AI Security Institute, National Crime Agency a National Cyber Security Centre. Jeho hlavním úkolem bude "oddělit bluf od reality" v oblasti AI hrozeb. McCallum také uvedl, že MI5 nyní věnuje více zdrojů boji proti státním hrozbám než během studené války, přičemž počet případů státních hrozeb se za poslední desetiletí zčtyřnásobil. Národní odolnost, kterou MI5 nazývá "Protect", se stala třetí hlavní misí vedle terorismu a státních hrozeb.

Oznámení McCallumova projevu se shodovalo s slyšením v Dolní sněmovně, kde byli dotazováni vedoucí pracovníci společností OpenAI, Anthropic, Google DeepMind a Meta. Dr. Filippa Lentzos z King's College London pro Guardian uvedla, že bezprostřednější obavy se týkají dobře financovaných skupin a států, které by mohly AI zneužít. Profesor Tom Inglesby z Johns Hopkins Center for Health Security dodal, že žádná země zatím nemá formální politiku proti tomuto druhu zneužití.

Zástupci OpenAI na slyšení uvedli, že nemohou vyloučit další incidenty spojené s AI. To podtrhuje naléhavost situace a potřebu proaktivního přístupu k řízení rizik spojených s rychle se vyvíjející technologií. Rychlý pokrok v AI přináší obrovské příležitosti, ale zároveň i nová a komplexní rizika, která vyžadují pečlivou pozornost a mezinárodní spolupráci.

Pro technologické společnosti, které vyvíjejí AI, to znamená zvýšený tlak na zodpovědný vývoj a implementaci bezpečnostních opatření. Vlády a regulační orgány budou pravděpodobně zvyšovat dohled a požadovat větší transparentnost a odpovědnost. To může mít dopad na náklady na výzkum a vývoj, stejně jako na rychlost uvádění nových produktů na trh.

Investoři by měli brát v úvahu, že rostoucí regulace a bezpečnostní obavy mohou ovlivnit budoucí růst a ziskovost firem v AI sektoru. I když je potenciál AI obrovský, rizika spojená s jejím zneužitím a nutnost zajistit její bezpečnost budou hrát stále důležitější roli v hodnocení investičních příležitostí.