OpenAI varuje před riziky kybernetické bezpečnosti u nového modelu Astra
OpenAI pozastavila vývoj svého nového AI modelu Astra kvůli obavám z jeho potenciálních kritických kybernetických schopností, které by mohly zahrnovat autonomní identifikaci a zneužívání softwarových zranitelností.
Společnost OpenAI oznámila, že nemůže vyloučit, že její připravovaný model umělé inteligence Astra má „kritické“ schopnosti v oblasti kybernetické bezpečnosti. To vedlo k pozastavení části interního vývoje a spuštění bezpečnostních protokolů.
Podle bezpečnostních směrnic OpenAI je model považován za „kritický“, pokud dokáže autonomně identifikovat a zneužívat závažné softwarové zranitelnosti, známé jako zero-day exploity. Také by mohl provádět komplexní kybernetické útoky proti vysoce zabezpečeným cílům bez lidského zásahu.
Tato situace zdůrazňuje rostoucí obavy z potenciálního zneužití pokročilých AI systémů. Vývojáři se snaží vyvážit inovace s nutností zajistit bezpečnost a etické používání těchto technologií.
Rozhodnutí OpenAI pozastavit vývoj ukazuje na jejich závazek k zodpovědnému vývoji AI. Zároveň to poukazuje na složitost a nepředvídatelnost pokročilých AI modelů, které mohou mít nečekané schopnosti.
Týká se:
Tato zpráva se týká širšího odvětví umělé inteligence, včetně firem jako Microsoft (MSFT) a Alphabet (GOOGL), které do AI investují, a ukazuje na rizika spojená s jejím vývojem.