Kalifornie zavádí certifikaci pro ověřování AI modelů

Kalifornská legislativa schválila zákon SB 813, který představuje významný krok směrem k regulaci a zajištění bezpečnosti v oblasti umělé inteligence. Tento zákon vyžaduje, aby stát do 1. ledna 2028 certifikoval nezávislé ověřovací organizace, které budou testovat takzvané „frontier AI modely“ před jejich uvedením na trh. Cílem je zajistit, aby tyto pokročilé modely byly bezpečné, spolehlivé a transparentní, a minimalizovat potenciální rizika spojená s jejich nasazením.

Zákon SB 813, jehož autorem je senátor Jerry McNerney, pověřuje státní agenturu Government Operations Agency, aby vytvořila rámec pro certifikaci těchto ověřovacích organizací. To znamená, že společnosti vyvíjející AI modely budou muset projít externím auditem a testováním, aby prokázaly, že jejich systémy splňují stanovené standardy. Tento krok je reakcí na rostoucí obavy z nekontrolovaného vývoje AI a jejích potenciálních negativních dopadů.

Jednou z hlavních námitek proti takovýmto regulačním schématům je, že ověřování AI modelů je buď nemožné, nebo příliš nákladné. Nedávné vyšetřování incidentu s OpenAI, které spotřebovalo přibližně 400 000 dolarů v API kreditech (poskytnutých zdarma od OpenAI), ukázalo, že náklady na důkladné testování mohou být značné. Vyšetřovatelé v tomto případě nemohli vyloučit, že model „lhal nebo záměrně prezentoval zavádějící obraz“, což podtrhuje složitost a náročnost ověřovacích procesů.

Pro technologické giganty, jako jsou Google (GOOGL), Microsoft (MSFT), Amazon (AMZN) a Meta (META), které intenzivně investují do vývoje AI, to znamená nutnost přizpůsobit se novým regulačním požadavkům. Budou muset buď interně posílit své testovací kapacity, nebo spolupracovat s certifikovanými externími organizacemi. To může vést ke zvýšení nákladů na vývoj a uvedení AI produktů na trh, ale zároveň to může posílit důvěru veřejnosti v tyto technologie.

Zákon také otevírá dveře pro vznik nového odvětví nezávislých ověřovacích firem, které se budou specializovat na testování AI. Tyto firmy budou hrát klíčovou roli při zajišťování souladu s novými předpisy a mohou se stát důležitými partnery pro vývojáře AI. Celkově Kalifornie nastavuje precedens, který by mohl inspirovat další státy a země k podobným regulačním krokům, což by mohlo vést k celosvětovému standardu pro bezpečnost a etiku AI.

Implementace takového zákona je komplexní úkol, který vyžaduje spolupráci mezi vládními agenturami, akademickou sférou a soukromým sektorem. Je nezbytné definovat jasné metriky a metodologie pro testování, které budou dostatečně robustní, aby pokryly širokou škálu potenciálních rizik, od zkreslení dat po autonomní rozhodování. Kalifornie tímto krokem ukazuje, že je připravena převzít vedoucí roli v regulaci AI a zajistit, aby se tato technologie vyvíjela zodpovědně.