Microsoft představil systém Maia 300 pro úspornější provoz AI

Microsoft představil Maia 300, třetí generaci vlastního systému určeného hlavně pro inferenci, tedy samotný provoz již natrénovaných modelů umělé inteligence. Produkční nasazení má podle firmy začít v roce 2027. Od stejného roku chce Microsoft rodinu Maia rozšiřovat do instalací s příkonem v řádu několika gigawattů a postupně z ní udělat hlavní systém pro inferenci ve svých produktech a službách.

Novinka není jen samostatný čip. Microsoft ji popisuje jako celek, který spojuje akcelerátory, paměť, síťové propojení, software, napájení a chlazení. Jeden plně osazený stojan má obsahovat 96 akcelerátorů, 27,6 terabajtu paměti HBM a pracovat v příkonovém rámci 167 kilowattů.

Firma očekává, že Maia 300 vytvoří o 40 % více tokenů na megawatt než přední systémy založené na grafických procesorech. Token je malá část textu, se kterou model při generování odpovědi pracuje. V konfiguraci s 96 akcelerátory má systém podle Microsoftu dosáhnout až sedminásobné propustnosti při tvorbě tokenů na úrovni celého stojanu ve srovnání s předchozí generací Maia 200.

Maia 200 už obsluhuje produkční úlohy Microsoftu, včetně služby Microsoft Copilot. Zkušenosti z jejího provozu firma využila při návrhu nové generace pro úlohy s dlouhým kontextem, rychlé konverzační služby a vícekrokové AI agenty.

Uvedené výkonnostní údaje pocházejí přímo od Microsoftu a Maia 300 se teprve chystá do produkčního nasazení. Skutečný přínos proto bude záviset na tom, zda firma plánovaný výkon a energetickou účinnost potvrdí při rozsáhlém provozu. Vlastní čipy mohou Microsoftu pomoci lépe řídit kapacitu a náklady Azure, zároveň však vyžadují rozsáhlé investice do datových center, elektrické energie a chlazení.