Microsoft a prezentat Maia 300, noul cip AI pentru Copilot și Teams, cu lansare din 2027

Microsoft a dezvăluit luni Maia 300, următoarea generație a cipurilor sale de inteligență artificială pentru centrele de date Azure. Piesa e făcută în special pentru inferență, adică pentru etapa în care un model deja antrenat răspunde cererilor utilizatorilor. Instalarea în centrele de date începe în 2027. Compania se așteaptă ca hardware-ul să ajute la rularea serviciilor Microsoft 365 Copilot, Teams, Cowork, GitHub Copilot și Foundry.

Ce afirmă compania

Microsoft susține că, la același consum de electricitate, Maia 300 generează cu 40% mai multe tokenuri decât celelalte sisteme de top care folosesc procesoare grafice. Tokenul este unitatea în care un model AI împarte textul. Pentru un rack cu 96 de acceleratoare, firma estimează un debit de până la șapte ori mai mare decât la un rack cu Maia 200, modelul din prezent. Toate aceste cifre vin de la Microsoft; încă nu există teste din utilizarea de zi cu zi care să le confirme.

Ce are în interior

Compania numește designul „inference-first”: accentul cade pe mutarea cât mai rară a datelor între componente. Fiecare cip primește opt module de memorie HBM4, cu o viteză maximă declarată de 18 TB/s, și are o putere termică de 950 W. Partea de calcul, împărțită în mai multe chipleturi separate de cele pentru memorie și pentru comunicații, va fi produsă de TSMC cu tehnologia N2P. În plus, sistemul folosește formate numerice cu precizie scăzută, între care o variantă îmbunătățită a standardului MXFP4, pentru a încăpea mai multe date în aceeași memorie.

Un rack complet adună 96 de acceleratoare, 27,6 TB de memorie HBM și are nevoie de până la 167 kW. Comunicarea dintre cipuri se face prin Ethernet, cu un protocol creat pentru AI, iar structura poate crește de la un rack până la o sală întreagă de servere.

Ce ar putea simți utilizatorii

Microsoft nu a spus ce îmbunătățiri exacte va primi fiecare serviciu. Logica este una economică: dacă același volum de muncă costă mai puțin, compania poate deservi mai mulți utilizatori, ceea ce s-ar putea traduce prin răspunsuri mai rapide și funcții AI mai accesibile.

Maia 300 vine după Maia 200, pe care Microsoft spune că îl folosește deja în producție, inclusiv pentru Microsoft 365 Copilot și pentru modelele propriei echipe de AI. Conform firmei, Maia 200 livrează de până la 1,7 ori mai multe tokenuri pe watt decât infrastructura GPU de vârf în funcțiile AI din Teams, Copilot și Cowork. GitHub Copilot și Foundry urmează să fie mutate pe Maia 200 până la finalul anului.