Microsoft a prezentat Maia 300, cipul său personalizat de inferență AI din a treia generație, și susține că designul acestuia va procesa cu aproximativ 40% mai multe tokenuri per megawatt de putere decât sistemele GPU de top. Compania poziționează Maia 300 drept un accelerator de inferență conceput să devină infrastructura principală pentru produsele și serviciile Microsoft.
Microsoft estimează că Maia 300 va fi implementat în producție în 2027. Într-o declarație, Scott Guthrie, vicepreședinte executiv pentru cloud computing la Microsoft, a afirmat că îmbunătățirile îi vor permite companiei să se bazeze mai mult pe propriile cipuri și să reducă dependența de Nvidia și AMD. Guthrie a adăugat că Microsoft va începe, din 2027, să extindă familia de cipuri Azure Maia la o scară de mai mulți gigawați, astfel încât acestea să poată deveni infrastructura principală de inferență la nivelul întregii companii.
Performanță și rol în stiva Microsoft
Într-o configurație completă cu 96 de acceleratoare, Maia 300 poate crește debitul de procesare a tokenurilor la nivel de rack de până la șapte ori față de Maia 200, cipul generației anterioare, pe care Microsoft l-a introdus abia în ianuarie. Maia 200 este deja folosit pentru o gamă variată de sarcini de lucru Microsoft, inclusiv Microsoft Copilot, GitHub Copilot, Microsoft Foundry și modelele AI proprietare ale companiei. Guthrie a declarat că Maia 200 rămâne cea mai performantă infrastructură de calcul din flota Microsoft, potrivit indicatorilor reali de performanță ai serviciilor AI, în timp ce Maia 300 este proiectat ca un sistem complet pentru sarcinile de lucru AI de generație următoare.
Microsoft descrie Maia 300 drept optimizat pentru sarcini de raționament cu contexte lungi, experiențe conversaționale cu latență redusă și sarcini continue, în mai mulți pași, ale agenților AI. Compania poziționează cipul pentru inferență, nu pentru antrenament.
Arhitectura cipului și fabricație
Maia 300 folosește o arhitectură de tip chiplet, construită pe procesul N2P al TSMC. Microsoft afirmă că designul separă blocurile de calcul, controlerul de memorie și funcțiile de intrare-ieșire, astfel încât o suprafață mai mare de siliciu să poată fi alocată procesării, iar fiecare bloc să poată utiliza o tehnologie adaptată rolului său. Echipa Azure pentru hardware și infrastructură susține că această abordare oferă o eficiență mai mare și permite optimizarea cipului pentru funcții specifice de inferență.
Microsoft semnalează, de asemenea, că Maia 300 va juca un rol important în planurile companiei privind dezvoltarea și implementarea propriilor modele. Mustafa Suleyman, CEO al Microsoft AI, a declarat că firma trebuie să dezvolte toate straturile stivei tehnologice, de la modele până la siliciu, și că, la scara planificată de Microsoft, este necesară o platformă dedicată, co-proiectată cu modelele sale. El a adăugat că rularea modelelor proprietare Microsoft pe Maia reprezintă o prioritate majoră pentru echipă.
Lasă un comentariu
Comentarii
Niciun comentariu încă. Fii primul.