Azure Maia 100 un Cobalt 100 ir pirmās Microsoft mikroshēmas, veidotas speciāli priekš mākoņa infrastruktūras.
Baumas ir apstiprinātas: Microsoft ir izveidojuši savu mākslīgā intelekta mikroshēmu. To var izmantot lielu valodas modeļu apmācībai, lai, potenciāli, izvairītos no paļaušanās uz Nvidia. Uzņēmums arī uztaisījis uz ARM (Advanced RISC Machine) balstītu procesoru. Abu mikroshēmu mērķis ir darbināt Azure datu centrus, kā arī sagatavot uzņēmumu un tā klientus nākotnei, kas būs pilna ar MI (mākslīgo intelektu).
Publika ar Microsoft Azure Maia MI mikroshēmu un ARM darbināto Azure Cobalt procesoru tiksies 2024. gadā. Jaunā tehnika tiks izlaista, ņemot vērā augošo pieprasījumu pēc Nvidia H100 videokartes, kas tiek izmantota, lai apmācītu un operētu ģeneratīvos attēlu rīkus un lielos valodas modeļus. Pieprasījums ir tik augsts, ka daži eksemplāri ir pat bijuši apgrozībā par vairāk kā 36 642 EUR eBay vietnē.
“Patiesībā Microsoft ir sena vēsture “silicon” izstrādē,” intervijā ar The Verge skaidro Rani Borkar, Microsoft Azure aparatūras sistēmu un infrastruktūras vadītājs. “Vairāk kā 20 gadus atpakaļ Microsoft sadarbojies “silicon” jautājumā priekš Xbox, un pat kopīgi izstrādājis mikroshēmas virsmas ierīcēm. Šie pūliņi ir balstīti uz tās pieredzes,” piemin Borkar. “2017. gadā, mēs uzsākām mākoņa aparatūras steka dizainu – šis ceļojums nostādīja mūs uz pareizā ceļa, lai veidotu jaunas un pielāgotas mikroshēmas.”
Jaunais Azure Maia MI (mākslīgā intelekta) mikroshēma un Azure Cobalt procesors ir veidoti tikai Microsoft uzņēmuma ietvaros, apvienojot ar mākoņa servera steku, lai panāktu optimālu sniegumu, jaudu un izmaksas. “Fokusējoties uz MI ēru, mēs pārdomājam mākoņa infrastruktūru un optimizējam katru slāni,” pauž Borkar.
Azure Cobalt procesors, nodēvēts pēc zilā pigmenta, ir 128 kodolu mikroshēma, kas būvēta uz ARM Neoverse CSS dizaina un pielāgots Microsoft. Tas ir izveidots, lai nodrošinātu Azure vispārējos mākoņpakalpojumus. “Esam daudz domājuši, lai mēs panāktu ne tikai augstu veiktspēju, bet arī rūpētos par enerģijas pārvaldību,” skaidro Borkar. “Esam veikuši ļoti apzinātas izvēles par dizainu, ieskaitot iespēju kontrolēt sniegumu un enerģijas patēriņu gan uz vienu kodola vienību, gan katrā virtuālajā iekārtā.”
Plānojot virtuālo ierīču pieejamību jau nākamgad, uzņēmums šobrīd testē Cobalt CPU darba slodzēs, pimēram, Microsoft Teams un SQL serverī. Lai gan Brokar neveica tiešus salīdzinājumus ar Amazon Graviton 3 serveriem, vajadzētu būt ievērojamiem snieguma uzlabojumiem, ja salīdzina ar serveriem, ko Microsoft izmanto šobrīd. “Pārbaudes uzrāda, ka sniegums ir līdz pat 40% labāks par mūsu šī brīža datu centriem, kas izmanto komerciālos ARM serverus,” saka Brokar. Microsoft vēl nedalās ar precīzākām detaļām par to.
Maia 100 MI pātrinātājs (accelerator), dēvēts kā koši zilā zvaigzne, ir paredzēts mākoņa MI darba slodzēm, piemēram, lielo valodas modeļu apmācībām. To izmantos dažu no uzņēmuma lielāko MI darbību veikšanai, ieskaitot daļas no vairāku miljardu sadarbības ar OpenAI, kur Microsoft nodrošina visus OpenAI pienākumus. Par dizainu un testēšanas fāzēm, uzņēmums sadarbojas ar OpenAI.
“Mēs bijām priecīgi, kad Microsoft pirmo reizi dalījās ar saviem Maia mikroshēmas dizainiem, un esam strādājuši kopā, lai precizētu un pārbaudītu to ar mūsu modeļiem,” atklāj Sam Altman, OpenAI izpilddirektors.
Ražots uz 5 nanometru TSMC tehnoloģijas, Maia ir 105 miljardi tranzistori – apmēram 30% mazāk kā 153 miljardi, kas atrasti uz MI300X AI GPU. “Maia atbalsta mūsu pirmo 8 bitu datu tipu, MX datu tips, ieviešanu, lai izstrādātu aparatūru un programmatūru,” saka Borkar, “tas mums palīdz atbalstīt ātrāku modeļu apmācību un secinājumu veikšanas laiku.”
Microsoft ir daļa no AMD, Arm, Intel, Meta, Nvidia un Qualcomm ietverošās grupas, kas standartizē MI modeļu datu formātu nākamo paaudzi. Microsoft balstās uz Open Compute Project sadarbību, lai pielāgotu visas sistēmas MI vajadzībām.
“Maia ir pirmais ar šķidrumu dzesējamais servera procesors, ko izveidojis Microsoft,” atklāj Borkar. “Mērķis bija nodrošināt lielāku serveru blīvumu augstākās efektivitātēs. Mēs apzināti pārdomājam katru slāni, tāpēc sistēmas iederēsies mūsu pašreizējā datu centra nospiedumā jeb “footprint”.”
Microsoft ir izveidojis īpašu statīvu, kur mājos Maia serveru plates, papildinot to ar šķidruma dzesētāju, kas atdzesēs Maia mikroshēmas.
Paralēli MX datu tipu koplietošanai, Microsoft arī dalās ar statīvu dizainiem, lai partneri varētu tos izmantot sistēmām ar citu “silicon” iekšā. Maia mikroshēmu dizaini gan netiks izplatīti plašākai publikai. Tie paliks tikai uzņēmuma burbulī.
Maia 100 šobrīd ir testēts uz GPT 3.5 Turbo – modelis, kas darbina ChatGPT, Bing AI darba slodzi un GitHub Copilot. Microsoft vēl ir izvietošanas pirmsākumos, un gluži kā ar Cobalt, vēl nevēlas paust precīzas specifikācijas un snieguma rādītājus.
To, kā Maia pielīdzināsies Nvidia H100 videokartei, H200 vai pat MI300X, ir grūti atšifrēt noslēpumainības dēļ. Borkar nevēlējas veikt salīdzinājumus, tā vietā atkārtojot, ka sadarbības ar Nvidia un AMD priekš Azure MI mākoņa vēljoprojām ir aktuālas. “Mērogā, kādā mākonis darbojas, ir ļoti svarīgi optimizēt un integrēt steka katru slāni, lai sasniegtu maksimālo sniegumu, lai dažādotu piegādes ķēdi un vienkārši, lai sniegtu klientiem infrastruktūras izvēles iespējas,” vēsta Brokar.
Piegādes ķēžu dažādība ir svarīga Microsoft, it īpaši, kad Nvidia ir galvenais MI serveru mikroshēmu ražotājs, un uzņēmumi steidzas tās iegādāties. Prognozes norāda, ka OpenAI vajadzēja vairāk kā 30 000 Nvidia A100 videokartes ChatGPT komercializācijai, tāpēc Microsoft pašu ražotās mikroshēmas varētu sekmēt zemākas MI izmaksas. Uzņēmums ir izveidojis mikroshēmas savām vajadzībām, nevis pārdošanai, kā to dara Nvidia, AMD, Intel un Qualcomm.
“Es šo redzu vairāk kā papildinājumu, nevis sacensību ar viņiem (uzņēmumiem),” uzstāj Borkar. “Šodien mūsu mākoņskaitļošanā ir gan Intel, gan AMD, un gluži kā ar MI, mēs paziņojam par AMD, kur mums Nvidia jau ir šodien. Šie partneri ir ļoti svarīgi mūsu infrastruktūrai, un mēs tiešām vēlamies dot klientiem izvēles iespējas.”
Ja iedziļinās jaunās tehnikas nosaukumos – Maia 100 un Cobalt 100 – var domāt par otro paaudzi. “Šī ir sērija, nevis 100 un viss…,bet mēs nedalīsimies ar saviem plāniem,” saka Brokar. Vēl nav skaidrs, cik bieži Microsoft nāks klajā ar jaunām Maia un Cobalt versijām, bet, ņemot vērā MI ātrumus, nebūs pārsteigums, ja turpinājumu sagaidīsim pēc līdzīga laika perioda kādā atklāja Nvidia H200 , tas ir, apmēram 20 mēneši.
Tagad galvenais būs tas, cik ātri Maia uzsāks darbību, lai paātrinātu MI ambīciju izplatīšanu, kā arī interesanti uzzināt, kāda ietekme šīm mikroshēmām būs uz MI mākoņpakalpojumu izmantošanas cenām. Microsoft vēl nav gatavi runāt par skaitļiem, bet, iespējams, var izteikt minējumus, balstoties uz zināšanām par Microsoft 365 Copilot – 27.49 EUR mēnesī.
Copilot ir pieejams tikai Microsoft lielākajiem klientiem, taču citiem uzņēmumiem jāatskaitās par vismaz 300 lietotājiem, lai iekļūtu MI Office asistenta saņēmēju sarakstā. Kamēr Microsoft turpina strādāt pie vēl vairāk Copilot funkcijām un Bing Chat zīmola maiņas, Maia drīzumā varētu ieviest balansu pieprasījumā pēc MI mikroshēmām.
Avots: TheVerge
