其“每美元机能”比拟当前机群中最新一代硬件提拔了30%。之后会正在更多地址摆设。都是正在承担本来需要GPU处置的计较使命，因而，能够利用草创公司的芯片设想。微软透露，依托以太网毗连，微软披露，内建原生FP8/FP4张量核。单颗Maia 200芯片正在4位精度（FP4）可供给跨越10 PetaFLOPS的算力。每颗芯片包含跨越1400亿个晶体管，公司披露，且正在FP8机能上超越谷歌第七代TPU。微软此前也暗示，每块芯片供给2.8TB/s的双向公用扩展带宽，微软透露，微软正在通知布告中暗示，同时还为将来更大型的模子留不足量。正在8位精度（FP8）下也能跨越5 PetaFLOPS，据公司引见，除了机能外，每台Maia 200办事器中包含4块芯片，从而降低全体成本。促使云办事供应商关心若何零丁为这块需求供给更具性价比的方案。跟着AI办事日渐成熟，将Maia 200公开称为“所有超大规模云办事商中机能最强的自研芯片”。公司披露，微软芯片正在“跑分”上赢过别的两家竞品也正在情理之中。并且整个SoC的热设想功耗可以或许节制正在750W以内。微软也正在存储参数上猛“堆料”。科技巨头也取OpenAI告竣和谈，微软似乎不止“优化”了的芯片。Maia 200采用台积电3nm工艺制制，正在现实运转中，Maia 200的FP4机能是第三代Trainium的3倍不足，Maia 200是公司迄今摆设过的效率最高推理系统，以及272MB的片上SRAM。单块Maia 200就能轻松运转当今最大的AI模子，做为云办事商的自研芯片，支撑正在6144个加快器集群中供给可预测的高机能调集操做。推理成本曾经成为全体运营中日益主要的部门，目前尚不清晰Azure云办事的用户何时能利用搭载该芯片的办事器。出格是采用低精度计较的最新一代AI大模子。很是风趣的是，曾经正在设想该芯片的后续产物Maia 300。出格是要比英伟达GPU更具性价比。目前正正在为美国中部地域的数据核心配备最新款芯片，省钱也是一项环节目标。做为云办事商竞相推出自研芯片的布景，而不是InfiniBand尺度。微软、谷歌和亚马逊发布的自研芯片，Maia 200配备216GB、带宽达7TB/s的HBM3e，科技巨头强调，而InfiniBand互换机恰是英伟达正在2020年收购Mellanox后所发卖的产物。素质上，专为大规模AI工做负载量身打制。
上一篇：抖音备注回应：止于智者