微软上线 Azure H200 v5 系列 AI 虚拟机：吞吐量提升 35%、HBM 带宽 4.8 TB/s 提高 43%

2024年10月08日 17:43:31 来源：IT之家

　　微软公司于 10 月 2 日发布博文，宣布面向客户和合作伙伴，正式开放 Azure H200 v5 系列虚拟机，帮助企业应对日益繁重的 AI 工作负载需求。

　　微软在博文中表示：“H200 v5 系列虚拟机，通过规模、效率和增强性能等，推动客户和 Microsoft AI 服务(如 Azure 机器学习和 Azure OpenAI 服务)普及和落地”。

　　OpenAI 的基础设施负责人 Trevor Cai 表示，OpenAI 正在利用新的虚拟机系列推动研究和开发，并为用户微调 ChatGPT。

　　Cai 表示：“我们很高兴能够采用 Azure 的新 H200 虚拟机。我们发现 H200 在最小迁移工作下提供了更好的性能，我们期待使用这些虚拟机加速我们的研究，改善 ChatGPT 体验，并推动我们的使命”。

　　Azure H200 v5 系列虚拟机采用微软方案实现“增强效率和性能”，包括 8 个英伟达 H200 Tensor Core GPU，解决了企业用户在计算能力方面捉襟见肘的困境。

　　IT之家援引微软官方新闻稿，Azure H200 v5 系列虚拟机在运行 LLAMA 3.1 405B 模型推理工作负载时，吞吐量提升达 35%。

　　Azure ND H200 v5 系列虚拟机最高提供 141GB HBM，相比较上一代 *** v5 提高了 76%，此外带宽为 4.8 TB/s，提高了 43%。

　　文章内容仅供阅读，不构成投资建议，请谨慎对待。投资者据此操作，风险自担。

即时

企查查APP显示，近日，比亚迪(002594)申请的“雾霾可见度检测方法、装置、设备、车辆及介质”专利获授权。

奥维云网(AVC)推总数据显示，2024年1-9月明火炊具线上零售额94.2亿元，同比增加3.1%，其中抖音渠道表现优异，同比有14%的涨幅，传统电商略有下滑，同比降低2.3%。

“以前都要去窗口办，一套流程下来都要半个月了，现在方便多了!”打开“重庆公积金”微信小程序，按照提示流程提交相关材料，仅几秒钟，重庆市民曾某的账户就打进了21600元。

华硕ProArt创艺27 Pro PA279CRV显示器，凭借其优秀的性能配置和精准的色彩呈现能力，为您的创作工作带来实质性的帮助，双十一期间低至2799元，性价比很高，简直是创作者们的首选。

9月14日，2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。