• 首页 > 产经新闻频道 > 科技资讯

    英伟达秀 Blackwell GPU 肌肉:训练 AI 模型速度比 Hopper H100 快 2.2 倍

    2024年11月14日 09:54:13   来源:IT之家

      科技媒体 WccfTech 昨日(11 月 13 日)发布博文,报道称英伟达首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 训练工作负载中的成绩,在训练 Llama 2 70B (Fine-Tuning) 模型时比 Hopper 快 2.2 倍。

      测试简介

      英伟达于今年 8 月,首次公布了 Blackwell GPU 在 MLPerf v4.1 AI 推理方面的基准测试成绩,而今天首次公布了该 GPU 在 MLPerf v4.1 AI 训练工作负载方面的测试成绩。

      NVIDIA 表示,随着新模型的推出,AI 领域对计算的需求正在以指数级增长,因此需要大幅提升训练和推理 AI 的能力,IT之家附上本次训练工作负载主要使用的模型如下:

      Llama 2 70B(LLM 微调)

      Stable Diffusion(文本到图像)

      DLRMv2(推荐系统)

      BERT(自然语言处理)

      RetinaNet(目标检测)

      GPT-3 175B(LLM 预训练)

      R-GAT(图神经网络)

      这些工作负载的基准测试为评估 AI 加速器的训练性能提供了准确的数据支持。

      Hopper GPU 的持续优化

      Hopper GPU 自发布以来,经过持续的软件优化,性能得到了显著提升。*** GPU 在 LLM 预训练性能上比首次提交时快了 1.3 倍,并且在 GPT-3(175B 训练)中实现了 70% 的性能提升。

      英伟达利用 11616 个 *** GPU 进行了 MLPerf 的最大规模提交,进一步证明了其在数据中心级别的强大能力。

      Blackwell 的技术优势

      Blackwell GPU 的设计旨在提高每个 GPU 的计算吞吐量,配备更大更快的高带宽内存,不降低性能的前提下,能够在更少的 GPU 上运行 GPT-3 175B 基准测试。

      根据测试结果,64 张 Blackwell GPU 的测试性能,可以达到 256 张 Hopper GPU 的水平。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    唯品会双11销量前十品牌中有7个国货品牌

    11月11日,据网经社数字零售台(DR.100EC.CN)数据显示,秋冬服饰仍是双11的C位,女士针织衫、女士外套、女士羽绒服等位居服饰消费前列,女士夹克销量同比增长72%,女士棉衣、女士羊毛衫销量同比增长50%以上。男士外套销量同比增长30%以上。

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。