浪潮信息元脑R1推理服务器成功适配SGLang框架，大幅提升并发访问能力

2025年02月27日 10:50:58 来源：Citnews中文科技资讯

　　浪潮信息元脑R1推理服务器现已完成对开源框架SGLang最新版本的深度适配，显著提升了其在高性能运行DeepSeek R1 671B模型时的表现。

　　该服务器能够支持超过1000路用户并发访问，展现出卓越的处理能力。搭载FP8计算引擎的NF5688G7服务器，在部署DeepSeek R1 671B模型时不仅速度快且无精度损失，显存带宽高达4.8TB/s，确保了推理解码阶段的极致加速。

　　此外，GPU P2P带宽达900GB/s，进一步保障了最佳通讯性能，完美契合模型的技术特征。这一进展标志着浪潮信息在高性能计算领域的又一重要突破。

　　文章内容仅供阅读，不构成投资建议，请谨慎对待。投资者据此操作，风险自担。

即时

2024年以前，具身智能还是以学术界为主，是需要长期研发创新的试验田。

奥维云网(AVC)推总数据显示，2024年1-9月明火炊具线上零售额94.2亿元，同比增加3.1%，其中抖音渠道表现优异，同比有14%的涨幅，传统电商略有下滑，同比降低2.3%。

“以前都要去窗口办，一套流程下来都要半个月了，现在方便多了!”打开“重庆公积金”微信小程序，按照提示流程提交相关材料，仅几秒钟，重庆市民曾某的账户就打进了21600元。

华硕ProArt创艺27 Pro PA279CRV显示器，凭借其优秀的性能配置和精准的色彩呈现能力，为您的创作工作带来实质性的帮助，双十一期间低至2799元，性价比很高，简直是创作者们的首选。

9月14日，2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。