浪潮信息：一群工程师怎么去“炼丹”

　　诞生30多年的服务器产业被认为已相当成熟，但伴随人工智能疾风骤雨般的发展，作为算力的重要承载者，服务器产业的创新并不乏力，也不只局限在半导体上，业界目前还有非常多的问题要沉淀下来研究，尤其是针对基础技术的量化分析。

　　文|赵艳秋

　　编|石兆

　　在不少人看来，已经诞生30多年的服务器产业已相当成熟，几乎就是CPU、内存和硬盘三大件的“组装”，行业的创新焦点也集中在解决CPU处理器、GPU、FPGA、ASIC加速器的半导体问题上。不过，业内人士并不认可这样的说法。

　　服务器产业并不是创新乏力了，创新也不只局限在半导体上。“进入智算时代，服务器在基础架构等方面还有非常多的问题需要沉淀下来研究，找到解决之道。”浪潮信息技术研发部副总经理吴安告诉数智前线，“尤其是针对基础技术的量化分析上，有大量工作要做。”

　　最近，伴随业界全新一代、对多元算力支持最广泛的算力平台G7的推出，一些服务器行业最新的创新动向浮出水面。

　　01

　　一个黑盒子和它的数学模型

　　实际上，最近几年，伴随人工智能疾风骤雨般的发展，服务器行业作为算力的重要承载者，一直在疾行中。全球最先进、最高速率、最大算力的服务器平台，在以最快速度投入到人工智能研发应用上。去年11月底，ChatGPT推出后，更是引爆全网，业界认为这是一个百年不遇、类似工业革命的产业革命。不仅大公司，大量行业公司和中小企业也投身通用大模型或专属大模型，这更是加重了对算力创新的要求。

　　“早年我们觉得一个计算集群有几百张GPU卡已经不错了，但现在我们看到一个集群有数万张GPU卡，这是不可想象的。GPU卡之间的网络连接带宽也在往400G、800G上跑，整个网络的构建极为复杂。”吴安说。人工智能，尤其大模型需要先进算力的支撑。数智前线观察，业界如百度、阿里、网易等，在对外公布大模型时，都会重点谈及计算集群的创新和保障，足见其困难度和关键性。

　　由于这些GPU卡算力庞大，功耗已达到600瓦以上，再往后一张卡的功率可能要到1000瓦以上，这意味着现在一台10千瓦的GPU机器，将来甚至可能达到20千瓦的功率，由此引发的问题和挑战也是前所未见的。

　　其实在ChatGPT问世前的几年，高密度、高功耗的算力，已给产业带来挑战。比如，面对高功耗，一种散热方案是提升服务器的风扇转速。但在2019年前后，业界几乎同时遇到一个问题，就是风扇一旦转起来，服务器硬盘性能就可能下降 ，甚至会掉线，影响了存储密度的提升。一系列实验后，大家最终锁定，由于风扇转速已超过了顶级跑车的发动机转速，达到每分钟2~3万转，风扇声音的能量大到已经影响硬盘了。

　　实际上，汽车在行驶中也有噪音和振动干扰问题，被称为NVH(noise vibration harshness)。整车约有1/3的故障与车辆的NVH有关，但其背后原因很难定位，汽车工程师经常把NVH称为玄学 。

　　在服务器行业，国际开源计算社区OCP组织成员FaceBook(现为Meta公司)、微软、戴尔、浪潮信息、希捷、西部数据，还有类似BOYD的散热风扇等供应商，共同发起了Storage Vibration(存储设备振动)项目，期望制定行业通用的标准并设计检测工具，以期在硬盘容量、功耗、风扇三方博弈中找到新的平衡点。

　　2021年，浪潮信息在OCP大会上，首次分享了在这一领域的突破性工作——分发浪潮信息硬盘敏感度专家模型，找到了声压影响硬盘读写性能的内在机理，提出了数学模型。此前，因为这是一个极为复杂的系统性问题，业界无人用理论和计算揭示其中隐藏的原理和关系。现在，黑盒子被打开了。

　　“这个工作前后历经长达四五年时间，开展了大量分析验证，也有一些灵感的涌现。”浪潮信息结构专家王羽茜告诉数智前线，比如在构建模型过程中，如何去做量纲变化，就是团队“灵光一现想到了一个数学公式”。

　　今年5月，在浪潮信息推出的全新一代服务器平台G7中，为解决NVH难题而开发的专家系统，就是这一平台中诸多创新中的一个。据悉，G7平台支持x86、ARM等8种通用处理器和51种加速芯片，是目前业界算力支持最广泛的平台。

　　“如何去做量化分析，开发整套专家系统，就是我们未来的工作。”王羽茜说，“这样我们就可以去利用它，对算力平台进行极致化设计。”

　　02

　　一群结构工程师四五年的跨界探索

　　这样的量化分析，已经与人工智能密不可分。

　　实际上，在浪潮信息内部，王恩东院士及管理层也在加强包括研发、制造、服务等业务在内的智能化。智能化已成为改进企业生产力和解决问题的重要路径。

　　比如，解决服务器的NVH问题，是一件极为复杂的事。对于普通人来说，并不知道当下服务器已发展到怎样精密的程度——像硬盘磁头的微小结构，甚至要在显微镜下放大1000倍才能看到。一个声音进去后，可能引发一个极微小部件的共振，产生纳米级偏移，都会导致硬盘不能准确读写。而且，服务器内部是一个多物理场，涉及结构场、声场、磁场等。多物理场耦合，加剧了问题的复杂度。

　　“我们在宏观上看到的硬盘性能损失，在微观上可以说是丝丝相扣的。”王羽茜说，这真是牵一发而动全身。在这种情况下，需要用数据构建数学模型，提炼出共性的东西，才能找到问题的解决之道。

　　为此，工程师们先是测量市场上不同硬盘、在不同噪声下的性能损失，构建数学模型。同时，配合专门设计的“硬盘假体”，采集服务器主流机箱内的噪音和振动敏感度数据。这些采集到的机箱频谱，再与硬盘敏感度模型匹配，计算出硬盘内部的共振频率以及由此产生的损失率。

　　“通过数据积累和不停的训练迭代，模型的精度从最早40%，逐步提升到80%、90%。”吴安称，“这样，不需要等机箱开发出来，就能通过这套专家系统预估，主流供应链上的硬盘与机箱的适配度是不是ok，从而可对服务器系统展开多维度、多层次的优化设计。”

　　‍

　　在这个项目中，参与研发的是一群富有经验的结构工程师，但他们面对的是一个跨越流体动力学、声学、结构振动学等多个学科的前沿项目，不仅要寻找底层机理，还要搭建测量数据的软硬件系统，最终要构建人工智能模型，训练迭代完成“炼丹”。

　　在这个过程中，工程师从最传统的研究振动的“正弦波”入手，经历各种实验，最终抛弃传统思路，找到最适合的噪声带宽。而在构建数学模型过程中，王羽茜回忆，他们从最初“一个喇叭，一个麦克风，一部电脑”的简陋实验设备起步，逐步与业界专业公司合作，搭建了高精度声音控制系统，最终才找到声音与硬盘性能之间的精确的数学规律。

　　在G7平台上另一个服务器“听音诊断”的创新中，基于浪潮信息积累的200个小时的服务器声学数据库，以及以往多年的服务器故障信息数据，工程师搭建出风扇故障预测模型。服务器可通过内部麦克风阵列、音频处理芯片，采集系统的多维噪音，然后基于主板上BMC芯片中的风扇故障智能诊断模型进行分析诊断，仅需10秒钟“听音”，就可预警风扇故障状态，精准度达95%。

　　在智能化方向上，浪潮信息于2021年发布了大语言模型源1.0，目前还在不断研发升级中。这是一个开源的大语言模型，除了为中小客户提供大模型平台外，在浪潮信息内部也在落地应用。

　　吴安告诉数智前线，比如在服务方面，浪潮信息基于“源”大模型打造了专家级数据中心智能客服“源晓服”。目前，“源晓服”覆盖浪潮信息8大产品线的服务问题，问题覆盖率达到92%。其中，针对数据中心常见的技术问题，如系统安装、Raid配置、部件异常等问题，“源晓服”的解决率高达80%，可将复杂技术咨询问题的业务处理时长降低65%，提升浪潮信息整体服务效率达160%。

　　03

　　研发体系的变革

　　在服务器行业研发向更深层次的发展中，浪潮信息的研发体系也发生了较大变革。

　　之前很多年是围绕项目，实行烟囱式管理，“来一个项目，开发一个项目”，现在则是平台化开发模式，平台解决共性技术，不仅高效，也保障了质量。针对重要的固件、散热、结构、互联等共性问题，公司成立了约十个能力中心，向下又细分为几十甚至上百个技术方向。

　　值得注意的是，浪潮信息从工程师团队专门剥离成立了架构师团队，主要作用是进行顶层规划。吴安介绍，最近几年，无论大型的机架式服务器，AI服务器，还是边缘服务器，都在强调多元算力融合。为了实现这样的平台系统，需要从逻辑设计、体系架构层面，研究如何充分解耦，“这是一个很难的问题”，其中最重要的是有好的顶层设计。

　　“这样的研发体系，包括系统架构的理念，支撑我们在有限资源、有限时间中，实现业界最丰富的多元融合算力平台。”吴安称。本质上，多元算力融合是一个平台来容纳多元算力。“如果没有一个很好的平台性开发，是无法实现的。”

　　而在这两年中，浪潮信息管理团队又发现，如果把一些预研技术或前瞻技术都放在产品开发团队中，就不能保障投入资源的持续性和稳定性。“一旦有大订单，产品开发的优先级一定是高的。”

　　为了避免顾此失彼，浪潮信息又成立了技术研发部和一个体系结构部，分别负责预研和前沿技术研发。“这就变成了一个异步开发技术体系，既保证了对前瞻技术的洞察和识别，领跑每一个技术方向，又不会影响产品的开发效率。”

　　而上述针对NVH问题的研发和服务器风扇智能听音诊断模型，就出自技术研发部的团队。这些前沿技术完成研发，以合理的性价比投入到G7平台中，为客户提供差异化功能。

　　在研发上，对开放组织的战略投入也被视为关键一环。浪潮信息从投入国内的开放组织ODCC，到担任OCP(开放计算项目)中国区主席，再到成为最新OCTC(开发计算标准工作委员会)的主要创始成员之一，一直采取了开放的技术策略。

　　“基于开放组织，可以获取非常多的合作资源和机会，还可以同业界一起思考和提出未来产业方向，联合孵化项目。”吴安说，“尤其是现在研发越来越向深度和精细化方向发展，这样的开放合作极为关键。”

　　比如，在NVH的研发过程中，OCP开放组织在其中扮演了重要角色。“OCP汇聚了全球相关公司，整个供应链上的专家，我们与他们交换了很多想法，也让我们看到这个事情的价值，驱动我们继续往下走。”王羽茜说。同时，OCP也通过集思广益，统一了硬盘假体——那个能采集噪音和振动的设备，为NVH问题的解决铺路。

　　在浪潮信息实验室平台建设上，也融入了开放合作的思路。它融合了产学研多个领域的专家，聚集了不少产学研结合的资源和方向，像与顶尖高校和研究机构展开合作，尤其在服务器领域，这些合作几乎是独一无二的，浪潮信息团队也因此在“炼丹”过程中获得了更宽视野。