寒武纪优化产品在AIGC及大语言模型领域的性能

　　近日，寒武纪在投资者互动平台表示：公司基于云端产品的优势，针对最近兴起的大模型领域，优化了寒武纪产品在AIGC及大语言模型领域的性能，并与多个行业客户及ISV推动了技术和产品合作。

　　据寒武纪2023年半年度报告显示，寒武纪迄今已自主研发了五代智能处理器微架构、五代商用智能处理器指令集。报告期内，第六代智能处理器微架构和指令集正在研发中。新一代智能处理器微架构及指令集将对自然语言处理大模型和推荐系统的训练推理等场景进行重点优化，将在编程灵活性、能效、功耗、面积等方面提升产品竞争力。同时，报告期内，寒武纪的基础系统软件平台相比前期版本也进行了优化和迭代。其中，推理软件平台在模型性能优化、大模型和 AIGC 推理业务支持、推理性能优化等重点方面均实现了突破和进展。训练软件平台在通用性、性能等方面取得了优化，在大模型和 AIGC 训练领域、推荐系统等 重点领域实现了改进和迭代。基础系统软件平台的不断改进和发展，将促进寒武纪硬件产品更好的业务落地。

　　寒武纪自成立以来一直专注于人工智能芯片产品的研发与技术创新，致力于打造人工智能领域的核心处理器芯片，让机器更好地理解和服务人类。寒武纪的主营业务是各类云服务器、边缘计算设备、终端设备中人工智能核心芯片的研发、设计和销售，主要产品为云端智能芯片及加速卡、训练整机、边缘智能芯片及加速卡、终端智能处理器 IP 以及上述产品的配套软件开发平台。

　　目前，寒武纪的主要产品线包括云端产品线、边缘产品线、IP 授权及软件。

　　首先，寒武纪的云端产品线目前包括云端智能芯片、加速卡及训练整机。其中，云端智能芯片及加速卡是云服务器、数据中心等进行人工智能处理的核心器件，其主要作用是为云计算和数据中心场景下的人工智能应用程序提供高计算密度、高能效的硬件计算资源，支撑该类场景下复杂度和数据吞吐量高速增长的人工智能处理任务。

　　而寒武纪的训练整机是由寒武纪自研云端智能芯片及加速卡提供核心计算能力，且整机亦由公司自研的训练服务器产品。寒武纪的训练整机产品与智能计算集群系统业务的区别在于训练整机主要提供计算集群中的单体训练服务器，而不提供全集群搭建服务，主要面向有一定技术基础的商业客户群体。

　　其次，边缘计算是近年来兴起的一种新型计算范式，在终端和云端之间的设备上配备适度的计算能力，一方面可有效弥补终端设备计算能力不足的劣势，另一方面可缓解云计算场景下数据隐私、带宽与延时等潜在问题。边缘计算范式和人工智能技术的结合将推动智能制造、智能零售、智能教育、智能家居、智能电网等众多领域的高速发展。

　　再次，寒武纪的 IP授权及软件包括 IP 授权和基础系统软件平台。IP 授权是将公司研发的智能处理器 IP 等知识产权授权给客户在其产品中使用。基础系统软件平台是寒武纪为云边端全系列智能芯片与处理器产品提供统一的平台级基础系统软件(包含软件开发工具链等)，打破了不同场景之间的软件开发壁垒，兼具灵活性和可扩展性的优势，无须繁琐的移植即可让同一人工智能应用程序便捷高效地运行在寒武纪云边端系列化芯片与处理器产品之上。