大模型落地元年，讯飞星火如何率先实现商业化落地？

　　市场已经达成了充分共识，大模型必须深入落地到具体应用之中才能发挥优势。去年至今，各式各样的通用及行业大模型层出不穷——仅在国内备案通过的大模型就达117款之多。

　　群雄逐鹿之后，大模型开始真正进入商业化落地元年，国内几家头部科技公司纷纷开始加快大模型落地应用布局，在金融、汽车、运营商、政务等多个领域率先开始实践。

　　“百模大战”之后，谁将在商业化落地过程中脱颖而出?大模型商业化元年，又该如何加速落地?如何才能完成商业化与技术迭代的闭环?

　　行业场景复杂，大模型需要更灵活的落地方式

　　过去一年多来，国内科技公司在大模型上的追赶进步飞快。模型能力不断提升，参数规模也越来越大。仅在去年10月，我国10亿参数规模以上的大模型产品就已超200家，今年更是不断有千亿乃至万亿规模的大模型问世。

　　但在模型能力不断提升的同时，大模型的商业化落地应用却迟迟未能更进一步。比如面向C端市场，大模型产品的普遍商业模式是会员制订阅服务，但仅凭单一的订阅服务很难平衡大模型的运算成本。此前就有外媒报道称微软的 Github Copilot仍处在亏损之中。

　　一些面向B端的大模型产业则面临着模型能力和算力成本的双重困境。一些大模型产品适用性不强，无法解决特定行业的复杂任务。算力成本也在制约着企业客户转向大模型的决心，部分企业开始尝试使用开源模型，但却带来了隐私和数据安全的风险。

　　和过去面向C端的通用大模型不同，不同行业、不同场景对大模型的需求不同，很难以一套固定的准则来将大模型简单粗暴地嫁接到不同应用场景之下。大模型必须需要具备高度的可定制化和较强的适应性，才能在各种复杂场景中落地。

　　但这并不容易。比如大模型能力与成本问题。模型参数越大，精度越高，但与之对应的是算力成本高涨。一些声音认为应该尽可能将模型做小，用更低的成本、更快的运行效率来推动行业落地，但模型的适用性和准确率却会大打折扣。

　　科大讯飞旗下的讯飞星火大模型试图从技术手段上平衡模型能力与算力成本，在保证模型能力性能不变或者损失很小的情况下，可以将模型尽可能做小。大模型应该像一根如意金箍棒一样，可大可小，这样才能满足不同应用场景下的需要。

　　以最近大热的长文本能力为例。为了解决大模型的应用效率和准确率问题，科大讯飞对讯飞星火V3.5进行了重要的模型剪枝和蒸馏，从而推出了业界性能最优的130亿参数的大模型，在效果损失仅3%以内的情况下，使得星火在文档上传解析处理、知识问答的首响时间以及文字生成方面都获得了效率提升。

　　这种灵活性不仅体现在模型大小上。针对不同落地场景的复杂需求，科大讯飞在过去一年的落地实践中形成了一套“云边端”的整体解决方案，以云边端联动的方式加速推动大模型在各行业领域的落地。

　　简单来说，就是指讯飞星火在云端、边侧以及端侧等三种不同场景均实现落地部署，但在具体应用中，三个环节同时还能互相打通，灵活运用。

　　云端指的是科大讯飞“1+N”大模型战略，即1个讯飞星火通用大模型底座和多个行业大模型。讯飞星火V3.5的数学、语言理解、语音交互能力已超过GPT-4 Turbo;长文本方面，讯飞星火的通用长文本能力总体已达到GPT-4 Turbo，且在多个垂直领域的知识问答任务上，星火大模型长文本总体水平已超过GPT-4 Turbo。

　　面向大模型应用开发者，讯飞星火还提供一站式大模型应用开发、调试和效果闭环优化工具平台，今年1月以来，讯飞星火开发者团队新增超55万，平台开发者数量已达超647万。

　　边侧，科大讯飞联合华为打造了讯飞星火一体机，可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制优化模式，以及超过10种的即开即用的丰富场景包，同时还提供3种模型尺寸供用户选择，让企业用户可以更方便自助且安全可控地部署私有化大模型。

　　端侧指的是讯飞星火在各个硬件产品上的落地，包括科大讯飞的自有硬件产品以及汽车、家电、运营商等多个行业的落地。在端云协同的大模型框架下，用户可灵活部署大模型能力，一些涉及敏感隐私、本地设备算力能满完成的任务可全部在本地模型处理，但更复杂的任务则可以交由云端处理，以满足不同场景应用在用户隐私、成本以及交互效率上的要求。

　　商业化落地元年，云边端协同加速落地应用

　　灵活的大模型应用方案只是基础，在大模型赋能千行百业的过程中，更底层的还是模型本身能力的优劣。

　　数据、算力、算法是衡量大模型能力的三个关键要素。以数据为例，在特定行业场景中，训练数据集的丰富程度、语料库的质量高低直接影响大模型对行业的理解能力。讯飞星火此前推出多个行业大模型时，就采用与行业龙头企业合作共建形式，在金融、汽车、运营商、工业、住建等领域展开深入合作，力求真正理解、解决行业的需求与痛点。

　　在算力上，科大讯飞联合华为推出了首个全国产算力的超大规模算力平台“飞星一号”，讯飞星火V3.5是首个基于全国产算力训练的大模型产品。

　　这些因素共同奠定了讯飞星火V3.5国际领先的模型能力，结合科大讯飞的云边端整体解决方案，讯飞星火在B端、C端落地应用全面开花。

　　比如在通信领域，科大讯飞与运营商合作研发了运营商大模型，为运营商提供一体化的智能通话解决方案。在此基础上，他们还与中国移动联合研发了5G新通话“商务速记”产品，帮助商务人士实现工作电话的方便转写和摘要。

　　端云协同的灵活布局，也让大模型在汽车、家电等行业实现快速落地应用。

　　在家电领域，接入讯飞星火大模型能力的家电行业也正焕发出新的活力。如科大讯飞和海尔共同打造的家电领域大模型，在智能控制、食谱定制、智能客服等领域率先落地大模型应用场景，让家电变得真正“更懂人心”。三星的电视语音助手同样结合讯飞星火大模型能力，实现了AI智能问答和智能搜索。

　　在智能汽车领域，科大讯飞推出了全栈自研“讯飞星火+座舱”整体解决方案，目前已在奇瑞、广汽、长城等众多车企的多个车型中落地。科大讯飞在语音、翻译上的技术优势也延续到汽车领域，讯飞座舱支持23种不同语言，覆盖多家车企的海外车型项目。中国汽车出海十强企业中，有8家车企都选择与科大讯飞合作。

　　奇瑞汽车最新推出的高端智能SUV星纪元ET上，就搭载了科大讯飞与奇瑞联合打造的 Lion AI 大模型和 Lion Melody 沉浸移动音乐厅。奇瑞控股集团党委书记、董事长尹同跃对媒体表示，“高度智能化是现在中国汽车在全球最鲜明的形象标签，也是攻占中国乃至全球市场的核心‘利器’之一。”

　　科大讯飞的自有硬件产品也在大模型的加持下实现显著提升。搭载讯飞星火的讯飞智能办公本、讯飞听见、讯飞智能录音笔以及讯飞AI学习机等销量不断攀升。科大讯飞发布的2023年年报中，消费者硬件GMV同比增长84%，平台消费者业务已经成为科大讯飞的第一大业务。

　　讯飞星火APP在C端市场同样广受欢迎。据七麦数据显示，截至今年4月，讯飞星火APP在安卓端的下载量已经超过9600万次，在国内工具类通用大模型APP中排名第一，用户规模稳居行业第一阵营。

　　民生证券发布的行业调研报告中称，2024年或是AI应用的真正元年，AI算力国产化、AI终端产品等方向将孕育出重要机遇，人工智能开始从供给侧正式进入应用侧的拐点。

　　作为大模型商业化的元年，国产大模型正在以更快速的技术迭代与更灵活的落地应用不断推动生产力的变革。2024年，我们或许将会看到更多的智能化应用出现在工作与生活之中，AI变革的序幕正缓缓拉开。