什么是大模型时代的“前店后厂”?
文|周享玥
浪潮云,再次上新了AI落地解法集。
继今年3月浪潮云发布分布式智能云战略,并提出大模型(智能体)落地三部曲(3M)后,在最近的第八届数字中国建设峰会期间,浪潮云举办“有云处皆智能”2025数智赋能创新发展主题会议,提出“前店后厂”新模式,作为3M去进行落地的支撑系统。
浪潮云总经理颜亮介绍,“前店后厂”新模式,核心是要解决智能体训练及推理数据高效、安全落地的问题。
其中,海若大模型智能体验中心作为“前店”,近距离在用户所在地,解决场景匹配与微调问题,构建智能技术与实际需求无缝对接的高效平台;海若大模型工厂作为“后厂”,以流水线模式,支持大模型快速迭代与持续优化。前店、后厂相互配合,共同加速大模型和智能体落地。
01
从“三要素”到“四要素”,大模型落地仍有三大难题
今年以来,随着DeepSeek带来大模型技术的普惠和平权,大模型是能驱动数据这个“新石油”的“引擎”,已经成为共识,大家都在以更大热情投身其中,利用这一引擎,去打造属于自己的车、船、飞机,寻求价值突破。
今年第八届数字中国建设峰会上,来自全国各地的超400家单位,无一例外,都在不遗余力地展示着各自在智能体、高质量数据集打造、可信数据服务等具体的大模型应用落地层面的进展和突破。
随着更大规模的应用探索狂潮的快速兴起和不断演进,一些变化也在悄然发生。
“人工智能落地到了今天这个阶段,‘场景’这个要素必须重视。”在“有云处皆智能”2025数智赋能创新发展主题会议上,浪潮云总经理颜亮提到,场景已成为继算力、算法、数据之后发展智能技术的第四核心要素。
过去,大家更多从大模型的技术发展角度出发,认为人工智能具有三大关键要素,即算力、算法、数据。但这三大要素,实际都属于支撑要素。一项技术,要想真正大规模落地到实际中去产生价值,还需要拉力要素。
目前,业界普遍认为,场景正是具备这样功能的第四大核心要素,也是AI走向产业化、模型落地组织用户的过程中,决定成败的第一要素。
不过,场景仍有不少门槛需要迈过。“2024年,大家已经做了一年的大模型落地尝试,结果发现,场景价值的体现是很困难的,‘玩具’做出来不难,但要把它打造成一辆能在高速上跑的车,很困难。”颜亮说。
根据浪潮云过去几年的实践,场景之外,大模型落地“最后一公里”上目前仍存在着三方面的核心问题:
第一,人工智能价值预期理想化。“大家在聊天场景中感觉效果不错,但这是个很通用的能力,当模型真正场景化落地时,大家对它的预期可能过高。”颜亮说。
这一点也得到了业界认可。多位服务商告诉数智前线,过去两年,他们都遇到过用户对大模型预期过高的情况,需要引导客户找到整个价值链上最痛、最有价值的点。今年,DeepSeek的出现,使得尝鲜门槛大幅降低,大家对于大模型能做什么,有了初步认识,但真正要深入应用,仍需进行更深层次的认知碰撞和价值引导。
第二,数据基础设施不成熟。数据被作为一项生产力要素,建设的周期还较短,仍存在“找不到、供不出、流不动、用不好、风险大”等多重困境。更何况,大模型要应用到行业里,需要的是数据经过炼化后形成的知识。
“数据就好比原油,怎么快速把原油炼化成大模型能用的‘汽油、柴油等成品油’,是决定这一轮人工智能谁能胜出的一个关键能力。”颜亮告诉数智前线。这也是为什么,今年数字中国建设峰会上,可信数据空间成为一大重点议题的原因所在。
第三,组织挑战预估不充分。“很多人还没意识到组织结构将是一个核心挑战。”颜亮表示,这轮AI的一大特点是更具角色扮演的能力,当智能体在组织中扮演了一个岗位角色时,将对现有组织体系形成挑战,它的职责边界是什么?和周围人的关系是什么?谁来管理?犯错误怎么办?生命周期是什么?都是需要重新考虑的问题。
02
大模型落地三部曲
面对组织用户在迈向智能化落地“最后一公里”过程中的种种问题,业界不少厂商都在探索各自的解决之道。
浪潮云也不例外,今年3月,浪潮云首次对外公布了自己根据过去几年的落地经验,总结探索出的一套方法论——人工智能落地三部曲(简称为“3M”)。
第一部曲,即场景匹配。这要求企业和服务商要首先找准高价值场景,更有利于精准突破,提升落地效率。
比如浪潮云打造的12345政务服务热线智能体,最开始同时入手了智能客服、智能坐席、智能处置、智能分析四大场景智能体的建设。但最先实现破局的是“智能坐席智能体”,原先一个坐席一天能处理平均80个工单,在智能体帮助下,截至今年2月,一个坐席能处理的工单数已经达到160个,效率直接翻番。这个点被激活后,其他几个智能体的应用也被加速,相继用到了实际业务中。
“不同场景、不同的组织用户,数据的Ready程度不够,要通过‘试驾’的方式,快速找到能够激活业务落地的起点,减少试错成本,小步快跑,实现从价值感知到业务转化。”颜亮说。目前他们已形成一套支撑和参照体系,帮助用户去选取场景匹配度最高的智能体进行尝试。
第二部曲,则是数据匹配。数据匹配是智能体落地的中轴工程,是智能体从通用走向专属的关键,也是最难的。
提到数据,常见的误区是“我的数据很多,或者数据质量很高”,但脱离场景谈数据数量和质量,没有太大价值,只有明确场景需求,才能激活数据价值。
另外,算法与数据的匹配同样关键,算法是技术壁垒,需要有服务商将场景、数据、算法三者耦合,才能真正实现数据匹配。尤其随着AI从预训练转向后训练,这种匹配将愈发重要。
为此,各家企业都在围绕内部和外部数据构建对应的能力。浪潮云也在通过数据工程和可信数据空间实现数据可信供给及炼化。
第三部曲,即组织匹配。这轮AI的一大特点是更具角色扮演的能力,组织匹配将涉及到流程、组织体系的变更,包括对数字员工的管理。
为此,浪潮云打造了专门的“智能中枢+数智员工”体系,并提出五步法:智能体转化成数字员工时,要明确其岗位职责;嵌入智能中枢;部署数智员工;参与流程环节;接入管理体系。目前,该体系已在上海虹口、济南等其他几个示范城市落地。
03
为什么推出“前店后厂”模式?
三部曲(3M)方法论已经赢得不少组织用户的认可。但具体到落地过程,还是得有一套实打实的支撑系统。
为此,在提出大模型落地三部曲仅一个月后,浪潮云又专门提出了“前店后厂”模式,来对前者形成有力支撑。
“前店后厂”并非新概念,它是一种常见的产销一体化经营模式,在制造业、零售业、手工业领域都有过应用,20世纪后期,曾被广泛用于描述珠三角与港澳地区的经济合作。2013年,AWS进入中国时,也选择了这种模式,将北京作为“前店”、宁夏作为“后厂”,来为中国各个地区的客户提供云服务。
简单来说,这种模式就是将销售、市场、应用开发等放在靠近大城市的“前店”,生产、计算和服务等在能源、资源集聚的“后厂”,形成更加高效协同的产业链条。
不难看出,浪潮云在此时提出大模型时代的“前店后厂”模式,也是为了形成推进大模型和智能体地落地的高效系统和链条,并借此满足组织用户在安全方面的高需求。
其中,海若大模型智能体验中心作为“前店”,提供包含Showcase(展示体验)、Solution(个性化配置)、Service(全栈服务)、Security(安全保障)在内的“4S”服务。
一方面,这些体验中心里,沉淀了浪潮云已经打磨完成的100多款成熟的智能体产品,涉及政务、应急、农业等多个领域,可提供给不同领域的组织用户以“试驾”服务,帮助他们精准锁定高价值场景。
另一方面,这些体验中心将被放置在浪潮云的全国120多个云中心,基于分布式智能云的架构,用户将能通过本地化部署、专属云以及可运营私有云等多种方式,实现灵活算力支持的同时,确保数据不出域。
“目前,海若大模型智能体验中心首批已落地济南、上海、北京等六大城市,今年的目标是年底前落地超100个城市,近距离在用户所在地解决场景匹配与微调问题,构建起智能技术与实际需求无缝对接的高效平台。”颜亮说。
“前店”之外,“后厂”的打造同样重要,包括模型升级、智能体分装等后训练的工作,都需要在后厂去完成。
目前,大模型发展仍在早期,更新迭代频繁,随着技术的不断升级,对应的行业或企业大模型以及智能体也需要进行更新升级。尤其在金融、医疗等知识更新非常快的行业,垂类模型和场景智能体的更新将更为频繁。
“比如医疗领域,对于某种病怎么治,我们去训了个模型,半年后,一旦出了新药或新的治疗方案,这个模型就得改。金融也一样,一旦原来的制度规定更新了,对应的模型和智能体也要做知识调整和更新。”一位行业人士告诉数智前线。
颜亮则认为,大模型训练和智能体的训练,都会流水线化,以此来解决快速改仓问题。
一般情况下,知识库的更新,类似给模型“打补丁”,不需要改动模型本身,在“前店”就可以解决。
而“改仓”,是直接升级模型的“大脑”,比如修改训练数据、调整模型结构等,这种改动不是简单的“换皮肤”,而是动“筋骨”。如果按“小作坊式”路线,每次改仓都要重新实验、调试,不仅成本极高且影响效率,而且很可能因为本地算力和技术不够,造成模型认知问题,需要一个中央“模型工厂”,以流水线模式,集中处理,降低成本,提升效率。
为此,在浪潮云的“前店后厂”模式中,海若大模型工厂将作为“后厂”,依托语料中心、训练中心、评测中心、集成中心这四大中心,实现大模型训练和智能体训练流水线,全面支持大模型快速迭代与持续优化,并通过定制化训练与后续培训推动智能工厂向全产业链延伸。
大模型工厂还兼顾了数据安全问题,在调仓和改仓过程中,如果有不能用用户原始数据的,脱敏即可,数据脱敏不方便的,模型工厂里也建设有专区,来满足用户需求。
文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。
奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。
“以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。
华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。