• 首页 > 云计算频道 > 大模型

    DeepSeek掀起低成本革命,这个国产大模型怎么兼顾高精度、低能耗?

    2025年02月14日 11:22:45   来源:光锥智能

      2025年开年,DeepSeek在国内外大模型行业掀起了地震。除了深度推理模型DeepSeek-R1在回答问题上的表现优异之外,DeepSeek的存在,给国内大模型圈注入了紧张又鲜活的空气。

      其一,凭借技术优势,DeepSeek一举进入国际大模型头部梯队,这给国内大模型公司看到了弯道超车的可能性。

      其二,DeepSeek的训练成果,打破了算力受限的问题,证明通过算法优化,同样可以以低算力训练出高质量的模型。

      当算力“卡脖子”的隐忧被放下,兼顾能耗和精度的大模型应该解决哪些问题?在这个层面上,国内大模型公司纷纷交出了各自的答卷。

      最近,由中国科学院自动化所孵化的AI企业中科闻歌发布的雅意大模型旗舰版——YAYI-Ultra在破解大模型落地"精度-能耗"困局前给出了自己的答案。

      作为覆盖全球100+模型的权威评测体系,OpenCompass榜单历来是观察大模型技术路线的"晴雨表",在其近日发布的OpenCompass大模型公开学术榜单中,中科闻歌YAYI-Ultra,以64.5分首次闯入前十,成为TOP10中五个中国大模型之一。

      在OpenCompass最新大语言模型公开学术实时榜单中,YAYI-Ultra排名综合得分64.5,排名第十,其中:

      代码生成:LiveCodeBench排名第五,表现优于GPT-4o-20241120版本

      复杂指令理解:IFEval排名第九

      知识推理能力:MMLU-Pro排名第九

      在侧重中文理解的C-Eval评测中,YAYI-Ultra在允许自主验证的公开访问榜单位列第二,展现了在中文场景下的技术优势。

      一手实测:超长文输出复杂任务规划精准拿捏

      根据官方信息,YAYI-Ultra在图表理解、复杂任务、长文理解与生成方面表现突出,我们立马上手从六个维度(多模态图表深度理解、复杂图像理解、复杂任务智能规划(Function Call)、数据统计分析及超长文本理解与生成)实测下YAYI-Ultra表现到底如何。

      01 视觉理解再升级:懂语言,更懂图表

      上来我们先来读个图表试试。

      prompt:2000年前后,哪个价格区间的物业费占比变化最多?

      YAYI-Ultra可以准确识别柱状图中的不同颜色和数字,充分理解图表并给出回答。

      除了中文场景外,在多语言场景中,YAYI-Ultra也能够准确理解并遵循用户指令,提供跨语言的精准回复。

      prompt:How did the distribution of agriculture-related employment change between 2012 and 2022? Did it increase or decrease, and by what percentage or amount? Answer in Chinese。

      可以看到,在视觉理解方面,针对跨语言多模态对齐、多图推理、可变分辨率等技术难点,YAYI-Ultra全面升级,增强了模型在跨语言图表理解、多图表问答、多模态指令遵循等方面的能力,不仅能轻松应对堆积条形图、散点图、混合图表等复杂图表场景,在图表重绘、图表转换等任务上也表现突出。

      02 表格智解:万千表格不在话下

      在工作中,复杂报告统计费时又费力,我们“喂”给YAYI-Ultra一张包含行业普通报告、行业深度报告、公司普通报告三种类型交替出现的表格,YAYI-Ultra准确统计出不同类型报告的数量。

      prompt:每种报告类型的数量是多少?

      当涉及不规则表格时,YAYI-Ultra依然能够精准解析并提取关键数据。以下表格包含总分结构及复杂数据表述,YAYI-Ultra能够准确理解表格中的模型类型、方法及局部性指标变化数值,并完成对比分析。

      prompt:哪个基座模型使用IKE方法后局部性下降最多?

      在统计数据理解方面,可以看出YAYI-Ultra重点增强了表格问答中复杂排版理解、跨语言问答等能力。

      从金融报告、学术论文,到包含嵌套结构的复杂表格,YAYI-Ultra都能精准定位信息、理解用户意图;同时,模型也能够在跨语言表格问答场景中,提供高效、清晰的解答。

      03 Function Call:复杂任务智能规划

      继续上难度,我们让YAYI-Ultra绘制一下去年奥运会中国队金、银、铜奖牌数量折线图(随时间变化)。

      首先可以看到,YAYI-Ultra准确理解了用户意图,确定“去年奥运会”指的是巴黎奥运会,并制定出详细的任务规划;接下来,模型通过搜索引擎获取巴黎奥运会中国队金、银、铜牌相关数据(包括91枚奖牌的类型及获得时间);再将这些奖牌数据进行梳理,归类分组、按时排序,并生成代码,通过调用代码解释器,完成折线图绘制。

      YAYI-Ultra之所以能够完成这一系列的复杂任务拆解与规划,离不开其增加的工具调用能力,主要包含搜索引擎、代码解释器、图像解析、天气等基础工具;新闻热榜追踪、传播影响力分析等特色垂直领域工具。

      模型显著增强了在多工具串行调用场景下的规划合理性,同时提升了复杂搜索场景下的信息收集能力。

      04 多模态输出:图文并茂,直观简洁

      在文献阅读或者信息收集过程中,我们通常需要从多篇文档中查找、分析特定信息(如数值变化、实验结果等),现在一句话就能找到想要的内容,并且YAYI-Ultra在文字分析描述的基础上,可同步给出对应的图片内容。

      比如,提问:The percentage of different behaviors under different collaborative strategies

      YAYI-Ultra根据问题,从用户构建的“人工智能论文知识库”中识别相关的多篇人工智能论文,并据此进行回答。答案中不仅有文字,还在对应的引用位置给出了原始图片,大大提升了阅读体验及答案可靠性。

      05 全栈长文:吞吐万言,下笔如神

      最让人眼前一亮的要属超长文输出,YAYI-Ultra支持最长20万字输入和10万字超长输出,形成从“输入理解”到“内容创作”的全链路长文本能力闭环。

      YAYI-Ultra支持联网智能创作与文献锚定创作双模式,并将长文写作任务拆解为更小、更可控的子任务(先生成大纲,再根据大纲生成全文),这样有效保证了文本结构,提升长文生成质量。

      ● 联网智能创作:联网收集信息完成创作

      prompt:写一篇30000字的中国儒家文化发展历史分析报告

      ● 文献锚定创作:划定知识边界精准写作

      prompt:请根据参考资料写一篇长文,写作的主题是“通用人工智能解决方案:创新与效率的完美结合”

      06 数据分析:精准求解,可视交互

      最后,我们也针对基础的数据分析和可视化图表绘制进行了实测,YAYI-Ultra准确完成分析、计算和图表绘制任务。

      prompt:根据表格,计算人均月收入,然后计算月收入与人均月收入的差值,绘制一个柱形图,横轴是名字,纵轴是差值,标题是“每人收入与平均值差距”。

      YAYI-Ultra根据用户要求,通过Python of Thought(POT)能力,生成Python代码并执行,精准完成了统计推断、矩阵运算、数值优化等数值密集型任务。

      从“大水漫灌”到“精准匹配”,YAYI-Ultra用灵活专家配置突破大模型落地瓶颈

      当前,AI大模型落地正面临“能力-成本”剪刀差扩大的关键节点。

      据IDC最新报告显示,企业在AI大模型落地过程中,面临模型精度不能完全满足业务需求的问题;同时,92%的企业认为在大模型工程化落地阶段,缺少算力资源是最大的挑战。

      中科闻歌雅意技术团队透露,YAYI-Ultra是以多领域能力为特色的混合专家模型,为了提升在不同领域专业任务上的表现,采用灵活的专家配置模式,支持数学、代码、金融、舆情、中医、安全等多种领域专家组合,能显著缓解稠密模型在垂直领域迁移过程中普遍存在的“跷跷板”现象,可针对不同领域需求,为行业提供"高精度、低能耗"的智能化解决方案。

      譬如,在媒体领域,中科闻歌推出红旗3.0融媒体智能平台,基于YAYI能力,帮助客户将内容创作时间缩短30%-50%,内容发布频率提升了20%-40%,某客户在引入自动化审核能力后,内容差错率从5%降至0.5%左右,目前已广泛应用于新华社、央视、中国日报等头部媒体。

      在医疗领域,基于YAYI的大医金匮中医大模型,可精准诊断500余种常见病症,为患者提供个性化的治疗方案,经临床专家测评辨证推理准确率高达90%,在中医师资格考试模拟测试中表现优异,准确率超过94%,并面向C端用户推出了“大医金匮”中医健康管理APP。

      在财税领域,基于YAYI的财税知识大模型,经专项测评,模型回答准确率90.1%,高于其他同类型模型,在接入大模型后,客户实现24小时不间断的咨询服务,使得用户减少排队时间约50%,用户满意度提升超过30%。

      当前,YAYI-Ultra(yayi.wenge.com)已在官网开放数据分析、知识库文献解析、超长文写作功能体验,感兴趣的小伙伴也可以登录试用。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。