• 首页 > 云计算频道 > 大模型

    AI PC挂羊头卖狗肉?大模型困于硬件瓶颈,成熟还需两三年

    2025年05月13日 18:02:26   来源:雷科技

      AI PC也成了「智商税」?

      自从ChatGPT在全球范围内引发AI风暴后,各类设备迅速与AI融合,并将AI作为产品的重要卖点,例如汽车、手机、空调、电视、洗衣机,以及本文的主角PC。

      能够提高办公和学习效率,以及生活便捷度的AI,天生与PC、手机等设备契合,PC厂商们纷纷推出了搭载NPU(神经网络处理器)的AI PC,而且产品的命名或商品标签还会加上醒目的「AI」字样,就连Apple产品京东自营旗舰店的MacBook,也特地打上了「AI笔记本」的标签。

    苹果.png

      (图源:京东截图)

      然而在AI PC快速普及的今天,依然有许多消费者认为,AI PC只是智商税,是厂商忽悠消费者更换PC的噱头。对此,联想中国消费PC及平板事业部总经理李伟昌坦言,部分厂商以搭载NPU为卖点,但很多消费者购买了AI PC后,却发现没什么可用的AI功能,没有得到效率提升。

      难道说,AI PC真的是智商税?

      部分AI PC挂羊头卖狗肉?

      对于AI PC,联想给出的定义是具备内嵌个人大模型、内嵌个人知识库、本地异构AI算力(CPU/GPU/NPU)、开放的AI应用生态,以及保障个人隐私和数据安全五大特征,但目前PC厂商们的产品大多只能满足本地异构AI算力一个特征。

      AI PC的重点在于部署和运行端侧AI大模型,可以将隐私数据留在本地设备,并且根据用户的习惯训练大模型,做到更了解用户、更符合用户的喜好和习惯。

      常见的PC产品一般运行Windows,若无深度定制,会缺乏AI功能。安装豆包、Kimi等云侧AI应用后,AI PC又与普通PC凸显不出差别。为PC定制AI功能成本不低,纵观国内PC市场,在AI功能方面做得较好的PC厂商,可能只有华为和联想。

    ZjMmS3mEcYAv7gq2ZtG4q1FjL-2929.jpg

      (图源:联想)

      PC本身的硬件配置,也限制了端侧大模型的部署,以DeepSeek-R1模型为例,7B/8B参数模型需要16GB及以上内存。李伟昌表示,当前主流PC依然搭载16GB内存,运行7B参数模型可能会影响设备的流畅度。内存容量达到32GB时,运行7B模型才会较为流畅,同时避免影响用户在大模型推理过程中使用其他应用。

      更关键的是,即便PC内存达到32GB,可本地运行AI大模型,依然未必能够带给用户很好的体验。小雷找到了2024年全国高考Ⅰ卷的一道数学题,做了一个简单的测试,题目为:

      甲、乙两人各有四张卡片,每张卡片上标有一个数字,甲的卡片上分别标有数字1,3,5,7,乙的卡片上分别标有数字2,4,6,8,两人进行四轮比赛,在每轮比赛中,两人各自从自己持有的卡片中随机选一张,并比较所选卡片上数字的大小,数字大的人得1分,数字小的人得0分,然后各自弃置此轮所选的卡片弃置的卡片在此后轮次中不能使用则四轮比赛后,甲的总得分不小于2的概率为?(正确答案:1/2)

      这道题曾一度难倒了众多AI大模型,如今几次升级后,如今豆包、Kimi、腾讯混元等大模型,均能计算出正确答案。满血版DeepSeek-R1模型同样如此,仅数分钟就计算出了正确答案。

    DeepSeek满血版计算.png

      (图源:雷科技制作)

      切换至本地部署的7B参数DeepSeek-R1模型后,同样提出该问题,大模型足足推理了十几分钟,却给出了1/288的错误答案。7B参数的模型可以用,准确率却与满血版相差甚远。想要更好的端侧AI体验,就需要部署参数更多的端侧AI大模型,而参数更多的端侧AI大模型,需要更大的内存和更高的AI算力。

    7B.png

      (图源:雷科技制作)

      自身AI功能太少、运行端侧大模型吃力,AI PC自然显得名不副实,在AI体验方面与未搭载NPU的PC无法拉开明显差距。改变这一局面的重点,在于AI大模型和AI PC供应链的全面升级。

      产业链共同升级,才能造出真好用的AI PC

      李伟昌认为,产业链方面存在的瓶颈,导致AI PC尚未达到「水到渠成」的阶段。在小雷看来,让AI PC摆脱智商税的标签,大模型开发机构、供应链企业、PC厂商三方面都要发力。

      大模型开发机构的任务,是在确保模型能力和准确性的前提下做好优化,或蒸馏出参数更少的模型,减少对内存、算力、显存等硬件的依赖。头部AI企业都在尝试蒸馏小模型,谷歌提出的逐步蒸馏(Distilling step-by-step)方法,号称可用0.77B参数蒸馏模型打败540B参数大模型。

      不过就DeepSeek不同规模模型的体验而言,小模型与大模型在准确率方面差别很大,小模型上限不足,升级硬件使其可以运行参数量更大的模型,或许才是提高端侧大模型体验的最好方案。

    语病和错别字检查 (1)(1).png

      (图源:豆包AI生成)

      运行端侧AI大模型,对于内存和支持AI加速能力的芯片有较高要求。供应链企业可通过规模化生产降低成本,但供需问题可能导致产品涨价,近期SK海力士、三星等行业巨头已陆续公布了DRAM、NAND涨价的消息。

      算力芯片方面,AMD和Intel具有NPU的CPU价格偏高,搭载这些芯片的笔记本电脑也普遍面向中高端市场。但随着产业规模化和技术成熟,如今许多AI PC的价格已下探至5000元左右价位,如联想ThinkPad E14、华硕a豆14 Air悦享版、机械革命无界15X Pro、七彩虹 源N14等,国补后价格不到5000元。

      但提升用户的工作、学习效率和生活便捷度,只靠大模型的能力和AI PC的算力还不够,如何将其与AI应用结合,融入用户的工作和日常生活同样重要。

      在这方面做得最好的可能是华为,MateBook基于盘古大模型提供的AI能力及小艺智能体,实现了AI纪要、AI慧眼、AI字幕、智慧搜索等功能,搭配超级终端、超级中转站等互联功能,可大幅提升工作、学习效率。

    华为.png

      (图源:华为)

      身为全球PC行业霸主的联想,推出了天禧AI生态「四端一体」战略和个人智能体「小乐同学」。四端一体指AI PC、AI平板、AI手机、AIoT四类终端设备,一体指用于承担个人任务的个人智能体,以及通过个人智能体将四端融合为一体。

      据联想介绍,个人智能体基于大模型的推理能力,可理解用户意图,将复杂任务拆分成子任务链,并支持跨端穿梭,在PC、手机、平板电脑上协同操作。内嵌AI的终端在本身算力基础上,通过压缩和优化AI大模型,在裁剪后形成轻量化多模态大模型,以应对各种场景的专业化需求,并降低对硬件的要求,打造个人AI助理。

      小乐同学还支持智能体轻应用技术,可为开发者开发的各类服务提供端侧大模型能力,强化AI PC的实用性。

      大模型、AI PC硬件和软件全部升级,方能让AI PC名副其实,向用户提供更加完善的使用体验。这一过程不能一蹴而就,需要全产业链共同发展,实现技术升级和成本下降。

      “AI PC距离成熟起码还需2-3年”

      在图文创作、编程、广告营销等行业,AI已经发挥出了不小的作用,小雷撰写文章时找不到合适的图片,就会使用AI生成。金融、医疗、学习等领域,商汤科技、旷视科技、依图科技、云从科技、百川智能等企业入场,开发出了适合专业场景的垂域大模型。

      屏幕大、性能强、对开发者友好的PC,或为个人端AI大模型的最佳载体。在AI大模型逐渐渗透进我们生活,改变我们工作、学习、生活模式的今天,AI PC不可能是智商税。

    LjI3l6Zev4SYSJuZ6wY9UrbPs-1269.jpg

      (图源:联想)

      市场调研机构Canalys公布的数据显示,2024年中国大陆地区AI PC的出货量已达580万台,占PC总出货量的15%,预计2025年大中华区AI PC市场份额将达到34%。Canalys在另一份报告中指出,2024年第二季度联想AI PC出货量环比暴增228%,也证明了AI PC的热销。

      AI PC正逐渐下沉市场,价格愈发实惠,国补的到来进一步降低了消费者购买AI PC的成本,双重加持之下,愿意购买AI PC的消费者自然会越来越多。市场规模的扩大,则会影响导PC厂商和供应链企业,促进AI PC及其硬件成本下降,从而形成良性循环,加快AI PC产业链成熟。

      至于AI PC何时能够成熟,《科创板日报》报道称,多位业内人士透露,AI PC的挑战主要在内存、芯片等上游产业链,成本控制和规模化方面仍需优化,按照产业升级周期规律,预计2-3年产业链能够趋近成熟。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    vivo携手首届商学院戈壁友谊赛,以专业影像见证无畏征途

    2025年5月4日,首届商学院戈壁友谊赛于甘肃省酒泉市圆满举办。在这场4天121公里的戈壁征途中,vivo作为战略合作伙伴,为赛事提供手机、智能穿戴设备及定制影像服务,以技术赋能助力参赛选手与观众记录戈壁之上的热血奔赴,共同探索科技进步、商业文明与自然共生的未来路径。

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。