• 首页 > 云计算频道 > 大模型

    智谱清言酷睿Ultra专享版发布:无需联网 但必须24+GB内存

    2024年12月18日 14:34:36   来源:快科技

      国内领先的大模型厂商智谱官方发布了智谱清言的Intel酷睿Ultra专享版,无需联网,即可在PC本地离线运行智谱的端侧模型,有利于保护隐私安全。

      智谱清言是一款涵盖移动端、PC端的AI助手,附加功能丰富,但以往必须依赖云端大模型才能运行。

      酷睿Ultra系列处理器通过CPU+NPU+iGPU三者合作,可以为不同的AI负载提供合适的算力引擎,其中CPU适合对延迟要求较高的AI应用,NPU适合持续性的、低负载的AI应用,iGPU适合大吞吐量的AI运算。

      智谱与Intel深度合作,在本地模型的选择上确保了模型参数、准确性的平衡,同时采用合理的量化技术,确保合理的模型文件尺寸,还在性能调优上选取了优秀的工具链,确保本地模型高效第运行酷睿Ultra之上。

      本次发布的智谱清言酷睿Ultra专享版,会自动检测PC配置,自动下载合适的端侧模型,提供知识问答、文档撰写、创意生成等服务。

      比如,可以将若干篇存在PC本地的文档通过在RAG形成专有的知识库,并通过自然语言查询,输出内容可包含来自本地文档的专业信息,而且更加自然、有逻辑。

      再比如,可以完成本地长文档的摘要等工作,提升生产效率。

      不过注意,它对内存容量也有一定的要求,不得低于24GB。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。