半导体跨界潮,谁在跟风,谁在下棋?Nikola,一个千亿造车独角兽破产了消息称谷歌将因违反反垄断规则而遭欧盟指控,恐被处以高额罚款透明美学再进化,Nothing Phone(3a)系列手机宣传物料曝光2025 年春运今日迎来最后一天,全国铁路已累计发送旅客 4.99 亿人次国内通信运营商首次:中国联通通过数字货币桥实现跨境支付微软 Outlook“保存邮件到 OneNote”功能 3 月谢幕,“发送到 OneNote”接棒全国首个:浙江率先布局低空经济“下乡”,目标到年底建成 200 个乡村无人机起降枢纽拨打客服电话强制等待 15 分钟,惠普欧洲试点遭强烈反对后取消OPPO一键问屏 / 全能搜基于阶跃星辰Step系列多模态模型打造京东&创维联合定制JD100 Mini电视发布 下单享免费送装一体服务我国成功发射中星 10R 卫星中科闻歌发布“智川”企业智能体平台1.0、“优雅”音视频大模型平台1.5,领先技术加速AI普惠落地这个周末,在最懂开发者的城市邂逅最懂开发者的算力平台DDN推出 Infinia 2.0对象存储 加速AI数据处理速度全部免费!百度文心智能体平台已全面接入DeepSeek模型灯塔云系统:开启劳务派遣管理4.0时代超2671万名消费者申请手机等数码产品购新补贴 用国补买手机上京东皇家马德里对阵赫罗纳:不乏进球与高水平竞技的足球现场OpenAI宣布面向多个国家推出AI代理 Operator
  • 首页 > 云计算频道 > 大模型

    Ollama更新 优化软件并支持Command R+等多个热门模型

    2024年04月17日 14:32:00   来源:站长之家

      Ollama软件的最新更新为用户带来了一系列显著的性能提升和新功能。这次更新主要集中在优化软件性能,提高VRAM的利用率,减少内存不足的错误,并改善GPU的运行效率。此外,Ollama还扩展了对一些热门新模型的支持,以满足用户对最新技术的需求。

      功能更新细节

      VRAM和GPU优化: 更新后的Ollama能够更高效地利用可用的VRAM,这有助于减少内存不足的错误,确保软件运行的流畅性。同时,通过优化GPU的利用率,软件能够在处理复杂任务时表现更好,提供更快的处理速度和更高的性能。

      macOS上的模型分割: 对于在macOS系统上运行且VRAM较大的模型,Ollama现在能够将模型在GPU和CPU之间进行分割,这样做可以最大化性能,使得在资源有限的情况下也能运行复杂的模型。

      新增模型支持

      WizardLM2: 这是微软人工智能推出的最先进大型语言模型,它在复杂聊天、多语言、推理和代理使用案例上都有所改进。WizardLM2的加入意味着Ollama用户现在可以利用这一强大的模型进行更多样化和高质量的文本生成任务。

      Snowflake Arctic Embed:这是一个全新的嵌入模型,它的加入为Ollama用户提供了更多的选择,以适应不同的文本处理需求。

      Command R+:这是一款功能强大且可扩展的大型语言模型,专门为RAG(Retrieval-Augmented Generation)用例而构建。Command R+的集成将增强Ollama在文本生成方面的灵活性和准确性。

      Mixtral8x22B: Mistral AI推出的新领先专家混合模型,它结合了专家知识和混合模型的优势,为用户提供更高质量的输出结果。

      DBRX:由Databricks创建的大型132B开放通用用途LLM,DBRX的加入使得Ollama用户能够利用这一大规模模型进行广泛的应用,从数据分析到自然语言处理等多个领域。

      通过这次更新,Ollama不仅提高了自身的性能和稳定性,还通过支持新的模型,为用户提供了更多的选择和可能性。这些改进将帮助用户更高效地完成任务,同时也为探索人工智能的潜力开辟了新的道路。无论是研究人员、开发者还是普通用户,都能够从Ollama的新功能和模型支持中受益。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。