• 首页 > 云计算频道 > 大模型

    企业级语言模型Command-R发布:专注RAG和工具使用 支持长达128k的上下文

    2024年03月12日 09:41:15   来源:站长之家

      Cohere团队于2024年3月11日发布了Command-R,一款旨在实现生产规模人工智能的新型检索增强生成模型。该模型专注于检索增强生成(RAG)和工具使用,是可扩展的生成模型,旨在帮助企业从概念验证迈向实际生产。

      高性能检索增强生成 (RAG)

      Command-R以其在RAG和工具使用方面的强大准确性、低延迟、高吞吐量以及支持长达128k的上下文而脱颖而出。与Cohere行业领先的Embed和Rerank模型协同工作,Command-R在RAG应用中实现了最佳集成,并在企业使用案例中表现卓越。

      检索增强生成(RAG)已经成为LLMs部署中的关键模式,使企业能够授予模型访问其私有知识。Cohere的Embed模型和Rerank模型在检索步骤中的改进,提高了对相关信息的理解,从而提高了模型的准确性和实用性。

    1.jpg

      (左)Command-R 和 Mixtral 在一系列与企业相关的 RAG 应用程序上进行的头对头整体人类偏好评估,考虑到流畅性、答案实用性和引用。(右)使用 Natural Questions( Kwiatkowski et al.2019)、TriviaQA(Joshi et al.2017)和 HotpotQA(Yang et al.2018)(单次检索)基准进行端到端评估的平均准确度所有模型的KILT 维基百科索引 ( Petroni et al.2020)。

      Command-R通过工具使用的能力,实现了将LLMs转变为核心推理引擎,可以自动执行任务并采取实际行动,而不仅仅是处理和生成文本。这包括使用API、代码解释器等用户定义工具,使开发人员能够将Command-R用于自动化需要使用内部基础设施和外部工具的复杂任务和工作流程。

      更多的全球商业语言

    2.jpg

      该模型在全球商业中的应用也得到了重视,支持10种主要商业语言,包括英语、法语、西班牙语、意大利语、德语、葡萄牙语、日语、韩语、阿拉伯语和中文。此外,Cohere的Embed和Rerank模型还原生支持100多种语言,使用户能够从各种数据源中提取答案。

      更长的上下文窗口和改进的定价

      Command-R发布的重要升级之一是支持长达128k的上下文,同时在Cohere的托管API上实现价格下调,以及私有云部署的显著效率改进。这使得Command-R在检索增强生成(RAG)应用中能够处理更多上下文,从而实现性能的显著提升。

      Cohere团队强调了对机器学习研究社区的支持,通过其非营利性研究实验室Cohere For AI公开发布Command-R版本的权重,以促进独立评估和学术研究。

      Command-R的发布标志着Cohere在面向生产规模的AI技术方面的持续努力,为企业提供可信赖的AI合作伙伴,同时保持对云选择和数据隐私的核心关注。期待用户对Command-R的反馈,并期待在未来提供更多可扩展的模型,助力企业成功迈向生产规模的人工智能应用。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。