白雪走珠笔天猫价格相当于京东2倍 下单前多比价避免买贵AIGC时代来临,网络视听准备好了吗?极光GPTBots.ai通过中国信通院“大模型基础完备性测评”X平台惊爆大规模数据泄露 近30亿条用户信息遭窃内测已久的Manus开启收费,与阿里合作探索国产模型新可能黄仁勋透露:GAA技术2028年为NVIDIA新GPU提20%性能春季过敏退退退!华为天气健康服务上线,主动提醒早预防科大讯飞入局智驾 官方称“今年大概会有车陆续量产”英特尔酷睿Ultra 200HX新品分享会引围观 多款AI游戏本新品上线京东优创数据荣膺ISG保险科技领导者 生态协同与智能技术驱动产业升级模型云平台——引领3D设计与AI融合的云端创新力量锐龙AI Max 300系列引期待,锐龙9000G系列四季度或登场苹果2025至2027年产品规划曝光:M 系列芯片升级与 Mac 重大改版钛钽预告LG600一体式水冷散热器:3.95英寸可定制屏支持模块化拆装DIY玩家打造树莓派Zero拍立得相机 支持热敏纸即时打印华为:2024年全球销售收入8621亿元 净利润626亿元AI版论文搜索Ai2PaperFinder:输入主题AI自动搜索全部相关论文Wayve推完整世界模型GAIA-2:支持同时生成5个视角的视频,可模拟高风险场景飞猪首度公布AI成果:在线客服效率激增54%,商家发品人效翻倍告别节点噩梦!ComfyUI-C opilot发布,具备GPT-4o同款图像生成与编辑能力
  • 首页 > 云计算频道 > 大模型

    OpenBuddy发布新一代中文跨语言大模型 基于Llama 3 70B打造

    2024年05月10日 09:10:55   来源:站长之家

      OpenBuddy 团队发布了基于 Meta Llama370B 的最新成果:OpenBuddy-Llama3-70B-v21.1-8k,这是他们首次在 Llama370B 基座上的中文跨语言训练尝试。

      Llama370B 是一个15T 训练集训练而成的稠密大模型,然而由于训练集中缺少中文数据,Meta 官方的 Llama3系列对话模型在中文领域的认知、理能力较弱,容易出现以英文回答中文问题的现象。

      因此,OpenBuddy 团队在此次训中选择了 Llama370B Base 模型作为基础,重点提升模型的跨语言理解、认知能力。

      测试过程中,OpenBuddy-Llama3-70B 展现出了优秀的中文理解能力,具备了更的认知潜力和量化后性能。在此次发布的模型中,他们对 Llama3现有词表进行了扩,增加了7000余个中文字词,进一步提升了模型中文编码密度。

      值得一提的是,于量化版模型能力下降较为明显,他们本次只发布了模型的完整版权重,后续会尝优化70B 模型的量化后性能,并挑选合适时机发布量化版。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。