被印度追缴 5.2 亿美元税款,三星申诉称税务部门决定仓促且不公铁路五一假期运输旅客发送量突破 1.12 亿人次,同比增长 10.5%单向全程 5 公里,贵州首条无人驾驶公交线开通国家电网智慧车联网平台“五一”假期前四天充电量破亿,高速充电量增长 28%首次突破 2.7 万辆次,港珠澳大桥单日车流量创新高消息称三星 One UI 8 有望三个月内上线,下个月推出测试版国产大型水陆两栖飞机 AG600 开展功能和可靠性合格审定试飞志愿传递真情,劳动铸就未来——廊坊一中五一劳动节志愿服务活动软通动力“突破无界”新品发布会:三大产品矩阵开启全栈智能新篇章谁说电池不耐用!现代电车跑58万公里后电池健康达87.7%Meta 公布 2025 财年第 1 财季财报:营收 423.14 亿美元亚马逊 2025Q1 营收 1556.67 亿美元兆易创新 2024 年营收增长 27.69%,2025 年 Q1 营收同比提升 17.32%爱彼迎:一季度总收入约23亿美元,将拓展住宿以外的新领域铁路迎来返程客流高峰,5 月 4 日预计发送旅客 2040 万人次Statista:微软必应市场份额升至 12.2%,谷歌降至 79.10%新型智能动车组上线郑开城际铁路,车窗支持智能显示功能受关税冲击,跨境电商平台 Temu 停止从中国向美国发货五一假期入手Apple产品建议首选京东 iPhone 16双补优惠1200元起安吉尔亚洲一号店正式揭幕:沉浸式场景体验,打造净水消费新范式
  • 媲美OpenAI-o3,刚刚开源模型DeepCoder,训练方法、数据集大公开

    2025年04月09日 10:30:52   来源:AIGC开放社区公众号

      今天凌晨4点,著名大模型训练平台Together AI和智能体平台Agentica,联合开源了新模型DeepCoder-14B-Preview。

      该模型只有140亿参数,但在知名代码测试平台LiveCodeBench的测试分为60.6%,高于OpenAI的o1模型(59.5%),略低于o3-mini(60.9%)。在Codeforces、AIME2024上的评测数据同样非常出色,几乎与o1、o3-mini差不多。

      值得一提的是,Together AI不仅开源了DeepCoder-14B模型权重,还把训练数据集、训练方法、训练日志和优化方法全部公开,帮助开发者更深度的了解这个模型所有开发流程。

      DeepCoder是在Deepseek-R1-Distilled-Qwen-14B基础之上,通过分布式强化学习(RL)进行了微调。

      在开发过程中,研究人员首先构建了一个高质量训练数据集,包含24K个可验证的编程问题:涵盖TACOVerified问题、PrimeIntellect的SYNTHETIC-1数据集中的验证问题等。

      为了确保数据质量,通过程序验证、测试过滤和去重等步骤。程序化验证,每个问题都会使用外部官方解决方案自动进行验证。会过滤数据集,只包含官方解决方案通过所有单元测试的问题。

      测试过滤,每个问题必须至少包含5个单元测试。重复数据删除,删除了数据集中的重复问题,以避免污染。

      在代码强化学习训练中,DeepCoder使用了两种沙盒来运行单元测试并计算奖励。Together Code Interpreter是一个快速高效的环境,与RL训练直接兼容,成本低且可扩展性强,能够支持100多个并发沙盒和每分钟1000多个沙盒执行。

      本地代码沙盒则是一个独立的、受保护的Python子进程,遵循官方LiveCodeBench仓库中的相同评估代码,确保了结果与现有排行榜的一致性。

      在奖励函数设计方面,DeepCoder采用了稀疏结果奖励模型(ORM),避免分配部分奖励,从而防止模型通过奖励黑客行为来获取不准确的奖励信号。

      奖励函数简单而明确:如果生成的代码通过所有采样单元测试,则奖励为1;否则为0。这种设计确保了模型能够专注于生成高质量的代码,而不是通过记忆测试用例来获取奖励。

      为了实现更稳定的训练过程,DeepCoder的训练采用了GRPO+,这是对原始GRPO算法的改进版本。

      通过消除熵损失和KL损失、引入过长过滤和上限裁剪等技术,GRPO+使得模型在训练过程中能够保持稳定的熵值,避免训练崩溃,并且能够更自然地生成较长的输出,从而提高了模型的推理能力。

      此外,DeepCoder-14B-Preview采用了迭代上下文扩展技术,使模型能够从较短的上下文长度开始学习,然后逐步泛化到更长的上下文。该模型的上下文窗口从16K扩展到32K,最终在64K上下文中评估时达到了60.6%的准确率。

      为了加速端到端的RL训练,DeepCoder团队引入并开源了verl-pipeline,这是verl的一个优化扩展。通过一次性流水线技术,DeepCoder实现了训练、奖励计算和采样的完全流水线化。

      同时,奖励计算与采样交错进行,减少了奖励评估的开销。这些优化使得训练时间减少了2倍,特别是在需要运行数千个测试用例的编码任务中,显著提高了训练效率。

      虽然DeepCoder刚开源但评价非常高,网友表示,这相当令人惊讶。它不仅是真正意义上的开源,而且他们还对广义信赖域策略优化算法(GRPO)进行了多项改进,并且在训练过程中为采样流水线增添了额外的效率提升。

      太厉害了!等不及这款模型在Ollama平台上体验了。

      圣诞节提前到来了。

      传奇!开源就应该这样。

      关于Together AI

      Together AI成立于2022年,主打云大模型平台支持超过200种开源AI模型,包括Llama系列、DeepSeek-R1等,并优化了高速推理和模型训练的基础设施。目前拥有超过3.6万块GB200NVL72组成的超大GPU算力群。

      此外,Together AI还提供模型微调、Agent智能自动化工作流和合成数据生成等,为大企业提供底层服务。

      前不久,Together AI刚获得3.05亿美元的B轮融资,其估值也从去年的12.5亿美元翻倍至33亿美元。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。