共赴AI新纪元!2025中关村硬科技嘉年华璀璨启幕2025石家庄马拉松倒计时:中乔体育特色装备与服务助力跑者逐梦赛道京东物流获颁首届澳门ESG卓越奖最高奖项,展现青流计划可持续发展英伟达计划收购贾扬清创办的AI初创公司Lepton AI 推动云计算布局三创智能:以三创精神抢占信创ODM行业高地MIT与哈佛联合推出 Lyra:一种高效的生物序列建模新方法黄仁勋的云计算野心,要靠贾扬清来实现?腾讯元宝弯道超车,AI 大模型打进“熟人局”中国AI再出王炸!全球首个音乐推理大模型Mureka O1上线,硅谷彻底碎了?当全球最强全模态大模型开始说“人话”,AI产业落地才有了新方向OPPO Find X8 Ultra首发超晶态蓝玻璃+一英寸传感器Cline现已支持Gemini2.5Pro:AI开发迎来新助力ChatGPT迎来重大升级:GPT-4o性能飙升,推出全新记忆功能Moonshine Nux V2快手可灵AI全面焕新升级 上新“AI音效”、“资产管理”等新功能阿里巴巴发布最新视觉推理模型 QVQ-Max高通被踢出局!曝iPhone 18系列全系标配自研基带2025AWE观察:谁最懂中国家庭?智能清洁赛道的暗战松霖科技收购威迪思 加速布局机器人领域任天堂Switch 2高清渲染图曝光 确认新增C键功能苹果大折叠iPhone细节曝光:4:3定制比例 内外屏生态对标iPad 共赴AI新纪元!2025中关村硬科技嘉年华璀璨启幕2025石家庄马拉松倒计时:中乔体育特色装备与服务助力跑者逐梦赛道京东物流获颁首届澳门ESG卓越奖最高奖项,展现青流计划可持续发展英伟达计划收购贾扬清创办的AI初创公司Lepton AI 推动云计算布局三创智能:以三创精神抢占信创ODM行业高地MIT与哈佛联合推出 Lyra:一种高效的生物序列建模新方法黄仁勋的云计算野心,要靠贾扬清来实现?腾讯元宝弯道超车,AI 大模型打进“熟人局”中国AI再出王炸!全球首个音乐推理大模型Mureka O1上线,硅谷彻底碎了?当全球最强全模态大模型开始说“人话”,AI产业落地才有了新方向OPPO Find X8 Ultra首发超晶态蓝玻璃+一英寸传感器Cline现已支持Gemini2.5Pro:AI开发迎来新助力ChatGPT迎来重大升级:GPT-4o性能飙升,推出全新记忆功能Moonshine Nux V2快手可灵AI全面焕新升级 上新“AI音效”、“资产管理”等新功能阿里巴巴发布最新视觉推理模型 QVQ-Max高通被踢出局!曝iPhone 18系列全系标配自研基带2025AWE观察:谁最懂中国家庭?智能清洁赛道的暗战松霖科技收购威迪思 加速布局机器人领域任天堂Switch 2高清渲染图曝光 确认新增C键功能苹果大折叠iPhone细节曝光:4:3定制比例 内外屏生态对标iPad
  • 首页 > 云计算频道 > 大模型

    OpenAI推出SWE-bench Verified基准,更准确评估AI模型代码生成表现

    2024年08月15日 16:46:21   来源:IT之家

      OpenAI 公司于 8 月 13 日发布新闻稿,宣布推出 SWE-bench Verified 代码生成评估基准,解决了此前的局限性问题,能够更准确地评估人工智能模型在软件工程任务中的表现。

      SWE-bench

      注:SWE-Bench 是一个用于评估 LLM 解决 GitHub 上真实软件问题能力的基准测试数据集。

      它收集了来自 12 个流行的 Python 仓库的 2294 个 Issue-Pull Request 对。在测试时,LLM 会拿到一个代码库和 issue 描述,然后生成一个补丁来解决 issue 描述的问题。

      该基准使用两种类型的测试:

      FAIL_TO_PASS 测试用于检查问题是否已得到解决

      PASS_TO_PASS 测试用于确保代码更改不会破坏现有功能。

      SWE-bench 的问题

      OpenAI 指出了 SWE-bench 的三个主要问题:

      单元测试过于严格:用于评估解决方案正确性的单元测试往往过于具体,有时甚至与问题无关,这可能导致拒绝正确的解决方案。

      问题描述不明确:许多样本的问题描述不够具体,导致问题是什么以及应如何解决含糊不清。

      开发环境难以设置:有时很难可靠地为代理设置 SWE-bench 开发环境,从而无意中导致单元测试失败。

      SWE-bench Verified

      SWE-bench Verified 的主要改进之一是使用容器化 Docker 环境开发了新的评估工具包。

      这一改进旨在使评估过程更加一致和可靠,降低与开发环境设置相关的问题发生的可能性。

      例如,GPT-4o 解决了 33.2% 的样本,而表现最佳的开源代理框架 Agentless 的得分翻了一番,达到 16%。

      性能的提高表明,SWE-bench Verified 更好地捕捉到了人工智能模型在软件工程任务中的真正能力。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。