共赴AI新纪元!2025中关村硬科技嘉年华璀璨启幕2025石家庄马拉松倒计时:中乔体育特色装备与服务助力跑者逐梦赛道京东物流获颁首届澳门ESG卓越奖最高奖项,展现青流计划可持续发展英伟达计划收购贾扬清创办的AI初创公司Lepton AI 推动云计算布局三创智能:以三创精神抢占信创ODM行业高地MIT与哈佛联合推出 Lyra:一种高效的生物序列建模新方法黄仁勋的云计算野心,要靠贾扬清来实现?腾讯元宝弯道超车,AI 大模型打进“熟人局”中国AI再出王炸!全球首个音乐推理大模型Mureka O1上线,硅谷彻底碎了?当全球最强全模态大模型开始说“人话”,AI产业落地才有了新方向OPPO Find X8 Ultra首发超晶态蓝玻璃+一英寸传感器Cline现已支持Gemini2.5Pro:AI开发迎来新助力ChatGPT迎来重大升级:GPT-4o性能飙升,推出全新记忆功能Moonshine Nux V2快手可灵AI全面焕新升级 上新“AI音效”、“资产管理”等新功能阿里巴巴发布最新视觉推理模型 QVQ-Max高通被踢出局!曝iPhone 18系列全系标配自研基带2025AWE观察:谁最懂中国家庭?智能清洁赛道的暗战松霖科技收购威迪思 加速布局机器人领域任天堂Switch 2高清渲染图曝光 确认新增C键功能苹果大折叠iPhone细节曝光:4:3定制比例 内外屏生态对标iPad 共赴AI新纪元!2025中关村硬科技嘉年华璀璨启幕2025石家庄马拉松倒计时:中乔体育特色装备与服务助力跑者逐梦赛道京东物流获颁首届澳门ESG卓越奖最高奖项,展现青流计划可持续发展英伟达计划收购贾扬清创办的AI初创公司Lepton AI 推动云计算布局三创智能:以三创精神抢占信创ODM行业高地MIT与哈佛联合推出 Lyra:一种高效的生物序列建模新方法黄仁勋的云计算野心,要靠贾扬清来实现?腾讯元宝弯道超车,AI 大模型打进“熟人局”中国AI再出王炸!全球首个音乐推理大模型Mureka O1上线,硅谷彻底碎了?当全球最强全模态大模型开始说“人话”,AI产业落地才有了新方向OPPO Find X8 Ultra首发超晶态蓝玻璃+一英寸传感器Cline现已支持Gemini2.5Pro:AI开发迎来新助力ChatGPT迎来重大升级:GPT-4o性能飙升,推出全新记忆功能Moonshine Nux V2快手可灵AI全面焕新升级 上新“AI音效”、“资产管理”等新功能阿里巴巴发布最新视觉推理模型 QVQ-Max高通被踢出局!曝iPhone 18系列全系标配自研基带2025AWE观察:谁最懂中国家庭?智能清洁赛道的暗战松霖科技收购威迪思 加速布局机器人领域任天堂Switch 2高清渲染图曝光 确认新增C键功能苹果大折叠iPhone细节曝光:4:3定制比例 内外屏生态对标iPad
  • 首页 > 云计算频道 > 大模型

    苹果AIM自回归视觉模型验证性能与模型规模有关

    2024年01月18日 17:29:18   来源:站长之家

      1月18日 消息:苹果公司的研究者通过自回归图像模型(AIM)验证了视觉模型“参数越多性能越强”的规律,进一步证明随着容量或预训练数据量的增加,模型能不断提升性能。AIM能有效利用大量未经整理的图像数据,训练方法和稳定性与最近的大型语言模型(LLM)类似。这一观察结果与之前关于扩展大型语言模型的研究结果是一致的。

      虽然本文实验所使用的模型规模有限,还需进一步探索是否能在更大参数量级的模型上验证此规律。研究者使用的预训练目标遵循应用于图像 patch 序列的标准自回归模型,通过一系列实验和研究,验证了模型容量可以轻松扩展到数十亿个参数,同时对下游任务有很好的性能。

      此外,研究者对自回归目标训练 ViT 模型的多方面进行了探讨,并且重新审视了之前的工作。研究者的实验报告显示,在整个训练过程中,优化目标直接带来更好的下游性能,而随着模型容量的增加,损失值和下游任务的准确性都有所提高。这一观察结果与在 LLMs 中观察到的趋势一致,反映了优化目标会直接带来更好的下游性能。

      在 AIM 的设计参数中,除了扩展宽度,研究者还特别采用了一种简单设计,使用多层感知机块,独立地对每个 patch 进行处理。研究者同时强调,研究的模型规模有限,对更大参数量级的模型上验证此规律还有待进一步探索。

      论文的实验结果证明了视觉模型同样遵循「参数越多性能越强」的规律,自回归训练对图像模型具有很好的扩展性,并能够满足视觉特征的训练要求。对未来图像模型性能提升和优化提供了新的研究方向和思路。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。