半导体跨界潮,谁在跟风,谁在下棋?Nikola,一个千亿造车独角兽破产了消息称谷歌将因违反反垄断规则而遭欧盟指控,恐被处以高额罚款透明美学再进化,Nothing Phone(3a)系列手机宣传物料曝光2025 年春运今日迎来最后一天,全国铁路已累计发送旅客 4.99 亿人次国内通信运营商首次:中国联通通过数字货币桥实现跨境支付微软 Outlook“保存邮件到 OneNote”功能 3 月谢幕,“发送到 OneNote”接棒全国首个:浙江率先布局低空经济“下乡”,目标到年底建成 200 个乡村无人机起降枢纽拨打客服电话强制等待 15 分钟,惠普欧洲试点遭强烈反对后取消OPPO一键问屏 / 全能搜基于阶跃星辰Step系列多模态模型打造京东&创维联合定制JD100 Mini电视发布 下单享免费送装一体服务我国成功发射中星 10R 卫星中科闻歌发布“智川”企业智能体平台1.0、“优雅”音视频大模型平台1.5,领先技术加速AI普惠落地这个周末,在最懂开发者的城市邂逅最懂开发者的算力平台DDN推出 Infinia 2.0对象存储 加速AI数据处理速度全部免费!百度文心智能体平台已全面接入DeepSeek模型灯塔云系统:开启劳务派遣管理4.0时代超2671万名消费者申请手机等数码产品购新补贴 用国补买手机上京东皇家马德里对阵赫罗纳:不乏进球与高水平竞技的足球现场OpenAI宣布面向多个国家推出AI代理 Operator
  • 首页 > 企业IT频道 > 人工智能

    逐鹿AI赛道!Meta自研定制芯片:效率更高、功耗极低

    2023年05月19日 11:14:23   来源:财联社

      ①MTIA全称为Meta训练和推理加速器; ②Meta表示,打造第一代芯片的目的是提高推荐模型的效率; ③据介绍,MTIA的功耗仅有25瓦,远低于英伟达等主流芯片厂商的产品功耗。

      财联社5月19日讯(编辑 黄君芝)当地时间周四(18日),Facebook母公司Meta分享了其数据中心项目的新细节,以更好地支持人工智能(AI)工作,包括一款内部开发的定制芯片“家族”的新成员。

      Meta表示,它在2020年设计了第一代芯片,作为元训练和MTIA计划的一部分。MTIA全称为Meta训练和推理加速器。所谓推理是指运行经过训练的模型。这是一种ASIC(专用集成芯片),也就是将不同电路集成在一块板上的芯片,可以将它进行编程,执行一项或多项任务。

      根据该公司的说法,打造第一代芯片的目的是提高推荐模型的效率,那些模型服务于广告和其他新闻推送内容。Meta并未披露配置新芯片的时间表,也未说明具体有什么计划开发训练模型的芯片。

      Meta的软件工程师Joel Coburn在介绍新芯片时表示,Meta最初使用图形处理单元(GPU)来完成推理任务,但结果发现它们不太适合这种工作。

      “尽管进行了重大的软件优化,但实际模型的效率很低。这使得在实践中部署它们具有挑战性且成本高昂。这就是我们需要MTIA的原因。”他说。

      在高管们意识到缺乏硬件和软件来支持产品团队构建人工智能功能的需求后,Meta在过去一年里一直在进行一项大规模的项目,以升级其人工智能基础设施。

      Meta在博客文章中承认,它的首款MTIA芯片在处理高复杂性的AI模型时遇到了挫折,但也指出,它在处理中低复杂性模型方面比竞争对手的芯片更有效。据它介绍,MTIA采用开源芯片架构RISC-V,它的功耗仅有25瓦,远低于英伟达等主流芯片厂商的产品功耗。

      不过该公司也称,芯片在内存和网络领域的工作还未完成,随着AI模型发展,这些工作会出现瓶颈。目前,MTIA 的重点放在Meta应用家族的推理,而不是训练。但Meta强调,MTIA“大大”提高了单位瓦特的推荐负载运行效率,让公司能运行加强版的、更尖端的AI工作负载。

      此外,Meta还提供了以AI为核心的网络和冷却系统、重新设计其数据中心的最新计划,并称首个相关数据中心的设施将于年内破土动工。该公司员工在演示时称,新设计的成本将降低31%,而且建造速度是公司目前数据中心的两倍。

      最后,Meta还介绍了旗下的一种AI驱动系统,它可帮助Meta的工程师编写电脑代码。Meta的AI助力代码工具名为CodeCompose,目前没有对外公开。公司团队内部用它获取Python 和其他语言的代码建议。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。