突破叙事尺度 刻画极致人物 迷雾剧场《漂白》1月17日上线爱奇艺1月20日手机数码国补落地京东 超千万国补商品等你挑选超千万货品已备足 1月20日来京东购手机享国家补贴每件最高500元拥抱创新科技,探寻体育变革之路—— 第二届LALIGA EXTRATIME体育行业论坛在京成功举办斑马技术《2025全球消费者调查报告》:注重防损管理,增强顾客体验终端创企Nothing拟募资1亿美元 一加联合创始人创立恩智浦获欧洲投资银行 10 亿欧元贷款,用于在欧多国研发创新工作入手松下ZS99相机新品首选京东 售价2998元可先人一步入手1月20日打开京东搜索「1」 3C数码“疯狂星期一”爆款低至1元当代年轻人用上AI,从夸克开始消息称iPhone SE 4将有白色和黑色 预计3月份推出全球PC市场迎来温和复苏:2024年出货量增长1.3%,联想和苹果表现亮眼比亚迪已在韩国推出Atto 3 预计2月中旬开始交付发展新质生产力 赋能健康产品力 ——劲牌有限公司2024年度科技责任(成果)报告美光减产后 SK海力士也计划将上半年NAND闪存产量削减一成赵明离职信曝光:离开荣耀是人生中最艰难的决定消息称京东服饰换帅,阿里前高管担任负责人这年头,谁在互联网上学这么“硬核”的AI?开战2025,本地生活商家「另辟蹊径」年底Mini LED电视到底怎么选?认准这些新技术不踩雷!
  • 首页 > 企业IT频道 > 人工智能

    逐鹿AI赛道!Meta自研定制芯片:效率更高、功耗极低

    2023年05月19日 11:14:23   来源:财联社

      ①MTIA全称为Meta训练和推理加速器; ②Meta表示,打造第一代芯片的目的是提高推荐模型的效率; ③据介绍,MTIA的功耗仅有25瓦,远低于英伟达等主流芯片厂商的产品功耗。

      财联社5月19日讯(编辑 黄君芝)当地时间周四(18日),Facebook母公司Meta分享了其数据中心项目的新细节,以更好地支持人工智能(AI)工作,包括一款内部开发的定制芯片“家族”的新成员。

      Meta表示,它在2020年设计了第一代芯片,作为元训练和MTIA计划的一部分。MTIA全称为Meta训练和推理加速器。所谓推理是指运行经过训练的模型。这是一种ASIC(专用集成芯片),也就是将不同电路集成在一块板上的芯片,可以将它进行编程,执行一项或多项任务。

      根据该公司的说法,打造第一代芯片的目的是提高推荐模型的效率,那些模型服务于广告和其他新闻推送内容。Meta并未披露配置新芯片的时间表,也未说明具体有什么计划开发训练模型的芯片。

      Meta的软件工程师Joel Coburn在介绍新芯片时表示,Meta最初使用图形处理单元(GPU)来完成推理任务,但结果发现它们不太适合这种工作。

      “尽管进行了重大的软件优化,但实际模型的效率很低。这使得在实践中部署它们具有挑战性且成本高昂。这就是我们需要MTIA的原因。”他说。

      在高管们意识到缺乏硬件和软件来支持产品团队构建人工智能功能的需求后,Meta在过去一年里一直在进行一项大规模的项目,以升级其人工智能基础设施。

      Meta在博客文章中承认,它的首款MTIA芯片在处理高复杂性的AI模型时遇到了挫折,但也指出,它在处理中低复杂性模型方面比竞争对手的芯片更有效。据它介绍,MTIA采用开源芯片架构RISC-V,它的功耗仅有25瓦,远低于英伟达等主流芯片厂商的产品功耗。

      不过该公司也称,芯片在内存和网络领域的工作还未完成,随着AI模型发展,这些工作会出现瓶颈。目前,MTIA 的重点放在Meta应用家族的推理,而不是训练。但Meta强调,MTIA“大大”提高了单位瓦特的推荐负载运行效率,让公司能运行加强版的、更尖端的AI工作负载。

      此外,Meta还提供了以AI为核心的网络和冷却系统、重新设计其数据中心的最新计划,并称首个相关数据中心的设施将于年内破土动工。该公司员工在演示时称,新设计的成本将降低31%,而且建造速度是公司目前数据中心的两倍。

      最后,Meta还介绍了旗下的一种AI驱动系统,它可帮助Meta的工程师编写电脑代码。Meta的AI助力代码工具名为CodeCompose,目前没有对外公开。公司团队内部用它获取Python 和其他语言的代码建议。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。