端午假期最后一天迎返程高峰,全国铁路预计发送旅客 1790 万人次爱奇艺大幅下调虚拟制作系统使用价格,最低 3.5 万元 / 天特斯拉五月“逆袭”,股价一个月暴涨超 22%波音CEO凯利・奥特伯格:财务上暂无力投资开发新飞机卢伟冰:小米未来的困难 / 挑战有两点,竞争从来不是,未来也不会是关键“数字藏经洞”数据库平台发布,敦煌文物在数字世界“重聚”亚马逊《黑袍纠察队》衍生剧《V 世代》第二季首曝预告发布,9 月 17 日开播小米潘九堂:真正优秀企业都不怕甚至欢迎小米,淘汰的都是劣质企业京东外卖:日订单量已突破 2500 万单,近期将扩招至 15 万名全职骑手明悟知堂:探索国学宝藏,《北大国学课》有声书的知识盛宴京东618开门红战报出炉:高端笔记本销量同比增长超3倍天猫下架北京、江苏国补、美团以旧换新不方便?买iPhone还是选京东「月匣」UGC功能正式上线:全民戏精时代来临,你的专属AI剧本由你掌控!第十四代英特尔@酷睿™ 处理器:性能飞跃,重塑计算新体验iPhone 16 Pro Max立减500元 来京东618领3C数码消费券下单更优惠微星游戏本新品5060/5070配置上市,神影/星影系列国补爆款抢先购!职业选手同款至高省50% 京东电竞键鼠三重补贴引爆极致性价比学习机买贵双倍赔 全网不怕比 入手学习机认准京东618京东3C数码618开门红1小时呈爆发式增长 上万个趋势单品增长超10倍iPhone 16 618购机指南:京东国补覆盖更广 同款机型比天猫便宜400元
  • 首页 > 云计算频道 > 大模型

    Ampere与高通合作推出基于Arm架构的人工智能服务器

    2024年05月21日 19:10:50   来源:站长之家

      Ampere 和高通并不是最明显的合作伙伴。毕竟,它们都提供用于运行数据中心服务器的基于 Arm 架构的芯片(尽管高通最大的市场仍然是移动领域)。但正如两家公司宣布的那样,它们现在正在联手推出一款专注于人工智能的服务器,该服务器使用了 Ampere 的 CPU 和高通的 Cloud AI100Ultra AI 推理芯片来运行模型 —— 而不是进行训练。

      与其他芯片制造商一样,Ampere 也希望从人工智能热潮中获利。然而,该公司的重点一直是快速和高效的服务器芯片,因此虽然它可以利用 Arm IP 向其芯片添加一些这些功能,但这并不一定是其核心竞争力。这就是为什么 Ampere 决定与高通合作(以及与 SuperMicro 合作整合这两个解决方案),Arm 首席技术官 Jeff Wittich 告诉我。

      “这里的想法是,虽然我可以向您展示 Ampere CPU 在仅使用 CPU 运行 AI 推理时的出色性能,但如果您想扩展到更大的模型 —— 比如多达数千亿参数的模型 —— 就像所有其他工作负载一样,AI 并非一刀切”,Wittich 告诉 TechCrunch。“我们一直在与高通就此解决方案进行合作,将我们的超高效 Ampere CPU 与您正在与推理一起运行的许多通用相结合,然后使用他们真的高效的卡,我们已经有了一个服务器级的解决方案。”

      至于与高通合作,Wittich 表示,Ampere 希望提供最佳解决方案。

      “我们与高通在这里进行了真正良好的合作”,他说。“这是我们一直在努力的事情之一,我认为我们有很多非常相似的兴趣,这就是为什么我认为这真的很具吸引力。他们正在构建市场上许多不同部分的真正高效的解决方案。我们正在构建服务器 CPU 方面真正高效的解决方案。”

      高通合作是 Ampere 每年路线图更新的一部分。新路线图的一部分是新的256核 AmpereOne 芯片,采用现代3纳米工艺构建。这些新芯片还没有完全普及,但 Wittich 表示它们已经在工厂准备就绪,今年晚些时候应该会推出。

      除了额外的核心,这一代新的 AmpereOne 芯片的显著特点是12通道 DDR5RAM,这使 Ampere 的数据中心客户能够根据自己的需求更好地调整用户的内存访问。

      这里的销售策略不仅仅是性能,而是在数据中心中运行这些芯片的功耗和成本。特别是在涉及 AI 推理时,Ampere 喜欢将其性能与 Nvidia 的 A10GPU 进行比较。

      值得注意的是,Ampere 并没有在这些新芯片的推出中终止其现有芯片。Wittich 强调,即使是这些较老的芯片仍然有很多用例。

      Ampere 今天还宣布了另一项合作伙伴关系。该公司正在与 NETINT 合作,构建一种将 Ampere CPU 与 NETINT 视频处理芯片配对的联合解决方案。这款新服务器能够同时并行转码360个直播视频频道,并同时使用 OpenAI 的 Whisper 语转文字模型为40个流创建字幕。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。