突破叙事尺度 刻画极致人物 迷雾剧场《漂白》1月17日上线爱奇艺1月20日手机数码国补落地京东 超千万国补商品等你挑选超千万货品已备足 1月20日来京东购手机享国家补贴每件最高500元拥抱创新科技,探寻体育变革之路—— 第二届LALIGA EXTRATIME体育行业论坛在京成功举办斑马技术《2025全球消费者调查报告》:注重防损管理,增强顾客体验终端创企Nothing拟募资1亿美元 一加联合创始人创立恩智浦获欧洲投资银行 10 亿欧元贷款,用于在欧多国研发创新工作入手松下ZS99相机新品首选京东 售价2998元可先人一步入手1月20日打开京东搜索「1」 3C数码“疯狂星期一”爆款低至1元当代年轻人用上AI,从夸克开始消息称iPhone SE 4将有白色和黑色 预计3月份推出全球PC市场迎来温和复苏:2024年出货量增长1.3%,联想和苹果表现亮眼比亚迪已在韩国推出Atto 3 预计2月中旬开始交付发展新质生产力 赋能健康产品力 ——劲牌有限公司2024年度科技责任(成果)报告美光减产后 SK海力士也计划将上半年NAND闪存产量削减一成赵明离职信曝光:离开荣耀是人生中最艰难的决定消息称京东服饰换帅,阿里前高管担任负责人这年头,谁在互联网上学这么“硬核”的AI?开战2025,本地生活商家「另辟蹊径」年底Mini LED电视到底怎么选?认准这些新技术不踩雷!
  • 首页 > 云计算频道 > 大模型

    Ampere与高通合作推出基于Arm架构的人工智能服务器

    2024年05月21日 19:10:50   来源:站长之家

      Ampere 和高通并不是最明显的合作伙伴。毕竟,它们都提供用于运行数据中心服务器的基于 Arm 架构的芯片(尽管高通最大的市场仍然是移动领域)。但正如两家公司宣布的那样,它们现在正在联手推出一款专注于人工智能的服务器,该服务器使用了 Ampere 的 CPU 和高通的 Cloud AI100Ultra AI 推理芯片来运行模型 —— 而不是进行训练。

      与其他芯片制造商一样,Ampere 也希望从人工智能热潮中获利。然而,该公司的重点一直是快速和高效的服务器芯片,因此虽然它可以利用 Arm IP 向其芯片添加一些这些功能,但这并不一定是其核心竞争力。这就是为什么 Ampere 决定与高通合作(以及与 SuperMicro 合作整合这两个解决方案),Arm 首席技术官 Jeff Wittich 告诉我。

      “这里的想法是,虽然我可以向您展示 Ampere CPU 在仅使用 CPU 运行 AI 推理时的出色性能,但如果您想扩展到更大的模型 —— 比如多达数千亿参数的模型 —— 就像所有其他工作负载一样,AI 并非一刀切”,Wittich 告诉 TechCrunch。“我们一直在与高通就此解决方案进行合作,将我们的超高效 Ampere CPU 与您正在与推理一起运行的许多通用相结合,然后使用他们真的高效的卡,我们已经有了一个服务器级的解决方案。”

      至于与高通合作,Wittich 表示,Ampere 希望提供最佳解决方案。

      “我们与高通在这里进行了真正良好的合作”,他说。“这是我们一直在努力的事情之一,我认为我们有很多非常相似的兴趣,这就是为什么我认为这真的很具吸引力。他们正在构建市场上许多不同部分的真正高效的解决方案。我们正在构建服务器 CPU 方面真正高效的解决方案。”

      高通合作是 Ampere 每年路线图更新的一部分。新路线图的一部分是新的256核 AmpereOne 芯片,采用现代3纳米工艺构建。这些新芯片还没有完全普及,但 Wittich 表示它们已经在工厂准备就绪,今年晚些时候应该会推出。

      除了额外的核心,这一代新的 AmpereOne 芯片的显著特点是12通道 DDR5RAM,这使 Ampere 的数据中心客户能够根据自己的需求更好地调整用户的内存访问。

      这里的销售策略不仅仅是性能,而是在数据中心中运行这些芯片的功耗和成本。特别是在涉及 AI 推理时,Ampere 喜欢将其性能与 Nvidia 的 A10GPU 进行比较。

      值得注意的是,Ampere 并没有在这些新芯片的推出中终止其现有芯片。Wittich 强调,即使是这些较老的芯片仍然有很多用例。

      Ampere 今天还宣布了另一项合作伙伴关系。该公司正在与 NETINT 合作,构建一种将 Ampere CPU 与 NETINT 视频处理芯片配对的联合解决方案。这款新服务器能够同时并行转码360个直播视频频道,并同时使用 OpenAI 的 Whisper 语转文字模型为40个流创建字幕。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。