• 首页 > 云计算频道 > 大模型

    高通推出AI Hub,方便开发者在设备上访问和下载AI模型

    2024年02月27日 14:45:10   来源:站长之家

      2月27日 消息:随着在个人设备上的设备 AI 变得更加普及。在世界移动通信大会上,高通推出了一款工具AI Hub,简化了开发人员如何将 AI 模型直接下载到测试设备上的过程。

       新的高通 AI Hub 包含了一个库,其中包含超过75个生成式 AI 模型,开发人员可以轻松地将这些模型下载到搭载高通芯片的设备上,同时随着时间的推移不断添加新的模型。该库包含了一些行业中最受欢迎的模型,如 Whisper、OpenAI 的自动语音识别(ASR)系统以及 Stable Diffusion,Stability AI 的文本到图像模型。高通 AI Hub 会自动对模型进行硬件优化,以实现卓越的设备 AI 性能。

      此外,这些模型经过优化,充分利用了高通 AI 引擎中的所有内核,包括 NPU、CPU 和 GPU,从而实现更好的能效、更低的内存利用率,以及高达四倍的推断速度,根据公司周一发布的消息。放弃与云端的任何摩擦,设备 AI 的优势之一是提高了整体应用性能的同时增加了隐私保护,这在创建使用具有机密或专有数据的数据库的模型时尤为重要。

      “高通 AI Hub 为开发人员提供了一个全面的 AI 模型库,快速、轻松地将预优化的 AI 模型集成到他们的应用程序中,从而实现更快、更可靠和更私密的用户体验,” 高通技术规划和边缘解决方案高级副总裁 Durga Malladi 表示。

      高通表示,优化的模型已经可以在高通 AI Hub、GitHub 和 Hugging Face 上获得。开发人员可以从今天开始申请访问。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。