• 首页 > 云计算频道 > 大模型

    中国AI企业创造性压低大模型成本 部分价格下降90%以上

    2024年10月21日 18:03:35   来源:爱集微

       由于面临美国芯片限制和比西方同行更少的预算,中国人工智能(AI)公司正在降低成本以创建具有竞争力的模型。01.ai(零一万物)和DeepSeek(深度求索)等初创公司通过采取一些策略来降低价格,例如专注于较小的数据集来训练人工智能模型,以及聘请低价但熟练的计算机工程师。

      阿里巴巴、百度和字节跳动等大型科技集团也展开了价格战,以降低“推理”成本(即调用大型语言模型生成响应的价格),大模型价格下降90%以上,仅为美国同行的一小部分。

      总部位于北京的01.ai由前谷歌中国区总裁李开复领导,该公司表示,通过构建以较少数据量进行训练、需要较少计算能力的模型并优化硬件,该公司已经降低了推理成本。

      李开复表示:“中国的优势在于制造出真正价格实惠的推理引擎,然后让其应用广泛传播。”

      近日,在加州大学伯克利分校SkyLab和LMSYS的研究人员发布的排名中,01.ai的Yi-Lightning模型与马斯克名下公司x.AI的Grok-2在LLM(大模型)公司中并列第三,但落后于OpenAI和谷歌。

      评估基于用户对不同模型对查询答案的评分。字节跳动、阿里巴巴和DeepSeek等其他中国公司也在大模型排名榜上名列前茅。

      01.ai的Yi-Lightning的推理成本为每百万token 14美分,而OpenAI的较小模型GPT o1-mini的推理成本为26美分。与此同时,OpenAI规模更大的GPT 4o的推理成本为每百万token 4.40美元。用于生成响应的token数量取决于查询的复杂性。

      李开复还表示,Yi-Lightning的“预训练”成本为300万美元,初始模型训练之后可以针对不同用例进行微调或定制。这只是OpenAI等公司对其大型模型所报成本的一小部分。他补充说,其目标不是拥有“最佳模型”,而是一个具有竞争力的模型,开发人员使用它来构建应用程序的成本“要低5到10倍”。

      01.ai、DeepSeek、MiniMax、Stepfun等许多中国人工智能团体都采用了所谓的“混合专家模型(MoE)”方法,这一策略首先由美国研究人员推广。

      该方法不是在从互联网和其他来源抓取数据的庞大数据库上一次性训练一个“密集模型”,而是结合了许多针对行业特定数据进行训练的神经网络。

      研究人员认为,混合专家模型方法是实现与密集模型相同智能水平但计算能力较低的关键方法。但这种方法更容易失败,因为工程师必须协调多个“专家”的训练过程,而不是在一个模型中。

      由于难以获得稳定充足的高端人工智能芯片供应,中国人工智能企业在过去一年中一直在竞相开发最高质量的数据集,以训练这些“专家”,从而使自己在竞争中脱颖而出。

      李开复说:“中国的优势不在于在预算不受限制的情况下,进行前所未有的突破性研究。中国的优势在于建设得好、快、可靠且便宜。”

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    敢闯技术无人区 TCL实业斩获多项AWE 2024艾普兰奖

    近日,中国家电及消费电子博览会(AWE 2024)隆重开幕。全球领先的智能终端企业TCL实业携多款创新技术和新品亮相,以敢为精神勇闯技术无人区,斩获四项AWE 2024艾普兰大奖。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    “纯臻4K 视界焕新”——爱普生4K 3LCD 激光工程投影

    2024年3月12日,由爱普生举办的主题为“纯臻4K 视界焕新”新品发布会在上海盛大举行。

    研究

    2024全球开发者先锋大会即将开幕

    由世界人工智能大会组委会、上海市经信委、徐汇区政府、临港新片区管委会共同指导,由上海市人工智能行业协会联合上海人工智能实验室、上海临港经济发展(集团)有限公司、开放原子开源基金会主办的“2024全球开发者先锋大会”,将于2024年3月23日至24日举办。