• 首页 > 云计算频道 > 大模型

    快手文生视频模型可灵开放测试 更懂物理,最长可生成2分钟视频

    2024年06月07日 11:50:19   来源:站长之家

      昨天,快手公司推出了一款名为「可灵」的全新视频生成大模型,该模型采用了与Sora相似的技术路线,并结合了快手自研的多项技术创新。这款模型不仅能够生成长达2分钟、30fps、1080p分辨率的超长视频,支持多种宽高比,还能模拟物理世界的特性,精准建模复杂运动。

      亮点:

      1、生成能力强大:

      支持长达2分钟的30fps高清视频生成,分辨率高达1080p。

      支持多种宽高比,包括竖版视频,非常适合快手的短视频生态。

      2、运动和物理模拟:

      准确刻画复杂、大幅度的运动,如公路上奔跑的老虎、宇航员在月球上行走等。

      能够模拟物理特性,如重力、液体流动和光学反射等,生成的画面更符合真实物理规律。

      3、应用场景广泛:

      从娱乐到教育,可灵的应用场景广泛。

      支持文本转视频、多种控制信息输入、以及丰富的内容控制能力。

      「可灵」大模型够准确刻画复杂、大幅度的时空运动,如公路上高速奔跑的老虎,画面连贯,动作协调,甚至奔跑过程中躯干的抖动也得到了细致展现。它还能模拟真实物理世界的特性,比如倒牛奶时的重力规律和液面上升,以及光学上的反射规律。此外,「可灵」还能真实反映与真实物理世界的交互,如小男孩吃汉堡时齿印的变化等。

      技术特点

      1、原生视频生成技术:

      采用类似Sora的DiT结构,用Transformer代替传统的卷积网络U-Net。

      3D VAE网络用于时空同步压缩,提高重建质量和训练性能。

      3D Attention机制用于时空建模,提升复杂时空运动的建模能力。

      2、高质量数据支持:

      构建了完备的标签体系,对训练数据进行精细化筛选和分布调整。

      专用的视频描述模型生成精确、详尽的结构化视频描述,提升模型的文本指令响应能力。

      3、高效训练策略:

      使用分布式训练集群和优化策略提高运算效率。

      分阶段训练策略:初期低分辨率阶段侧重数量,后期高分辨率阶段侧重质量,确保模型在各阶段的优化。

      实际应用

      1、快影APP:

      可灵大模型已在快影APP中开启邀测,当前版本支持生成720P视频,竖版视频生成能力即将开放。

      2、其他应用:

      “AI舞王”:上传全身照,生成人物跟随音乐跳舞的视频。

      “AI唱跳”:生成跳舞并唱歌的视频。

      未来还将推出图生视频功能。

      快手在大模型技术方面动作迅速,与多个高校或科研机构合作发布了多项关键技术,为「可灵」大模型积累了深厚的技术沉淀。现在,快手的文生视频功能已正式亮相,期待其在短视频场景中的应用落地。

      对AI视频创作感兴趣的用户,可以在快影APP中体验「可灵」大模型的功能。

      体验方法:快影 APP-AI 玩法-AI 视频生成中申请。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时

    新闻

    明火炊具市场:三季度健康属性贯穿全类目

    奥维云网(AVC)推总数据显示,2024年1-9月明火炊具线上零售额94.2亿元,同比增加3.1%,其中抖音渠道表现优异,同比有14%的涨幅,传统电商略有下滑,同比降低2.3%。

    企业IT

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费

    华硕ProArt创艺27 Pro PA279CRV显示器,高能实力,创

    华硕ProArt创艺27 Pro PA279CRV显示器,凭借其优秀的性能配置和精准的色彩呈现能力,为您的创作工作带来实质性的帮助,双十一期间低至2799元,性价比很高,简直是创作者们的首选。

    研究

    中国信通院罗松:深度解读《工业互联网标识解析体系

    9月14日,2024全球工业互联网大会——工业互联网标识解析专题论坛在沈阳成功举办。