英特尔团队提出L-MAGIC新技术 通过结合语言模型让图像扩散模型生成高质量360度场景

　　在CVPR2024上，美国英特尔研究院的蔡志鹏博士及其团队提出了一种名为L-MAGIC(Language Model Assisted Generation of Images with Coherence)的新技术。这项技术通过结合语言模型和图像扩散模型，实现了高质量、多模态、零样本泛化的360度场景生成。

　　核心特点:

　　结合语言模型和扩散模型:L-MAGIC利用自然图像连接不同模态的输入，并通过条件扩散模型如ControlNet从各种模态输入生成自然图像。

　　迭代变形和填充:在获得自然图像后，L-MAGIC通过迭代变形(warping)和填充(inpainting)生成360度场景的多个视角，使用基于扩散的图像填充模型(如Stable Diffusion v2)生成缺失像素。

　　语言模型控制:L-MAGIC使用语言模型自动控制扩散模型，根据每个视角需要生成的场景内容，有效保持语言及扩散模型的泛化性。

　　多样化场景生成:L-MAGIC能够生成多样化的全局场景结构，无需微调，从而实现多样化场景的高质量生成。

　　多模态输入:除了自然图像，L-MAGIC还能接受文字、手绘草图、深度图等多种模态的输入。

　　实验结果表明:

　　L-MAGIC在图像到360度场景生成及文字到360度场景生成任务中均达到了SOTA(State of the Art)。

　　能够生成具有多样化360度场景结构的全景图，并且能够平滑地完成360度闭环。

　　除了文字和自然图像，L-MAGIC还能够使用ControlNet接受多样化的输入，如深度图、设计草图等。

　　技术应用:

　　L-MAGIC还能够利用深度估计模型生成场景的沉浸式视频和三维点云，为场景理解和可视化提供了更多可能性。