MuseV 是一个基于扩散模型的虚拟人视频生成框架。它采用了新颖的视觉条件并行去噪方案,支持无限长度视频的生成。
提供了预训练的虚拟人视频生成模型,具备 Image2Video、Text2Image2Video 和 Video2Video 等强大功能。而且,MuseV 兼容 Stable Diffusion 生态系统,包括基础模型、LoRA 和 ControlNet 等。
特色功能
• 无限长度视频生成:打破传统视频长度限制,让你的创意无限延伸。
• 多种功能模式:Image2Video、Text2Image2Video、Video2Video,满足不同创作需求。
• 支持 Stable Diffusion 生态:与现有技术兼容,提供更多创作可能性。
• 多参考图像技术:通过 IPAdapter、ReferenceOnly、ReferenceNet、IPAdapterFaceID 等技术,提升视频质量。
使用 MuseV 也非常简单。只需选择你喜欢的功能模式,输入相应的素材(如图片、文本或视频),它将为你生成高保真的虚拟人视频。同时,你还可以根据需要调整各种参数,实现个性化的创作。
为此官方也在HuggingFace上创建了体验项目,可供无条件搭建的人群或初学者使用。
待优化项
• 缺乏泛化能力。对视觉条件帧敏感,有些视觉条件图像表现良好,有些表现不佳。
• 有限的视频生成类型和有限的动作范围,部分原因是训练数据类型有限。MuseV 在较低分辨率下具有更大的动作范围,但视频质量较低。MuseV 在高分辨率下画质很好、但动作范围较小。在更大、更高分辨率、更高质量的文本视频数据集上进行训练可能会使 MuseV 更好。
• 有限类型的长视频生成。视觉条件并行去噪可以解决视频生成的累积误差,但当前的方法只适用于相对固定的摄像机场景。
Demo:https://huggingface.co/spaces/AnchorFake/MuseVDemo