AnimateDiff AI 生成的图动起来

eye 2024年03月08日 27次浏览

AnimateDiff

该存储库是AnimateDiff 的官方实现。它是一个即插即用的模块,可将大多数社区模型转变为动画生成器,而不需要额外的训练。

AnimateDiff 的正式实现。无需特定调整即可为您的个性化文本到图像扩散模型制作动画 .

随着文本到图像模型(例如稳定扩散)和相应的个性化技术(例如LoRA和DreamBooth)的进步,每个人都可以以可承受的成本将他们的想象力转化为高质量的图像。随后,对图像动画技术的需求很大,以进一步将生成的静止图像与运动动态相结合。在这个项目中,我们提出了一个有效的框架,可以一次性对大多数现有的个性化文本到图像模型进行动画处理,从而节省模型特定调整的工作量。

所提出框架的核心是将新初始化的运动建模模块附加到基于冻结的文本到图像模型,并随后在视频剪辑上对其进行训练,以提取合理的运动先验。一旦经过训练,通过简单地注入这个运动建模模块,所有源自同一基础的个性化版本很容易成为文本驱动的模型,产生多样化和个性化的动画图像。