MagicAnimate

2023-12-09 06:04
文章标签 magicanimate

本文主要是介绍MagicAnimate,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

简介

新加坡国立大学 Show 实验室和字节联合做了一项类似的研究。他们提出了一个基于扩散的框架 MagicAnimate,旨在增强时间一致性、忠实地保留参考图像并提升动画保真度。并且,MagicAnimate 项目是开源的,目前推理代码和 gradio 在线 demo 已经发布。

  • 论文地址:MagicAnimate: Temporally Consistent Human Image Animation using Diffusion Model

  • GitHub项目地址:https://github.com/magic-research/magic-animate

  • 镜像下载地址:git clone https://gitclone.com/github.com/magic-research/magic-animate

初步了解

可以通过readme了解项目大概,
在这里插入图片描述
需要下载预训练的基本模型 StableDiffusion V1.5MSE-finetuned VAE
且需要下载下列检查点,

magic-animate
|----pretrained_models|----MagicAnimate|----appearance_encoder|----diffusion_pytorch_model.safetensors|----config.json|----densepose_controlnet|----diffusion_pytorch_model.safetensors|----config.json|----temporal_attention|----temporal_attention.ckpt|----sd-vae-ft-mse|----...|----stable-diffusion-v1-5|----...
|----...

前提: python>=3.8, CUDA>=11.3, and ffmpeg.
且需要安装的三方包列表在requirements.txt文件中,创建虚拟环境后即可进行安装。

参考链接

1、https://baijiahao.baidu.com/s?id=1784426435369033621&wfr=spider&for=pc
2、https://zhuanlan.zhihu.com/p/670641392

这篇关于MagicAnimate的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/472724

相关文章

【AI应用】MagicAnimate项目在COLAB在线部署----通过图片生成舞蹈视频

本专栏主要记录人工智能的应用方面的内容,包括chatGPT、AI绘图等等; 在当今AI的热潮下,不学习AI,就要被AI淘汰;所以欢迎小伙伴加入本专栏和我一起探索AI的应用,通过AI来帮助自己提升生产力; 订阅后可私聊我获取 《从零注册并登录使用ChatGPT》《从零开始使用chatGPT的API;通过chatgpt-next-web部署自己chatGPT web网页;无需翻墙,无需服务

MagicAnimate项目在COLAB在线部署----通过图片生成舞蹈视频

本专栏主要记录人工智能的应用方面的内容,包括chatGPT、AI绘图等等; 在当今AI的热潮下,不学习AI,就要被AI淘汰;所以欢迎小伙伴加入本专栏和我一起探索AI的应用,通过AI来帮助自己提升生产力; 订阅后可私聊我获取 《从零注册并登录使用ChatGPT》《从零开始使用chatGPT的API;通过chatgpt-next-web部署自己chatGPT web网页;无需翻墙,无需服务