Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

裁剪处理驱动后视频,如何还原到原图像中? #3

Open
zhanghongyong123456 opened this issue Jul 25, 2023 · 15 comments
Open

Comments

@zhanghongyong123456
Copy link

目的: 驱动一张图像中的头像运动,
预处理:为了效果好进行了裁剪操作(得到关于头像的一部分,其余舍弃),
对预处理图像进行驱动,得到驱动后的视频,
那么如何将驱动后视频放回原图像中。

@harlanhong
Copy link
Owner

可以参考一下wav2lip。

@zhanghongyong123456
Copy link
Author

zhanghongyong123456 commented Jul 26, 2023

可以参考一下wav2lip。

我觉得不太一样,就是裁剪的部分被驱动了,那么粘贴回原图像,一部分由于驱动运动,另一部分静止图像不运动,造成中心运动,四周不运动情况

能不能实现整个头部(包括头上戴着的帽子什么的)或者上半身跟着运动的项目实现

@skeletonNN
Copy link

请问效果如何?

@milely
Copy link

milely commented Dec 26, 2023

同问效果如何呢,是不是得换用其他数据进行训练呢

@hnsywangxin
Copy link

@zhanghongyong123456 请问该问题解决了吗,能否提供一些思路,最近也碰到了这样的问题

@zhanghongyong123456
Copy link
Author

@zhanghongyong123456 请问该问题解决了吗,能否提供一些思路,最近也碰到了这样的问

没有好的解决方法,目前可能实现是,找一些驱动人物运动的项目(https://humanaigc.github.io/animate-anyone/),然后驱动得视频进行讲话。

@hnsywangxin
Copy link

@zhanghongyong123456 请问该问题解决了吗,能否提供一些思路,最近也碰到了这样的问

没有好的解决方法,目前可能实现是,找一些驱动人物运动的项目(https://humanaigc.github.io/animate-anyone/),然后驱动得视频进行讲话。

感觉heygen和腾讯智影他们做的就好很多,另外我看到synctalk论文中贴的也不错,但是没有参考代码
企业微信截图_ecfcd725-0b25-4206-9ec7-2160d9367dd2

@harlanhong
Copy link
Owner

额,我们这个是专注人脸表情模仿的,躯干这个是刚体运动,可能需要多个方法结合

@zhanghongyong123456
Copy link
Author

@zhanghongyong123456 请问该问题解决了吗,能否提供一些思路,最近也碰到了这样的问

没有好的解决方法,目前可能实现是,找一些驱动人物运动的项目(https://humanaigc.github.io/animate-anyone/),然后驱动得视频进行讲话。

感觉heygen和腾讯智影他们做的就好很多,另外我看到synctalk论文中贴的也不错,但是没有参考代码 企业微信截图_ecfcd725-0b25-4206-9ec7-2160d9367dd2

@hnsywangxin 你可以问一下大佬有没有可参考的开源项目实现,我没找到好的实现

@hnsywangxin
Copy link

@zhanghongyong123456 我这两天在研究,有成果了可以交流交流

@zhanghongyong123456
Copy link
Author

@zhanghongyong123456我这两天在研究,有成果了可以交流交流

好的

@zhanghongyong123456
Copy link
Author

@zhanghongyong123456 我这两天在研究,有成果了可以交流交流

https://humanaigc.github.io/emote-portrait-alive/ 新的作品,感觉效果很好哎

@hnsywangxin
Copy link

https://humanaigc.github.io/emote-portrait-alive/

看demo挺好,就是没开源,另外可以看看我另一个issue:yerfor/GeneFacePlusPlus#81

@jinqinn
Copy link

jinqinn commented Mar 25, 2024

@hnsywangxin 请问有好的解决方案吗

@fg1813042793
Copy link

将脸部或者加颈步贴回去时,如果原始视频中有摆头动作,会有重复部分,这个你们有解决方法吗,如果提前修改原始帧中贴合部分中的一些像素确实能做到,但是无法找到合适 的算法来重置原始图片中贴合部分的像素

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

7 participants