有个项目叫Lip2Wav ,它可以根据无声视频画面嘴唇的动作,进行“读唇”,给你音频配音结果。

算法原理就是根据面部特征,对唇部进行编码,再使用 LSTM 进行音频合成。

Lip2Wav 项目地址:
https://github.com/Rudrabha/Lip2Wav
还有一个项目是相反的,就是根据音频声音来让图像或视频中的人物按照你的声音来说话。

你还可以在线体验,只要上传一段视频和一段声音,谈就会自动同步视频与声音。
在线体验地址:https://bhaasha.iiit.ac.in/lipsync/example_upload1
Wav2Lip 项目地址:
https://github.com/Rudrabha/Wav2Lip
网友回复
有没有不依赖embedding向量的RAG技术?
有没有支持实时打断语音通话并后台帮你执行任何的ai模型?
开源ai大模型文件格式GGUF、MLX、Safetensors、 ONNX 有什么区别?
出海挣钱支付收款PayPal、Wise 、PingPong、Stripe如何选择?
如何实现类似google的图片隐形水印添加和识别技术?
linux上如何运行任意windows程序?
ai能写出比黑客还厉害的零日漏洞等攻击工具攻击任意软件系统工程?
js如何获取浏览器的音频上下文指纹、Canvas指纹、WebGL渲染特征?
为啥ai开始抛弃markdown文本,重新偏好html文本了?
网站有没有办法鉴别访问请求是由ai操控chrome-devtools-mcp发出的?


