通过大量的数据训练是可以实现的,AI通过聆听街道背景音乐生成准确的街道图像的技术已经得到了实现。这项技术被称为“声音到图像扩散模型”,由德克萨斯大学奥斯汀分校的康宇豪副教授及其同事开发。该模型在一个包含10秒钟视听片段的数据集上进行了训练,这些片段由静态图像和环境声音组成,取自YouTube上的北美、亚洲和欧洲的城市和乡村街道视频。
利用深度学习算法,该系统学会了哪些声音与图像中的哪些项目相对应,以及哪些声音质量与哪些视觉环境相对应。训练完成后,系统的任务是根据100个其他街景视频录制的环境声音生成图像,每个视频生成一张图像。
在测试中,一个人类评委小组在聆听图像所依据的视频背景音乐的同时,向他们展示了每张图像以及两张生成的其他街道图像。当他们被要求识别三幅图像中哪一幅与配乐相对应时,他们的平均准确率达到了80%。此外,在对生成的图像进行计算机分析时,发现它们与原始视频中开阔天空、绿色植物和建筑物的相对比例“密切相关”。这项技术展示了AI如何将音频信号转化为视觉图像,实现了通过街道背景音乐生成准确的街道图像的目标,这在多个领域,如城市规划、虚拟现实和娱乐产业等,都具有潜在的应用价值。
网友回复
python如何调用openai的api实现知识讲解类动画讲解视频的合成?
html如何直接调用openai的api实现海报可视化设计及文本描述生成可编辑海报?
f12前端调试如何找出按钮点击事件触发的那段代码进行调试?
abcjs如何将曲谱播放后导出mid和wav格式音频下载?
python如何将曲子文本生成音乐mp3或wav、mid文件
python中mp3、wav音乐如何转成mid格式?
js在HTML中如何将曲谱生成音乐在线播放并下载本地?
python如何实现在windows上通过键盘来模拟鼠标操作?
python如何给win10电脑增加文件或文件夹右键自定义菜单?
python如何将音乐mp3文件解析获取曲调数据?