通过大量的数据训练是可以实现的,AI通过聆听街道背景音乐生成准确的街道图像的技术已经得到了实现。这项技术被称为“声音到图像扩散模型”,由德克萨斯大学奥斯汀分校的康宇豪副教授及其同事开发。该模型在一个包含10秒钟视听片段的数据集上进行了训练,这些片段由静态图像和环境声音组成,取自YouTube上的北美、亚洲和欧洲的城市和乡村街道视频。
利用深度学习算法,该系统学会了哪些声音与图像中的哪些项目相对应,以及哪些声音质量与哪些视觉环境相对应。训练完成后,系统的任务是根据100个其他街景视频录制的环境声音生成图像,每个视频生成一张图像。
在测试中,一个人类评委小组在聆听图像所依据的视频背景音乐的同时,向他们展示了每张图像以及两张生成的其他街道图像。当他们被要求识别三幅图像中哪一幅与配乐相对应时,他们的平均准确率达到了80%。此外,在对生成的图像进行计算机分析时,发现它们与原始视频中开阔天空、绿色植物和建筑物的相对比例“密切相关”。这项技术展示了AI如何将音频信号转化为视觉图像,实现了通过街道背景音乐生成准确的街道图像的目标,这在多个领域,如城市规划、虚拟现实和娱乐产业等,都具有潜在的应用价值。
网友回复
js如何流式输出ai的回答并折叠代码块,点击代码块右侧可预览代码?
ai大模型如何将文章转换成可视化一目了然的图片流程图图表?
大模型生成html版本的ui原型图和ppt演示文档的系统提示词怎么写?
rtsp视频直播流如何转换成websocket流在h5页面上观看?
为啥coze会开源工作流agent coze studio?
如何检测网页是通过收藏夹打开的?
python如何实现类似php的http动态脚本请求处理响应代码?
js如何实现类似php的http动态脚本请求处理响应代码?
trae与solo有啥区别不同?
vue如何让ai动态生成问卷调查多步骤表单式收集基础信息自动规划执行任务?