【Oculus】虚拟现实音频处理VR Audio - Part 4【翻译】

本文探讨了三维空间声音建模中的关键概念和技术,包括HRTFs、衰减、混响和反射等,通过不同的模型来模拟真实世界的听觉体验,如shoebox模型和人工混音,以及如何在虚拟现实中创造沉浸式的听觉效果。

五、环境建模

HRTFs和衰减一起为三维空间声音提供了无回声的模型,可以体现很强的方向信息,但是由于缺少空间因素,造成声音比较干和假。为了补偿这个,我们加入了环境建模来模拟周围空间的听觉效果。

1. 混响和反射

随着声音在空间中传播,它们会在平面上反射,造成一系列的回音。最初的回音可以帮助我们确定声音的距离和方向,当这些回音传播、消失以及交叉时,会产生混音(late reverberation tail),来增强我们的空间感。

audio-11-reflections.png

混音和反射有以下几个模型。

shoebox model

6面平行的墙,需要指定距离,听者的位置和朝向。虽然这个模型很简单,但是总比没有强。

audio-12-shoebox-model.png

人工混音artifical reverberations

由于物理建模的计算复杂度很高,混音常常使用人工的模拟,ad hoc methods。虽然计算复杂度低了一些,但是由于缺少听者的朝向信息,可能会造成声音的失真,这与算法和实现相关。

sampled impulse response reverberation

基于抽样的脉冲响应与游戏中的环境不太匹配,同样缺少听者的位置和朝向,他们是单声道的,并且很难在不同空间进行转移。

2. 真实世界的空间和声音

shoebox模型试图对空间信息进行简化的表达,它假设没有冲突,并且所有墙对频率的吸收是相同的,并且六面墙对听者的距离是固定的。由于VR环境是复杂且动态的,这种方法不能很好的scale。

现有方法有对复杂环境进行建模,但是知名度不够高。

3. 环境的转变

对一个区域进行建模是很复杂的,但也很直接。但是当空间进行转换时,可能会有音频的不连续性,有些模型需要缓冲和重启整个混音器,有些系统会在现实系统中引入噪声。

4. 现场和沉浸式

开发者将用户沉浸在一个虚拟世界中,给用户一种现场感。当用户在场景中间时,音频的沉浸感是最强的。例如,一个人在远处观看3D棋盘游戏时,压迫感远不如她站在棋盘的中心。

(1)普通用户端(全平台) 音乐播放核心体验: 个性化首页:基于 “听歌历史 + 收藏偏好” 展示 “推荐歌单(每日 30 首)、新歌速递、相似曲风推荐”,支持按 “场景(通勤 / 学习 / 运动)” 切换推荐维度。 播放页功能:支持 “无损音质切换、倍速播放(0.5x-2.0x)、定时关闭、歌词逐句滚动”,提供 “沉浸式全屏模式”(隐藏冗余控件,突出歌词与专辑封面)。 多端同步:自动同步 “播放进度、收藏列表、歌单” 至所有登录设备(如手机暂停后,电脑端打开可继续播放)。 音乐发现与管理: 智能搜索:支持 “歌曲名 / 歌手 / 歌词片段” 搜索,提供 “模糊匹配(如输入‘晴天’联想‘周杰伦 - 晴天’)、热门搜索词推荐”,结果按 “热度 / 匹配度” 排序。 歌单管理:创建 “公开 / 私有 / 加密” 歌单,支持 “批量添加歌曲、拖拽排序、一键分享到社交平台”,系统自动生成 “歌单封面(基于歌曲风格配色)”。 音乐分类浏览:按 “曲风(流行 / 摇滚 / 古典)、语言(国语 / 英语 / 日语)、年代(80 后经典 / 2023 新歌)” 分层浏览,每个分类页展示 “TOP50 榜单”。 社交互动功能: 动态广场:查看 “关注的用户 / 音乐人发布的动态(如‘分享新歌感受’)、好友正在听的歌曲”,支持 “点赞 / 评论 / 转发”,可直接点击动态中的歌曲播放。 听歌排行:个人页展示 “本周听歌 TOP10、累计听歌时长”,平台定期生成 “全球 / 好友榜”(如 “好友中你本周听歌时长排名第 3”)。 音乐圈:加入 “特定曲风圈子(如‘古典音乐爱好者’)”,参与 “话题讨论(如‘你心中最经典的钢琴曲’)、线上歌单共创”。 (2)音乐人端(创作者中心) 作品管理: 音乐上传:支持 “无损音频(FLAC/WAV)+ 歌词文件(LRC)+ 专辑封面” 上传,填写 “歌曲信息
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值