前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >《除了吃鸡游戏,3D位置语音还可以用在哪里?》

《除了吃鸡游戏,3D位置语音还可以用在哪里?》

作者头像
腾讯Bugly
发布2018-03-23 17:21:54
1.5K0
发布2018-03-23 17:21:54
举报
文章被收录于专栏:腾讯Bugly的专栏腾讯Bugly的专栏

| 导语 在刚刚结束的首届腾讯用户开放日上,腾讯音视频实验室带着3D位置音效解决方案,向所有用户亮相,为用户提供360度立体空间的沉浸式听觉体验,那么这项技术如何结合具体的场景提升用户听感和体验呢?这篇文章将会详细阐述

基于游戏开发引擎(例如Unreal、Unity)实现的3D音效在游戏中的应用已经非常普遍了,通过游戏引擎模拟重现空间中声源方位,例如CS中射击的枪声、中弹时的音效、附近敌人轻微的脚步声,可以显著提高游戏的沉浸感,造就身临其境的游戏体验。

这里我们可以听一段音视频实验室通过3D音效算法处理后的音频(请带上耳机收听):

可以听到,处理后的音频携带了更多的空间感和方位感信息,通过扩展音乐的延展度,让声场更大、声音位置感更准确、声音运动轨迹更加生动,提升音乐的临场感和沉浸感。

然而,3D音效之前并没有大规模应用在实时语音沟通领域,这主要是由于之前重度游戏中玩法对于语音能力的定位更多是沟通方式而非创新玩法,使用场景对于实时语音携带方位感诉求也不强烈。


2017年一款游戏《绝地求生:大逃杀》,通过创新的百人大逃杀、胜者吃鸡玩法,短时间获得了全球玩家的青睐和追捧。除了游戏玩法本身的创意之外,游戏对于实时语音玩法也进行了颠覆式创新。游戏过程中玩家可以设置【全体模式】向附近的玩家喊话、挑衅、搭讪,这种语音模式可以与陌生人进行很有趣的沟通和互动。社交媒体上已经有很多用户基于这种语音模式,创作了很多趣味视频,例如:

【绝地求生:心机老师一把镰刀进前五,全凭一张嘴,高清版】

视频内容

【中国人吃鸡时遇到喋喋不休的日本人是一种什么体验?emmmm……隔着屏幕感受到了中国小哥内心的无奈】

附上链接:

视频内容

而引入3D位置语音之后,玩家在喊话过程中会暴露自己的方位和位置信息,玩家的声音也会根据位置变化而实时改变。可以说,3D音效让《大逃杀》这种玩家间的沟通和战斗体验更真实,感受更加沉浸式、更加身临其境的吃鸡玩法。

3D音效除了应用在吃鸡游戏中之外,结合线上棋牌房等多人语音场景也可以显著提升用户体验。

现在多人会话中几路声音混为单声道后,声源将集中于一点。应用3D位置音效,收听者可以将不同发送方虚拟到空间不同的位置上,用户更容易通过位置信息知道当前是谁在讲话。这种技术非常适合应用到固定方位的聊天室中。

例如,3D音效应用到棋牌类游戏的语音房间时,通过将各个声音虚拟到桌面相应位置,玩家可以清楚地感知到其他玩家的声音是来自自己左、右还是正前方,打造线上棋牌房的沉浸式体验,也让玩家开语音沟通的意愿更加强烈。

以下是我们模拟玩家方位处理的一段棋牌游戏中实时语音效果:

3D音效的另一个重要应用场景是VR音频。

VR的一切都是关于临场感,而逼真的3D音效效果可以成为临场感的点睛之笔。VR设备能够通过头部运动追踪物体固然重要,能够听到携带物体位置信息的声音也同样重要,逼真的3D音效效果能够给玩家传递其他玩家的位置信息、环境信息,通过视觉和听觉的相互加强来达到最好的效果。

从方位上,VR中各个声音可以虚拟到空间的某个位置上,使用户感受声音来自特定位置;用户转头时,VR中刚才所虚拟方位的声音将随之变化相应的方位,制造出360度立体空间声音定位的效果,让玩家更加确信声源就在现实中。这对于VR类游戏体验非常关键。目前音视频实验室的3D音效相关技术提案已提交到AVS(国家音视频编解码技术标准)的VR音频国家标准中,且在腾讯今年发布的一款VR 游戏“hello world”中已上线。

3D音效还可用于高清视频的音频处理,用户只需使用双声道耳机,即可在家体验影院的沉浸式立体声视听体验。

我们知道,在电影院观影过程中为了打造立体声效果常用5.1声道,7.1声道,每个声道的声音通过不同位置的音箱播放出来,配合影片,观众体验更加震撼。而当戴耳机来观看电影时,由于常规的方法是简单的将靠左侧的所有声道混在左声道,靠右侧的声道混在右声道,中置声道左右都混,这导致无论5.1还是7.1所有声像最终都变成左中右,模糊掉许多细节导致一些声音的变化体现不真实,例如从左后方运动到左方再到左前。更严重的是,假如其他声道无声,只有左前声道有声音,就变成了只有左耳机响,这种感受很不好。

而3D音效可将各声道虚拟到各个相应音箱的位置,从而使听觉更像来自空间中的各个音箱。运用3D音效技术,用户在家用双声道耳机即可体验沉浸式的影院立体声效果。

以下是我们在腾讯视频上截取的音乐原声并通过3D音效处理后的效果:


那么,三维虚拟听觉是如何实现的呢?要将普通单声道声音处理为沉浸感的音频需要先了解下面的问题:人耳如何分辨声音来自何方? 我们先看下面的图:

通过图中我们可以看到,左右耳听到的声音先后、左右耳听到的声音的大小、左右耳听到声音实际频谱都是有差异的。

我们的3D音效技术,就是利用“头部关联传输函数”(HRTF 算法),对双耳之间的时间差异和频谱差异进行建模,形成有声源方位感的声音。同时我们还通过采样混响填补HRIR缺失的环境反射声,从而构建完整的声场模型。比如在一个小房间里,不仅可以听到两个人之间的对话,还可以听到声音从墙壁中反射的效果,增加沉浸感。在下一篇关于3D音效技术揭秘的文章中,我们会披露关于此项技术更多的原理介绍,敬请期待!

ps:受限于微信公众号一篇文章只能加载一个音频和三个视频的规定,音频只能使用视频代替,视频提供短链入口。文章整体美观性受到一定影响(虽然平时发文也没有什么美观性可言),但请大家且看且吐槽!


如果您觉得我们的内容还不错,就请转发到朋友圈,和小伙伴一起分享吧~

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2017-12-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 腾讯Bugly 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档