有奖征文:轻量对象存储LighthouseCOS用户实践> HOT
TRTC 联合 T-Sec 天御,提供了实时的音视频内容识别与告警服务,客户在使用实时音视频服务时,支持手动或全局自动发起策略进行音视频内容的识别和告警:
手动自定义审核:客户只需要调用天御音视频流接口即可实时检测音视频流中是否出现违规内容,音视频安全审核服务会通过回调把违规信息发送给客户指定的回调 URL。
全局自动审核:客户可指定审核策略和审核流类型,TRTC云端自动帮忙完成应用下所有房间内的音视频内容审核,并通过回调把违规信息发送给客户指定的回调 URL,无需手动发起审核。

实现原理

直播内容安全通过“哑终端”的形式进入指定的 TRTC 房间,作为“观众”拉取音视频流,并针对拉取到音视频流进行内容审核,然后通过回调把违规信息发送到用户指定的 HTTP/HTTPS 服务上。




费用说明

音视频内容审核费用由 T-Sec 天御收取,新用户开启审核服务后,会赠送新手使用套餐包,消耗完后,默认按照后付费价格进行扣除,详情请参见 视频内容安全计费方式音频内容安全计费方式
注意
首次开通账号可免费试用36000张图片与600分钟音频识别服务,可用于直播视频审核服务;同时可免费试用10小时识别服务,可用于直播音频审核服务,试用套餐包有效期为1个月,两种审核服务的套餐包不通用。套餐包用量查询和购买请前往 直播视频套餐包管理直播音频套餐包管理
当房间内发起任务需要将房间内的音视频流输出至房间外时(包括录制、审核、转推等场景),系统会分配对应的机器人将作为一个虚拟观众加入房间(多个同类型的任务也会有多个机器人进房),订阅需要输出的音视频流,从而产生音视频时长费用。

使用流程

1. 进入 腾讯云 TRTC 控制台,完成应用创建,并进入应用管理,进入内容安全审核模块。


2. 未开通审核服务应用请先开通内容安全审核服务,并授权角色服务权限(腾讯云 COS 相关权限)用于存储相关审核结果。(每个应用需要单独开启审核服务)



3. 内容安全审核默认支持手动自定义审核,手动审核需要您进行相关开发集成,如需接入请参见 手动审核接入指引

如需使用全局自动审核,即希望当前应用下的所有房间内的音视频流都按照指定的审核策略进行自动审核,请单击右侧编辑,完成自动审核配置。
说明:
全局自动审核我们为您提供了默认审核策略场景,即“音视频互动直播场景”,其中包含了适用于音视频通话的直播视频审核策略和适用于音视频互动直播的审核策略,您可以根据业务场景在此策略场景基础上进行调整,操作指引请参见 控制台指南-应用管理-内容安全



配置项
说明
审核模式
支持手动自定义审核(默认)和全局自动审核
审核类型
直播视频审核:将对房间内的音视频流进行审核,适用于视频通话、互动直播应用
直播音频审核:仅对房间内的音频流进行审核,适用于语音聊天应用
审核流类型
单流:将房间内的每一路音视频流进行单独审核
混流:将房间内的所有音视频混合成一路进行审核(混流审核无法获取具体违规的角色信息,适用于审核房间维度下是否违规的场景)
审核策略场景
默认提供音视频场景下的审核策略:音视频互动直播场景,您可在此审核策略上进行修改调整审核策略
回调地址
审核过程中接受审核信息回调的地址,回调 URL 协议头:httphttps 等,仅可包含以下字符:a-z 、A-Z、0-9、-、_、?、%、=、#、.、/和+
回调密钥
回调密钥由大小写字母及数字组成,不超过128个字符,用于保证回调数据的安全性,具体使用实例可参考回调签名示例
注意:
手动审核默认开启,全局自动审核需手动开启,开启生效时间为10分钟,生效后对于开启后新创建的房间内的音视频流进行自动审核,当您开启了全局自动审核开关后,请勿在使用相同的应用(SDKAppId)发起手动审核,将会产生冲突导致审核失败。
4. 完成配置等待10分钟生效后,新创建房间中的音视频流将会自动按照您设置的审核策略进行审核(手动审核将由您控制审核发起)。在审核过程中,用户的回调服务器会持续接收到内容安全审核服务的审核结果,针对 TRTC 是在直播过程中,每个用户的音频切片和图片截帧的审核结果。用户可以根据该结果决定是否封禁直播间,或者是针对直播间发出警告。
在审核过程中,用户的回调服务器会持续接收到内容安全审核服务的审核结果,针对 TRTC 在直播过程中每个用户的音频切片和图片截帧的审核结果,用户可以根据该结果决定是否封禁直播间,或者是针对直播间发出警告。
视频审核任务回调字段说明请见 查看视频任务详情 中的输出参数,音频审核任务回调字段说明请见 查看音频任务详情 中的输出参数,TRTC 回调的片段会存储在 COS上名称为:tianyu-content-moderation-{账号appid}的存储桶中,文件名为:
segment-/trtc/{sdk_app_id}/screenshot_{room_id}_{user_id}{timestamp}.jpg(图片格式)
segment-trtc/{sdk_app_id}/audio_{room_id}_{user_id}_{timestamp}.mp3(音频格式)
说明:
回调内容字段说明请参见 查看任务详情 中的输出参数。
上述信息存储在审核回调的ImageSegments/AudioSegments字段中,您可以用来确认审核的sdk_app_idroom_id、和user_id(混流审核下的 user_id 统一为 mixer,混流审核不支持区分具体的用户user_id)。
图片审核回调示例:

根据上面回调信息,sdkappid:1400188999,roomid:6541925,主播 userid:abc123,审核时间戳:1696919763。
5. 如需查看审核明细和审核结果统计数据,请前往实时音视频控制台指南 > 用量统计 > 内容审核监控 进行查看。