前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Chromium 改造实录:增加 MPEG TS 格式支持

Chromium 改造实录:增加 MPEG TS 格式支持

作者头像
云水木石
发布2023-10-08 09:09:07
2630
发布2023-10-08 09:09:07
举报

在《选择最新 Chromium,支持 H264 / H265》一文中,记录了我通过升级 Chromium 版本解决了 H264 / H265 视频支持难题。然而难题接踵而至,这次的难题是 MPEG TS 流的支持。

MPEG2-TS 传输流广泛应用于数字电视广播系统,所以是一个不得不支持的格式。通过查询资料,了解到 FFmpeg 是支持 TS 格式的,但 Chromium 中并没有默认开启这个功能。这可能是出于版权、性能或者兼容性的考虑。

关于如何让 Chromium 支持 TS,我请教了一下 AI。AI 给的思路是:

  • 修改 FFmpeg 的配置文件,开启 MPEG TS 的解复用器和解码器;
  • 修改 Chromium for Android 的媒体框架,添加对 MPEG TS 的支持;
  • 修改 Chromium for Android 的网络模块,添加对 MPEG TS 的传输协议的支持。

按照 AI 的建议,我一步步解决了 TS 格式的支持问题。

第一步研究 Chromium 的编译参数。媒体有关的编译选项主要位于 media 目录下的 media_options/gni 文件中。研究了一下,发现一个 enable_mse_mpeg2ts_stream_parser 参数,目前的值是:

代码语言:javascript
复制
  enable_mse_mpeg2ts_stream_parser =
      proprietary_codecs && (enable_cast_receiver || use_fuzzing_engine)

对于 Chromium for Android,上面的值是 false。看起来这个选项是与 MSE(Media Source Extensions) 有关,但实际上也会影响 TS 文件的解析,因为在 mime_util_internal.cc 中有这样的代码:

代码语言:javascript
复制
#if BUILDFLAG(ENABLE_MSE_MPEG2TS_STREAM_PARSER)
  CodecSet mp2t_codecs{H264, MPEG2_AAC, MPEG4_AAC, MP3};
  AddContainerWithCodecs("video/mp2t", mp2t_codecs);
#endif  // BUILDFLAG(ENABLE_MSE_MPEG2TS_STREAM_PARSER)

TS 容器的 mime type 为 video/mp2t,只有开启了 enable_mse_mpeg2ts_stream_parser,才会加入对 TS 容器的处理。所以首先需要将 enable_mse_mpeg2ts_stream_parser 选项修改为 true。

修改这个参数后,立刻又碰到一个新的错误信息:

代码语言:javascript
复制
03-09 07:44:55.322 31903 32010 V chromium: [VERBOSE1:batching_media_log.cc(35)] MediaEvent: {"error":"FFmpegDemuxer: open context failed"}

稍微捋一下代码,可以发现 open context 的代码实际位于 FFmpegGlue::OpenContext,这个方法中又会调用 FFMPEG 的 avformat_open_input 函数。

接下来的调用流程:

代码语言:javascript
复制
avformat_open_input -> init_input -> av_probe_input_buffer2 -> av_probe_input_format2 -> av_probe_input_format3 -> av_demuxer_iterator

可以很明显看出,av_demuxer_iterator 就是遍历系统的 demuxer,那这个 demuxer 列表来自哪儿呢?

查看其实现文件 allformats.c,可以看到它有如下包含文件:

代码语言:javascript
复制
#include "libavformat/demuxer_list.c"

也就是在 demuxer_list.c 这个文件里面进行了定义。搜索 demuxer_list.c 文件,发现这个文件有多份,位于 third_party/ffmpeg/chromium/config 下。

这个 config 下的文件组织有些讲究,最上一层是 branding,也就是我们在 args.gn 下定义的 ffmpeg_branding 选项,默认是 Chromiium。再下一层是按 OS 划分,接下来就是按 CPU 分。找出你的目标平台,修改 demuxer_list.c,增加一行:

代码语言:javascript
复制
&ff_mpegts_demuxer,

接下来还要修改 FFmpegGlue::OpenContext 方法,在

代码语言:javascript
复制
DCHECK_NE(container_, container_names::CONTAINER_UNKNOWN);

前面增加容器判断:

代码语言:javascript
复制
  else if (strcmp(format_context_->iformat->name, "mpegts") == 0)
    container_ = container_names::CONTAINER_MPEG2TS;

解决了上面的错误后,又会碰到新的错误:

代码语言:javascript
复制
03-04 09:53:29.573 28173 28233 W [FFMPEG]: Could not find codec parameters for stream 0 (Video: h264 ([27][0][0][0] / 0x001B), none): unspecified size
03-04 09:53:29.573 28173 28233 W [FFMPEG]: Consider increasing the value for the 'analyzeduration' (60000000) and 'probesize' (5000000) options
03-04 09:53:29.573 28173 28233 W [FFMPEG]: Could not find codec parameters for stream 1 (Audio: ac3 (AC-3 / 0x332D4341), 0 channels): unspecified sample rate
03-04 09:53:29.573 28173 28233 W [FFMPEG]: Consider increasing the value for the 'analyzeduration' (60000000) and 'probesize' (5000000) options
03-04 09:53:29.573 28173 28233 D [FFMPEG]: After avformat_find_stream_info() pos: 0 bytes read:36960112 seeks:8 frames:292
03-04 09:53:29.574 28173 28247 V chromium: [VERBOSE1:ffmpeg_common.cc(246)] Unknown profile id: -2659
03-04 09:53:29.575 28173 28247 V chromium: [VERBOSE1:batching_media_log.cc(37)] MediaEvent: {"debug":"Warning, FFmpegDemuxer failed to create a valid/supported video decoder configuration from muxed str}
03-04 09:53:29.575 28173 28247 V chromium: [VERBOSE1:batching_media_log.cc(37)] MediaEvent: {"info":"FFmpegDemuxer: skipping invalid or unsupported video track"}
03-04 09:53:29.575 28173 28247 V chromium: [VERBOSE1:ffmpeg_common.cc(122)] Unknown audio CodecID: 86019
03-04 09:53:29.575 28173 28247 V chromium: [VERBOSE1:ffmpeg_common.cc(294)] Unknown AVSampleFormat: -1

看日志,似乎是解码器创建失败,有了前面的经验,直接找到 codec_list.cc 文件,加入如下行:

代码语言:javascript
复制
&ff_h264_decoder,

同时修改 config_components.h 文件, 将:

代码语言:javascript
复制
#define CONFIG_H264_DECODER 0

修改为:

代码语言:javascript
复制
#define CONFIG_H264_DECODER 1

经过这样的修改后,我们会发现出现很多链接错误。没有关系,将缺的代码文件加入编译即可。

需要注意的是,有些底层代码是使用汇编语言编写,在 Android 平台下就是那些以 .S 为后缀的文件。非常神奇的是,clang 直接支持编译汇编语言,所以将这些汇编文件和 C 文件一起加入编译列表即可。

经过这样一番操作,TS 流终于播放起来了。需要说明的是,我测试使用的 TS 流,内部视频采用的 H264 编码,如果采用其他格式编码,修改的过程会有所不同,但思路类似。

经过上述的改造,是否就完美解决问题了呢?并没有。测试下来,发现视频播放出来了,但是没有声音,从日志可以看出:

代码语言:javascript
复制
03-05 21:14:18.706 18936 19047 V chromium: [VERBOSE1:batching_media_log.cc(37)] MediaEvent: {"debug":"Warning, FFmpegDemuxer failed to create a valid/supported audio decoder configuration from muxed str}
03-05 21:14:18.707 18936 19047 V chromium: [VERBOSE1:batching_media_log.cc(37)] MediaEvent: {"info":"FFmpegDemuxer: skipping invalid or unsupported audio track"}

解决的方法类似,但真正解决声音输出,又花费了一番精力,这个留在下一篇继续,敬请关注!

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2023-03-25 11:34:00,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 云水木石 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
相关产品与服务
容器服务
腾讯云容器服务(Tencent Kubernetes Engine, TKE)基于原生 kubernetes 提供以容器为核心的、高度可扩展的高性能容器管理服务,覆盖 Serverless、边缘计算、分布式云等多种业务部署场景,业内首创单个集群兼容多种计算节点的容器资源管理模式。同时产品作为云原生 Finops 领先布道者,主导开源项目Crane,全面助力客户实现资源优化、成本控制。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档