【Android RTMP】x264 图像数据编码 ( Camera 图像数据采集 | NV21 图像数据传到 Native 处理 | JNI 传输字节数组 | 局部引用变量处理 | 线程互斥 )

韩曙亮

发布于 2023-03-27 21:25:12

4910

发布于 2023-03-27 21:25:12

文章被收录于专栏：韩曙亮的移动开发专栏

文章目录

一、 NV21 数据传入 Native 层

1 . Camera 采集 NV21 格式图像数据 :

① 接口注册 : Android 中使用 Camera 采集图像数据 , 启动 Camera 时会为其注册一个回调接口 PreviewCallback ;

② 数据回调 : 当 Camera 采集到图像数据后 , 就会回调该 PreviewCallback 接口中的 onPreviewFrame 方法 , 在该方法中可以获取 Camera 采集到的图像数据 , 该图像数据是 NV21 格式的 ;

2 . Java 中定义的方法 : Java 中传递的参数类型为 byte[] , 字节数组类型 ;

public native void native_encodeCameraData(byte[] data);

3 . JNI 中对应的方法 : JNI 中接收的方法是 jbyteArray data 类型的 ;

extern "C"
JNIEXPORT void JNICALL
Java_kim_hsl_rtmp_LivePusher_native_1encodeCameraData(JNIEnv *env, jobject thiz, jbyteArray data) {
}

二、 jbyte * 数据类型 ( Java 中的 byte[] 数组传入 JNI 处理方式 )

1 . 类型转换 :

① jbyteArray 类型说明 : jbyteArray 类型在 C++ 中是无法使用的 , 必须转成可以使用的数据类型, jbyteArray 就是 Java 类型的字节数组 , 可以转为 jbyte 数组 ;

② jbyteArray 转为 jbyte * : 调用 JNIEnv 结构体的 GetByteArrayElements 方法 , 可以将 jbyteArray 类型数据转为 jbyte * 类型 ;

    // 将 Java 层的 byte 数组类型 jbyteArray 转为 jbyte* 指针类型
    // 注意这是局部引用变量, 不能跨线程, 跨方法调用, 需要将其存放在堆内存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);

2 . jbyte 类型 : 在 jni.h 中 , 定义了 Java 中的 byte 类型 jbyte 类型 , 实际上是 C/C++ 中的 int8_t 数据类型 ;

typedef int8_t   jbyte;    /* signed 8 bits */

3 . x264 编码方法接收的数据类型 : jbyte 类型本质就是 int8_t 类型 , 直接将 jbyte* dataFromJava , 代表了 jbyte 类型的数组 , 可以将该指针传入 encodeCameraData 方法 ; jbyte* 类型等同于 int8_t * 类型

void encodeCameraData(int8_t *data)

三、局部引用处理

1 . 局部引用处理 :

① 局部引用 : 参数中的 jbyte* dataFromJava , 以及转换后的 jbyte* dataFromJava 数据 , 都是局部引用 ;

② 局部引用特性 : 局部引用变量 , 不能跨线程 , 跨方法调用 , 超出作用域后立刻失效 , 如果要使用该数据 , 需要将其存放在堆内存中 ;

③ 回收内存 : 局部引用要在作用域结束前主动回收内存 , 不要等系统自动回收 , 避免不必要的内存抖动 ;

    // 将 Java 层的 byte 数组类型 jbyteArray 转为 jbyte* 指针类型
    // 注意这是局部引用变量, 不能跨线程, 跨方法调用, 需要将其存放在堆内存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);

    // 释放局部引用变量
    env->ReleaseByteArrayElements(data, dataFromJava, 0);

2 . 局部引用 , 全局引用 , 弱全局引用处理参考 :

四、 x264 编码过程中的线程互斥

线程互斥说明 :

① x264 编码与 x264 参数设置 : 在 x264 编码的过程中 , 一定要与 x264 参数设置进行互斥 ;

② 参数修改 : 编码的整个过程中 , x264 的参数不能改变 , 如编码图像的宽度 , 高度 , 视频的帧率 , 码率 , 改变任意一个值 , 都会导致不可预知的风险 ;

③ 场景举例 : 在 x264 编码过程中 , 突然横竖屏切换 , 这时候会激活 x264 参数设置选项 , 如果此时正在编码 , 会出错 ;

2 . 互斥锁管理 : 导入包 #include <pthread.h> ;

① 声明互斥锁 : 使用前需要在成员变量中声明互斥锁 ;

    /**
     * 互斥锁
     * 数据编码时, 可能会重新设置视频编码参数 setVideoEncoderParameters, 如横竖屏切换, 改变了大小
     * setVideoEncoderParameters 操作线程, 需要与编码操作互斥
     */
    pthread_mutex_t mMutex;

② 初始化互斥锁 : 构造函数中初始化互斥锁 ;

    // 初始化互斥锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_init(&mMutex, 0);

③ 销毁互斥锁 : 析构函数中回收互斥锁 ;

    // 销毁互斥锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_destroy(&mMutex);

④ 使用互斥锁 : 设置参数时需要加锁 , 数据编码时需要加锁 ;

    // 加锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_lock(&mMutex);

	// 执行需要互斥的操作

    // 解锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_unlock(&mMutex);

五、 x264 视频数据编码代码示例

1 . Java 中定义的 native 方法 :

    /**
     * 执行数据编码操作
     * @param data
     */
    public native void native_encodeCameraData(byte[] data);

2 . NV21 数据传递过程 :

extern "C"
JNIEXPORT void JNICALL
Java_kim_hsl_rtmp_LivePusher_native_1encodeCameraData(JNIEnv *env, jobject thiz, jbyteArray data) {
    if(!vedioChannel || !readyForPush){
        // 如果 vedioChannel 还没有进行初始化, 推流没有准备好了, 直接 return
        __android_log_print(ANDROID_LOG_INFO, "RTMP", "还没有准备完毕, 稍后再尝试调用该方法");
        return;
    }

    // 将 Java 层的 byte 数组类型 jbyteArray 转为 jbyte* 指针类型
    // 注意这是局部引用变量, 不能跨线程, 跨方法调用, 需要将其存放在堆内存中
    jbyte* dataFromJava = env->GetByteArrayElements(data, NULL);

    // jbyte 是 int8_t 类型的, 因此这里我们将 encodeCameraData 的参数设置成 int8_t* 类型
    // typedef int8_t   jbyte;    /* signed 8 bits */
    vedioChannel->encodeCameraData(dataFromJava);

    // 释放局部引用变量
    env->ReleaseByteArrayElements(data, dataFromJava, 0);
}

3 . x264 编码器将 NV21 图像数据编码为 H.264 代码 :

/**
 * 视频数据编码
 * 接收 int8_t 类型的原因是, 这里处理的是 jbyte* 类型参数
 * jbyte 类型就是 int8_t 类型
 * @param data 视频数据指针
 */
void VedioChannel::encodeCameraData(int8_t *data) {
    // 加锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_lock(&mMutex);

	// 后续还有操作, 本博客中暂时省略

    // 解锁, 设置视频编码参数 与 编码互斥
    pthread_mutex_unlock(&mMutex);
}

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2020-06-13，如有侵权请联系 cloudcommunity@tencent.com 删除

变量