前往小程序,Get更优阅读体验!
立即前往
发布
社区首页 >专栏 >实战干货:Spark Native加速技术必备基础JNI实践总结

实战干货:Spark Native加速技术必备基础JNI实践总结

作者头像
用户9421738
发布2024-12-23 15:17:33
发布2024-12-23 15:17:33
9900
代码可运行
举报
文章被收录于专栏:大数据从业者
运行总次数:0
代码可运行

前言

Spark Native加速技术日益活跃,不管使用哪种技术方案,本质上都是JNI的使用。所谓JNI,即Java Native Interface,也就是允许Java代码与c/c++语言开发的本地库进行交互。如图红框所示:

本文主要记录Linux环境Java调用c/c++ native方法编译生成的动态链接库.so的案例总结,完整代码见:

代码语言:javascript
代码运行次数:0
复制
https://github.com/felixzh2020/felixzh-java/tree/main/JavaJNI

Java代码

与普通Java类一样,唯一不同点是本地方法sayHello增加关键字native,用法类似于abstract,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# cat com/felixzh/jni/HelloNative.java
package com.felixzh.jni;    
public class HelloNative {
    static {
        System.load("/opt/FelixZhHelloNative.so");
    }
    public static native void sayHello();
    public static void main(String[] args) {
        sayHello();
    }
}

首先通过javac命令将包含native方法的Java代码文件HelloNative.java编译生成HelloNative.class二进制类文件,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh mySourceCode]# cd JavaJNI/src/main/java/
[root@FelixZh java]# javac com/felixzh/jni/HelloNative.java

然后通过javah命令基于HelloNative.class二进制类文件生成c/c++代码的.h头文件,头文件的名称与Java类文件的包路径对应,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# javah com.felixzh.jni.HelloNative

Java类文件的包路径

c/c++头文件名称

com.felixzh.jni.HelloNative

com_felixzh_jni_HelloNative.h

com_felixzh_jni_HelloNative.h头文件中方法名称Java_com_felixzh_jni_HelloNative_sayHello也包含了类文件的包路径,完整文件内容如下:

至此,Java代码已经完成,后续可以选择使用c/c++语言根据.h头文件实现native方法。

C代码

根据上述com_felixzh_jni_HelloNative.h头文件编写com_felixzh_jni_HelloNative.c文件实现native方法,完整内容如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# cat com_felixzh_jni_HelloNative.c
#include "com_felixzh_jni_HelloNative.h"            
#include
          
JNIEXPORT void JNICALL Java_com_felixzh_jni_HelloNative_sayHello(JNIEnv *env, jclass jc)
{
  printf("FelixZh,Hello JNI.");
}

通过gcc命令将实现的.c文件编译成动态链接库FelixZhHelloNative.so,如下:

代码语言:javascript
代码运行次数:0
复制
gcc  -shared -fPIC -I/home/pkg/jdk/include/ -I/home/pkg/jdk/include/linux -o FelixZhHelloNative.so com_felixzh_jni_HelloNative.c

其中,-shared表示生成共享库;-fPIC表示生成位置无关代码,推荐使用;-o指定输出文件名称;-I指定直接引用或者间接引用的头文件的路径(这里用到的头文件都在JDK中)。

如果不通过-I指定头文件路径可能会遇到如下异常:

代码语言:javascript
代码运行次数:0
复制
fatal error: jni.h: No such file or directory
jni_md.h: No such file or directory

Java调用c语言.so

回到上文中Java代码章节,代码中指定了.so路径,这里将上面.c代码编译生成的.so拷贝到指定路径/opt,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# cp /home/mySourceCode/JavaJNI/src/main/java/FelixZhHelloNative.so /opt/

执行Java代码,观察是否成功调用.so native方法,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# java com/felixzh/jni/HelloNative

如图所示,已经成功执行native方法,打印日志内容:

代码语言:javascript
代码运行次数:0
复制
FelixZh,Hello JNI.

C++代码

与C代码类似,编写com_felixzh_jni_HelloNative.cpp文件内容如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# cat com_felixzh_jni_HelloNative.cpp
#include
#include "com_felixzh_jni_HelloNative.h"
          
using namespace std;
          
JNIEXPORT void JNICALL Java_com_felixzh_jni_HelloNative_sayHello(JNIEnv *env, jclass jc)    
{
  cout << "FelixZh, Hello Native C++." << endl;
}

通过g++(注意:不是gcc)命令将实现的.cpp文件编译成动态链接库FelixZhHelloNative.so(由于Java代码写死了.so文件名,这里复用下,不再修改了),如下:

代码语言:javascript
代码运行次数:0
复制
g++ -shared -fPIC -I/home/pkg/jdk/include/ -I/home/pkg/jdk/include/linux -o FelixZhHelloNative.so com_felixzh_jni_HelloNative.cpp

新生成的FelixZhHelloNative.so会覆盖之前C代码所生成的FelixZhHelloNative.so。

注意:同样需要-I设置引用的头文件,笔者JDK路径为:/home/pkg/jdk

Java调用c++语言.so

与Java调用c语言.so相同,将上面.cpp代码编译生成的.so拷贝到指定路径/opt,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# cp FelixZhHelloNative.so /opt/

执行Java代码,观察是否成功调用c++代码的.so native方法,如下:

代码语言:javascript
代码运行次数:0
复制
[root@FelixZh java]# java com/felixzh/jni/HelloNative

如图所示,已经成功执行C++ native方法,打印日志内容:

代码语言:javascript
代码运行次数:0
复制
FelixZh, Hello Native C++.    
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-12-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 大数据从业者 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 前言
  • Java代码
  • C代码
  • Java调用c语言.so
  • C++代码
  • Java调用c++语言.so
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档