微众银行计算中间件开源项目Linkis进入Apache孵化

9 月 14 日消息,微众开源宣布,微众银行开源项目 Linkis 已于 8 月 2 日通过国际开源组织 Apache 软件基金会(简称 ASF )的投票决议(全票通过),正式成为 ASF 孵化器项目。

微众银行大数据平台负责人、Linkis 项目发起人邸帅指出,在当今复杂的分布式环境下,应用服务的通信、协调和治理已经形成了从 SOA 到微服务的成熟解决方案,以及从 ESB 到 Service Mesh 对不同服务进行解耦的诸多实践。

“然而,当应用程序服务需要与底层引擎进行通信时,情况就会有所不同。引擎彼此隔离,客户端-服务器紧密耦合模式无处不在。每个上层应用都必须以紧耦合的方式直接连接和访问各种底层引擎,自行解决‘计算治理’问题,包括维护不同的客户端环境、提交作业、监控作业状态、获取输出,处理大量并发客户端实例,观察 Bad Job,适应引擎版本变化等。这个是因为在众多上层应用程序和无数底层引擎之间缺乏一个公共的‘计算中间件’层,以标准化可重用的方式处理所有这些‘计算治理’事务,这就是我们启动 Linkis 项目的原因。”邸帅表示。

Linkis 基于微服务架构开发,通过提供的标准化接口(REST、JDBC、WebSocket 等),可快速连接各种底层引擎(Spark、Presto、Flink 等),同时实现跨引擎上下文共享,统一的 Job 和引擎治理和编排等功能,以标准化可重用的方式解决“计算治理”问题。

其服务可以分为 3 类,分别是计算治理服务、公共增强服务和微服务治理服务:

计算治理服务,支持计算任务/请求处理流程的 3 个主要阶段:提交->准备->执行;

公共增强服务,包括上下文服务、物料管理服务及数据源服务等;

微服务治理服务,包括定制化的 Spring Cloud Gateway、Eureka、Open Feign。

Linkis 的架构概要图

Linkis 项目于 2019 年 7 月在 GitHub 和 Gitee 上对外开源,从最开始发布的 0.5.0 版本到现在最新的 1.0.2 版本,微众银行联合社区多家团队对 Linkis 做了许多新特性的新增、功能增强和 Bug 修复,如对接了 Presto/ES/Flink 等多个底层计算存储引擎、新增了上下文服务、计算编排等新特性。

经过两年的开源社区建设,Linkis 项目贡献人数达 50 多人,在金融、互联网、通信等领域均有应用,积累了 700 多家试验企业和 1000+沙盒试验用户。不少公司已经将 Linkis 作为大数据平台底层计算存储引擎的统一入口,以及计算请求/任务的治理管控利器。

据了解,Linkis 是微众银行第二个进入 ASF 的项目。在年初,EventMesh 项目同样以全票通过的结果进入 ASF 孵化器。

仓库地址:

https://github.com/WeBankFinTech/Linkis(后续将迁移至 Apache 组织下,可搜索 Linkis 获得)

https://gitee.com/WeBank/Linkis

  • 发表于:
  • 本文为 InfoQ 中文站特供稿件
  • 首发地址https://www.infoq.cn/article/kOfzgBFPx17QOc0dJGPq
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券