前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Byzer 多租户支持指南

Byzer 多租户支持指南

作者头像
用户2936994
发布2022-05-08 14:43:18
8080
发布2022-05-08 14:43:18
举报
文章被收录于专栏:祝威廉祝威廉

Byzer 多租户架构图如下

用户可能通过 Byzer 的上层应用诸如 Notebook 进行任务的提交,任务会通过 Byzer Router 完成路由转发。

路由实现主要是基于 Tag 来完成,具体原理如下:

  1. 比如 Tom 被打上 Tag A, 可能对应的含义是是部门,或者组。
  2. Byzer Engine 假设有两个被打伤 Tag A

此时,当一个脚本来到 Byzer Router(路由),他会先根据这个脚本的提交用户对应的Tag找到那些被打上同样 Tag 的引擎,最终再根据负载均衡策略路由到这些 Engine 具体的一个 Engine 上。

为了支持这种能力, Byzer Engine 需要具备多租户能力。也就是不同用户既可以在同一个引擎里互相不影响的执行,也可以在不同引擎上执行,实现更好的资源隔离。

Note: Byzer Router 是可选的。用户完全可以在直接的应用产品里,亦或者在 Byzer Notebook 里手动指定自己需要的 Byzer Engine. 避免一开始就引入过渡复杂的架构。

多租户和原理

单个 Byzer Engine 实例支持按 【用户名称】 进行如下三个层面的隔离:

  1. 变量,临时表名 隔离,该隔离的原理是,我们会针对每个【用户名称】创建一个独立的 SparkSession 对象。
  2. HDFS/对象存储目录隔离,该隔离的原理是,我们会给每个用户创建一个独立的【主目录】,用户所有读写都是在自己的主目录完成。譬如两个不同用户都往 /tmp/abc 写数据,引擎其实会将该目录生成在用户各自的主目录,避免脚本之间的互相影响。
  3. 资源软隔离。不同用户共享同一个 Byzer 引擎实例时,其实也共享该引擎实例的资源,那他们是如何进行隔离的。这个主要依赖于 Spark 自身的任务调度策略,推荐使用公平调度策略(另外一个是 FIFO 调度策略)。

通过这三个隔离,不同的用户在执行脚本时可以互不影响。

Note: 这里的 租户 和启动Byzer Engine的 系统账号 不是一个概念。 在Byzer-lang中,执行一个脚本的时候,需要同时传递用户名称给 Byzer 引擎,引擎会信任这个用户名。

如果希望使用同一个用户账号并发执行一个脚本,可以在发起 Rest 请求时同时设置如下两个参数:

  1. sessionPerUser=true
  2. sessionPerRequest=true

资源隔离

一个 Byzer Engine 等价于一个 Spark Service 实例。 所以资源隔离有如下两个级别:

  1. 不同用户使用不同的 Byzer Engine,那么隔离依赖于底层资源调度器,比如 Yarn, K8s等,一般这种我们称为硬隔离。
  2. 不同用户使用相同的 Byzer Engine, 那么隔离依赖于 Spark 自身的任务调度。

通常我们可以结合上述两种方式使用,利用 Tag 机制,实现灵活的分发策略。

高可用/Load balance

我们使用 Byzer Router 来完成 Load balance 以及完成资源硬隔离等。Byzer Router 也提供较为丰富的路由能力,比如按标签进行路由分发,相同标签如果有多个实例,则可以按资源最多,任务最少等分发策略进行路由。

高可用方面目前我们采用 MySQL 保存路由信息,在 Byzer 2.2.1 以及以下版本,路由信息需要管理员通过 API 录入。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2022-02-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 多租户和原理
  • 资源隔离
  • 高可用/Load balance
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档