前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >跨租户数据集成集成链路打通

跨租户数据集成集成链路打通

原创
作者头像
Inlong
修改2022-02-16 23:32:16
9910
修改2022-02-16 23:32:16
举报
文章被收录于专栏:WeData数据集成WeData数据集成

背景

部分客户场景下需要使用其他用户的自建MySQL或者CDB实例中的数据(其他数据源类型亦可参考),例如在WeData开发平台中需要通过集成任务导入其他租户的数据,或者数仓任务需要引入其他用户数据源时,在开发平台中无法直连目标数据源或者schema或者其他信息,本文提供一种方法可绕开网络限制,从而获取到目标数据信息

准备

a) 打通跨租户CDB实例与当前执行资源(CVM)所在VPC网络,可使用对等连接或云联网方案

参考:

云联网 https://cloud.tencent.com/document/product/877/30805

对等连接 https://cloud.tencent.com/document/product/553

b) 在当前账号下新建或使用一台已有CVM(最好与计算环境(执行计算任务的EMR或者CVM,这里指需要访问目标数据源的一个或多个CVM)位于相同VPC,否则需要保障网络互通)

安装网络端口映射工具并配置

a) 登录到准备好的CVM上,执行如下命令安装并启动端口映射工具

yum install -y socat

nohup /usr/bin/socat TCP4-LISTEN:${LOCAL_PORT},reuseaddr,fork TCP4:${DB_IP}:${DB_PORT} &

注:其中LOCAL_PORT为本地代理端口, DB_IP和DB_PORT是需要代理的源端DB信息

b) 配置开机启动

echo ‘/usr/bin/socat TCP4-LISTEN:11306,reuseaddr,fork TCP4:172.21.16.8:3306 &’ >> /etc/rc.d/rc.local

注:

1、 如果有多个数据源需要映射,则需要启动多个socat进程,并配置开机启动,否则主机重启后会导致数据源异常。

2、 重复执行前,要删除之前已添加的端口映射信息,请勿重复添加。

添加数据源

回到WeData平台,使用映射后的链接信息添加数据源,示例如下:

链接信息选择代理后的IP+端口

WeData添加数据源图示
WeData添加数据源图示

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 背景
  • 准备
  • 安装网络端口映射工具并配置
  • 添加数据源
相关产品与服务
数据开发治理平台 WeData
数据开发治理平台 WeData(以下简称 WeData)是位于云端的一站式数据开发治理平台,融合了包含数据集成、数据开发、任务运维的全链路DataOps数据开发能力,以及数据地图、数据质量、数据安全等一系列数据治理和运营能力,帮助企业在数据构建和应用的过程中实现降本增效,数据价值最大化。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档