前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Byzer 内置数据湖基础

Byzer 内置数据湖基础

作者头像
用户2936994
发布2022-12-07 15:01:17
2230
发布2022-12-07 15:01:17
举报
文章被收录于专栏:祝威廉祝威廉

该文是 [Delta Lake 数据源](https://docs.byzer.org/#/byzer-lang/zh-cn/datasource/dw/delta_lake) 一个补充。

DeltaLake 作为Byzer 的内置数据源,使用非常简单,只需要添加启动参数:

代码语言:javascript
复制
-streaming.datalake.path "对象存储某个目录"

这样启动 Byzer 引擎后,你就可以把数据保存到 数据湖里去了:

刷新下侧边栏,就可以看到 demo 目录下有 table1 表。

如果用户不想以库表方式保存数据,那么可以这么操作:

然后刷新目录,就可以看到 FIleSystem里有相关目录产生了。 读取话也是配置 load 中的 mode="path"。

如果用户使用绝对路径怎么办?我们知道 /tmp/demo/table1 这个目录是个人目录,其他用户是无法看到的。这个时候可以使用带schema的绝对路径。比如:

代码语言:javascript
复制
save overwrite table1 as delta.`oss:/YOUR_BUCKET_NAME/tmp/demo/table1` 
where mode="path";

因为 Byzer 默认是不支持使用带Schema路径的,所以你需要开启一个白名单:

代码语言:javascript
复制
--conf spark.mlsql.path.schemas="oss"

这样所有以 oss://bucket 开头前缀的地址都不会被改写,用户可以正确的去访问这个地址。多个对象存储schema可以按逗号分隔。

注意,你需要通过 core-site.xml 文件配置对应的bucket信息,或者通过祝威廉:如何随心所欲玩转各种云厂商对象存储 提及的方式,添加对象存储的支持。

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2022-12-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
对象存储
对象存储(Cloud Object Storage,COS)是由腾讯云推出的无目录层次结构、无数据格式限制,可容纳海量数据且支持 HTTP/HTTPS 协议访问的分布式存储服务。腾讯云 COS 的存储桶空间无容量上限,无需分区管理,适用于 CDN 数据分发、数据万象处理或大数据计算与分析的数据湖等多种场景。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档