腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
在
ETL
管道
中
执行
数据
提取
和
转换
的
领域
特定
语言
、
、
、
有没有
领域
特定
语言
(DSL)可以将
数据
提取
和
转换
作为
提取
-
转换
-加载(
ETL
)
管道
的
一部分? 我想从第三方SQL
数据
库中
提取
数据
,并将
数据
转换
为已定义
的
JSON格式,以便将其存储到我
的
应用程序
中
。有许多不同
的
数据<
浏览 17
提问于2020-09-21
得票数 1
回答已采纳
3
回答
ETL
的
对立面是什么?
、
、
ETL
(extract,transform,load)是将来自不同来源
的
数据
放入
数据
仓库
的
过程。有没有相反进程
的
名称?从
数据
仓库中
提取
数据
,对其进行
转换
,并将其放入表
中
-通常是为了提供报告工具。
浏览 0
提问于2015-10-30
得票数 0
1
回答
我们能在Azure自动化
ETL
吗?
、
、
、
、
我目前正在进行一个非常有趣
的
ETL
项目,使用Azure手动
转换
我
的
数据
。但是,当我开始处理多个源文件时,手动
转换
数据
可能会让人筋疲力尽,而且会很长。我
的
管道
目前运行良好,因为我只有几个文件需要
转换
,但如果我有数千个excel文件怎么办?因此,我想要实现
的
是,我想扩展项目,并
提取
来自电子邮件
的
excel文件,使用逻辑应用程序,然后将
ETL
直接应用于
浏览 2
提问于2020-05-29
得票数 1
回答已采纳
3
回答
ETL
工具...他们到底是做什么
的
?请用外行的话
我最近接触了一些
ETL
工具,如Talend
和
Apatar,我想知道这些工具
的
目的/主要目标在外行术语
中
到底是什么。谁主要使用它们,如果你使用它们,它们(根据我
的
理解)如何比仅仅编写某种类型
的
脚本更好。
浏览 1
提问于2009-07-29
得票数 6
回答已采纳
2
回答
我应该使用什么模型/模式来处理多个
数据
源?
、
、
作为电子商务系统
的
一部分,我需要设计
和
实现各种黑盒。这需要接受来自各种内部
和
外部
数据
源(即网站、extranet、yahoo商店、amazon xml提要等)
的
客户
和
订单。并插入/更新后端系统。用于插入/更新客户
和
订单
数据
的
api已为网站准备就绪,并且运行良好。现在我们需要添加处理来自其他
数据
源
的
订单
的
功能。我一直倾向于提供者模型(每个
数据
源一
浏览 1
提问于2009-02-13
得票数 2
回答已采纳
1
回答
ETL
在
各种算法处理方面的局限性
、
、
、
、
我想知道
ETL
不能解决
的
问题。正如我们都知道
的
,我们可以
提取
数据
,进行一些
转换
和
处理,并将
转换
后
的
数据
存储到
数据
存储
中
,
在
ETL
中
处理也可能非常复杂。那么,如果除了使用J2EE构建UI应用程序之外,一切都可以使用
ETL
完成,那么编写Java代码
的
范围是什么呢? 哪种算法
在
<e
浏览 0
提问于2015-08-14
得票数 0
1
回答
如何在Postgresql
中
定期使用生产
数据
刷新测试
数据
库?
、
、
、
、
请您告诉我如何使用
ETL
管道
配置定期
在
postgresql中使用生产
数据
刷新测试
数据
库。除了
ETL
,还有别的方法吗?
浏览 0
提问于2018-07-26
得票数 0
1
回答
将记录从Azure MySql
数据
库
中
的
表移动到Azure PostgreSql Db
、
、
我是Azure
的
新手。我需要将存储
在
json blobs
中
的
事务MySqlDb
中
的
表(我不知道他们为什么要使用nosql格式写入sql )
中
的
数据
传输到PostgreSql
中
的
表
中
,但以扁平化
的
格式。这不是一次性
的
任务,而是需要在每次摄取事务
数据
库时完成,我需要将这些记录推送到postgresql
数据
库
浏览 20
提问于2019-11-23
得票数 0
回答已采纳
1
回答
NoSQL作为
数据
挖掘解决方案?
、
、
、
、
在哪些方面,NoSQL
数据
库在
数据
挖掘中比OLAP
数据
库更有用,或者它是如何不那么有用
的
? 从海量
数据
中
快速检索
数据
,但同时拥有一个无模式
的
数据
库,是否具有优势?
浏览 2
提问于2016-02-02
得票数 1
1
回答
将Talend
ETL
作业公开为Web服务
、
、
我目前正在评估Talend
ETL
(Talend Open Studio for Data Integration)。1)
在
Talend
ETL
中
调用WS并将XML与
数据
一起传递
浏览 3
提问于2013-02-07
得票数 5
回答已采纳
2
回答
从外部表读取与
在
Bigquery中加载
和
读取
数据
、
我需要从GCS获取
数据
(csv格式)到Bigquery,然后对其
执行
ETL
以生成结果。csv
的
格式可能不是固定
的
,可能会随着每个文件而微妙地改变。创建临时外部表以直接从GCS读取
数据
然后进行处理是更好,还是将
数据
加载到bigquery
中
的
临时表
中
然后从中进行处理会更好。我正在尝试理解
在
执行
效率方面什么是更好
的
设计。这些方法有什么缺点吗?
浏览 1
提问于2019-12-05
得票数 0
1
回答
语言
工作者如何使用Python
在
Azure函数
中
工作?
、
、
、
、
我正在开发一个使用Azure函数
的
ETL
项目,在这个项目中,我从blob存储中
提取
数据
,
转换
Python
和
熊猫
中
的
数据
,并使用熊猫to_sql()加载
数据
。我试图通过使用异步
和
语言
工作者来提高这个过程
的
效率。() 如果我增加了
语言
工作者
的
数量,这是否意味着client_one_
etl
.main()
和</
浏览 4
提问于2020-05-08
得票数 3
回答已采纳
1
回答
提取
并保存mysql
数据
、
、
我有一个大约30-40 in
的
数据
,它表示为可扩展标记
语言
,并作为BLOB存储
在
MySQL服务器
中
。我想创建一个新
的
表,它应该解析XML并
提取
特定
属性以存储为不同
的
列(10-20列)。有没有什么好
的
ETL
工具可以做到这一点? 注意:目前我只是简单地使用JDBC
和
Java来进行这种
转换
。
浏览 0
提问于2017-11-14
得票数 1
1
回答
从
数据
库中保存和加载
etl
管道
我目前
的
任务是制作一个rails应用程序,用户可以通过rdbms(用于mysql、pg等)创建连接。
和
s3 (用于csv
和
json)。
在
UI上,用户将拖动一个源
和
目标,可以是rdbms(mysql、pg等)。或文件(csv/json)
和
配置表单将根据
浏览 0
提问于2018-01-17
得票数 2
回答已采纳
4
回答
Azure
数据
工厂与SSIS
、
、
我正在考虑把我们
的
SSIS
ETL
转移到Azure
数据
工厂。我赞成这种飞跃
的
理由是: 我们
的
来源
和
目标已经
在
云中了。ADF是云本地
的
,因此它看起来非常合适。ADF是一种服务,因此我们可以按需消费
和
支付。SSIS意味着授权成本,并不会自然地借给它自己用于按需消费(我们考虑过使用DevOps
在
临时基础上旋转
ETL
服务器)。使用SSIS以编程方式生成
ETL
代码需要非常特殊
的<
浏览 4
提问于2016-03-14
得票数 8
1
回答
如何从Excel工作表定期更新SQL Server表
、
、
、
对于我
的
.NET应用程序,我有一个用作
数据
源
的
Excel文件。此Excel文件每小时更新一次。我目前
的
后端
数据
库技术是MS Access。Access文件有一个链接到上述Excel文件
的
链接表。我想将我
的
后端切换到SQL Server。 我
的
问题是,如何在SQL Server
中
创建链接表,以便始终将当前
数据
保存在SQL Server
数据
库
中
。现在,我已经成功地通过SQL Serve
浏览 3
提问于2020-08-14
得票数 0
2
回答
您如何为
ETL
的
项目
和
报告项目使用TDD方法?
、
、
ETL
项目是使用诸如SSIS、PowerCenter等工具(
提取
-
转换
-加载)创建
的
项目。 这些通常包括从外部源读取
数据
,将其加载到暂存
数据
库,
执行
某些
转换
并将其加载到最终
数据
库。一个简单
的
例子是使用SSIS读取教师使用SSIS提供
的
excel文件,并将它们加载到
数据
库
中
。然后编写存储过程或更多SSIS包来计算每个学生
的
成绩,并将这些
数据
浏览 0
提问于2015-04-07
得票数 14
3
回答
数据
识别、解析、过滤
和
转换
-- GUI?
、
、
、
、
寻找一个非云基础
的
开源应用程序来进行
数据
转换
;虽然对于一个杀手(我指的是杀手)应用程序是为
数据
转换
而构建
的
,但我可能愿意花费高达1000美元。 我看过,,等等。Perl、Python显然是
语言
,但无法找到仅用于处理
数据
的
任何框架/;这意味着它们实际上不是一个很好
的
开发环境,这意味着没有构建用于构建RegEx、输入/输出(CSV、XML、JDBC、REST等)
的
GUI,也没有用于测
浏览 6
提问于2010-12-03
得票数 5
回答已采纳
2
回答
KornShell还是Bash Shell for
ETL
process?
、
、
、
、
我正在做一个项目,我需要使用
ETL
过程将
数据
加载到
数据
仓库
中
。我有csv、非结构化和平面文件格式
的
数据
。我正在考虑使用shell脚本来
执行
ETL
过程。我对bash shell
和
KornShell (ksh)都知之甚少,但我是
ETL
流程
的
新手。所以我
的
问题是什么是
ETL
过程
的
更好
的
选择。我应该使用Bash Shell还是KornS
浏览 3
提问于2013-02-05
得票数 2
回答已采纳
5
回答
ELT
数据
是否以RDBMS结束?
在
ETL
中
,
数据
转换
从
数据
库A开始,最后在
数据
库B中进行,两者都是关系
数据
库。也许我有一个有20年历史
的
系统。我使用
ETL
获取两个
数据
库之间
的
数据
。我不知道
ETL
还有什么用途。
在
ELT
中
,除了
数据
库A
的
数据
永远不会在
数据
库B
中</e
浏览 0
提问于2017-10-12
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
flink用例
使用连续数据数据变化捕获技术增强您的ELT/ETL解决方案
数据湖和SQL并不矛盾
数据编织Data Fabric:批流一体的数据智能融合平台
数据编织Data Fabric:批流一体的数据智能融合平台
热门
标签
更多标签
云服务器
ICP备案
云直播
对象存储
实时音视频
活动推荐
运营活动
广告
关闭
领券