首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >使用Azure数据工厂或Synapse加载多个文件

使用Azure数据工厂或Synapse加载多个文件
EN

Stack Overflow用户
提问于 2022-06-07 01:15:20
回答 1查看 147关注 0票数 0

我要从SSIS搬到Azure。我们有100多个文件和MSSQL表,我们希望使用3个区域将它们推入Gen2数据池,然后SQL数据湖区域是原始的、暂存的和表示的(根据您的意愿更改名称)。

最好的过程是如何尽可能地自动化这一点,例如,构建一个包含文件/文件夹/表的表,将其带入原始区域,然后让Synapse将这些对象打包或增量加载,然后将它们处理到接下来的2个区域--我猜,随着我们的进展,会有更多的自定义代码。

EN

回答 1

Stack Overflow用户

发布于 2022-06-09 09:32:34

您的需求可以使用Azure Data中的多个activities来实现。

要迁移SSIS包,您需要使用SSIS集成运行时(IR)。ADF支持SSIS集成,可以通过创建新的SSIS集成运行时来配置SSIS集成。要创建相同的内容,请单击配置SSIS集成,提供基本细节并创建新的运行时。

参考下面的图片创建新的SSIS IR。

请参考第三方教程 by SQLShack将本地SSIS包移动到Azure Data。

现在,使用copy activity将数据复制到不同的区域。使用copy活动,您可以根据自己的要求复制尽可能多的数据。请参考使用Azure数据工厂在Azure数据存储区之间复制数据

ADF还支持使用变更数据捕获(CDC)增量加载数据。

注意: Azure和Server都支持更改数据捕获技术。

滚动窗口触发器和CDC窗口参数需要配置以使增量负载自动化。检查本官方教程

最后一部分:

然后将它们处理到下面的两个区域中。

这需要以编程的方式进行管理,因为ADF中没有这样的特性,可以根据CDC更新其他数据副本。您需要为这些区域创建一个单独的CDC,或者逻辑上这样做。

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/72524944

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档