我要从SSIS搬到Azure。我们有100多个文件和MSSQL表,我们希望使用3个区域将它们推入Gen2数据池,然后SQL数据湖区域是原始的、暂存的和表示的(根据您的意愿更改名称)。
最好的过程是如何尽可能地自动化这一点,例如,构建一个包含文件/文件夹/表的表,将其带入原始区域,然后让Synapse将这些对象打包或增量加载,然后将它们处理到接下来的2个区域--我猜,随着我们的进展,会有更多的自定义代码。
发布于 2022-06-09 09:32:34
您的需求可以使用Azure Data中的多个activities来实现。
要迁移SSIS包,您需要使用SSIS集成运行时(IR)。ADF支持SSIS集成,可以通过创建新的SSIS集成运行时来配置SSIS集成。要创建相同的内容,请单击配置SSIS集成,提供基本细节并创建新的运行时。
参考下面的图片创建新的SSIS IR。

请参考第三方教程 by SQLShack将本地SSIS包移动到Azure Data。
现在,使用copy activity将数据复制到不同的区域。使用copy活动,您可以根据自己的要求复制尽可能多的数据。请参考使用Azure数据工厂在Azure数据存储区之间复制数据。
ADF还支持使用变更数据捕获(CDC)增量加载数据。
注意: Azure和Server都支持更改数据捕获技术。
滚动窗口触发器和CDC窗口参数需要配置以使增量负载自动化。检查本官方教程。
最后一部分:
然后将它们处理到下面的两个区域中。
这需要以编程的方式进行管理,因为ADF中没有这样的特性,可以根据CDC更新其他数据副本。您需要为这些区域创建一个单独的CDC,或者逻辑上这样做。
https://stackoverflow.com/questions/72524944
复制相似问题