首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >问答首页 >SSIS是否在到达ADO NET目标之前将文本文件读取到临时表?

SSIS是否在到达ADO NET目标之前将文本文件读取到临时表?
EN

Stack Overflow用户
提问于 2015-08-24 21:07:39
回答 1查看 88关注 0票数 1

我有一个上传到tsql表的文本文件。这很简单,但由于一些不一致,我需要将此文件上传到#tempTable@tableVariable,在那里进行清理,然后将其上传到物理表。

所以从本质上讲,我有一个Flat File Source,它读取出现不一致的txt文件,并将其上传到ADO NET Destination中的表。如果目标表中的所有列都是varchar,那么我将能够将其保存在物理表中,并运行一些tsql脚本进行清理。但我不想这么做。

我还可以在创建/删除临时表之前和之后运行tsql脚本,但如果有办法使用#temp或@table来完成,那就太好了。

EN

回答 1

Stack Overflow用户

发布于 2015-08-25 13:17:35

如果您多次执行此操作,则标准的ETL实践是拥有一个持久的all-VARCHAR临时表,该表将在第一步中加载文件。

然后检查数据的适用性,以添加到生产表中。

这将执行以下操作:

  1. 确保坏数据不会出现在生产表中,因为它可能会破坏某些东西。
  2. 允许ETL过程标准化和可重复。您不再需要记住他们上次是如何破坏数据的,您只需将其添加到从临时表提升到生产表的逻辑中,然后将其抛诸脑后即可。
  3. 允许将流程轻松过渡到其他人,以及进行适当的源代码控制的机会。

我想不出使用temp table/table变量有什么好处,除非您无法创建物理表。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/32191754

复制
相关文章
ADO.NET结合XPath查询读取数据库
这几天狂看关于读写XML文件方面的资料,虽然XML比MSSQL方便,不用安装数据库服务软件,也不用附加数据库等操作,但XML毕竟不适合做大的数据存储,因为每当查询读取XML文件时都要先读取它到数据集然后再进行查询(MSSQL是先查询数据,再把查询结果存到数据集),这在无形中占用了一点内存,也失去了一些效率,这在XML文件比较大的时候效果很明显。
SAP梦心
2022/05/07
6900
36 | 临时表和临时表
由于临时表只能被创建它的 session 访问,所以在这个 session 结束的时候,会自动删除临时表。也正是由于这个特性,临时表就特别适合我们文章开头的 join 优化这种场景,原因:
HaC
2020/12/30
1.9K0
36 | 临时表和临时表
java——推断日期是否在今天之前
这里说的日期是指字符串的日期格式,如“2014-10-15”,我们要推断这个日期是否在今天之前,网上看到好多推断的方法,都是拿这个日期转换成Date对象 然后与new Date()比較,使用comparetTo() 或者before()方法,事实上这样做都会有点小问题,这样做忽略了一个小时分钟的比較,会出现错误,得不到正确的结果。
全栈程序员站长
2022/07/08
2.1K0
ADO.NET入门教程(一) 初识ADO.NET
摘要 作为.NET框架最重要的组件之一,ADO.NET扮演着应用程序与数据交互的重要的角色。本文将从宏观的角度来探讨ADO.NET,和大家一起了解ADO.NET来龙去脉以及ADO.NET的主要组成部分
刘皓
2018/04/03
4.6K1
ADO.NET入门教程(一) 初识ADO.NET
SQL Azure与SQL Server两者的对比介绍,看完你就懂了!
SQL Server数据库服务方式是安装在客户提供的服务器内。客户负责硬件、、软件安装、安全性、数据库备份、灾难恢复等相关的运维工作。需要较高的人为运维成本。
小明互联网技术分享社区
2021/03/18
3.2K0
SQL Azure与SQL Server两者的对比介绍,看完你就懂了!
ssis 数据转换_SSIS数据类型:高级编辑器的更改与数据转换的转换
In this article, I will first give an overview of SSIS data types and data types conversion methods and then I will illustrate the difference between changing the columns data types from the Source Advanced editor and using Data Conversion Transformation.
全栈程序员站长
2022/09/09
3.8K0
ssis 数据转换_SSIS数据类型:高级编辑器的更改与数据转换的转换
mysql创建临时表,将查询结果插入已有表中
        今天遇到一个很棘手的问题,想临时存起来一部分数据,然后再读取。我记得学数据库理论课老师说可以创建临时表,不知道mysql有没有这样的功能呢?临时表在内存之中,读取速度应该比视图快一些。然后还需要将查询的结果存储到临时表中。下面是创建临时表以及插入数据的例子,以供大家参考。 A、临时表再断开于mysql的连接后系统会自动删除临时表中的数据,但是这只限于用下面语句建立的表: 1)定义字段   CREATE TEMPORARY TABLE tmp_table (       name VAR
苦咖啡
2018/05/07
9.9K0
oracle数据库connectionstring,oracle数据库 connectionstring
string ConnectionString = “Data Source=数据库名;User Id=用户名;Password=密码;Integrated Security=no;”;
全栈程序员站长
2022/09/14
4.4K0
临时表创建_临时表的创建方式
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
全栈程序员站长
2022/11/17
3.3K0
ADO.NET基础
随着我们学习的深入会发现,不管是用VB来编写程序,还是设计网页,基本上都会和数据打交道。在处理、管理数据的过程中,ADO.NET扮演者非常重要的角色。那我们就来了解一下ADO.NET的基础知识。
全栈程序员站长
2022/08/09
6270
ADO.NET基础
VBA与数据库——写个类操作ADO_读取表名
ADO的Connection对象有一个OpenSchema方法,能够获取数据库的很多信息,比如表的名称等信息、字段的名称等信息,具体可以查看SchemaEnum枚举类型。
xyj
2021/12/01
9100
MySQL 临时表
分库分表就是我们把一个大表拆开分到不同的数据库实例上,比如将一个大表bt按照字段id(分区key)拆分成32个库中。分区key的选择尽量减少跨库和跨表查询。
shysh95
2022/04/07
6.4K0
MySQL 临时表
MySQL 临时表
MySQL 临时表在我们需要保存一些临时数据时是非常有用的。临时表只在当前连接可见,当关闭连接时,Mysql会自动删除表并释放所有空间。
用户4988376
2021/07/16
4.2K0
ADO.Net学习总结
Connection对象 Command对象 DataReader对象 DataAdapter对象 DataSet对象 DataTable对象 DataRow对象 DataColumn对象 参数化SQL语句 分页查询SQL语句
wfaceboss
2019/04/08
1.2K0
ADO.NET主要组件
?
wfaceboss
2019/04/08
7030
ADO.NET主要组件
ADO.NET事务封装
在数据库工具类编写的过程中,对事务的处理操作想避免各个原子操作的事务对象赋值重复操作,想对外暴露的方法为如下形式
code2roc
2023/07/19
2280
ADO.NET事务封装
ADO.NET 实体框架概述
随着.NET Framework 3.5 SP1和Visual Studio 2008 SP1的正式发布。ADO.NET 实体框架正式来到开发人员的面前,它使开发人员可以通过对象模型(而不是逻辑/关系数据模型)专注于数据。实体框架有助于将逻辑数据架构抽象为概念模型,并且允许以多种方式通过对象服务和名为“EntityClient”的新数据提供程序与概念模型交互。 实体框架组件 实体框架使开发人员可以编写更少的数据访问代码,减少维护,将数据结构抽象化为更易于开展业务(标准化程度较低)的方式,并且有利于数据的持久
张善友
2018/01/30
1.4K0
ADO.NET 实体框架概述
Java 读取文本文件
我想用Java 读取文本文件(txt)中的字符,但是对Java的文件操作不怎么熟悉,于是开始翻官方文档,解决了如何从文件中读取一行或者全部数据的问题。
全栈程序员站长
2022/06/25
1.8K0
Java 读取文本文件
和我从头学SQL Server Integration Services
本人一个IT屌丝男,一直在ITPRO的圈子里面混着,从来不是一个程序猿,水平就是开开关关windows的水平。昏昏然,成了一个油腻的大叔,但我的内心和业务水平还是停留在26岁啊! 周围的同事好友一个个都一日千里的学习进步着,实在看不下去自己了,决定整理整理,给自己,给儿子摆一个努力学习的POSE出来。
盆盆
2019/04/24
3.3K0
和我从头学SQL Server Integration Services
ADO.NET Entity Framework
作为下一代 ADO.NET 3.0 的开发框架,Entity Framework 让我们从复杂的关系数据模型中解脱出来,使用更加符合面向对象的实体数据模型(Entity Data Model)来完成业务设计和开发。 Entity Framework 很像 NHibernate,同样采取 XML 进行映射。不过借助于强大的可视化设计工具和向导,我们可以非常方便地完成这些头疼的工作。 Entity Framework  对 Linq 的直接支持 —— LINQ to Entities Entity Frame
张善友
2018/01/31
8770

相似问题

SSIS ado.net源中的临时表

11

使用SSIS查找转换更新ADO .NET目标表

11

使用变量的SSIS ADO.NET目标表?

22

SSIS 2008使用ADO.NET目标

22

SSIS ADO.Net目标无法查看Vertica表的列表

120
添加站长 进交流群

领取专属 10元无门槛券

AI混元助手 在线答疑

扫码加入开发者社群
关注 腾讯云开发者公众号

洞察 腾讯核心技术

剖析业界实践案例

扫码关注腾讯云开发者公众号
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文