
SSIS
Larry-Qian
An observer
展开
-
Adventure Works Database安装
Adventure Works Database是从微软官方提供的示例数据库,自SQL SERVER 2005版本起它取代了Northwind 和Pubs. 每当有新版本的SQL Server发布时,微软都会更新该示例数据库以展示SQL Server的新特性。1.从Codeplex下载Adventure Works Database需注意SQL Server版本的不同,笔者安原创 2015-07-07 22:47:22 · 1356 阅读 · 0 评论 -
Permissions to Schedule an SSIS Package from SQL Server Agent and the File System
ProblemWhen trying to schedule aSQL Server Integration Services (SSIS) Packageto run fromSQL Server Agent, you get the following error:“Connecting to the Integration Services service on the ...转载 2019-03-25 10:05:33 · 304 阅读 · 0 评论 -
How to post JSON using SSIS Script Task (C#)
供应商应用程序提供了API接口,使用JSON文件进行一系列的文件传输步骤如下:1.业务数据库是Mysql,由于使用SSIS开发,需要在ms sql server服务端安装Mysql驱动2.用Script Task写C#代码实现API访问(获取数据->遍历data row写入Variables->获取Token->生成JSON->Call API验证->Ca...原创 2019-03-25 10:15:03 · 898 阅读 · 0 评论 -
Get Excel data type in SSIS
在ETL工作中总避免不了面对各式各样的数据来源。如果可以的话,建议使用其他平面文件诸如CSV作为数据源而尽量避免使用Excel。后者总会遇到各种各样的问题,一言不合就返回null值。当SSIS采用Excel data source的时候,列的数据类型是无法预设的。Excel Driver会读取Excel内前8行的内容,然后动态地进行判断,决定每个列的数据类型是什么。原创 2016-08-12 16:07:08 · 761 阅读 · 0 评论 -
Checking Whether a String is Numeric
SSIS当中没有内置的isNumeric方法,一切还得要靠自己。1.判断字符串是否为数字(DT_I4)Column == (DT_I4)Column ? 1 : 0如果是数字的话返回1,否则返回null2.使用Derived Column过滤异常数据!ISNULL(Column) && ((DT_WSTR,20)[Col] == ((DT_WSTR,20)(DT原创 2016-08-17 15:10:34 · 394 阅读 · 0 评论 -
Skipping Items in Foreach loop container
业务背景:在使用Foreach loop container 遍历文件夹的时候,有时候需要做一些排除条件,对一些特定的文件夹或者文件不作处理。然而该控件本身并没有提供这样的过滤选项解决方法:1.在data flow之前放一个空的对象,可以是script task,也可以是sequence container.2.修改Precedence Co原创 2016-08-05 09:46:39 · 304 阅读 · 0 评论 -
Read Registry Key in Script Task
上一篇谈到读取excel的时候,通过修改注册表值的办法来提高判断数据类型的准确性http://blog.youkuaiyun.com/u012988208/article/details/52192049但是,修复/重新安装office,安装AccessDatabaseEngine,都会造成TypeGuessRows的值会重新被改写回默认值8.那么有什么办法在SSIS作业前进行检查,事原创 2016-08-16 16:53:49 · 428 阅读 · 0 评论 -
How to fix "OLE DB provider is not registered"
SSIS从Excel2007(xlsx)文件中抽取数据保存到数据库,提示以下错误:Error 1 Validation error. Data Flow Task: Package: The requested OLE DB provider Microsoft.ACE.OLEDB.12.0 is not registered. If the 32-bit driver is原创 2016-08-03 15:48:43 · 1052 阅读 · 0 评论 -
The binding status was "DT_NTEXT"错误
Error Message:The binding status was "DT_NTEXT". The data flow column type is "DBBINDSTATUS_UNSUPPORTEDCONVERSION". The conversion from the OLE DB type of "DBTYPE_IUNKNOWN" to the destination column原创 2016-03-11 15:28:22 · 1952 阅读 · 0 评论 -
SSIS使用Script task处理Active Directory
SSIS的Script Task有着很大的自由度,可以通过写代码的方式来实现各种各样的需求。这里以C#代码为例,对AD信息进行操作。首先需要添加引用System.DirectoryServices然后修改main方法即可进行下一步操作 /// /// This method is called when this script task executes原创 2016-03-16 16:35:36 · 1203 阅读 · 0 评论 -
使用正确的姿势更新SSIS Data Flow Component以适应字段类型变化
在实际业务当中,数据仓库中的字段可能会经常变化(比如原来使用int类型的ID改用字符串描述,又或者字符的长度进行了增长)。仅仅更新SQL command text的话,SSIS并不会更新字段的类型/长度/精度。也没有类似Cognos FM当中Update object的功能。除了删掉控件重新添加一个新的之外,还有一个标准方法是通过右键DB Source——Show Advanced原创 2015-09-17 15:57:32 · 958 阅读 · 1 评论 -
SSIS Catalog项目版本管理
1.还原历史版本在Integration Services Catalogs下找到project,右键选择Versions可以看到最近的若干次项目版本。点击右下角的Restore to Selected Version即可退回到之前的版本。2.历史版本管理右键Catalog选择Properties,在Project Versions一览下可以进行配置。maxim原创 2015-08-19 16:31:48 · 952 阅读 · 0 评论 -
SSIS数据流性能比较(ADO.NET vs. OLE DB vs. ODBC)
选择哪一种数据库连接方式,这个问题在开发者社区当中一直争论不休。性能通常被视作首要的鉴别标准。一般来讲ADO.NET的性能不如ODBC与OLE DB,因为他是一个托管提供程序。但是由于大多数应用只进行增删改查操作,这种差异往往可以忽略不计。然而,作为BI开发者,我们通常需要处理庞大的数据集。因此我们不能忽略任何微小的性能差异,尤其是在实现SSIS数据流任务时。(原作者的测试方法翻译 2015-07-19 23:29:40 · 10684 阅读 · 0 评论 -
理解SSIS包保护级别(SSIS Package Protection Level)
SSIS包有一个必须理解的属性。这个属性告诉SSIS如何处理包内的敏感信息。常见的是连接字符串当中存储的密码。为什么这个信息非常重要?因为如果不正确设置保护级别的话,SSIS包可能变得无法使用。其他开发者可能无法打开包,又或者在执行包的时候运行失败。理解这些选项,可以使得你在这些潜在的问题发生之前就解决它们。在理想的情况下,你不需要保存任何敏感数据,然而现实当中各种环境大不相同。让我们看看这些保护翻译 2015-07-18 19:35:03 · 5854 阅读 · 0 评论 -
理解SQL Server变更数据捕获(Change Data Capture)
1.业务背景随着公司业务的成长,数据量也随之的不断增长。随之而来的问题是在做ETL的时候,时间花费也越来越长。为了节省时间开销,我们只想要更新最新的数据,不想要把公司历年所有的数据都进行处理。这种情况就被称为变更数据捕获(Change Data Capture,又名CDC)2.启用SQL Server 的CDC功能sys.sp_cdc_enable_table原创 2015-07-12 21:46:59 · 1641 阅读 · 0 评论 -
SSIS Data Flows - ADO.NET vs. OLE DB vs. ODBC
There has been much debate in the developer community on which provider to choose when connecting to SQL Server database.Performance is often cited as a discriminator, with ADO.NET being less per转载 2015-07-09 17:16:34 · 5785 阅读 · 0 评论 -
Compare ADO.NET and OLE DB
1. support across SSIS components:a. SSIS is not welcoming ADO.NET and OLE DB connectors equally across the board. Although this is more so in SQL Server 2005, we are making steps to c转载 2015-07-09 17:24:21 · 440 阅读 · 0 评论 -
SQL Server Data Tools(SSDT) 安装
SQL Server Data Tools(SSDT) 曾叫做Business Intelligence Development Studio(BIDS),是开发人员所需要的开发环境。它为SSIS,SSAS,SSRS的商业智能项目提供了可视的设计界面。从SQL Server 2014版本开始,该环境不再包含在SQL Server的安装包内,需要另行安装。1.下载SSDT安装程序原创 2015-07-07 21:25:51 · 37301 阅读 · 1 评论 -
SSIS调用Mysql数据源 密码丢失问题
通过SSIS读取Mysql数据,在VS开发环境当中没有问题在发布并创建Job以后运行报错,获得以下提示信息:MessageExecuted as user: XXXXXX\XXXXXX. Microsoft (R) SQL Server Execute Package Utility Version 11.0.5613.0 for 32-bit Copyright (C) Micr...原创 2019-05-06 11:03:15 · 5362 阅读 · 0 评论