ssis优化

2024-04-04 07:08
文章标签 优化 ssis

本文主要是介绍ssis优化,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.. 优化

 集成服务功能强大,开发管理较为复杂,往往ETL包能够实现功能,但是不能满足性能要求。下面将给出一些提高性能的建议。

1.1 用于提高速度的总体设置

1 优化数据源

1 删除不需要的列;

2)使用SQL SELECT语句从视图中提取数据;应当避免在“OLE DB源”适配器中使用“表或视图“的访问模式。

3 优化数据源查询;

2 使用平面文件及其它文件源

1 把平面文件中相邻的不需要的列组合起来;

2 将平面文件中不需要的列保留为“String”类型;

3 清除隐藏的操作

(1)    只在必要的时候进行列的解析或转换;

(2)    在“平面文件源”适配器中使用“FastParse”选项;

(3)    清除不必要的日志记录;

1.2 数据流优化

(1)    使用索引

(2)    实现并行性

(3)    清除不必要的操作

(4)    将查找引用配对; 避免使用“select * from

(5)    近可能的在SQL Server中执行以数据集为基础的操作。例如:SQL Server中比“排序”转换组件速度要快,特别是有索引时。

(6)    注意具有内部文件IO的转换。可以提高硬盘驱动器性能。

(7)    转移到64位操作系统中

(8)    监视内存密集型转换,如:“聚合”,“查找”,“排序”等

(9)    使用“查找“的部分缓存或完全缓存模式

部分缓存:适用于进入的数据具有重复性,而且只引用整个引用表中一小部分数据的时候。完全缓存:适用于当引用表比较小而进入的数据会用到整个引用表范围中所有的数据行时。

(10) 消除“聚合”,“查找”,“排序”操作

(11) 增大“DefaultBufferMaxSize”和“DefaultBufferMaxRows “,但是也不能太大

(12) 使用“EngineThreads “(引擎线程)。可以用日志测试需要的实际线程数,然后再设置一致。

(13) 设置“MaxConcurrentExecutables “(最大并行课执行程序数) 如果值为”-1“,则使用的线程数将是计算机中处理器的数量加2.如果控制流有10个数据流,如果设置为”4“,只能有4个数据流会被同时运行。要与“EngineThreads “相结合设置。

(14) 有些开销比较大的组件慎用:如:OLEDB命令、模糊查找、数据转换、导出列/到入列、字词查找。

1.3 插入性能

1 使用“SQL SERVER 目标”适配器;

2 设置“提交容量”;

3 打开“表锁”;

4 关闭约束;

5 使用“最少日志记录”;

6 再加载时考虑禁用索引;

1.4 如何利用约束理论优化

1 约束理论的5个步骤

(一)     约束的识别

(二)     决定如何利用约束

(三)     根据前面的决策协调和同步其它所有方面

(四)     提升约束的性能

(五)     如果在上述任何步骤中约束发生了变化,则回到第一步

2 最常见的最高优先约束

内存、CPU速度、CPU数量、磁盘驱动器速度、网络速度。

3 基准测试 约束和瓶颈的区别

4 性能计数器

·         Buffers in Use

·         Flat Buffers in Use

·         Private Buffers in Use

·         Rows Read

·         Rows Written

·         Buffers Spooled

这篇关于ssis优化的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/875122

相关文章

正则表达式高级应用与性能优化记录

《正则表达式高级应用与性能优化记录》本文介绍了正则表达式的高级应用和性能优化技巧,包括文本拆分、合并、XML/HTML解析、数据分析、以及性能优化方法,通过这些技巧,可以更高效地利用正则表达式进行复杂... 目录第6章:正则表达式的高级应用6.1 模式匹配与文本处理6.1.1 文本拆分6.1.2 文本合并6

Vue3 的 shallowRef 和 shallowReactive:优化性能

大家对 Vue3 的 ref 和 reactive 都很熟悉,那么对 shallowRef 和 shallowReactive 是否了解呢? 在编程和数据结构中,“shallow”(浅层)通常指对数据结构的最外层进行操作,而不递归地处理其内部或嵌套的数据。这种处理方式关注的是数据结构的第一层属性或元素,而忽略更深层次的嵌套内容。 1. 浅层与深层的对比 1.1 浅层(Shallow) 定义

HDFS—存储优化(纠删码)

纠删码原理 HDFS 默认情况下,一个文件有3个副本,这样提高了数据的可靠性,但也带来了2倍的冗余开销。 Hadoop3.x 引入了纠删码,采用计算的方式,可以节省约50%左右的存储空间。 此种方式节约了空间,但是会增加 cpu 的计算。 纠删码策略是给具体一个路径设置。所有往此路径下存储的文件,都会执行此策略。 默认只开启对 RS-6-3-1024k

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

MySQL高性能优化规范

前言:      笔者最近上班途中突然想丰富下自己的数据库优化技能。于是在查阅了多篇文章后,总结出了这篇! 数据库命令规范 所有数据库对象名称必须使用小写字母并用下划线分割 所有数据库对象名称禁止使用mysql保留关键字(如果表名中包含关键字查询时,需要将其用单引号括起来) 数据库对象的命名要能做到见名识意,并且最后不要超过32个字符 临时库表必须以tmp_为前缀并以日期为后缀,备份

SWAP作物生长模型安装教程、数据制备、敏感性分析、气候变化影响、R模型敏感性分析与贝叶斯优化、Fortran源代码分析、气候数据降尺度与变化影响分析

查看原文>>>全流程SWAP农业模型数据制备、敏感性分析及气候变化影响实践技术应用 SWAP模型是由荷兰瓦赫宁根大学开发的先进农作物模型,它综合考虑了土壤-水分-大气以及植被间的相互作用;是一种描述作物生长过程的一种机理性作物生长模型。它不但运用Richard方程,使其能够精确的模拟土壤中水分的运动,而且耦合了WOFOST作物模型使作物的生长描述更为科学。 本文让更多的科研人员和农业工作者

从状态管理到性能优化:全面解析 Android Compose

文章目录 引言一、Android Compose基本概念1.1 什么是Android Compose?1.2 Compose的优势1.3 如何在项目中使用Compose 二、Compose中的状态管理2.1 状态管理的重要性2.2 Compose中的状态和数据流2.3 使用State和MutableState处理状态2.4 通过ViewModel进行状态管理 三、Compose中的列表和滚动

构建高性能WEB之HTTP首部优化

0x00 前言 在讨论浏览器优化之前,首先我们先分析下从客户端发起一个HTTP请求到用户接收到响应之间,都发生了什么?知己知彼,才能百战不殆。这也是作为一个WEB开发者,为什么一定要深入学习TCP/IP等网络知识。 0x01 到底发生什么了? 当用户发起一个HTTP请求时,首先客户端将与服务端之间建立TCP连接,成功建立连接后,服务端将对请求进行处理,并对客户端做出响应,响应内容一般包括响应

DAY16:什么是慢查询,导致的原因,优化方法 | undo log、redo log、binlog的用处 | MySQL有哪些锁

目录 什么是慢查询,导致的原因,优化方法 undo log、redo log、binlog的用处  MySQL有哪些锁   什么是慢查询,导致的原因,优化方法 数据库查询的执行时间超过指定的超时时间时,就被称为慢查询。 导致的原因: 查询语句比较复杂:查询涉及多个表,包含复杂的连接和子查询,可能导致执行时间较长。查询数据量大:当查询的数据量庞大时,即使查询本身并不复杂,也可能导致

MySQL 数据优化

MySQL 数据优化的指南 MySQL 数据库优化是一个复杂且重要的过程,它直接影响到系统的性能、可靠性和可扩展性。在处理大量数据或高并发请求时,数据库的优化尤为关键。通过合理的数据库设计、索引使用、查询优化和硬件调优,可以大幅提高 MySQL 的运行效率。本文将从几个主要方面详细介绍 MySQL 的优化技巧,帮助你在实际应用中提升数据库性能。 一、数据库设计优化 1. 数据库的规范化与反规