ssis优化

2024-04-04 07:08
文章标签 优化 ssis

本文主要是介绍ssis优化,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1.. 优化

 集成服务功能强大,开发管理较为复杂,往往ETL包能够实现功能,但是不能满足性能要求。下面将给出一些提高性能的建议。

1.1 用于提高速度的总体设置

1 优化数据源

1 删除不需要的列;

2)使用SQL SELECT语句从视图中提取数据;应当避免在“OLE DB源”适配器中使用“表或视图“的访问模式。

3 优化数据源查询;

2 使用平面文件及其它文件源

1 把平面文件中相邻的不需要的列组合起来;

2 将平面文件中不需要的列保留为“String”类型;

3 清除隐藏的操作

(1)    只在必要的时候进行列的解析或转换;

(2)    在“平面文件源”适配器中使用“FastParse”选项;

(3)    清除不必要的日志记录;

1.2 数据流优化

(1)    使用索引

(2)    实现并行性

(3)    清除不必要的操作

(4)    将查找引用配对; 避免使用“select * from

(5)    近可能的在SQL Server中执行以数据集为基础的操作。例如:SQL Server中比“排序”转换组件速度要快,特别是有索引时。

(6)    注意具有内部文件IO的转换。可以提高硬盘驱动器性能。

(7)    转移到64位操作系统中

(8)    监视内存密集型转换,如:“聚合”,“查找”,“排序”等

(9)    使用“查找“的部分缓存或完全缓存模式

部分缓存:适用于进入的数据具有重复性,而且只引用整个引用表中一小部分数据的时候。完全缓存:适用于当引用表比较小而进入的数据会用到整个引用表范围中所有的数据行时。

(10) 消除“聚合”,“查找”,“排序”操作

(11) 增大“DefaultBufferMaxSize”和“DefaultBufferMaxRows “,但是也不能太大

(12) 使用“EngineThreads “(引擎线程)。可以用日志测试需要的实际线程数,然后再设置一致。

(13) 设置“MaxConcurrentExecutables “(最大并行课执行程序数) 如果值为”-1“,则使用的线程数将是计算机中处理器的数量加2.如果控制流有10个数据流,如果设置为”4“,只能有4个数据流会被同时运行。要与“EngineThreads “相结合设置。

(14) 有些开销比较大的组件慎用:如:OLEDB命令、模糊查找、数据转换、导出列/到入列、字词查找。

1.3 插入性能

1 使用“SQL SERVER 目标”适配器;

2 设置“提交容量”;

3 打开“表锁”;

4 关闭约束;

5 使用“最少日志记录”;

6 再加载时考虑禁用索引;

1.4 如何利用约束理论优化

1 约束理论的5个步骤

(一)     约束的识别

(二)     决定如何利用约束

(三)     根据前面的决策协调和同步其它所有方面

(四)     提升约束的性能

(五)     如果在上述任何步骤中约束发生了变化,则回到第一步

2 最常见的最高优先约束

内存、CPU速度、CPU数量、磁盘驱动器速度、网络速度。

3 基准测试 约束和瓶颈的区别

4 性能计数器

·         Buffers in Use

·         Flat Buffers in Use

·         Private Buffers in Use

·         Rows Read

·         Rows Written

·         Buffers Spooled

这篇关于ssis优化的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/875122

相关文章

SpringBoot3实现Gzip压缩优化的技术指南

《SpringBoot3实现Gzip压缩优化的技术指南》随着Web应用的用户量和数据量增加,网络带宽和页面加载速度逐渐成为瓶颈,为了减少数据传输量,提高用户体验,我们可以使用Gzip压缩HTTP响应,... 目录1、简述2、配置2.1 添加依赖2.2 配置 Gzip 压缩3、服务端应用4、前端应用4.1 N

Spring Boot + MyBatis Plus 高效开发实战从入门到进阶优化(推荐)

《SpringBoot+MyBatisPlus高效开发实战从入门到进阶优化(推荐)》本文将详细介绍SpringBoot+MyBatisPlus的完整开发流程,并深入剖析分页查询、批量操作、动... 目录Spring Boot + MyBATis Plus 高效开发实战:从入门到进阶优化1. MyBatis

MyBatis 动态 SQL 优化之标签的实战与技巧(常见用法)

《MyBatis动态SQL优化之标签的实战与技巧(常见用法)》本文通过详细的示例和实际应用场景,介绍了如何有效利用这些标签来优化MyBatis配置,提升开发效率,确保SQL的高效执行和安全性,感... 目录动态SQL详解一、动态SQL的核心概念1.1 什么是动态SQL?1.2 动态SQL的优点1.3 动态S

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

一文详解SpringBoot响应压缩功能的配置与优化

《一文详解SpringBoot响应压缩功能的配置与优化》SpringBoot的响应压缩功能基于智能协商机制,需同时满足很多条件,本文主要为大家详细介绍了SpringBoot响应压缩功能的配置与优化,需... 目录一、核心工作机制1.1 自动协商触发条件1.2 压缩处理流程二、配置方案详解2.1 基础YAML

MySQL中慢SQL优化的不同方式介绍

《MySQL中慢SQL优化的不同方式介绍》慢SQL的优化,主要从两个方面考虑,SQL语句本身的优化,以及数据库设计的优化,下面小编就来给大家介绍一下有哪些方式可以优化慢SQL吧... 目录避免不必要的列分页优化索引优化JOIN 的优化排序优化UNION 优化慢 SQL 的优化,主要从两个方面考虑,SQL 语

MySQL中慢SQL优化方法的完整指南

《MySQL中慢SQL优化方法的完整指南》当数据库响应时间超过500ms时,系统将面临三大灾难链式反应,所以本文将为大家介绍一下MySQL中慢SQL优化的常用方法,有需要的小伙伴可以了解下... 目录一、慢SQL的致命影响二、精准定位问题SQL1. 启用慢查询日志2. 诊断黄金三件套三、六大核心优化方案方案

Redis中高并发读写性能的深度解析与优化

《Redis中高并发读写性能的深度解析与优化》Redis作为一款高性能的内存数据库,广泛应用于缓存、消息队列、实时统计等场景,本文将深入探讨Redis的读写并发能力,感兴趣的小伙伴可以了解下... 目录引言一、Redis 并发能力概述1.1 Redis 的读写性能1.2 影响 Redis 并发能力的因素二、

使用国内镜像源优化pip install下载的方法步骤

《使用国内镜像源优化pipinstall下载的方法步骤》在Python开发中,pip是一个不可或缺的工具,用于安装和管理Python包,然而,由于默认的PyPI服务器位于国外,国内用户在安装依赖时可... 目录引言1. 为什么需要国内镜像源?2. 常用的国内镜像源3. 临时使用国内镜像源4. 永久配置国内镜

C#原型模式之如何通过克隆对象来优化创建过程

《C#原型模式之如何通过克隆对象来优化创建过程》原型模式是一种创建型设计模式,通过克隆现有对象来创建新对象,避免重复的创建成本和复杂的初始化过程,它适用于对象创建过程复杂、需要大量相似对象或避免重复初... 目录什么是原型模式?原型模式的工作原理C#中如何实现原型模式?1. 定义原型接口2. 实现原型接口3