点击此处浏览总目录

随笔分类 -  Informatica

摘要:Joiner组件在运行时需要额外的内存空间处理中间结果,因此会影响性能 可通过查看Joiner performance计数器来决定Joiner组件是否需要优化 通过如下方式优化Joiner组件 将Master Source指定为具有较少重复键值的Source 以Joiner组件的join条件作为gr 阅读全文
posted @ 2019-04-12 10:48 立业的博客 阅读(576) 评论(0) 推荐(0)
摘要:Aggregator组件通常会降低性能,因为它们必须在处理数据之前对数据进行分组 Aggregator组件需要额外的内存来保存中间组结果 通过如下方式对Aggregator组件进行优化 简化group by字段 1) group by避免使用复杂的表达式 2) group by字段越少越好 3) g 阅读全文
posted @ 2019-04-11 16:42 立业的博客 阅读(770) 评论(0) 推荐(0)
摘要:优化之Aggregator组件 优化之Custom组件 优化之Joiner组件 优化之Lookup组件 优化之Normalizer组件 优化之Sequence Generator组件 优化之Sorter组件 优化之Source Qualifier组件 优化之SQL组件 优化之XML组件 减少组件报错 阅读全文
posted @ 2019-04-11 16:40 立业的博客 阅读(229) 评论(0) 推荐(0)
摘要:Mapping层级的调优可能会花费时间,但是性能调优的效果确实非常显著的 优化Target,Source之后,可以调优Mapping 通常的方法是尽可能减少组件及组件的字段间不必要的连线 即尽可能用最少的组件和表达式做最多的工作,尽可能减少组件的字段间不必要的连线来保证数据移动量 优化之Source 阅读全文
posted @ 2019-04-09 15:39 立业的博客 阅读(958) 评论(0) 推荐(0)
摘要:如果Source,Target,Mapping和Session都不存在性能上的瓶颈,则问题可能会出在System 因为Integration Service运行时,它使用了System的资源去运行组件,session,以及读写数据 也使用System内存资源为Aggregator, Joiner, 阅读全文
posted @ 2019-04-03 13:20 立业的博客 阅读(293) 评论(0) 推荐(0)
摘要:如果Source,Target和Mapping都不存在性能上的瓶颈,则问题可能会出在Session 以下问题可导致Session有性能上的瓶颈 1) 缓存小 2) 缓冲内存小 3) commit提交间隔小 如何判定Session存在性能瓶颈 分析performance details,perform 阅读全文
posted @ 2019-04-02 11:38 立业的博客 阅读(538) 评论(0) 推荐(0)
摘要:问题: 本地Oracle客户端由11g-32bit升级为12c-64bit时,在PowerCenter Designer使用原来的ODBC连接导入数据库表时,发生如下错误: 原因: 原oracle11g 客户端为32位,因此Informatica使用ODBC连接也是32位的,但是oracle12c客 阅读全文
posted @ 2019-04-01 18:04 立业的博客 阅读(1604) 评论(0) 推荐(0)
摘要:如果Source和Target都不存在性能上的瓶颈,则问题可能会出在Mapping 如何判定Mapping存在性能瓶颈 1) 在session log中读取thread statistics和work time statistics信息 如果transformation thread花费时间过多,则 阅读全文
posted @ 2019-04-01 16:19 立业的博客 阅读(369) 评论(0) 推荐(0)
摘要:数据源的瓶颈通常发生从数据库读取数据的时候,原因通常如下: 1) 脚本的查询效率低下 2) 数据库网络包太小 如何判定源瓶颈 通过在session log中读取thread statistics判定源的瓶颈 如果read thread花费的时间大大多于write thread和transformat 阅读全文
posted @ 2019-04-01 12:17 立业的博客 阅读(368) 评论(0) 推荐(0)
摘要:问题:Source Qualifter组件中sqlquery过长导致截取原因:Source Qualifter组件中sqlquery可以接受的最长字符数是32767个字符,超过这个数字会导致截取解决方案: 1 创建数据库视图 2 创建存储过程 3 直接复制粘贴到sqlquery 具体参考链接:htt 阅读全文
posted @ 2019-03-27 10:43 立业的博客 阅读(262) 评论(0) 推荐(0)
摘要:最常见的性能问题都发生在向目标数据库写数据的时候 常见的与目标数据库性能有关的问题有: 1) 数据库的checkpoint间隔太小 2) 数据库网络包太小 3) 在进行大批量数据加载时的问题 如何判断目标的性能瓶颈 1) 将session复制一份,然后将复制session的目标从数据库修改为文件,如 阅读全文
posted @ 2019-03-27 10:14 立业的博客 阅读(435) 评论(0) 推荐(0)
摘要:错误:PCSF_46026 Unable to find valid TrustStore certificate in PEM format 原因:本地没有配置INFA_DOMAINS_FILE和INFA_TRUSTSTORE环境变量 解决:配置INFA_DOMAINS_FILE和INFA_TRU 阅读全文
posted @ 2019-03-26 15:12 立业的博客 阅读(773) 评论(0) 推荐(0)
摘要:1 下载安装文件并点击安装 安装过程无其他特殊配置,仅需一直下一步即可 注: 1) 但由于安装文件很大,因此需本地预留足够的空间 2) 安装包括powercenter和developer两部分,若只想安装powercenter,则在安装过程中将developer取消勾选,否则会很占用本地空间 2 配 阅读全文
posted @ 2019-03-26 14:54 立业的博客 阅读(1385) 评论(0) 推荐(0)
摘要:可在session log中使用线程统计信息来判断source,target或组的性能瓶颈 默认情况下,Integration Service在运行session时,使用一个reader thread,一个transformation thread,还有一个writer thread 如果其中一个t 阅读全文
posted @ 2019-03-25 11:16 立业的博客 阅读(489) 评论(0) 推荐(0)
摘要:关于性能瓶颈 性能调优的首要步骤是发现性能上的瓶颈 性能瓶颈可能会发生在Source,Target,Mapping,Session及System 性能调优的方法即按照顺序依次判断各部分的性能并解决,直至性能达到要求 请按照下列顺序依次排查性能瓶颈 1 Target 2 Source 3 Mappin 阅读全文
posted @ 2019-03-22 11:02 立业的博客 阅读(297) 评论(0) 推荐(0)
摘要:优化Source主要包括以下几方面: 1 优化sqlquery 在mapping中,通常会在Source Qualifier组件中使用sqlquery读取数据,则优化通常包括以下几点: 1) 如果在Source Qualifier中的sqlquery中有多个表,可对它们使用oracle优化器 如果s 阅读全文
posted @ 2019-03-21 10:28 立业的博客 阅读(262) 评论(0) 推荐(0)
摘要:优化目标主要包括以下几方面: 1 优化平面文件 如果目标平面文件在某机器的共享目录下,则该机器最好是专门用于文件存储的,如果还应用于其他非文件存储任务,则会降低加载效率 如果Integration service运行在单节点,则可将该平面文件放置在该单节点所在本地,这样的话,本地数据加载会大大提升效 阅读全文
posted @ 2019-03-20 14:02 立业的博客 阅读(266) 评论(0) 推荐(0)
摘要:从系统方面考虑,性能通常取决于connection的连接效率和Integration Service所在机器的负荷程度,常见的原因有: 多用户同时使用 不同的网络协议 网络上有多个路由及转换 源和目标数据库的I/O效率低 源和目标文件系统的I/O效率低 domain内node的I/O效率低 通常在如 阅读全文
posted @ 2019-03-19 11:46 立业的博客 阅读(345) 评论(0) 推荐(0)
摘要:所有组件都有计数器用来记录运行时各方面的数值,比如Integration Service会追踪记录每个组件的input rows, output rows以及error rows的数量,并将这些数字记在计数器里。其中,一些组件的计数器是跟性能相关的,专门用来记录性能有关的数字信息。如下列的计数器,可 阅读全文
posted @ 2019-03-15 13:11 立业的博客 阅读(503) 评论(0) 推荐(0)
摘要:当运行session时,会产生大量的Transformation Errors,这些Error会导致性能变慢 1 Transformation Errors导致性能降低的原因 当有大量记录有Transformation Errors时,Integration Service会进行如下操作而降低性能 阅读全文
posted @ 2019-03-15 10:41 立业的博客 阅读(300) 评论(0) 推荐(0)