环境信息:
版本:IBM InfoSphere DataStage V11.3.1
操作系统:linux redhat 6.4
数据库:Oracle 11.2.0.4.0
问题描述:
作业设计:
报错信息如下:
问题分析:
引发该问题,我们可以怀疑是否由以下两点造成:
1.检查数据源是否有重复数据,导致引发该问题。
2.检查主键对比字段是否为唯一键值。
a)以上检查都OK,那么就需要对作业本生做分析,这个作业功能是对比两个数据文件,获取有差异的数据,也就是增量数据,其中有一点比较重要,那就是在加载数据之后,我们会多一个字段也就是CHANGE_CODE。 这个字段是用来记录数据的变化的,(1 为新增,2为删除,3为修改)。
b)我们首先把这个索引去除掉,然后跑数据,查看这些数据的变化。会发现之前建立强制索引的主键 CUSTOMID, USERID 有重复,虽然一个为2 表示删除,但我们还是会保留。 而业务系统直接删除,并未做保留,所以业务系统不会受强制唯一索引约束。我们需要重新创建基于 CUSTOMID, USERID,CHANGE_CODE 的强制唯一索引。
处理办法:
1.将该强制唯一索引去除,ID 已经是唯一索引,可以支撑Change Capture 做对比。
或
2.建立以 CUSTOMID, USERID,CHANGE_CODE 的主键约束
alter table ODM.O_RT_CSTCUSTOMMANAGER
add constraint UN_CSTCUSTOMMANAGER_CUSTO_2 unique (CUSTOMID, USERID,CHANGE_CODE)
using index
tablespace ODM_L;
总结:
处理该问题相对简单,但也提醒我们在开发设计中要多加留意。比如CHANGE_CODE的出现,我们也要对唯一约束做相应调整。