Spoon制作一个数据分发的简单转换。读取源表-》读取目标表-》比较源表和目标表的差异-》有差异的进行同步。做好后发现故障,同步最近一天的数据可以顺利完成,耗时1mn24s。同步最近一个月的数据更新插入步骤就会报错。错误信息time out。对数据格式处理过程排查一遍,更换数据同步组件,也没解决问题。最后想想因该是数据库连接超时造成的。同步1天的耗时短,更新插入组件的数据库连接还没有超时,所以不会报错。而同步一个月的数据耗时就比较长,所以更新插入组件的数据库连接就超时报错了。
为了证实这个猜测,在转换设置使用同一个数据库连接,这样前面抽取数据和后面的更新插入步骤数据库连接是同一个数据库连接,就不会超时。经过实验,同步一个月的数据没有报错,说明就是数据库连接超时导致故障。
使用同一个数据库连接影响性能,还是想修改数据库连接的超时等待时间。oracle数据库设置连接超时的配置就是修改listener.ora文件。超时等待时间改成10小时(36000s),基本够用了。具体可见:
INBOUND_CONNECT_TIMEOUT与SQLNET.INBOUND_CONNECT_TIMEOUT_P10ZHUO的博客-优快云博客
INBOUND_CONNECT_TIMEOUT_LISTENER=36000
这样修改有个问题,ETL和其他用户SQL查询都是用同样的超时等待时间设置不合适。SQL查数用途的客户端也使用这么长超时时间,就会很浪费数据库资源。应该设置两个不同超时时间监听,应对不同用途。