一.Kettle初步使用
- 下载Kettle压缩包
- 将压缩包直接解压到当前文件夹
- 打开解压包后,双击Spoon.bat即可直接运行(此处默认电脑已安装JDK环境)
- 但是!如果需要连接数据库操作数据表(插入/更新/同步等),则需要在lib包里加入数据库驱动jar包。我是mysql数据库,直接从本地maven仓库中Ctrl+CV过来的。(初次使用者去你的项目里找来数据库驱动jar包即可,oracle同理)。
- 双击Spoon.bat即可启动,然后点击“文件”或右键“转换”,均可新建转换
- 新建转换后需要连接数据库。①点击主对象树;②右键“DB连接”——新建;③选择数据库(本人为MySQL),Oracle同理;④选择连接方式;⑤设置数据库连接(别忘了第一行“连接名称”:随便取个名);⑥点击“测试”,成功or失败;⑦成功后右下角确认即可,然后“DB连接”下面就有该连接了,右键连接可设置为共享(下次新建连接就可以直接用)
- 点击核心对象,可以看到很多功能,反正大部分我都不会用(苦笑脸!)所以下面只演示表的插入/更新/同步。。。。。
- 实现数据的插入/更新:①user表:②user_age表:③目的:将user表中的增量/更新数据同步到user_age表。
- 点击“输入”,然后将“表输入”直接拖拽到右边的工作框;双击表输入然后依次步骤取名——选择下之前创建的连接——再写sql,获取你要的数据(我这里是获取user表所有数据)
- 点击“输出”,直接将“插入/更新”拖拽到右边的工作框,同样取个名——选择数据库连接——目标表选择你需要插入/更新的表——目标表与源数据表(流)的对应关系(此处即user_age表的user_id与user表的id,可理解为外键关系,spoon通过比较这两个字段来同步数据)——数据同步的对应关系(记住更新下面选择Y,不需要同步选择N)
- 上述转换实际存在缺陷:只能在目标表中同步源表的插入/更新的数据,而源表删除的数据,目标表不会删除,即并没完全同步(目标表和源表完全一致)。若需要完全同步,可使用“数据同步”输出。
二.Kettle数据同步
- 直接上转换图。目的:将user表的数据完全同步到目标表(两表保持完全一致)
- 拖拽两个表输入,配置如图,因为要合并记录(实际是对两张表数据进行比较),所以获取SQL获取数据/字段等要一致。
- 合并记录,连接中拖拽出“合并记录”
- 合并记录配置:
①一定要注意旧数据源和新数据源的区别,
旧数据源指:需要同步的目标表,user_age表(可理解为备份表);
新数据源值:源数据,user表(可理解为业务中一直变动的表);
②标志字段:flagfield后面“数据同步”步骤需要用到,Spoon用它记录数据的“增 删 改”状态,才能执行同步
③关键字段,两张表数据用来对比的字段(此处user_id);
④同步的数据字段。
- 输出中拖拽出“数据同步”,配置如下: