一、实现对文本文件personnel_data.txt中的数据进行数据粒度的转换,即将文本文件personnel_data.txt中字段为household_register的数据统一成省份(直辖市),并输出到文本文件personnel_data_new.txt中。

(1)打开Kettle工具,新建转换

使用Kettle工具,创建一个转换generalization,并添加文本文件输入控件、表输入控件、字段选择控件、排序记录控件、记录集连接控件、表输出控件以及Hop跳连接线。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件


(2)配置文本文件输入控件

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_02


springboot kettle 数据清洗 在kettle中如何清洗数据_控件_03


springboot kettle 数据清洗 在kettle中如何清洗数据_字段_04


(3)配置字段选择控件

双击图中的“字段选择”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_05


(4)配置排序记录控件

双击“排序记录”控件,进入“排序记录”界面,并在“字段”框中添加字段household_register,对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_06


(5)配置表输入控件

双击图中的“表输入”控件,进入“表输入”界面。单击【新建】按钮,配置数据库连接,配置完成后单击【确认】按钮。MySQL数据库连接的配置。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_07


(6)配置排序记录2控件

双击图中的“排序记录 2”控件,进入“排序记录”界面,在“字段”框中添加字段city,并对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_08


(7)配置记录集连接控件

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_09


(8)配置字段选择2控件

双击图中的“字段选择2”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称,这里添加的是记录集连接流中的字段household_register和pid。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_10


(9)配置排序记录3控件

双击图中的“排序记录 3”控件,进入“排序记录”界面,在“字段”框中添加字段pid,并对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_11


(10)配置表输入2控件

双击图中的“表输入2”控件,进入“表输入2”界面。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_12


(11)配置排序记录4控件

双击图中的“排序记录 4”控件,进入“排序记录”界面,在“字段”框中添加字段pid,并对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_13


(12)配置记录集连接2控件

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_14


(13)配置字段选择3控件

双击图中的“字段选择3”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称,这里添加的是记录集连接2流中的字段household_register和Provincial。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_15


(14)配置表输出控件

双击图中的“表输出”控件,进入“表输出”配置界面。

![在这里插入图片描述](

(15)打开Kettle工具,新建转换

使用Kettle工具,创建一个转换generalization_merge,并添加表输入控件、字段选择控件、排序记录控件、记录集连接控件、文本文件输出控件以及Hop跳连接线。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_16


(16)配置表输入控件

双击图中的“表输入”控件,进入“表输入”界面。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_17


springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_18


(17)配置字段选择控件

双击图中的“字段选择”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_19


(18)配置排序记录控件

双击图中的“排序记录”控件,进入“排序记录”界面,并在“字段”框中添加字段id,对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_20


(19)配置文本文件输入控件

双击图中的“文本文件输入”控件,进入“文本文件输入”界面,单击【浏览】按钮,选择要抽取personnel_data.txt文件;单击【增加】按钮,将要抽取的personnel_data.txt文件添加到generalization_merge转换中。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_21


springboot kettle 数据清洗 在kettle中如何清洗数据_控件_22


springboot kettle 数据清洗 在kettle中如何清洗数据_控件_23


(20)配置字段选择2控件

双击图中的“字段选择2”控件,进入“选择/改名值”界面,在“选择和修改”选项卡处添加字段名称。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_24


(21)配置排序记录2控件

双击图中的“排序记录”控件,进入“排序记录”界面,并在“字段”框中添加字段id,对其进行排序。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_25


(22)配置记录集连接控件

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_26


(23)配置字段选择3控件

双击图中的“字段选择3”控件,进入“字段选择”界面,在“选择和修改”选项卡处添加字段名称,并将字段household_register_new改为household_register。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_27


(24)配置文本文件输出控件

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_28


springboot kettle 数据清洗 在kettle中如何清洗数据_字段_29


springboot kettle 数据清洗 在kettle中如何清洗数据_控件_30


(25)打开Kettle工具,新建作业

使用Kettle工具,创建一个作业generalization,并添加Start控件、转换控件、成功控件以及Hop作业项连接线。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_31


(26)配置转换控件

双击图中的“转换”控件,进入“转换”界面,单击“Transformations”处的【浏览】按钮,选择添加转换generalization。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_32


(27)配置转换2控件

双击图中的“转换2”控件,进入“转换”界面,单击“Transformations”处的【浏览】按钮,选择添加转换generalization_merge。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_33


(28)运行作业generalization

单击作业工作区顶部的运行按钮,运行作业generalization,实现将文本文件personnel_data.txt中字段为household_register的数据统一成省份(直辖市),并输出到文本文件personnel_data_new.txt中。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_34


二、对文本文件personnel_data_new.txt中字段为salary的数据进行商务规则计算,即计算每个人的月薪(以22天工作日计算),最终输出到文本文件personnel_data_monthly_salary.txt中。

(1)打开Kettle工具,新建转换

使用Kettle工具,创建一个转换monthly_salary,并添加文本文件输入控件、增加常量控件、计算器控件、文本文件输出控件以及Hop跳连接线。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_35


(2)配置文本文件输入控件

双击图中的“文本文件输入”控件,进入“文本文件输入”界面,单击【浏览】按钮,选择要抽取personnel_data_new.txt文件;单击【增加】按钮,将要抽取的personnel_data_new.txt文件添加到转换monthly_salary中。

在图中,单击“内容”选项卡,在分隔符处清除默认分隔符“;”,单击【Insert TAB】按钮,在分隔符处插入一个制表符。

在图中,单击“字段”选项卡,根据personnel_data_new.txt文件的内容添加对应的字段名称,并指定数据类型。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_36


springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_37


(3)配置增加常量控件

双击图中的“增加常量”控件,进入“增加常量”界面,在字段框中添加一个字段days,并给定一个值22。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_38


(4)配置计算器控件

双击图中的“计算器”控件,进入“计算器”界面,在字段框中添加一个字段monthly_salary,用于存储月薪,该字段是由字段days和salary进行相乘所得。

springboot kettle 数据清洗 在kettle中如何清洗数据_文本文件_39


(5)配置文本文件输出控件

双击图中的“文本文件输出”控件,进入“文本文件输出”界面,单击“文件名称”右侧的【浏览】按钮,选择输出文件,即文本文件personnel_data_monthly_salary;单击“内容”选项卡,进入“内容”界面,清除分隔符处的默认分隔符,单击【插入Tab】按钮,插入Tab分隔符,并在编码处的下拉框选择“UTF-8”编码;单击“字段”选项卡,进入“字段”界面,添加要输出的字段。

springboot kettle 数据清洗 在kettle中如何清洗数据_控件_40


springboot kettle 数据清洗 在kettle中如何清洗数据_字段_41


springboot kettle 数据清洗 在kettle中如何清洗数据_字段_42


(6)运行转换monthly_salary

单击转换工作区顶部的运行按钮,运行转换monthly_salary,实现将文本文件personnel_data_new.txt中字段为salary的数据进行商务规则计算,即计算每个人的月薪(以22天工作日计算),最终输出到文本文件personnel_data_monthly_salary.txt中。从图中的执行结果来看,即每个控件的右上角均有“√”,则说明转换monthly_salary执行成功。

springboot kettle 数据清洗 在kettle中如何清洗数据_字段_43