• ​​大数据Hadoop之——数据同步工具Sqoop -

1 概述

Apache Sqoop（SQL-to-Hadoop）项目旨在协助RDBMS（Relational Database Management System：关系型数据库管理系统）与Hadoop之间进行高效的大数据交流。用户可以在 Sqoop 的帮助下，轻松地把关系型数据库的数据导入到 Hadoop 与其相关的系统 (如HBase和Hive)中；同时也可以把数据从 Hadoop 系统里抽取并导出到关系型数据库里。

Sqoop是一个在结构化数据和Hadoop之间进行批量数据迁移的工具，结构化数据可以是MySQL、Oracle等RDBMS。Sqoop底层用MapReduce程序实现抽取、转换、加载，MapReduce天生的特性保证了并行化和高容错率，而且相比Kettle等传统ETL工具，任务跑在Hadoop集群上，减少了ETL服务器资源的使用情况。在特定场景下，抽取过程会有很大的性能提升。

Sqoop的导入和导出功能是通过基于Map Task（只有map）的MapReduce作业实现的。所以它是一种批处理方式进行数据传输，难以实现实时的数据进行导入和导出。

官网：​​sqoop.apache.org/​​ 官方文档：​​sqoop.apache.org/docs/1.99.7…​​ GitHub：​​github.com/apache/sqoo…​​

1.1 功能

  • ​​（超详细）数据转换工具Sqoop的实战_IT路上的军哥的博客-CSDN博客​​

import : RDBMS–>Hadoop

  • 将数据从关系型数据库或大型主机导入到Hadoop平台，导入进程中的输入内容是数据库表或主机​​数据集​​。对于数据库，Sqoop将逐行读取表格到Hadoop。对于主机数据集，Sqoop将从每个主机数据集读取记录到HDFS。导入过程的输出是一组文件，其中包含导入的表或数据集的副本。导入过程是并行执行的。因此，输出将在多个文件中产生。

export: Hadoop – > RDBMS

  • 将数据从Hadoop平台导出到关系数据库或大型主机，Sqoop的导出过程会并行地从HDFS读取所需数据，将它们解析为记录，如果导出到数据库，则将它们作为新行插入到目标数据库表中，如果导出到大型主机，则直接形成数据集，供外部应用程序或用户使用。

用户使用Sqoop时，只需要通过简单的命令进行操作，Sqoop会自动化数据传输中的大部分过程。Sqoop使用MapReduce导入和导出数据，提供并行操作和容错功能。 在使用Sqoop的过程中，用户可以定制导入、导出过程的大多数方面，可以控制导入的特定行范围或列，也可以为数据的基于文件的表示以及所使用的文件格式指定特定的分隔符和转义字符。

1.2 特点

  • 优点：它可以将跨平台的数据进行整合。
  • 缺点：它不是很灵活。
  • 并行处理
    Sqoop充分利用了MapReduce的并行特点，以批处理的方式加快数据的传输，同时也借助MapReduce实现了容错。
  • 适用性高
    通过JDBC接口和关系型数据库进行交互，理论上支持JDBC接口的数据库都可以使用Sqoop和Hadoop进行数据交互。
  • 使用简单
    用户通过命令行的方式对Sqoop进行操作，一共只有15条命令。其中13条命令用于数据处理，操作简单，用户可以轻松地完成Hadoop与RDBMS的数据交互。

2 架构

数据同步工具Sqoop_数据

sqoop的底层实现是mapreduce，所以sqoop依赖于hadoop，sqoop将导入或导出命令翻译成MapReduce程序来实现，在翻译出的MapReduce 中主要是对InputFormat和OutputFormat进行定制。

1）数据导入（RDBMS->Haoop）

数据同步工具Sqoop_字段_02

  • sqoop会通过jdbc来获取需要的数据库的元数据信息，例如：导入的表的列名，数据类型。
  • 这些数据库的数据类型会被映射成为java的数据类型，根据这些信息，sqoop会生成一个与表名相同的类用来完成序列化工作，保存表中的每一行记录。
  • sqoop开启MapReduce作业
  • 启动的作业在input的过程中，会通过jdbc读取数据表中的内容，这时，会使用sqoop生成的类进行序列化。
  • 最后将这些记录写到hdfs上，在写入hdfs的过程中，同样会使用sqoop生成的类进行反序列化。

2）数据导出（Haoop->RDBMS）

数据同步工具Sqoop_数据_03

  • 首先sqoop通过jdbc访问关系型数据库获取需要导出的信息的元数据信息
  • 根据获取的元数据信息，sqoop生成一个Java类，用来承载数据的传输，该类必须实现序列化
  • 启动MapReduce程序
  • sqoop利用生成的这个类，并行从hdfs中获取数据
  • 每个map作业都会根据读取到的导出表的元数据信息和读取到的数据，生成一批insert 语句，然后多个map作业会并行的向MySQL中插入数据。

3 Sqoop常用命令及参数

  • ​​Sqoop常用命令及参数_悠然予夏的博客-CSDN博客​​

3.1 常用命令

序号

命令

类

说明

1

import

ImportTool

将数据导入到集群

2

export

ExportTool

将集群数据导出

3

codegen

CodeGenTool

获取数据库中某张表数据生成Java并打包Jar

4

createhive-table

CreateHiveTableTool

创建Hive表

5

eval

EvalSqlTool

查看SQL执行结果

6

importall-tables

ImportAllTablesTool

导入某个数据库下所有表到HDFS中

7

job

JobTool

用来生成一个sqoop的任务，生成后，该任务并不执行，除非使用命令执行该任务。

8

list-databases

ListDatabasesTool

列出所有数据库名

9

list-tables

ListTablesTool

列出某个数据库下所有表

10

merge

MergeTool

将HDFS中不同目录下面的数据合在一起，并存放在指定的目录中

11

metastore

MetastoreTool

记录sqoop job的元数据信息，如果不启动metastore实例，则默认的元数据存储目录为：~/.sqoop，如果要更改存储目 录，可以在配置文件sqoopsite.xml中进行更改。

12

help

HelpTool

打印sqoop帮助信息

13

version

VersionTool

打印sqoop版本信息

3.2 常用参数

所谓公用参数，就是大多数命令都支持的参数。

3.2.1 公用参数 – 数据库连接

序号

参数

说明

1

–connect

连接关系型数据库的URL

2

–connection-manager

指定要使用的连接管理类

3

–driver

Hadoop根目录

4

–help

打印帮助信息

5

–password

连接数据库的密码

6

–username

连接数据库的用户名

7

–verbose

在控制台打印出详细信息

3.2.2 公用参数 – import

序号

参数

说明

1

–enclosed-by

给字段值前加上指定的字符

2

–escaped-by

对字段中的双引号加转义符

3

–fields-terminated-by

设定每个字段是以什么符号作为结束，默认为逗号

4

–lines-terminated-by

设定每行记录之间的分隔符，默认是\n

5

–mysql-delimiters

Mysql默认的分隔符设置，字段之间以逗号分隔，行之间以\n分隔，默认转义符是\，字段值以单引号包裹

6

–optionally-enclosed-by

给带有双引号或单引号的字段值前后加上指定字符

Import的控制参数，常见Import的控制参数有如下几个：

Argument

Description

​​--append​​

通过追加的方式导入到HDFS

​​--as-avrodatafile​​

导入为 Avro Data 文件格式

​​--as-sequencefile​​

导入为 SequenceFiles文件格式

​​--as-textfile​​

导入为文本格式 (默认值)

​​--as-parquetfile​​

导入为 Parquet 文件格式

​​--columns​​

指定要导入的列

​​--delete-target-dir​​

如果目标文件夹存在,则删除

​​--fetch-size​​

一次从数据库读取的数量大小

​​-m,--num-mappers​​

n 用来指定map tasks的数量,用来做并行导入

​​-e,--query​​

指定要查询的SQL语句

​​--split-by​​

用来指定分片的列

​​--table​​

需要导入的表名

​​--target-dir​​

HDFS 的目标文件夹

​​--where​​

用来指定导入数据的where条件

​​-z,--compress​​

是否要压缩

​​--compression-codec​​

使用Hadoop压缩 (默认是 gzip)

3.2.3 公用参数 – export

序号

参数

说明

1

–input-enclosed-by

对字段值前后加上指定字符

2

–input-escaped-by

对含有转移符的字段做转义处理

3

–input-fields-terminated-by

字段之间的分隔符

4

–input-lines-terminated-by

行之间的分隔符

5

–input-optionally-enclosed-by

给带有双引号或单引号的字段前后加上指定字符

3.2.4 公用参数 – hive

序号

参数

说明

1

–hive-delims-replacement

用自定义的字符串替换掉数据中的\r\n和\013\010等字符

2

–hive-drop-import-delims

在导入数据到hive时，去掉数据中的\r\n\013\010这样的字符

3

–map-column-hive

生成hive表时，可以更改生成字段的数据类型

4

–hive-partition-key

创建分区，后面直接跟分区名，分区字段的默认类型为string

5

–hive-partition-value

导入数据时，指定某个分区的值

6

–hive-home

hive的安装目录，可以通过该参数覆盖之前默认配置的目录

7

–hive-import

将数据从关系数据库中导入到hive表中

8

–hive-overwrite

覆盖掉在hive表中已经存在的数据

9

–create-hive-table

默认是false，即，如果目标表已经存在了，那么创建任务失败。

10

–hive-table

后面接要创建的hive表,默认使用MySQL的表名

11

–table

指定关系数据库的表名

3.2.5 import参数

序号

参数

说明

1

–append

将数据追加到HDFS中已经存在的DataSet中，如果使用该参数，sqoop会把数据先导入到临时文件目录，再合并。

2

–as-avrodatafile

将数据导入到一个Avro数据文件中

3

–as-sequencefile

将数据导入到一个sequence文件中

4

–as-textfile

将数据导入到一个普通文本文件中

5

–boundary-query

边界查询，导入的数据为该参数的值（一条sql语句）所执行的结果区间内的数据。

6

–columns <col1, col2, col3>

指定要导入的字段

7

–direct

直接导入模式，使用的是关系数据库自带的导入导出工具，以便加快导入导出过程。

8

–direct-split-size

在使用上面direct直接导入的基础上，对导入的流按字节分块，即达到该阈值就产生一个新的文件

9

–inline-lob-limit

设定大对象数据类型的最大值

10

–m或–num-mappers

启动N个map来并行导入数据，默认4个。

11

–query或–e

将查询结果的数据导入，使用时必须伴随参–target-dir，–hive-table，如果查询中有where条件，则条件后必须加上$CONDITIONS关键字

12

–split-by

按照某一列来切分表的工作单元，不能与–autoreset-to-one-mapper连用（请参考官方文档）

13

–table

关系数据库的表名

14

–target-dir

指定HDFS路径

15

–warehouse-dir

与14参数不能同时使用，导入数据到HDFS时指定的目录

16

–where

从关系数据库导入数据时的查询条件

17

–z或–compress

允许压缩

18

–compression-codec

指定hadoop压缩编码类，默认为gzip(Use Hadoop codec default gzip)

19

–null-string

string类型的列如果null，替换为指定字符串

20

–null-non-string

非string类型的列如果null，替换为指定字符串

21

–check-column

作为增量导入判断的列名

22

–incremental

mode：append或lastmodified

23

–last-value

指定某一个值，用于标记增量导入的位置

3.2.6 export参数

序号

参数

说明

1

–direct

利用数据库自带的导入导出工具，以便于提高效率

2

–export-dir

存放数据的HDFS的源目录

3

-m或–num-mappers

启动N个map来并行导入数据，默认4个

4

–table

指定导出到哪个RDBMS中的表

5

–update-key

对某一列的字段进行更新操作

6

–update-mode

updateonly allowinsert(默认)

7

–input-null-string

请参考import该类似参数说明

8

–input-null-non-string

请参考import该类似参数说明

9

–staging-table

创建一张临时表，用于存放所有事务的结果，然后将所有事务结果一次性导入到目标表中，防止错误。

10

–clear-staging-table

如果第9个参数非空，则可以在导出操作执行前，清空临时事务结果表

3.3 常用参数

参数

说明

–connect

连接关系型数据库的URL

–username

连接数据库的用户名

–password

连接数据库的密码

–driver

JDBC的driver class

–query或–e <>

将查询结果的数据导入，使用时必须伴随参–target-dir，–hcatalog-table，如果查询中有where条件，则条件后必须加上C O N D I T I O N S 关 键 字 。 如 果 使 用 双 引 号 包 含 s q l ， 则 CONDITIONS关键字。如果使用双引号包含sql，则CONDITIONS关键字。如果使用双引号包含sql，则CONDITIONS前要加上\以完成转义：$CONDITIONS

–hcatalog-database

指定HCatalog表的数据库名称。如果未指定，default则使用默认数据库名称。提供 --hcatalog-database不带选项–hcatalog-table是错误的。

–hcatalog-table

此选项的参数值为HCatalog表名。该–hcatalog-table选项的存在表示导入或导出作业是使用HCatalog表完成的，并且是HCatalog作业的必需选项。

–create-hcatalog-table

此选项指定在导入数据时是否应自动创建HCatalog表。表名将与转换为小写的数据库表名相同。

–hcatalog-storage-stanza ‘stored as orc tblproperties (“orc.compress”=“SNAPPY”)’ \

建表时追加存储格式到建表语句中，tblproperties修改表的属性，这里设置orc的压缩格式为SNAPPY

-m

指定并行处理的MapReduce任务数量。-m不为1时，需要用split-by指定分片字段进行并行导入，尽量指定int型。

–split-by id

如果指定-split by, 必须使用$CONDITIONS关键字, 双引号的查询语句还要加\

–hcatalog-partition-keys 或 --hcatalog-partition-values

keys和values必须同时存在，相当于指定静态分区。允许将多个键和值提供为静态分区键。多个选项值之间用，（逗号）分隔。比如：–hcatalog-partition-keys year,month,day 和 --hcatalog-partition-values 1999,12,31

–null-string ‘\N’ 或 --null-non-string ‘\N’

指定mysql数据为空值时用什么符号存储，null-string针对string类型的NULL值处理，–null-non-string针对非string类型的NULL值处理

–hive-drop-import-delims

设置无视字符串中的分割符（hcatalog默认开启）

–fields-terminated-by ‘\t’

设置字段分隔符

4 Sqoop抽取的两种方式

对于Mysql数据的采集，通常使用Sqoop来进行。

通过Sqoop将关系型数据库数据到Hive有两种方式，一种是原生Sqoop API，一种是使用HCatalog API。两种方式略有不同。
HCatalog方式与Sqoop方式的参数基本都是相同，只是个别不一样，都是可以实现Sqoop将数据抽取到Hive。

4.1 区别

4.1.1 数据格式区别

Sqoop方式支持的数据格式较少，HCatalog支持的数据格式多，包括RCFile, ORCFile, CSV, JSON和SequenceFile等格式。

4.1.2 数据覆盖

Sqoop方式允许数据覆盖，HCatalog不允许数据覆盖，每次都只是追加。

4.1.3 字段名

Sqoop方式比较随意，不要求源表和目标表字段相同(字段名称和个数都可以不相同)，它抽取的方式是将字段按顺序插入，比如目标表有3个字段，源表有一个字段，它会将数据插入到Hive表的第一个字段，其余字段为NULL。但是HCatalog不同，源表和目标表字段名需要相同，字段个数可以不相等，如果字段名不同，抽取数据的时候会报NullPointerException错误。HCatalog抽取数据时，会将字段对应到相同字段名的字段上，哪怕字段个数不相等。

4.2 Sqoop的方式

sqoop import \
--hive-import \
--connect 'jdbc:mysql://localhost:3306/test' \
--username 'root' \
--password '123456789' \
--query " select order_no from driver_action where  \$CONDITIONS" \
--hive-database test \
--hive-table driver_action \
--hive-partition-key pt \
--hive-partition-value 20190901 \
--null-string '' \
--null-non-string '' \
--num-mappers 1 \
--target-dir /tmp/test \
--delete-target-dir

4.3 HCatalog方式

sqoop import \
--connect jdbc:mysql://localhost:3306/test\
--username 'root' \
--password 'root' \
--query "SELECT order_no FROM driver_action  WHERE \$CONDITIONS" \
--hcatalog-database test \
--hcatalog-table driver_action \
--hcatalog-partition-keys pt \
--hcatalog-partition-values 20200104 \
--hcatalog-storage-stanza 'stored as orcfile tblproperties ("orc.compress"="SNAPPY")' \
--num-mappers 1

4.4 针对不同字段名，想要使用HCatalog方式将数据插入，可以使用下面的方式

sqoop import \
--connect jdbc:mysql://localhost:3306/test\
--username 'root' \
--password 'root' \
--query "SELECT order_no_src as order_no_target  FROM driver_action WHERE \$CONDITIONS" \
--hcatalog-database test \
--hcatalog-table driver_action \
--hcatalog-partition-keys pt \
--hcatalog-partition-values 20200104 \
--hcatalog-storage-stanza 'stored as orc tblproperties ("orc.compress"="SNAPPY")' \
--num-mappers 1

5 Sqoop导入实战

  • ​​Sqoop简介以及使用_githubcurry的博客-CSDN博客​​

6 Sqoop优化

6.1 -m与split-by的优化

  1. 小量数据时(200M左右) :最好使用一一个map，快且减少小文件。
  2. 大量数据时:要特别考虑数据的特征，对于split- by最完美的情况是有一个:均匀分布的数字(如自增列)或时间字段，且这个字段还有索引(最好字段是int、tinyin)，这样在抽取时使得并发的每个sq1处理相近的数据量，并且sqoop附加的where条件可以使用索引。
  3. split-by id，-m 2， 数据量1-100。第 一个mapper:(0,50]第二个mapper: (50, 100],对于m要综合考虑数据量、I0、源数据库的性能、集群的资源等等。一种简单的考虑是最大不超过yarn.上分配给这个用户的vcore个数，最小“数据量/m”要够一个128MB的文件。如果条件允许可以先设置一个值跑着试试，然后观察源数据库负载、集群I0以及运行时长等，再进行相应调整。

6.2 --fetch-size n

一次取mysq1中批量读取的数据条数。建议优化如下:

  1. 考虑一条数据的量。(如果2个字段和200个字段的–fetch-size不能一-样)
  2. 考虑数据库的性能
  3. 考虑网络速度
  4. 最好的状态是一 次–fetch-si ze能满足-一个mapper

Sqoop与DataX对比

Sqoop特点

Sqoop主要特点：

  • 可以将关系型数据库中的数据导入hdfs、hive或者hbase等hadoop组件中，也可将hadoop组件中的数据导入到关系型数据库中；
  • sqoop在导入导出数据时，充分采用了map-reduce计算框架，根据输入条件生成一个map-reduce作业，在hadoop集群中运行。采用map-reduce框架同时在多个节点进行import或者export操作，速度比单节点运行多个并行导入导出效率高，同时提供了良好的并发性和容错性；
  • 支持insert、update模式，可以选择参数，若内容存在就更新，若不存在就插入；
  • 对国外的主流关系型数据库支持性更好。

DataX特点

DataX主要特点：

  • 异构数据库和文件系统之间的数据交换；
  • 采用Framework + plugin架构构建，Framework处理了缓冲，流控，并发，上下文加载等高速数据交换的大部分技术问题，提供了简单的接口与插件交互，插件仅需实现对数据处理系统的访问；
  • 数据传输过程在单进程内完成，全内存操作，不读写磁盘，也没有IPC；
  • 开放式的框架，开发者可以在极短的时间开发一个新插件以快速支持新的数据库/文件系统。

Sqoop与DataX的区别

Sqoop与DataX的区别如下：

  • sqoop采用map-reduce计算框架进行导入导出，而datax仅仅在运行datax的单台机器上进行数据的抽取和加载，速度比sqoop慢了许多；
  • sqoop只可以在关系型数据库和hadoop组件之间进行数据迁移，而在hadoop相关组件之间，比如hive和hbase之间就无法使用sqoop互相导入导出数据，同时在关系型数据库之间，比如mysql和oracle之间也无法通过sqoop导入导出数据。
  • 与之相反，datax能够分别实现关系型数据库hadoop组件之间、关系型数据库之间、hadoop组件之间的数据迁移；
  • sqoop是专门为hadoop而生，对hadoop支持度好，而datax可能会出现不支持高版本hadoop的现象；
  • sqoop只支持官方提供的指定几种关系型数据库和hadoop组件之间的数据交换，而在datax中，用户只需根据自身需求修改文件，生成相应rpm包，自行安装之后就可以使用自己定制的插件；