hadoop spark 使用远程 spark 操作hdfs

1．HDFS 常用操作 （1） 启动 Hadoop，在 HDFS 中创建用户目录“/user/hadoop”；

$cd /usr/local/hadoop
$./sbin/start-dfs.sh #启动 HDFS
$./bin/hdfs dfs -mkdir -p /user/hadoop #在 HDFS 中创建用户目录/user/hadoop

（2） 在 Linux 系统的本地文件系统的“/home/hadoop”目录下新建一个文本文件 test.txt，并在该文件中随便输入一些内容，然后上传到 HDFS 的“/user/hadoop” 目录下；

$cd /home/hadoop
$vim test.txt
#在 test.txt 中随便输入一些内容，并保存退出 vim 编辑器
$cd /usr/local/hadoop
$./bin/hdfs dfs -put /home/hadoop/test.txt /user/hadoop

（3） 把 HDFS 中“/user/hadoop”目录下的 test.txt 文件，下载到 Linux 系统的本地文 件系统中的“/home/hadoop/下载”目录下；

$ cd /usr/local/hadoop
$./bin/hdfs dfs -get /user/hadoop/test.txt /home/hadoop/下载

（4） 将HDFS中“/user/hadoop”目录下的test.txt文件的内容输出到终端中进行显示；

$ cd /usr/local/hadoop
$./bin/hdfs dfs -cat /user/hadoop/test.txt

（5） 在 HDFS 中的“/user/hadoop”目录下，创建子目录 input，把 HDFS 中 “/user/hadoop”目录下的 test.txt 文件，复制到“/user/hadoop/input”目录下；

$ cd /usr/local/hadoop
$./bin/hdfs dfs -mkdir /user/hadoop/input
$./bin/hdfs dfs -cp /user/hadoop/test.txt /user/hadoop/input

（6） 删除HDFS中“/user/hadoop”目录下的test.txt文件，删除HDFS中“/user/hadoop” 目录下的 input 子目录及其子目录下的所有内容。

$ cd /usr/local/hadoop
$./bin/hdfs dfs -rm /user/hadoop/test.txt
$./bin/hdfs dfs -rm -r /user/hadoop/input

至此，HDFS操作全部结束

2. Spark 读取文件系统的数据

（1）在 spark-shell 中读取 Linux 系统本地文件“/home/hadoop/test.txt”，然后统计出文 件的行数； 假设 Spark 安装在“/usr/local/spark”目录。

$ cd /usr/local/spark
$./bin/spark-shell
scala>val textFile=sc.textFile("file:///home/hadoop/test.txt")
scala>textFile.count()

（2）在 spark-shell 中读取 HDFS 系统文件“/user/hadoop/test.txt”（如果该文件不存在， 请先创建），然后，统计出文件的行数；

scala>val textFile=sc.textFile("hdfs://localhost:9000/user/hadoop/test.txt")
scala>textFile.count()

（3）编写独立应用程序，读取 HDFS 系统文件“/user/hadoop/test.txt”（如果该文件不存在， 请先创建），然后，统计出文件的行数；通过 sbt 工具将整个应用程序编译打包成 JAR 包， 并将生成的 JAR 包通过 spark-submit 提交到 Spark 中运行命令。

$ cd ~ 
$ mkdir ./sparkapp 
$ mkdir -p ./sparkapp/src/main/scala

需要注意的是，为了能够使用 sbt 对 Scala 应用程序进行编译打包，需要把应用程序代 码存放在应用程序根目录下的“src/main/scala” 目录下。下面使用 vim 编辑器在 “~/sparkapp/src/main/scala”下建立一个名为 SimpleApp.scala 的 Scala 代码文件，命令如下：

$ cd ~
$ vim ./sparkapp/src/main/scala/SimpleApp.scala

然后，在 SimpleApp.scala 代码文件中输入以下代码：

/* SimpleApp.scala */
import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.SparkConf
object SimpleApp {
 def main(args: Array[String]) {
val logFile = " hdfs://localhost:9000/user/hadoop/test.txt"
 val conf = new SparkConf().setAppName("Simple Application")
 val sc = new SparkContext(conf)
 val logData = sc.textFile(logFile, 2)
 val num = logData.count()
 printf("The num of this file is %d", num)
 }
}

下面使用 sbt 对 Scala 程序进行编译打包。 SimpleApp.scala 程序依赖于 Spark API，因此，需要通过 sbt 进行编译打包以后才能运 行。 首先，需要使用 vim 编辑器在“~/sparkapp”目录下新建文件 simple.sbt，命令如下：

$ cd ~
$ vim ./sparkapp/simple.sbt

simple.sbt 文件用于声明该独立应用程序的信息以及与 Spark 的依赖关系（实际上，只 要扩展名使用.sbt，文件名可以不用 simple，可以自己随意命名，比如 mysimple.sbt）。需要 在 simple.sbt 文件中输入以下内容：

name := "Simple Project"
version := "1.0"
scalaVersion := "2.11.8"#查看自己虚拟机对应的版本
libraryDependencies += "org.apache.spark" %% "spark-core" % "2.1.0"#查看自己虚拟机对应的版本

为了保证 sbt 能够正常运行，先执行如下命令检查整个应用程序的文件结构：

$ cd ~/sparkapp
$ find .

接下来，可以通过如下代码将整个应用程序打包成 JAR：

$ cd ~/sparkapp #一定要把目录设置成当前目录
$ /usr/local/sbt/sbt package

生成的 JAR 包的位置为“~/sparkapp/target/scala-2.11/simple-project_2.11-1.0.jar”。 对于前面 sbt 打包得到的应用程序 JAR 包，可以通过 spark-submit 提交到 Spark 中运 行，命令如下：

/usr/local/spark/bin/spark-submit --class "SimpleApp" ~/sparkapp/target/scala-2.10/simple-project_2.10-1.0.jar
#一定要对应自己的jar包版本