续上篇name value Descriptionhadoop.job.history.locationjob历史文件保存路径,无可配置参数,也不用写在配置文件里,默认在logs的history文件夹下。hadoop.job.history.user.location用户历史文件存放位置io.sort.factor30这里处理流合并时的文件排序数,我理解为排序时打开的文件数io.sort.mb60
续上篇整理一下hdfs相关的配置项 name value Description dfs.default.chunk.view.size
记录一下Hadoop的配置和说明,用到新的配置项会补充进来,不定期更新。以配置文件名划分 以hadoop 1.x配置为例 core-site.xml name value Description
这些日子一直在写新版EasyHadoop的代码,疏于写博,好在终于赶在耶稣出生之前之前把1.1.1版本的发布代码提交到了github,可以轻松一下了,抽时间写个东西,算是补作业吧。 其实我也不是一个特别会写东西的人,今年能在51cto获此殊荣,对我来说的确是受宠若惊。 关于坚持: 总结下来,厚着脸皮自夸的说算是个厚积的过程吧。我是个老程序员了,当我去参加阿里云大赛得知获奖选手中最年轻的孩子是
下周准备去某地做Hadoop相关的技术培训,主要负责讲解Hadoop的安装部署和运维部分,赶制了一份PPT,将平时工作中遇到的问题也提取了一下,希望能对Hadoop运维相关人员有所帮助,算是个补上的运维记录吧,错误数据均来自以前日常工作中的Hadoop日志。 也有一点点跟Hadoop相关的非保密数据,拿出来晒晒。 目前公司的数据规模如下,相比大公司不算是很大的数据量,但是也不是很小。 &nb
Copyright © 2005-2023 51CTO.COM 版权所有 京ICP证060544号