其实也是在easyhadoop做第二次重构的时候用到了这个嵌入式的webserver去做服务器状态的监控，可以单独摘出来写个东西。思路主要是用python脚本获取linux服务器的各种状态信息，然后用webserver的方式，以json数据发给http，主控节点去读取webserver返回的json，生成系统监控报表。代码简单，开发和部署都很方便。用到的主要东西是python的第三方嵌入式web模
这两天有业务部门反馈，总有hive跑某天的log失败。看了一下log，虽然各种报错不一样，但基本都是OOM，追了一下午，终于追出来原因了，特此记录一下。这个问题很诡异，map阶段oom，按说map的时候一个map对应一个数据块，最大也就占用128M内存，怎么会溢出呢，通常都应该是reduce溢出才对。先看看各个hadoop节点的tasktracker报的错误log。节点一2013-05-08 20
最近痛感在集群里逐台部署ganglia, cacti这些监控的东西很麻烦，就写了个小程序去批量自动部署。原理是通过python的pexpect用ssh去复制文件和执行系统命令，我用它来部署ganglia等，但是其他的东西也可以通过这个脚本来批量部署，只要自己编写部署脚本就可以了。主要是提出一个解决思路，看对大家是否有所帮助。先约定一个概念，我们把放置python和脚本的服务器叫做主控节点或者ser
Copyright © 2005-2023 51CTO.COM 版权所有 京ICP证060544号
