orchestrator搭建监控

 上周用monit搭建或者说定制了一个监控系统，来监控服务器发生事情。当然了主要是监控异常，因为我们的产品属于服务器类型，很多进程都daemon，要不停的运行。我们搭建监控目的不过是出现问题能够及时的知道，平时可从web UI上看到整个系统的状况，同时它本身要轻量级，不要影响性能。当然了类似的产品很多了，比如Ganglia，我在老科长波哥曾经搭建过一个Ganglia系统监控科室十几台服务器，让我很是崇拜。本文重点介绍monit。

                  

    monit是一个可以监控系统，进程，文件系统，目录，设备的监控软件，可以自动唤起那些异常退出的进程，还可定制你想监控的东西。同时monit提供了内置的WEB UI的功能，可以一目了然地了解监控项的情况。其中正常项为绿色，异常项为红色，很方便的告警，另外，monit还提供了发邮件通知的功能，对于紧急的异常情况可以发送邮件到指定邮箱。比如发生了coredump，发生了DB corrupt，daemon进程异常重启，可以第一时间邮件通知到管理员，呵呵很强大吧。片汤话我们不多讲，讲讲怎么用monit搭建一个监控系统。

    monit是一个很轻量级的程序，只需要一个可执行程序monit，一个配置文件monitrc即可工作，当然了我们还是要讲讲安装过程：

    Ubuntu系统下，安装一如既往的方便：

1. -get install monit

    CentOS系统下也是一样：

1.     yum install monit

    我比较喜欢源码安装，原因是我喜欢看下源码：

1. ://mmonit.com/monit/dist/monit-5.5.tar.gz
2. -5.5.tar.gz
3. -5.5
4.     ./configure --prefix=/usr 
5.     make 
6.     make install

    注意configure的时候可能会报错：

1. for pam_start in -lpam... no
2. : error: PAM enabled but headers or library not found, install the PAM development support or run configure --without-pam

    当然了你可以加上--without-pam这个选项绕过这个问题，这个问题在Ubuntu下的解决办法是：

1. -get install libpam0g-dev

    这个问题过后，再次执行./configure又会出现SSL的报错：

1.     checking for SSL library directory... Not found
   
       Couldn't find your SSL library files.
       Use --with-ssl-lib-dir option to fix this problem or disable the
       SSL support with --without-ssl
   
2. 
   

    解决办法是：

1. -get install libssl-dev

    安装了libssl之后，configure仍然报错，原因是它找不到libssl.so，你可以手工搜索libssl.so的位置，然后用 --with-ssl-lib-dir告知configure。

    比如在我的ubuntu下：

1. :/usr/lib/i386-linux-gnu# find / -name libssl.so
2. -linux-gnu/libssl.so

    那么可以执行：

1.    ./configure --prefix=/usr --with-ssl-lib-dir=/usr/lib/i386-linux-gnu/

    OK，configure之后，可以执行make 和 make install 了。make install之后，将源码路径下的配置文件monitrc拷贝到/etc目录下：

1.     mv monitrc /etc/monitrc
2. :root /etc/monitrc 
3.     chmod 0700 /etc/monitrc

    这些事情做好之后，monit就安装完毕了。我们尝试启动monit

1. :~/code/c/classical/monit-5.5# monit 
2. : generated unique Monit id 66c0021758d07ecffedadfa0bf5f768d and stored to '/root/.monit.id'
3. [localhost:2812]

    前文讲过，monit内置了一个http，可以通过browser查看，我们先看下monitrc配置文件的http相关配置：   

1. and
2.        use address localhost # only accept connection from localhost
3. and
4. :monit # require user 'admin' with password 'monit'
5. of group 'monit' to connect (rw)
6. of group 'users'

    这部分内容是http相关的配置，port 2812是端口号，localhost是访问IP，allow localhost表示只允许本机访问，用户名密码是：admin/monit。这不太符合我们的需求，比如我们不可能每次都在服务器上用浏览器查看服务器的状态，这太假了，如果我们有闲情逸致登上服务器，何必要我们的监控系统。我们将此处的配置改为：

1. and
2. .64.74.99 
3. .0.0.0/0.0.0.0 
4. :manu

    我们可以用chrome浏览器输入 http://10.64.74.99：2812去查看输出。第三行的意思是我们允许任何机器登录我们UI，访问我们monit的数据，第四行表示登录需要用户名和密码：manu/manu。此时我们的monit监控系统如下所示：

     

    此时还比较单薄，啥东西也没有，我们继续讲如何配置monitrc。

1.    set daemon 60

    这个比较简单，多久检测一次。我们监控条目有若干，我们不能时时刻刻都做一遍检查，那就成了死循环了，对系统性能损耗太大了。60秒表示每60秒检查一次配置文件里面配置的监控项。这个好理解不多说。 

1. .log

    这个配置项表示monit进程本身的log记录在/var/log/monit.log。

    

    在web UI上也可以查看monit的log。点击monit首页的runnning，

    

进入 monit running status页面，

然后点击最右下角的的view log。这个也不多说了。

   

    我们讲述发mail的配置：

1. .xx.xxx.xxx port 25 
2.                    with timeout 15 seconds

      set mail-format {
          from: [e-mail]
          subject: monit alert --  $EVENT $SERVICE 
          message: $EVENT Service $SERVICE  
                Date:        $DATE   
                Action:      $ACTION  
                Host:        $HOST   
                Description: $DESCRIPTION             
            
               Your faithful employee,
               bean
       }

      set alert [e-mail]                       # receive all alerts 设置收件人

    有很多人发不出邮件的关键不在monit程序，而在于没有一个SMTP Server，帮助你转发Mail，用所谓的163 或者google的SMTP Server始终没有成功过。我开始也是发不出Mail，后来有了一个不需要用户名密码的SMTP Server之后，自然就能发出邮件通知了。如何搭建一个SMTP Server这是另外一个话题了，我按下不表。我用的是我们公司内部的一个SMTP Server。收到的Mail如下图所示：

     

    

     发Mail问题解决之后，我们就能专注于定制我们自己需要的监控项了。

============================华丽的分割线=========================================

   1 监控进程     

   比如我们服务器上有Apache，我们要监控Apache的情况，如果Apache异常重启，需要Mail通知。

1.    check process apache with pidfile /var/run/httpd.pid
2. = "/etc/init.d/rcWebServer.sh start https"
3. = "/etc/init.d/rcWebServer.sh stop https"
4. if

    所有进程类的监控是一类，以check process abc

打头，其中with pidfile是指进程的PID记录在/var/run/httpd.pid。我们知道apache的PID记录在/var/run/httpd.pid之中，monit通过这个pid文件就可以明白，我们要求它监控那个进程了。

    没有PID文件的进程咋办？

    这是个好问题，毕竟大多数的进程都是没有PID文件的。比如你的进程叫做test_abc，是你通过./test_abc叫起的进程， 如何告诉monit我要监控这个进程。monit提供了新的方法。MATCHING，就是进程cmdline匹配到了test_abc，我就监控这个进程，监控项叫test_abc

 

1. process test_abc with MATCHING test_abc
2. if

   我们新增了监控进程，看下WEB UI的变化：

 

    点击apache，可以看详细情形，这里就不赘述了。

      

    2

     我们一般有存放数据的分区，也有存放日志的分区，如果日志分区使用空间到了90%，我们认为这是出了问题了，我们要注意这种事件的发生：

1. device VAR_LOG with path /var/log
2. if space usage >

filesystem tmpfs with path /var
         if space usage > 80% then alert

  上述语句表明tmpfs 挂载在/var目录下，如果空间使用了80%，表明出现了异常，需要发mail通知到管理员。

     新增了文件系统监控项后，UI上会增加如下显示：

  

  点击tmpfs 或者VAR_LOG可以进入二层页面看下文件系统的详细信息，我也不赘述了。

 

   3 监控文件 

     monit也可监控某个文件,监控文件的属性，比如我们的文件permission 是700，如果发生变化则发邮件通知：

1. file monit_target with path /var/log/monit_target
2. if
3.     if size > 1000 MB then exec "/usr/local/bin/rotate /var/log/monit_target

    假如我们关注的事情发生了，我们需要执行自己的脚本，可以用 then exec “your_action”的方式处理。

   

   4 监控program

    有很多的情况，不好归类，比如，我的系统里面如果产生coredump，我希望可以检测到，同时在WEB UI上显示并且给我发Mail。我可以自己写个查看有没有coredump的脚本，告诉monit系统，我期待的结果，如果执行脚本与我期待的结果不同，那么表示本监控项出了异常

1. "/var/log/tool/coredump_exist.sh"
2. if status != 0 then

1. !/bin/sh
3. =`ls /home/manu/core/core* 2>/dev/null| wc -l`
5.     if [ $corefile_num -eq 0 ]
6.     then
7. exit 0
8.     else
9. exit 1
10.     fi

    我们前面一直没提到，如果监控项为异常，WEB UI该项为红色，否则，该项为绿色。我们现在看下监控program之COREDUMP_EXIST：

  

    因为我们有coredump文件，所以该项为红色。

    5 监控主机   

    我们还可以监控其他host，比如我们可见ping某台host，如果多次没有回应，那么邮件通知我

1.    check host my_brother with address XX.XX.XX.XX  
2. if failed icmp type echo

   

介绍了很多 用法，但是挂一漏万，终极的学习方法还是看手册  http://mmonit.com/monit/documentation/monit.html#connection_testing 。这个基本介绍的很详细，我遇到的一些问题，也是从这里找的答案。

参考文献：

1 Monit 官方文档

2 man monit

3  make failure installing monit on linux ec2