背景

 

操作系统:Ubuntu12.04_x64

运行业务:公司业务系统,爬虫程序,数据队列。

 

服务器托管在外地机房。

 

突然,频繁收到一组服务器ping监控不可达邮件,赶紧登陆zabbix监控系统查看流量状况。

 

http://mmbiz.qpic.cn/mmbiz_png/mbeDyxcszeGMibBEB8xfyl0Yyt7NduQ5icSoKHy0UcyeqqwVtRiaQBicjKfXKPNgOrTV8lgZlGznIuz7njofWHderQ/0?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

 

 

可见流量已经达到了800M左右,肯定不正常,马上尝试SSH登陆系统,不幸的事,这种情况是很难登录系统操作的。该怎么办?

 

1、排查问题

 

第一反应是想马上切断外部网络,通过内网连接查看。可是这样一来流量就会消失,但也很难查找***源了。

 

于是联系机房协助解决,授权机房技术登录到系统,先通过w命令查看是否有异常用户在登录,再看看登录日志/var/log/auth.log,预料之中,日志已经清空;最后使用工具找出那个连接占用流量大,我使用了iftop工具。

 

 

 

机房技术给我拍了照,看到本地一直通过http方式向104.31.225.6这个ip发送数据包,而且持续不断。

 

那好,先把这个ip给屏蔽了试试:

 

iptables –AOUTPUT –d 104.31.225.6 –j DROP

哇塞!奇迹出现了,流量下去了,能正常连接了,面部逐渐露出笑容。

过一会儿,不幸的事情发生了,流量又上来了,擦!什么情况!心情顿时紧张起来。

 

又赶紧联系机房技术,执行上次的操作。

 


 

傻眼了,目的ip变了,这可咋搞,不可能一个个封吧!

 

静下心来,仔细想了下,本地向外发包,那本地肯定会有程序来发!这可咋找啊?

 

2、查找***源

 

先通过netstat工具过滤端口,查看运行的进程ID

netstat–atup |grep 15773

什么都没有啊,再换个端口试试,同样的效果!

让机房技术观察了下连接状态,原来是短连接,会很快的释放端口,所以才看不到端口的连接状态。

正常长连接来说,可以使用lsof –i:15773这样方式找到PID,再lsof –p PID找到打开的相关文件。

 

我想静静~

 

好吧!决定先切断外部网络,内网SSH进入系统,先找到这个发包的程序,走起!

 

先通过netstat –antup 查看有无开放可疑的端口或者连接。

再通过ps –ef查看有无可疑的进程。

仔细看了看,都没有发现可疑的。

难道是植入了rootkit***程序,说不好,试试看吧!

 

想要判断系统有没有植入了rootkit可以使用md5sum校验执行文件判断,先找个同版本操作系统,获取到这个工具执行文件的md5值,再获取可疑的工具执行文件md5值,比较两个值是否相同,如果相同说明这个工具是可信任的,如果不相同很有可能是被替换的。另外,一般工具可执行文件大小都在几十K到几百K

 

其实我没有用md5方式来判断工具是否可信任,因为完全相同版本操作系统不好找,稍微有点差别,工具就有可能已被更新,md5值不同。我直接使用du –sh /bin/lsof查看,发现大小1.2M,明显有问题。

 

所以直接下载正常系统里的netstatps等工具上传到被黑的系统里使用,再将不可用的替换掉。

 

3、清理***程序

 

果然,奇迹出现了,执行ps –ef后,发下最下面有几行可疑程序。在这里,本想截图的,可惜SSH客户端给关了,没留下截图。

 

记忆中,大概是这样的:

 

pid/sbin/java.log

pid/usr/bin/dpkgd/ps –ef

pid/usr/bin/bsd-port/getty

pid/usr/bin/.sshd

 

看到这几个,感觉很奇怪,怎么会有个java.log的执行文件在运行呢,经过找同事核实有没有运行这样的,他们说没有,那好先杀掉并删除再说。

 

 

 

紧接着怎么会有我执行的命令呢,ps –ef,命令的路径不是/bin/ps,引起了我的怀疑,马上进入此目录下查看。

 

 

 

擦,还有几个,初步判断是工具被替换了。

 

还有一个怎么叫getty呢,再正常系统里面对比进程,发现没有这个。估计又是***留下的,劳资怒了,宁可错杀一百,也不放过一个!

 

 

杀掉进程,删除目录。

 

.sshd进程?明显很可疑,难道是ssh后门,先杀掉删除再说!

 

 

 

再执行ps –ef命令看下,奇怪,java.log进程又起来了,难道有自启动设置?于是到了/etc/init.d下查看,有个异常脚本,在正常系统的也没有,打开看了下,果然是启动***程序的脚本。把脚本删除,再删除一次java.log,不再出现了。

 

http://mmbiz.qpic.cn/mmbiz_png/mbeDyxcszeGMibBEB8xfyl0Yyt7NduQ5icicWAjWttmfp6x9dMiacI5icDKNnWEaAwwpnr37rokbZvY7Px4DHa0CG9g/0?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

http://mmbiz.qpic.cn/mmbiz_png/mbeDyxcszeGMibBEB8xfyl0Yyt7NduQ5ico90FGShAbB659W5tq3XduBaVdNFXOFpyHrNRTwvjeSiac2JWqsuyHZw/0?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

 

删除了/sbin/java.log文件过一会又出现了,怎么回事?估计是getty趁搞的鬼,同样清除,不再自动生成了。

 

好了,可以开启外网了,观察了一会网络流量不再飙升了,心情有如看到美女一样的愉快!

 

博客地址:http://lizhenliang.blog.51cto.com

 

4、事件总结

 

ls/usr/bin/dpkgd/   #替换的工具,系统自带的工具正常不会在这个目录下,并且也不可用

netstatlsof ps ss

/sbin/java.log #判断是发包程序,删除后会自动生成

/usr/bin/bsd-port#判断是自动生成java.log或着后门程序

/usr/sbin/.sshd #判断是后门程序

***代码程序下载地址:http://pan.baidu.com/s/1b3yOVW

小心,直接执行java.log可能会导致linux瞬间基本上无法连接~

 

如果还有其他***程序怎么办?如果是XSS***,应用层漏洞***怎么办?

针对这些问题,从我们公司角度来说,尽量不重装系统,业务太复杂。找出***点,跑的程序多,***面多,很棘手。先这样吧!兵来将挡,水来土掩。~

 

让***趁机***的原因:

 

1、运维对网络安全实施落实力度低

2、没有相关安全测试人员,不能及时发现应用层漏洞

等等...

 

针对这次***,总结了下防护思路:

 

1linux系统安装后,启用防火墙,只允许信任源访问指定服务,删除不必要的用户,关闭不必要的服务等。

2、收集日志,包括系统日志,登录日志,程序日志等,及时发现潜在风险。

3、针对用户登录实时收集,包括登录时间,密码重试次数以及用户执行命令记录等。

4、对敏感文件或目录变化进行事件监控,如/etc/passwd/etc/shadow/web/tmp(一般上传文件提权用)等。

5、进程状态监控,对新增或可疑进程做好记录并通知。

6、对上线的服务器系统、Web程序进程安全漏洞扫描。