日志主要包括系统日志、应用程序日志和安全日志,系统运维和开发人员可以通过日志了解服务器软硬件信息、检查配置过程中的错误及错误发生的原因。经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误。 在微服务架构下,用集中化的日志管理,将所有服务器上的日志收集汇总。 集中化管理日志后,日志            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2018-06-02 21:55:00
                            
                                115阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            elk笔记1--搭建elk集群1 需求说明2 环境准备2.1 配置java 环境2.2 系统配置2.3 elasticserach|kibana 配置更改3 测试结果4 说明最近由于需要,笔者继续研究使用es,以下将es的安装和使用记录在此处,以便于后续查阅.1 需求说明软件版本说明名称版本下载地址参考文档jdkjdk-8u201-linux-x(1....            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-10-19 17:48:50
                            
                                186阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一.elasticsearch背景介绍 1.问题引入:搜索所有天安门相关的内容,大数据量的判断,加索引orm,歌            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-11-14 11:48:56
                            
                                84阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            参考:http://www.ksearch.cn/search-engine/elasticsearch-config-performance.html [本环境为rpm安装的elasticsearch2.x版本]置了传递给JVM的启动参数JAVA_OPTS。其中最重要的参数是-Xmx和-Xms,分别用来控制分配给es进程的最大内存、最小内存。(一般来说内存越多越好)通常来说,JAVA_OPTS使            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2016-05-17 17:00:50
                            
                                2422阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            zjtest7-frontend:/usr/local/logstash-2.3.4/bin# ./logstash -e 'input{stdin{}} output{stdout{codec=>rubydebug}}'Settings: Default pipeline workers: 1...            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2016-08-25 10:50:00
                            
                                19阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            zjtest7-frontend:/usr/local/logstash-2.3.4/bin# ./logstash -e 'input{stdin{}} output{stdout{codec=>rubydeb...            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2016-08-25 10:51:00
                            
                                56阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            前段时间用ossec收集了一些系统的日志(syslog、secure、maillog等),看了下elk这个架构,发现很适合ossec,也很好玩。一、介绍:elk官网 https://www.elastic.co/downloadselk由elasticsearch、logstash和kiabana三个开源工具组成。二、ossec+redis+elk架构图:1、每个应用的功能:ossec:            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2016-06-29 14:56:34
                            
                                1814阅读
                            
                                                        
                                点赞
                            
                                                                             
                 
                
                             
         
            
            
            
            12.0、架构图:服务器名称ip地址controller-node1(主)172.16.1.90slave-node1(从)172.16.1.            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-08-31 14:49:29
                            
                                807阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            一、简介1、核心组成ELK由Elasticsearch、Logstash和Kibana三部分组件组成;Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等。Logstash是一个完全开源的工具,它可以对你的日志进行收集、分析,并将其存储供以后使用Kibana是一个基于浏览器页面的Elas            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2016-12-06 10:19:16
                            
                                2261阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            文章目录简介Solr、ES区别安装环境linux基本配置简介Elasticsearch是一个基于Apache Lucene™的开源搜索引擎,特点:分布式的实时文件存储,每个字段都被索引并可被搜索分布式的实时分析搜索引擎–做不规则查询可以扩展到上百台服务器,处理PB级结构化或非结构化数据应用:全文检索(全部字段)、模糊查询(搜索)、数据分析(提供分析语法,例如聚合)Solr、E...            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-06-02 09:30:09
                            
                                272阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            文章目录简介Solr、ES区别安装环境linux基本配置简介Elasticsearch是一个基于Apache Lucene™的开源搜索引擎,特点:分布式的实时文件存储,每个字段都被索引并可被搜索分布式的实时分析搜索引擎–做不规则查询可以扩展到上百台服务器,            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-02-17 09:59:21
                            
                                175阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            @[toc]1、背景日志管理的挑战:关注点很多,任何一个点都有可能引起问题日志分散在很多机器,出了问题时,才发现日志被删了很多运维人员是消防员,哪里有问题去哪里
集中化日志管理思路:
日志收集 ——》格式化分析 ——》检索和可视化  ——》 风险告警2、ELK架构ELK架构分为两种,一种是经典的ELK,另外一种是加上消息队列(Redis或Kafka或RabbitMQ)和Nginx结构。2.1经典            
                
         
            
            
            
                                ELK部署生产实践部署(1)具体文档参照我的笔记 ### 日志采集前规范解决事项:1、开发人员不能登录线上服务器查看详细日志。2、各个系统都有日志,日志数据分散            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2017-07-30 18:44:31
                            
                                4794阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            在分布式系统中,应用数量众多,应用调用链复杂,常常使用ELK作为日志收集、分析和展示的组件。本篇文章将讲讲解如何部署ELK,然后讲解如何 使用Filebeat采集Spring Boot的日志输出到Logstash上,logstash再将日志输出到Elasticsearch上,最后展示到kibana上面。整个日志采集流程如下图:在传统的日志采集只会用ELK,那么为什么需要使用filebeat呢,因为            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2021-01-13 16:47:50
                            
                                499阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            《Elasticsearch》ESC和mongdb都属于document,NOSQL非关系型数据库。Elasticsearch是一个基于apachelucene(性能最好,功能最全的全文搜索引擎)的搜索服务器,是一个分布式多用户的全文搜索引擎,基于JAVA开发的需要装JDK的包,安装即可。基于restfulweb接口(用于客户端和服务器交互类的软件,更易于实现缓存等机制)。它不仅仅是存储,还会索引            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2018-04-18 21:29:05
                            
                                1076阅读
                            
                                                        
                                点赞
                            
                                                                             
                 
                
                             
         
            
            
            
            ELK使用之-elasticsearch安装部署—1            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2019-03-27 15:27:50
                            
                                1119阅读
                            
                                                        
                                点赞
                            
                                                                                    
                                4评论
                            
                                                 
                 
                
                             
         
            
            
            
            uname -r
sudo yum update
sudo yum remove docker \
                  docker-client \
                  docker-c            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-08-17 14:05:17
                            
                                150阅读