0x01 内存调整调整ES内存分配有多种方式,建议调整 /etc/sysconfig/elasticsearch  # Directory where the Elasticsearch binary distribution resides
ES_HOME=/usr/share/elasticsearch
# Heap Size (defaults to 256m min, 1g m            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-05-05 15:00:37
                            
                                150阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # Redis 内核参数设置指南
在现代应用开发中,Redis 被广泛应用于缓存、消息队列等场景。为了保证 Redis 的高效运行,调整内核参数是很有必要的。本文旨在教导新手如何配置 Redis 所需的内核参数,我们将通过以下流程逐步进行。
## 整体流程
| 步骤 | 操作                                     |
|------|------------            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-08-21 08:13:12
                            
                                92阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Elasticsearch重要配置参数ES重要配置数据目录&日志目录集群名称节点名称网络地址绑定`network.host`集群发现配置堆大小(Heap size)JVM堆转储(Heap dump)路径GC日志临时目录`$ES_TMPDIR`JVM致命错误日志操作系统重要配置禁用SWAP文件描述符nofile虚拟内存线程数nprocTCP重传超时 ES重要配置ES版本:7.9数据目录&a            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-03-26 10:47:03
                            
                                107阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            redis配置优化
                Redis配置优化
设置maxmemory。设置Redis使用的最大物理内存,即Redis在占用maxmemory大小的内存之后就开始拒绝后续的写入请求,该参数可以确保Redis因为使用 了大量内存严重影响速度或者发生OOM(out-of-memory,发现内存不足时,它会选择杀死一些进程(用户态进程,不是内核线程)            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-06-13 23:36:40
                            
                                194阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            通过设置sysctl.conf文件参数来调整内核参数。首先我们来看那/proc/sys目录下的文件与sysctl.conf参数文件的关系。在 /proc/sys/kernel目录下查看shmmax参数设置的大小[root@node156 etc]# cat /proc/sys/kernel/shmmax
4294967295查看sysctl.conf文件shmmax 参数设置            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2013-08-27 00:10:11
                            
                                1086阅读
                            
                                                        
                                点赞
                            
                                                                             
                 
                
                             
         
            
            
            
            # 使用Apache Spark写入Elasticsearch 8.5的参数设置指南
在大数据处理的过程中,Spark和Elasticsearch(ES)的结合非常常见。Spark提供了强大的数据处理功能,而Elasticsearch则是一个高性能的开源搜索引擎。本文将为刚入行的小白详细介绍如何通过Spark将数据写入Elasticsearch 8.5的过程,并给出相应的代码示例。
## 流程            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-09-22 06:07:51
                            
                                65阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            # Hive创建ES映射表参数设置
在大数据领域中,Apache Hive 是一个基于 Hadoop 的数据仓库基建工具,它提供了数据查询和分析的功能。由于 Hive 是建立在 Hadoop 之上的,所以它可以与其他 Hadoop 生态系统中的工具无缝集成。其中,与 Elasticsearch(简称 ES)的集成可以帮助我们更好地处理和分析大规模的数据。
本文将介绍如何在 Hive 中创建 E            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2024-01-03 04:46:33
                            
                                223阅读
                            
                                                                             
                 
                
                             
         
            
            
            
              
1.         Linux核心参数
 
#vi /etc/sysctl.conf
--------------------------------
cat >>/etc/sysctl.conf <<EOF
kernel.shmall = 20            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2012-09-14 09:51:37
                            
                                1066阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Linux内核参数设置sysctl命令详解 原文:https://.zhukun.net/archives/80 sysctl是一个允许您改变正在运行中的Linux系统的接口. 它包含一些 TCP/IP 堆栈和虚拟内存系统的高级选项, 这可以让有经验的管理员提高引人注目的系统性能. 用sy            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2018-01-11 16:48:00
                            
                                438阅读
                            
                                                                                    
                                2评论
                            
                                                 
                 
                
                             
         
            
            
            
            在Java、J2EE大型应用中,JVM非标准参数的配置直接关系到整个系统的性能。JVM非标准参数指的是JVM底层的一些配置参数,这些参数在一般开发中默认即可,不需要任何配置。但是在生产环境中,为了提高性能,往往需要调整这些参数,以求系统达到最佳新能。另外这些参数的配置也是影响系统稳定性的一个重要因素,相信大多数Java开发人员都见过“OutOfMemory”类型的错误。呵呵,这其中很可能就是JVM            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-29 10:32:46
                            
                                179阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            确保系统持续、稳定的运行是系统管理人员必须具备的基本素质。正常部署ELK日志分析平台,运行一个月后我们正有感于系统带来的方便之时,自动化监控平台发现一台Elasticsearch节点崩溃了。报错类似如下部分:[2018-06-29T08:40:07,221][ERROR][o.e.b.ElasticsearchUncaughtExceptionHandler] [node02] fatal err            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-04-27 20:17:58
                            
                                74阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
             本站以分享各种运维经验和运维所需要的技能为主《python零基础入门》:python零基础入门学习《python运维脚本》: python运维脚本实践《shell》:shell学习《terraform》持续更新中:terraform_Aws学习零基础入门到最佳实战《k8》暂未更新《docker学习》暂未更新《ceph学习》ceph日常问题解决分享《日志收集》ELK+各种中间件            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2024-08-23 15:56:00
                            
                                82阅读
                            
                                                                             
                 
                
                                
                     
                                    
                             
         
            
            
            
            文章目录1. pom(1). 依赖(2). 仓库2. 问题一 mapping 映射问题(1). 异常详情(2). 解决方法(3). 代码示例3. 问题二 使用dataframe读取es失败(1). 异常详情(2). 解决方法(3). 代码示例4. 问题三 使用EsSpark的esRDD 方法读取后值的获取(1). 异常详情(2). 解决5. 问题四 该错误是基于问题三出现的类型转换异常(1).            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2023-09-09 07:07:23
                            
                                147阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            net.ipv4.ip_forward = 0net.ipv4.conf.default.rp_filter = 1net.ipv4.conf.de、            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2022-08-30 11:07:02
                            
                                141阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            JVM参数设置文档。            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2011-06-07 16:04:47
                            
                                603阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            在使用Properties来创建BasicDataSource时,有很多参数可以设置,比较重要的还有: testOnBorrow、
testOnReturn、testWhileIdle,他们的意思是当是取得连接、返回连接或连接空闲时是否进行有效性 
验证(即是否还和数据库连通的),默认都为false。所以当数据库连接因为某种原因断掉后,再从连接池中取得的连接,实际上可能是无效的连接了,所以,            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                            精选
                                                        
                            2011-06-14 22:49:32
                            
                                10000+阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            mrtg运行时的行为可以通过配置文件来控制,虽然大部分配置文件都是通过cfgmaker来生成的,但是手动调整一些更为精细的配置项是很有必要的,这篇文档对所有的mrtg能识别的配置选项作了说明
 
语法
MRTG配置文件遵循以下几个简单规则
 
关键字必须起始于行首
以空格开始的行将被附加到上一行关键开头的行来解析
不解析空行
# 号开头的行被当成注释
可通过I            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2012-08-09 10:09:15
                            
                                2726阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            跟踪垃圾回收:-XX:+PrintGC-XX:+PrintGCDetails-XX:+PrintHeapAtGC-Xloggc:log/gc.log类的加载卸载跟踪:-verbose:class-XX:+TraceClassLoading-XX:+TraceClassUnloading查看系统中类的分布情况:-XX:+PrintClassHistogram系统参数查看:   命            
                
                    
                        
                                                            
                                                                        
                                                                                        原创
                                                                                    
                            2016-02-02 16:18:04
                            
                                854阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            不管是YGC还是Full GC,GC过程中都会对导致程序运行中中断,正确的选择不同的GC策略,调整JVM、GC的参数,可以极大的减少由于GC工作,而导致的程序运行中断方面的问题,进而适当的提高Java程序的工作效率。但是调整GC是以个极为复杂的过程,由于各个程序具备不同的特点,如:web和GUI程序就有很大区别(Web可以适当的停顿,但GUI停顿是客户无法接受的),而且由于跑在各个机器上的配置不同            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2019-01-12 13:07:10
                            
                                551阅读
                            
                                                                             
                 
                
                             
         
            
            
            
            Jmeter支持通过Query String Parameters 或者Request Body来传递参数 Query String Parameters Request-body 在post请求中一般在body中传递参数,jmeter也可以在body中传递参数,例如,传递json参数:{"user ...            
                
                    
                        
                                                            
                                                                        
                                                                                        转载
                                                                                    
                            2021-09-12 00:40:00
                            
                                2012阅读
                            
                                                                                    
                                2评论