ELK和EFK是什么ELK和EFK是四个开源产品的组合：
Elasticsearch 一个基于Lucene搜索引擎的NoSQL数据库
Logstatsh 一个日志管道工具，接受数据输入，执行数据转换，然后输出数据
Filebeat 一个转发和集中日志数据的轻量级传送工具
Kibana 一个界面层，在Elasticsearch之上工作
关于ElasticsearchElasticsearch
ELK性能优化简要说明1. 系统部署说明组件机器配置说明ElasticSearch&Kibana3 * (32 core + 128GB mem + SAS 3.6T*12)EK混部Logstash3 * (40 core + 32GB mem)单独部署，比较耗cpuDS&Kafka5 * (56 core + 256GB mem + 1.8TB*16)DS&Kafka&a
转载
2024-04-30 13:50:13
133阅读
ElasticSearch安装下载：建议下载到自己常用的软件安装目录(我的是安装在 /usr/local/elasticsearch 下)wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-7.12.1-linux-x86_64.tar.gz解压:tar -zxvf elasticsearch-7.12.1
ELK集群搭建1. ELK是什么？ELK是三个开源软件的缩写，分别表示：Elasticsearch , Logstash, Kibana，也可以指elk技术栈，包含一系列的组件。Elasticsearch是一个分布式、高扩展、高实时的搜索与数据分析引擎。它能很方便的使大量数据具有搜索、分析和探索的能力。充分利用ElasticSearch的水平伸缩性，能使数据在生产环境变得更有价值。ElasticS
转载
2024-04-30 13:36:06
47阅读
# Hadoop集群最低配置实现指南
## 引言
欢迎来到Hadoop集群最低配置实现指南！在本指南中，我将向你介绍如何搭建一个基本的Hadoop集群。作为一名经验丰富的开发者，我将带你逐步了解搭建Hadoop集群的流程，并提供相关代码和注释帮助你理解每一步的操作。
## 流程图
下面是搭建Hadoop集群的流程图：
```mermaid
flowchart TD
A[准备工作] -
原创
2023-09-01 04:23:59
110阅读
# Kubernetes集群最低配置指南
Kubernetes是一个强大而流行的容器编排工具，它可以帮助开发者和运维人员管理复杂的容器化应用。如果你打算在自己的环境中部署Kubernetes集群，了解最低配置需求是至关重要的。本文将深入探讨Kubernetes集群的最低配置要求，并给出相关代码示例和可视化图表，帮助你更好地理解Kubernetes的基本组件。
## Kubernetes集群架构
原创
2024-09-20 15:47:40
131阅读
在上篇文章中，主要介绍了cluster的安装部署。Mysql官方给出了每分钟1 Billion的海量查询响应能力，到底是否如传说中的那么强力？首先要强调的一点，任何性能测试，都是与硬件直接关联的。我没有看到官方给出这个1 Billion数据的测试硬件配置和参数配置，所以不敢轻易苟同。我在测试的时候，使用了如下硬件配置
CPU Inter&n
一、问题描述使用gpfdist往集群中导入大量数据， 一段时间后连接退出，集群无法连接 二、问题定位使用如下命令查看：gpstate -s
mdw-1:gpadmin-[INFO]:- Segment Info
mdw-1:gpadmin-[INFO]:- Hostname = sdw-1
mdw-1:gpadmin-[IN
概述本文将简单介绍运维数据分析系统 Elastic Stack，并描述其基础部署过程。简介ELK（Elasticsearch + Logstash + Kibana）用于日志集中分析系统，Elasticsearch 用于存储、搜索、分析数据，Logstash 用于接收并处理数据，Kibana 提供 Web UI 管理数据，客户端通过 Logstash-Forwarder 将指定的日志数据传递数据给
转载
2024-07-17 11:22:19
45阅读
性能优化访问模式要想让MySQL集群部署发挥出与预期相符的性能，最重要的一点在于了解数据库结构。有一点需要注意--MySQL集群表格中的数据并不会被保存在MySQL服务器当中。这些数据实际上被划分至由多个数据节点构成的资源池当中，如下图所示。表格中的各行将被拆分成多个区块，每个数据节点保留一个区块的主片段及另一个区块的次片段。如果查询需要多次网络跳转，例如由服务器向数据节点或者在不同数据节点之间，
转载
2024-09-13 13:28:57
58阅读
修改内核参数在/etc/sysctl.conf文件中添加如下配置（需要root权限）
以下参数的默认值是在centos7下查看的
fs.file-max = 6815744 //文件描述符总数，默认值：94121
fs.aio-max-nr = 1048576 //最大并发io请求数，默认值：1048576
net.core.rmem_default = 262144 //操作系统接收
前言 好几天没有更新了，本来是应该先写HDFS的相关内容，但是考虑到HDFS是我们后面所有学习的基础，而我只是简单的了解了一下而已，后面准备好好整理HDFS再写这块。所以大家在阅读这篇文章之前，请先了解HDFS的相关基本概念。本次搭建是手动在三台机器上搭建的，后续会尝试用docker或者apache ambari来搭建管理集群，这次搭建只是能够通过动手去更深的了解hadoop结构。准
转载
2024-09-30 19:06:04
49阅读
基于Ubuntu的Hadoop集群安装与配置实验环境构建VMware Workstation 12 Pro的安装基于Ubuntu14045的Hadoop集群安装与配置说明安装与配置JDK安装SSH免密登录进行Hadoop集群完全分布式的安装配置验证是否配置成功 基于Ubuntu的Hadoop集群安装与配置实验的主要内容有如下几点： 1、Jdk安装：Hadoop是用Java编写的程序，Hadoo
转载
2023-08-28 16:17:15
65阅读
集群方案使用三台物理机或VMwareVMware虚拟机来搭建集群环境，一台主控服务器，两台工作节点服务器。一，集群安装准备kubeasz项目(https://github.com/easzlab/kubeasz)极大的简化了k8s集群的安装过程，他提供的工具可以轻松安装和管理k8s集群。 主控服务器先准备主控服务器192.168.111.191调整 VMware 虚拟机虚拟机
转载
2024-01-31 21:34:09
0阅读
hadoop集群搭建（一）对于hadoop的技术，一直抱有很大的兴趣，今天在这里简单的介绍一下hadoop集群的搭建，文章中有什么不正确的地方，欢迎大家留言。环境准备.服务器配置：系统：centos7.3、内存：1G、硬盘：20G 三台机器的IP划分：192.168.25.156,192.168.25.157,192.168.25.158 主机名分别为spark01，spark02，spark03
转载
2023-09-12 10:04:23
94阅读
如果说独立和自由是人类所向往的，那么极简和自由则是一款软件的追求。凭借着高吞吐、低延迟的优势深受众多公司青睐的分布式消息队列框架Kafka多年来却重度依赖Zookeeper才能运行，不仅处处缩手缩脚，而且给运维人员的工作带来了不少负担。在Kafka3以前，如果没有zookeeper，Kafka将无法运行管理部署两个不同的系统使得运维复杂度翻倍zookeeper的分区特性限制了Kafka的承载能力而
转载
2024-07-18 07:49:31
235阅读
一、ELKstack简介1、什么是ELK？通俗来讲，ELK是由Elasticsearch、Logstash、Kibana 三个开源软件的组成的一个组合体，这三个软件当中，每个软件用于完成不同的功能，ELK 又称为ELK stack，官方域名为elastic.co，ELK stack的主要优点有如下几个：处理方式灵活： elasticsearch是实时全文索引，具有强大的搜索功能配置相对简单：ela
转载
2024-03-27 11:07:03
347阅读
ELK分别是Elasticsearch、Logstash、Kibana三个开源框架缩写。下载地址：Elasticsearch官网elasticsearch-6.3.0.tarelasticsearch官方文档Kibana官网kibana-6.3.0下载 linux64位kibana官方文档Logstash官网logstash-6.3.0.tarlogstash官方文档Filebeat官网fileb
目录StringBoot整合Elasticsearch+Logstash+kibana实现日志收集和搜索自动补全功能(详细图文教程)一、下载ELK的安装包上传并解压1.Elasticsearch下载2.Logstash下载3.Kibana下载4.上传并解压二、Elasticsearch配置1.修改配置文件elasticsearch.yml2.新建es用户3.启动Elasticsearch4.启动
CDH6.3.1安装遇到很多问题，我想主要是由于条件有限，毕竟自己的电脑内存不如专业集群的内存大（如果是内存和硬盘充足，有些是可以避免的，甚至不会出现报错的情况），这里就介绍一下我用VMware安装的虚机中搭建CDH集群的辛酸历程。为了避免多次、重复安装不成功，所以需要具备以下条件：1. 内存要足够大我的电脑内存是8G：使用虚拟机安装Cloudare server：4GCloudare
转载
2023-10-24 10:53:43
221阅读
