1 HDFS 基础1.1 NameNode文件 fsimage：保存文件系统目录树信息以及文件与块的对应关系，每次namenode启动的时候，都会读取fsimage，将目录树信息装载到内存中。文件 edits.log 日志：储存日志信息。在namenode启动后，所有对目录结构的增加，删除，修改等操作都会记录到edits.log文件中，不会同步记录到 fsimage。1
转载
2023-12-18 20:13:55
89阅读
ELK 不知道大家了不了解，他是 Elasticsearch、Logstash、Kibana 的简称，其中 Elasticsearch 是一个搜索分析引擎，Logstash 是收集过滤日志的工具，而 Kibana 则是一个 Web 图形界面工具，配套 Elasticsearch 使用很方面的制作出精美的图表，很多的公司都使用 ELK 作为日志收集和分析系统，搭建非常的方便。同时也不只是用
转载
2024-02-17 09:56:59
80阅读
ELK分布式日志系统
ELK是Elasticsearch、Logstash、Kibana的简称，这三者是核心套件，但并非全部。Elasticsearch是实时全文搜索和分析引擎，提供搜集、分析、存储数据三大功能；是一套开放REST和JAVA API等结构提供高效搜索功能，可扩展的分布式系统。它构建于Apache Lucene搜索引擎库之上。Logstash是一个用来搜集、分析、过滤日志的工具。它支
转载
2024-04-04 08:49:22
169阅读
虚拟化为Hadoop注入了前所未有的活力，从IT生产管理的角度，表现为以下几点：·Hadoop和其他消耗不同类型资源的应用一起部署共享数据中心可以提高总体资源利用率；·灵活的虚拟机操作使得用户可以动态的根据数据中心资源创建、扩展自己的Hadoop集群，也可以缩小当前集群、释放资源支持其他应用如果需要；·通过与虚拟化架构提供的HA、FT集成，避免了传统Hadoop集群中的单点失败，再加之Hadoop
转载
2023-10-26 17:18:18
28阅读
轻量级日志收集 FileBeat + ElasticSearch前言轻量级的服务，未构建独立的spring cloud 体系，如单体spring boot 使用ELK组件进行日志收集，整体过于复杂繁琐，推荐轻量级日志收集框架：spring boot logback json 格式输出 +FileBeat + ElasticSearch +kibana（查询展示也可忽略）。 一、Filebeat是
转载
2024-04-24 14:12:03
95阅读
背景传统项目里面记录日志大多数都是将日志记录到日志文件，升级到分布式架构以后，日志开始由文件转移到elasticsearch（es）中来存储，达到集中管理。在kubernetes平台里面把日志记录到es有两种简单的方案：容器外记录。首先在docker容器里面做挂载，指定一个固定的虚拟机目录，然后应用程序把日志写入到这个目录，虚拟机上开启logstash服务来收集日志文件，然后把日志传输到es，在通
转载
2024-04-29 12:23:35
418阅读
Elasticsearch学习日记简介Elasticsearch(下文简称es) 是一个分布式的 RESTful 风格的搜索和数据分析引擎。查询 ： Elasticsearch 允许执行和合并多种类型的搜索 — 结构化、非结构化、地理位置、度量指标 — 搜索方式随心而变。分析 ： 找到与查询最匹配的十个文档是一回事。但是如果面对的是十亿行日志，又该如何解读呢？Elasticsearch 聚合让您能
转载
2024-03-18 09:38:26
71阅读
如果你关注过 elasticsearch 的日志，可能会看到如下类似的内容：[2018-06-30T17:57:23,848][WARN ][o.e.m.j.JvmGcMonitorService] [qoo--eS] [gc][228384] overhead, spent [2.2s] collecting in the last [2.3s]
[2018-06-30T17:57:29,02
转载
2024-08-12 13:41:26
42阅读
在使用Elasticsearch（简称ES）和Hadoop进行数据处理时，通常会遇到需要将两者结合起来进行数据的存储和查询操作。ES提供了一个与Hadoop集成的插件，称为es-hadoop，它可以让Hadoop通过Elasticsearch来执行MapReduce任务，同时也可以让Elasticsearch读取Hadoop输出的数据。下面将详细介绍如何实现"es hadoop"的步骤和代码示例。
原创
2024-05-24 10:16:54
159阅读
实战hadoop海量数据处理系列05 ： 实现点击流日志的数据清洗模块之前已经实现结构化数据的清洗，下一步我们将实现半结构化（非结构化）数据的清洗。本文假设读者已搭建好了eclipse环境，并且已经导入ClickStreamETL文件夹下面的子工程。 如果遇到环境相关的问题，可以在专门的帖子下面留言。在阅读本文前，强烈建议阅读原书“实现点击流日志的数据清洗模块”章节。 overview经典重现，
聚合日志：搜集每一个 container的log信息(较为细粒度的日志信息)，并可以移动到hdfs等文件系统中。适合用于追踪每个container的情况。在yarn-site.xml文件增加如下配置 并分发到另外的机子上 重启集群 [root@hadoop01 ~]# scp /usr/local/hadoop-2.7.1/etc/hadoop/yarn-site.xml hadoop02:/us
转载
2023-07-12 14:59:17
316阅读
告警和日志信息监控目录告警和日志信息监控 实验一：查看大数据平台日志信息 实验任务一：查看大数据平台主机日志 步骤一：查看内核及公共消息日志（/var/log/messages）。 步骤二：查看计划任务日志/var/log/cron。 步骤三：查看系统引导日志/var/log/dmesg。
转载
2023-09-20 07:03:43
491阅读
hadoop配置job
日志记录web
日志环境变量配置mapred-site.xmlyarn-site.xml环境变量不同的作用重要的相关配置含义 web
日志环境变量配置参考博主mapred-site.xml<configuration>
<!-- 开启MapReduce小任务模式 -->
<property>
<name>mapredu
转载
2023-08-12 20:23:40
106阅读
Hadoop-MR实现日志清洗（三）5.论坛请求日志清洗解析请求日志的清洗主要是指过滤掉跟后续统计无关的数据，包括爬虫数据、静态资源数据、无用数据列等。根据需要，清洗过程中也可以对部门数据域进行数据转换，比如日期，以便简化后续的数据加工/统计分析。对日志的清洗逻辑上也是分为编写map、reduce、run(main)函数，在对输入数据处理时，日志的提取过滤较为复杂，通常是将文件处理的方法单独编写作
转载
2023-07-06 18:51:55
68阅读
一：概念（1）集群（Cluster）： ES可以作为一个独立的单个搜索服务器。不过，为了处理大型数据集，实现容错和高可用性，ES可以运行在许多互相合作的服务器上。这些服务器的集合称为集群。（2）节点（Node）： 形成集群的每个服务器称为节点。索引(index): 在 ES 中, 索引是一组文档的集合（3）分片（shard） 当有大量的文档时，由于内存的限制、磁盘处理能力不足、无法足够快的响应客户
转载
2024-01-06 08:26:26
98阅读
*.log日志文件和*.out日志文件 进入Hadoop_LOG目录，可以看到如下文件： 在启动Hadoop集群时，由hadoop-daemon.sh脚本指定一些列环境变量，然后log4j.properties文件读取相应的环境变量产生对应的*.log日志文件。这个日志文件输出类型为org.apache.log4j.DailyRollingFileAppender，它会自动按天更新。
转载
2023-07-18 22:13:37
188阅读
背景随着openkube系统一步步推进，混合云管理系统已显雏形，容器化部署逐步深入，应用部署依赖关系复杂、日志量庞大、运维和开发人员查看日志分析问题困难，目前搭建一套统一日志系统显得尤为重要。目标01一站式日志平台打造统一日志管理平台，统一日志采集、日志分析、日志查询，一站解决运维、开发人员日志查询、分析、问题定位的痛点。02跨平台日志采集支持多平台、多语种、多样式日志定制化采集。03关键字高效查
转载
2024-02-11 07:30:59
39阅读
Hadopp=HDFS+MapReduce+Yarn+Common1.Hadoop HDFS: 一个高可用、高吞吐量的分布式文件系统。数据切割、制作副本、分散存储 图中涉及到几个角色 NameNode(nn)：存储文件的原数据，比如文件名、文件目录结构、文件属性（生产时间、副本数、文件权限），以及每个文件的块列表和块所在的DataNode等。 SecondaryNameNode(2nn):辅助Na
转载
2023-08-02 10:41:34
46阅读
2018年，我写过一篇关于Clickhouse的文章，这段内容在互联网上仍然很流行，甚至被多次翻译。现在已经过去两年多，同时 Clickhouse 的开发节奏仍然活跃: 上个月有 800 个合并的 PR ! 这难道没让你大吃一惊吗？或许需要一小时才能查看完这些变更日志和新功能描述，例如 2020 年：https://clickhouse.tech/docs/en/whats-new/changel
转载
2024-07-25 16:07:11
84阅读
Shard 级慢速搜索日志允许将慢速搜索（查询和获取阶段）记录到专用日志文件中。日志记录是任何应用程序不可缺的一部分。 对于像 Elasticsearch 这样的分布式解决方案，它必须处理大量的请求，因此日志记录不可避免，其重要性至关重要。顾名思义，慢速日志用于记录慢速请求，无论是搜索请求还是索引请求。 我们可以设置“慢”阈值，以便仅记录那些高于该阈值的请求。对于 Elasticsearch，慢速
转载
2024-02-28 08:47:05
220阅读
