随着可观测数据采集需求的不断推陈出新,现有的iLogtail架构和采集配置结构逐渐成为制约iLogtail继续快速演进的瓶颈。基于此,团队决定对iLogtail进行全面升级,全面提升iLogtail的易用性、可扩展性和性能。目前,经过半年多的重构与优化,iLogtail 2.0已经呼之欲出,本文将重点介绍iLogtail 2.0时代的新特性。 
本次开源之夏,iLogtail 社区精心策划了一系列项目,旨在提升可观测数据处理能力、增强数据接入能力、以及探索管控能力的新维度。无论你是热衷于底层技术优化,还是对大数据处理有着浓厚兴趣,这里都有适合你的挑战!
作者:余韬本文根据 iLogtail PMC 成员余韬 2024 年 6 月 26 日在 DBAPlus 社群的公开直播《云上千万级可观测 Agent SRE 实践》整理而成。引言近年来,关于可靠性工程这一话题的热议不断升温,这主要归因于当前形势的显著变化。首先,行业竞争日益激烈,以往的蓝海市场或空白领域已逐渐饱和,企业普遍面临同质化竞争的挑战。以公有云市场为例,2021-2023 年公有云市场增
原创 精选 28天前
154阅读
SLS 推出了 SPL(SLS Processing Language)语法,以此统一查询、端上处理、数据加工等的语法,保证了数据处理的灵活性。iLogtail 作为日志、时序数据采集器,在 2.0 版本中,全面支持了 SPL 。
iLogtail 的诞生初衷非常朴素,那就是开发一款轻量、高性能、高可靠的可观测数据采集器。也是基于这样一个常见且迫切的需求,iLogtail 于 2013 年在阿里巴巴诞生。
尽管收集到的有效问卷数量可能未达到传统统计显著性的门槛,但这批反馈却异常宝贵,为我们的策略制定与优化提供了第一手的洞察力。这些见解不仅直接源自实际应用场景,还蕴含了用户对于提升 iLogtail 功能体验、文档丰富度及社区互动多样性的真切期待,为后续的社区建设与发展指明了方向。
近期,iLogtail 2.0 隆重推出了新功能 SPL 处理模式,进一步增强了日志处理的能力。在本文中,我们将深入探讨为何选择 iLogtail,以及它在 SPL 数据处理方面相较于 Logstash 有何独特优势。通过对比这两款工具的架构、性能以及功能,我们希望能够揭示 iLogtail 如何在日益复杂的日志处理需求中脱颖而出,帮助您做出明智的技术选择。
在介绍消费者的时候提到了消费者重平衡,这个机制的设计给我们提供了高可用,自动负载等等的便利。但是同时也带来了一些问题本篇来分析一下这个问题。1. Rebalance 影响 Consumer 端 TPS。 Rebalance 就是让一个 Consumer Group 下所有的 Consumer 实例就如何消费订阅主题的所有分区达成共识的过程。在 Rebalance 过程中,所有 Consumer 实
转载 3月前
40阅读
iLogtail 2.0 来了;通义灵码下载量破百万丨阿里云云原生 2 月产品月报
原创 5月前
47阅读
 公司一直使用的Filebeat进行日志采集  由于Filebeat采集组件一些问题,现需要使用iLogtail进行代替  现记录下iLogtail介绍和实际使用过程  这是iLogtail系列的第五篇文章目录前期准备内存、cpu占用情况对比采集与发送速率对比总结官方对比数据性能分析前期准备为了保证测试环境尽量相同,所以将iLogtail和Filebeat安
11月23日,阿里正式开源可观测数据采集器iLogtail。作为阿里内部可观测数据采集的基础设施,iLogtail承载了阿里巴巴和蚂蚁的日志、监控、Trace、事件等多种可观测数据的采集工作。iLogtail运行在服务器、容器、K8s、嵌入式等多种环境,支持采集数百种可观测数据,目前已经有千万级的安装量,每天采集数十PB的可观测数据,广泛应用于线上监控、问题分析/定位、运营分析、安全分析等多种场景
回想整个架构升级的过程,从接受任务时的迷茫,到最后升级基本完成时的喜悦,半年多的时间经历了很多,也成长了很多。对于iLogtail而言,经历本次架构升级,也算是浴火重生,向着现代顶流可观测数据采集器的目标又迈进了一大步。不论对于用户,还是对于社区开发者,相信所有人都会从本次架构升级中受益。让我们一起期待iLogtail在未来继续蓬勃发展,提供更快更强的数据采集能力!
senddatatoSLSfail,error_code:RequestErrorerror_message:addressisnull.endpoint:http://log-global.aliyuncs.com解决办法:修改/usr/local/ilogtail/user_log_config.json"defaultEndpoint":默认是私网,改成公网域名然后重启服务即可。
原创 2021-01-27 11:39:01
1321阅读
前言使用C++作为主要开发语言的程序猿们应该会认同搭建开发环境是一件烦人的事情。为了编译一个程序不仅需要下载各种依赖包,还可能面临本地系统不兼容、编译器版本不一致、包版本冲突等各种问题。笔者在运营iLogtail开源社区的过程中发现开发和调试环境问题也是成员问的最多的问题之一,那么有没有一种方法可以彻底解决这一问题呢?有。容器技术使应用在各种环境可以一键部署,一致执行,同样的原理也适用于开发环境部