文章目录消息队列通信的模式1.点对点模式2.发布订阅模式kafka1.介绍：2.特点:3.使用场景：3.kafka架构4.kafka写入流程和消息存储(1).producer写入过程(2).选择partition的原则(3).kafka的ACK应答机制(4).partition有序写入(5).partition结构5.消费数据 消息队列通信的模式1.点对点模式 一个生产者对应一个消费者，生产者往
转载
2024-03-27 10:19:50
113阅读
LogAgent的工作流程： 1.读日志——tailf第三方库 2.往kafka中写日志 – sarama第三方库kafka参考网站 介绍： Kafaka是一个分布式数据流平台，可以运行在单台服务器上，也可以在多台服务器上部署形成集群。它提供了发布和订阅功能，使用者可以发送数据到Kafka中，也可以从Kafka中读取数据（以便进行后续的处理）。Kafka具有高吞吐、低延迟、高容错等特点。1.Kaf
转载
2023-11-28 06:18:33
240阅读
引言网络上关于 go 实现 kafka 消息发送和接收的文章很多，但是实际操作起来又不是很清楚，本文在网络资源的基础上，结合自己搭建过程中遇到的问题进行了总结。本文的实验主机：Mac笔记本。一、核心概念kafka是消息中间件的一种，是一种分布式流平台，是用于构建实时数据管道和流应用程序。具有横向扩展，容错，wicked fast（变态快）等优点。kafka中涉及的名词：消息记录(record):
转载
2024-03-19 13:15:34
132阅读
目录Kafka的消息架构主题层分区层消息层总结安装启动测试使用集群配置多机多 broker 集群配置外网访问本地查看Go接入kafka需要借助的库生产者消费者 Kafka的消息架构主题层Topic(主题) ，比如用户消息，命名为’user_message’;支付消息，命名为’pay_message’。两者互不干扰，等于是两条道.注意这里的Topic是逻辑概念，落到硬件上，应该叫partition
转载
2024-03-20 12:48:41
558阅读
GO备忘录GO是C之后一门难得有鲜明特色的语言，不仅仅是一些语法糖，确实解决问题的思路，想法是不太一样的。这篇文章是我看到的，和用到的，一些常见的GO的备忘录，但是有的地方不仅仅局限于用法，而是汇总一个专题。errorGO的error错误对象GO只要实现了error接口，就可以是一个error对象了。常见的是项目有全局的错误对象，就像错误码一样，返回错误对象，比较错误是否是某个错误对象。var E
转载
2024-06-26 11:43:23
131阅读
本文为通过实例（图书项目）来学习go中Elasticsearch的使用，以及对项目带来的性能的提升 目录案例：http准备案例（新增）：案例（查询）：结果： 案例：http准备util/http.go 用于向es服务器发送json格式的Put和Post请求package util
import (
"errors"
"github.com/astaxie/beego/httplib"
"g
转载
2024-10-13 10:51:10
38阅读
本文为通过实例（图书项目）来学习go中Elasticsearch的使用，以及对项目带来的性能的提升 目录案例：http准备案例（新增）：案例（查询）：结果： 案例：http准备util/http.go 用于向es服务器发送json格式的Put和Post请求package util
import (
"errors"
"github.com/astaxie/beego/httplib"
"g
转载
2024-10-28 18:01:41
31阅读
问题：项目想用SSL来链接kafka，在使用的过程中遇到几个特别的坑 现象： 程序在消费和生产的时候出现错误：2019/04/02 20:02:22 unable to create kafka client: "kafka: client has run out of available brokers to talk to (Is your cluster reachable?)"然后看kaf
转载
2024-04-01 11:29:16
98阅读
1加载配置文件loadConf封装结构体2初始化beego的log组件3初始化tailf4初始化kafka5tailf读取6发送数据kafka7启动zookeeperkafka测试8查看测试效果代码区 在前面3篇博文中已经学习了golang基础-tailf日志组件使用golang基础-beego读取配置、log日志输出 golang基础-kafka、zookeeper搭建、go终端发送数据给ka
转载
2024-04-03 15:09:02
185阅读
目录1、kafka的生产者2、kafka使用消费组方式处理数据3、kafka消费者处理数据4、kafka相关命令传统的消费模型 消息队列的消息被消费了，数据则从队列里删除，并且下游的多个 consumer 都要抢这条消息。 发布/订阅模型允许消息被多个 consumer 消费，但是订阅者必须订阅所有分区 kafka为规避上面的缺点，引入了 消费组 模型。kafka消费组模型 比如订阅了两个主题，每
转载
2024-03-27 10:48:09
61阅读
您是否在寻找构建可扩展、高性能应用程序的方法，这些应用程序可以实时处理流数据？如果是的话，结合使用Apache Kafka和Golang是一个很好的选择。Golang的轻量级线程非常适合编写类似Kafka生产者和消费者的并发网络应用程序。它的内置并发原语，如goroutines和channels，与Kafka的异步消息传递非常匹配。Golang还有一些出色的Kafka客户端库，如Sarama，它们
转载
2024-06-11 10:18:59
66阅读
反射反射优点： 让代码更灵活缺点： 运行效率低反射应用各种 web框架， 配置文件解析库，ORM框架反射是指在程序运行期对程序本身进行访问和修改的能力。程序在编译时，变量被转换为内存地址，变量名不会被编译器写入到可执行部分。
在运行程序时，程序无法获取自身的信息。支持反射的语言可以在程序编译期将变量的反射信息，如字段名称、类型信息、结构体信息等整合到可执行文件中，并给程序提供接口访问反
射信息，这
ElasticSearch - GoEs搜索引擎优点：容错性好；单点故障时，可以通过复制数据到不同的服务器上达到容错的目的；使用前提：没有频繁更新（一秒内有大量的更改操作），不需要事务处理，需要对数据进行检索，统计；存储形式：ES中，存储数据的基本单位就是索引，比如说ES中存储了一些订单系统的销售数据，就因该在ES中创建一个索引（order—index），所有的销售数据就会都写到这个索引里面去，一
文章目录背景Kafka消息丢失问题描述生产端丢消息问题解决消费端丢消息问题自动提交模式下的丢消息问题sarama手动提交模式Kafka消息顺序问题全局一个partition多个partition，手动指定多个partition，自动计算扩展知识：多线程情况下一个partition的乱序处理重复消费和消息幂等完整代码实例关于作者 背景在一些业务系统中，模块之间通过引入Kafka解藕，拿IM举例（图
转载
2024-04-29 20:12:36
247阅读
一、kafka解决的业务痛点解决大量数据的实时传输问题。例如：可能需要支持高吞吐量的实时日志聚合系统事件流可能需要支持大量后台日志处理中，离线系统周期加载数据低延时消息传输这需要kafka系统支持分区，分布式，实时处理接收到的数据。此外，当数据被送到其他服务系统中时，kafka系统在机器出现问题是还必须有容错性保证。从某种程度上理解，kafka系统更像是一个日志数据库。二、kafka持久化存储数据
转载
2024-03-18 21:27:29
28阅读
一：核心概念kafka是消息中间件的一种，是一种分布式流平台，是用于构建实时数据管道和流应用程序。具有横向扩展，容错，wicked fast（变态快）等优点。kafka中涉及的名词：消息记录(record): 由一个key，一个value和一个时间戳构成，消息最终存储在主题下的分区中, 记录在生产者中称为生产者记录(ProducerRecord), 在消费者中称为消费者记录(ConsumerRec
转载
2024-03-15 05:17:00
512阅读
kafka 消息记录(record): 由一个key，一个value和一个时间戳构成，消息最终存储在主题下的分区中, 记录在生产者中称为生产者记录(ProducerRecord), 在消费者中称为消费者记录(ConsumerRecord)，Kafka集群保持所有的消息，直到它们过期， 无论消息是否被 ...
转载
2021-08-13 11:10:00
361阅读
2评论
什么是接口在面向对象语言中，接口一般被定义为 ：接口定义了一个对象的行为。它仅仅指定了一个对象应该做什么。具体怎么做（实现细节）是由对象决定的。在 Go 中，一个接口定义为若干方法的签名。当一个类型定义了所有接口里的方法时，就说这个类型实现了这个接口。这和 OOP 很像。接口指定了一个类型应该包含什么方法，而该类型决定怎么实现这些方法。比如 WashingMachine可以作为一个接口，并提供两个
文章目录前言一、生产者二、消费者三、源码简单解读四、参考 前言在以前的定义中，Kafka被定义为一个分布式的基于发布/订阅模式的消息队列（Message Queue），主要应用于大数据实时处理领域，当然我们知道kafka的作用远不止用于消息队列，kafka作为消息队列主要是基于点对点模式和基于发布订阅模式，其中，点对点模式表现为：消费者主动拉取数据，消息收到后清除消息。而发布订阅表现为：可以有多
转载
2024-03-04 09:06:17
269阅读
本文主要讲述了 Kafka 的消费者组（Consumer Group）和 消费者组的 Rebalance 及如何避免无效 Rebalance。Kakfa 相关代码见 Github1. 传统消息模型传统消息模型一般分为消息队列模型和发布订阅模型：1）消息队列模型的缺陷在于消息一旦被消费，就会从队列中被删除，而且只能被下游的一个 Consumer 消费。这种模型的伸缩性（scalability）很差，
转载
2024-04-03 15:43:05
154阅读
