作者：张伟杰
原文：
本文主要记录Mac开发环境的设置，以及一些优秀软件，使用技巧等。所有的设置、软件以及技巧都追求极致简洁和极致效率，最大可能提升工具效率，提升生产力。当然大家如果有其他好用的配置、工具或者软件也可以在评论区留言交流，一起分享一下！macOS系统简单设置 1、触摸板设置
SystemPreferences&nbs
作者： 朱小厮
在上一篇文章《一文看懂Kafka消息格式的演变》中讲述了kafka从0.8.x开始的三个版本的消息格式，经过笔者的反复揣摩，觉得其中有些许地方描述的不够恰当，有些地方也写的有点累赘，为了保持学术的严谨性，笔者又重新翻阅了三个版本的消息格式的相关代码，将相关的整理以修订版的形式再次描述一下Kafka的消息格式。
Kafka根据topic(主题)对消息进行分类，发布到Kaf
转载
2024-09-19 21:47:34
20阅读
这个应该算是之前比较火热的词了，一直没时间抽出来看看。一个新东西出来，肯定是为了解决某些问题，不然不会有它的市场。先简单看下。官方介绍：分布式、分区、支持复制的日志提交系统适用场景：顾名思义，特别适合用于系统日志的异步记录，对于数据稳定性、一致性、可靠性要求不高的场景，追求的是高吞吐量。非传统的MQ产品！核心模型抽象： topics：某种消息的高层抽象 producers：消息的生产者 co
简介Free & open source, high-performance, distributed memory object caching system, generic in nature, but intended for use in speeding up dynamic web applications by alleviating database load.Memca
其他网址kafka可视化客户端工具（Kafka Tool）的基本使用
原创
2022-03-23 17:10:32
1512阅读
Kafka Connect是一种在Kafka和外部系统之间传输数据的工具，它提供了可扩展的、可靠的、高效的方式来处理数据流。1. 主要优势1.简单易用：Kafka Connect使用基于配置的方式来定义数据源和目标，而不需要编写复杂的代码。它提供了许多现成的连接器，包括JDBC、HDFS、Elasticsearch等，可以轻松地将数据集成到Kafka中。2.可扩展性：Kafka Connect是一
转载
2024-02-26 16:38:17
452阅读
如果不安装Parallel Tools没办法在物理机和虚拟机之间复制粘贴以及传输文件，所以为了使用方便，是必须安装的。目前没搜到m1系统相关的安装教程，我在安装过程中也踩了不少坑，这里记录一下正确的流程步骤，以备使用系统环境MacBook Pro (13-inch, M1, 2020) macOS Big Sur 11.4Parallels 16.5.1kali-linux-2021.2-inst
转载
2024-10-19 11:45:04
32阅读
1、Kafka 是什么？主要应用场景有哪些？ Kafka 是一个分布式流式处理平台。流平台具有三个关键功能： 消息队列：发布和订阅消息流，这个功能类似于消息队列，这也是 Kafka 也被归类为消息队列的原因。 容错的持久方式存储记录消息流： Kafka 会把消息持久化到磁盘，有效避免了消息丢失的风险。 流式处理平台： 在消息发布的时候进行处理，Kafka 提供了一个完整的流式处理类库。Kaf
转载
2024-03-18 09:27:05
149阅读
# Docker Kafka Tool 科普文章
## 前言
在大数据领域中，Kafka 是一种广泛使用的分布式流式平台，用于高效地处理和分发大规模数据流。而 Docker 则是一种流行的容器化平台，可用于快速部署和管理应用程序。本文将介绍如何使用 Docker Kafka Tool 来管理 Kafka 集群，并提供相关代码示例。
## Docker Kafka Tool 简介
Docker
原创
2024-01-15 08:42:14
71阅读
目录消息队列简介消息队列的应用场景异步处理系统解耦流量削峰日志处理消息队列的两种模式点对点模式发布订阅模式Kafka简介及应用场景Kafka比较其他MQ的优势Kafka目录结构搭建Kafka集群编写Kafka一键启动/关闭脚本Kafka基础操作创建topic生产消息到Kafka从Kafka消费消息使用 Kafka Tools 操作Kafka带Security连接Kafka ToolJava编程操
# 如何实现 Kafka Tool Docker
## 概述
在本文中，我将向你介绍如何使用 Docker 来部署 Kafka Tool。Kafka Tool 是一个用于管理和监控 Kafka 集群的工具，使用它可以方便地查看主题、分区、消息等信息，并执行一些管理操作。通过使用 Docker，我们可以快速搭建一个包含 Kafka Tool 的容器化环境，并且方便地进行部署和管理。
## 整体流
原创
2024-01-31 08:48:48
107阅读
Uber的Kafka实践：踩坑5年，随时像替换汽车引擎一样替换KafkaUber从2013年开始使用Kafka。Uber的主流应用，如打车、外卖等服务，都需要实时处理数据，所有核心的Business都是通过Kafka进行消息的传递。这决定了Kafka在Uber的技术平台中占据非常核心的定位。经过7年的发展，Uber的Kafka集群已经发展成为了全球数一数二的规模，每天处理PB级别的数据、Trill
kafka:集群模式，即便只有一个节点，也是集群基于zookeeper的分布式消息系统，分布式流平台，并不单纯是个消息队列具有高吞吐率、高性能、实时及高可靠等特点 基本概念： broker： 一个独立的kafka服务器，接受来自生产者的消息 brkoer集群：若干个broker组合起来的集群
转载
2024-03-28 03:47:40
60阅读
从控制台写入数据并将其写回到控制台是一个方便的起点，但是您可能要使用其他来源的数据或将数据从Kafka导出到其他系统。对于许多系统，可以使用Kafka Connect导入或导出数据，而无需编写自定义集成代码。Kafka Connect是Kafka附带的工具，用于将数据导入和导出到Kafka。它是运行连接器的可扩展工具，该 连接器实现用于与外部系统进行交互的自定义逻辑。在此快速入门中，我们将看到如何
转载
2024-06-24 17:42:18
316阅读
一、MR的架构1、简介：MapReduce是一个软件框架，基于该框架能够容易地编写应用程序，这些应用程序能够运行在由上千个商用机器组成的大集群上，并以一种可靠的，具有容错能力的方式并行地处理上TB级别的海量数据集2、4个对象： 客户端：编写mapreduce程序，配置作业，提交作业，这就是程序员完成的工作；
转载
2024-03-19 09:55:43
71阅读
作者 | 犀牛饲养员本文主要列举一些 Kafka 的常用工具，以及举了一些例子来帮助理解。有需要的小伙伴，可以 Mark 起来再看。环境以下的操作都是基于kafka_2.11-2.2.0工具新建topicbin/kafka-topics.sh --create --zookeeper 127.0.0.1:2181 --replication-factor 1 --partitions 2
转载
2024-03-22 10:56:28
3阅读
今天我要和你分享的主题是：Kafka 消息交付可靠性保障以及精确处理一次语义的实现。所谓的消息交付可靠性保障，是指 Kafka 对 Producer 和 Consumer 要处理的消息提供什么样的承诺。常见的承诺有以下三种：最多一次（at most once）：消息可能会丢失，但绝不会被重复发送。至少一次（at least once）：消息不会丢失，但有可能被重复发送。精确一次（exactly o
转载
2024-08-09 18:27:17
41阅读
说在前面在40岁老架构师 尼恩的读者交流群(50+)中，最近有小伙伴拿到了一线互联网企业如网易、有赞、希音、百度、网易、滴滴的面试资格，遇到一几个很重要的面试题：问题1：单节点2000Wtps，Kafka高性能原理是什么？问题2：做过Kafka 进行性能压测吗？单个节点的极限处理能力是多少？是怎么做到的？注意，单个节点的极限处理能力接近每秒 2000万 条消息，吞吐量达到每秒 600MB那 Kaf
同时进行“自动”和“手动”的分区分配是会互相影响的，有时会把事情搞糟。正确的使用，首先要了解这两种方式的场景。消费者组的使用场景Kafka里的消费者组有两个使用的场景：“队列模式”：在同一组的消费者共同消费一个主题的所有消息，而且确保一条消息只被一个消费者处理。一个主题的所有的分区会和一个消费组的所有消费者做关联：每个消费者和一到多个分区做关联，接收它们的消息。反向说，一个分区只会与一个消费者关联
转载
2024-06-16 13:19:55
80阅读
Streamsets是一款大数据实时采集和ETL工具，可以实现不写一行代码完成数据的采集和流转。通过拖拽式的可视化界面，实现数据管道(Pipelines)的设计和定时任务调度。最大的特点有：- 可视化界面操作，不写代码完成数据的采集和流转- 内置监控，可是实时查看数据流传输的基本信息和数据的质量- 强大的整合力，对现有常用组件全力支持，包括50种数据源、44种数据操作、46种目的地。对于Strea
转载
2024-03-08 11:49:59
128阅读
