KakiExam（参天大树考试系统）3.0介绍基于ssm垂直架构的考试系统，分为前台与后台，移动端(新增) 三大模块，前台具有，用户注册，登录，答题，计分功能，后台具有题目管理，卷纸录入功能，移动端基于H5开发，可移植至微信小程序，或封装为akp文件。软件架构软件架构说明后台采用：jdk1.8,spring,springMVC,mybatis,通用mapper ,lombook,shiro等前端采
该模块主要是监听连接的socket连接，所以这个模块主要包含一些针对连接的管理接口，该模块主要的API如下:
1、start_link(Opts, MFA) 该函数主要是启动esockd_connection_sup监听器，函数内部调用了OTP的
gen_server:start_link(?MODULE, [Opts, MFA], [])函数，然后回调该模块的init([Opts, MFA])
转载
2024-09-30 13:48:58
34阅读
1 Kafka1.1 Kafka简介Kafka是一种分布式的，基于发布/订阅的消息系统。原本开发自LinkedIn，用于将用户的行为、网站的活动（网页游览，搜索或其他用户的操作信息）发布记录到不同的话题中心，这些消息数据可实时处理，实时监测，也可加载到Hadoop或离线处理数据仓库供后续大数据发掘。Kafka主要设计目标如下：1) 以时间复杂度为O(1)的方式提供消息
转载
2024-04-10 10:27:09
124阅读
文章目录一、Kafka和ActiveMQ基本对比二、从消费模式看activemq与kafka三、应用场景总结 我们知道，在大数据开发过程中我们经常会使用到消息队列类型的组件。消息队列中间件主要用来实现异步消息、应用解耦、流量削峰等功能。那么，业务中常见的就是Kafka与ActiveMQ。同为消息中间件，二者的区别究竟在哪里，今天我们就做一个简单的对比。。 一、Kafka和ActiveMQ基本对
转载
2024-06-24 08:18:01
89阅读
一、语言不同RabbitMQ是由内在高并发的erlanng语言开发，用在实时的对可靠性要求比较高的消息传递上。kafka是采用Scala语言开发，它主要用于处理活跃的流式数据,大数据量的数据处理上二、结构不同RabbitMQ采用AMQP（Advanced Message Queuing Protocol，高级消息队列协议）是一个进程间传递异步消息的网络协议 RabbitMQ的broker
转载
2024-03-22 09:50:05
154阅读
一、目录1、MQ基础概念2、Kafka数据存储设计3、Kafka生产者设计4、Kafka消费者设计5、Kafka提交与移位6、Kafka消息保留策略二、MQ概念 MQ 是message queue ,消息队列，也叫消息中间件。消息队列中间件是分布式系统中重要的组件，主要解决应用解耦，异步消息，流量削锋等问
转载
2024-05-28 13:52:31
111阅读
软件要求：需要使用EMQ的企业版场景需求：物联网平台需要接入智能变压器采集装置采集的数据，基于MQTT协议将数据传输到服务器的MQ(EMQ)，EMQ将数据转发到kafka集群，sparkStreaming对接kafka实时分析处理。准备工作：上传数据准备：{
"id": "NXP-058659730253-963945118132721-22", // 客户端识别码
"speed": 32
转载
2024-07-07 07:47:05
35阅读
物联网架构成长之路(8)-EMQ-Hook了解、连接Kafka发送消息 1. 前言 按照我自己设计的物联网框架，对于MQTT集群中的所有消息，是要持久化到磁盘的，这里采用一个消息队列中间件Kafka作为数据缓冲，缓冲结果存到数据仓库中，以供后续作为数据分析。由于MQTT集群中的消息都是比较分散的，所以使用Kafka来聚合、采集消息。2. 下载&编译&安装依赖
背景本公司是.Net项目，在.Net可选的MQ比较少，主要Kafka和RabbitMQ，RabbitMQ我也是使用多年了，最近的Kafka广告与流行度打得使我也是无法无视，因此也是花了点时间收集了资料做了些对比。此外有个小插曲，当我形成了文档让老板兼CTO对比决策后，他打算上阿里云买MQ服务。我当时给他开了个玩笑：您这价钱把我请回来，而且公司还有运维，其实完全可以自己维护，要不我来负责，你把这每个
转载
2024-09-27 12:05:11
44阅读
MQ简介：MQ全称为Message Queue, 消息队列（MQ）是一种应用程序对应用程序的通信方法。应用程序通过写和检索出入列队的针对应用程序的数据（消息）来通信，而无需专用连接来链接它们。消息传递指的是程序之间通过在消息中发送数据进行通信，而不是通过直接调用彼此来通信，直接调用通常是用于诸如远程过程调用的技术。MQ特点：MQ的消费-生产者模型的一个典型的代表，一端往消息队列中不断的写入消息，而
简介 消息队列，用于系统之间通信。 与dubbo+zookeeper 在不同层之间调用，ActiveMQ 可以解决同层之间的通信。 dubbo+zookeeper 有启动顺序，如果服务提供者没有启动，先启动消费者，会报错。所以同层之间如果来回引用，就不知道怎么启动了。 ActiveMQ可以实现，数据同步。如果新添加的数据，可以使
转载
2024-10-17 11:16:30
65阅读
简介MQTT 全称为 Message Queuing Telemetry Transport（消息队列遥测传输）是一种基于发布/订阅范式的“轻量级”消息协议，由 IBM 发布。MQTT 可以被解释为一种低开销，低带宽占用的即时通讯协议，可以用极少的代码和带宽的为连接远程设备提供实时可靠的消息服务，它适用于硬件性能低下的远程设备以及网络状况糟糕的环境下，因此 MQTT 协议在 IoT（Interne
转载
2024-08-14 17:39:29
281阅读
导读：Kafka 是广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析不可或缺的工具。本篇为 Kafka 系列的第一篇文章，之后将会每天持续更新，让你从上手到实践。作者 | 计缘什么是MQ首先我们来认知什么是MQ系统既消息队列（Message Queue）系统。举个不恰当的例子，消息（Message）就相当于自来水，队列（Queue）就相当于自来水管道，错综复杂的管道将自来水送给千家万户
转载
2024-05-29 11:46:55
25阅读
rabbitmq
rabbitmq的消息可靠性rabbitmq-幂等引出的性能分析rocketmq
从rabbitmq到rocketmqkafka
从rocketmq到kafka：集群、一致性与重平衡pulsar
本篇综合对比
本篇先来谈谈 pulsarpulsar 可以简单的看做是 broker 集群 + bookkeeper集群 构成。broker 集群属于无状态
转载
2024-05-20 19:08:14
59阅读
众所周知，Hadoop生态系统发展至今，已经汇集了超过二十个组件，这些组件各自致力于解决大数据处理当中所遇到的问题，同时基于Hadoop集群，也能实现很好的协作运行，共同来完成大数据处理各个环节的任务。其中涉及Kafka组件，有同学在问Hadoop和Kafka啥关系，下面我们就来解答一下。 首先，我们必须要了解一个事实，Hadoop和Kafka同属于Apache软件基金会，都是Apa
转载
2023-11-18 23:14:38
139阅读
正常大家都这么问的，但是实际上应该是想问：kafka和redis queue有什么区别？，因为redis是一个基于内存的kv数据库，而kafka是分布式发布订阅消息系统。两者本身不是同样一个层次的东西。redis中有一个queue的数据类型，用来做发布/订阅系统，这个就可以和kafka进行比较了哈。 一、存储介质不同redis queue数据是存储在内存，虽然有AOF和RDB的持久化方式
转载
2023-08-15 17:09:23
365阅读
kafka和spark总结本文涉及到的技术版本号：scala 2.11.8kafka1.1.0spark2.3.1kafka简介kafka是一个分布式流平台，流媒体平台有三个功能发布和订阅记录流以容错的持久化的方式存储记录流发生数据时对流进行处理kafka通常用于两大类应用构件在系统或应用程序之间可靠获取数据的实时数据管道构件转换或响应数据流的实时流应用程序kafka的几个概念kafka运行在集群
转载
2023-08-27 22:00:17
125阅读
1、简介对于日志来说，最常见的需求就是收集、查询、显示，正对应logstash、elasticsearch、kibana的功能。 ELK日志系统在系统中，主要可解决的问题：基于日志的数据挖掘问题排查，上线检查根据关键字查询日志详情异常数据自动触发消息通知服务器监控，应用监控，Bug管理统计分析，比如接口的调用次数、执行时间、成功率等性能分析，用户行为分析，安全漏洞分析，时间管理 
1、什么是kafka? 2、JMS了解 3、kafka核心组件 4、为什么需要kafka消息队列？ 5、配置文件梳理 6、kafka文件存储机制 7、kafka为什么这么快？1、What is kafka? (官网：http://kafka.apache.org/)(了解)在流式计算中，Kafka一般用来缓存数据，Storm、spark-streaming等通过消费Kafka的数据进行计算。KAF
转载
2024-04-01 15:14:34
412阅读
第 7 章 Kafka 与 Flume7.1 Kafka 与 Flume 比较
在企业中必须要清楚流式数据采集框架 flume 和 kafka 的定位是什么：
flume：cloudera 公司研发:
适合多个生产者；
适合下游数据消费者不多的情况；
适合数据安全性要求不高
