最近在学 Golang（Go语言），也在 Github 上找了一些基于 Golang 的优秀开源框架，在这里分享给大家。一、Gin 框架（45.7k star）Gin 是一个用 Go (Golang) 编写的 HTTP web 框架。 它是一个类似于 martini 但拥有更好性能的 API 框架, 优于 httprouter，速度提高了近 40 倍。Gin 框架的特性：支持中间件，传入的 HTT
转载
2023-11-06 22:22:35
226阅读
最近项目的后端需求是全球同服的，在使用语言方面确定了为golang之后，了解了一下当前的一些goalng游戏服务器框架，终于在leaf/pitaya/ 等众多框架中选择了 Origin， 主要是因为它是分布式框架，微服务架构，比较匹配做全球同服需求下的功能模块分离。 | （后续2021.08.04补充更正一下，Origin的服务发现功能现已实现，参看Origin服务发现详解）目前基本已经上手，现在
转载
2023-07-25 17:11:52
642阅读
提到分布式系统，我们会想到很多机器，分别部署着各自的服务，然后整体组成一个分布式系统。在这类系统中，分布式系统与常规的集中式系统存在着以下三个区别。(来自分布式算法导论)1、缺乏全局状态知识2、缺乏全局时间帧3、非确定性这三大特点也成为分布式系统设计的难点。也正是如此，分布式系统的设计比常规的集中式系统要难的多。为了区别，我们称这种分布式系统为，群体分布式。这种犹如社会群体。golang语言天生具
转载
2023-11-08 17:41:02
130阅读
mqantmqant是一款基于Golang语言的简洁,高效,高性能的分布式游戏服务器框架,研发的初衷是要实现一款能支持高并发,高性能,高实时性,的游戏服务器框架,也希望mqant未来能够做即时通讯和物联网方面的应用为什么要用golang特性高性能分布式支持分布式跟踪系统接口传送门基于golang协程,开发过程全程做到无callback回调,代码可读性更高RPC支持本地和远程自动切换远程RPC使用r
转载
2024-04-11 10:49:11
56阅读
本文主要帮助初学者快速了解Spark，不会面面俱到，但核心一定点到。Spark是继Hadoop之后的下一代分布式内存计算引擎，于2009年诞生于加州大学伯克利分校AMPLab实验室，现在主要由Databricks公司进行维护（公司创始员工均来自AMPLab），根据本人自2014学习Spark的理解，从下面几个方面介绍。1、为什么出现Spark？ 2、Spark核心是什么？ 3、
转载
2023-11-19 17:25:22
91阅读
Hadoop分布式计算框架一、实验目的要求二、试验环境三、试验内容任务一 MapReduce词频统计任务二 Partitioner操作任务三 使用MapReduce实现join操作任务四 二次排序四、心得体会 一、实验目的要求【实验要求】认识MapReduce编程模型MapReduce应用开发MapReduce高级模型，掌握MapReduce开发常用的应用，如Join、二次排序、分区和WordC
转载
2023-10-07 12:55:35
71阅读
最开始关注Spark，是在csdn首页上看到一篇文件《Spark核心开发者：性能超Hadoop百倍，算法实现仅有其1/10或1/100》的，看着标题确实感觉比较年逼的。后来稍微研究了一下，其实发现，这个描述有点问题。Spark是一个基于内存的纯计算框架，而hadoop是包括计算框架的mapreduce和分布式存储hdfs，所以应该描述为Spark性能超Hadoop的ma
转载
2023-09-13 10:40:40
85阅读
1. 理解MapReduce思想MapReduce思想在生活中处处可见。或多或少都曾接触过这种思想。MapReduce的思想核心是“分而治之”，适用于大量复杂的任务处理场景（大规模数据处理场景）。即使是发布过论文实现分布式计算的谷歌也只是实现了这种思想，而不是自己原创。 Map负责“分”，即把复杂的任务分解为若干个“简单的任务”来并行处理。可以进行拆分的前提是这些小任务可以并行计算，彼此间几乎没有
转载
2023-09-22 18:57:54
147阅读
分布式存储要点分析引言1 宏观架构1.1 交互关系1.2 可改进项2 监控中心2.1 Pull状态2.2 Observe状态2.3 Work状态2.3.1 节点竞选2.3.2 写数据流程2.3.3 数据修复2.3.4 节点替换3 虚拟节点3.1 数据写入3.2 数据迁移3.3 分裂节点3.4 合并节点4 物理节点4.1 存储格式选择4.1.1 LSM结构优化4.1.2 冷数据存储 引言分布式存储
转载
2024-01-22 11:59:50
58阅读
MapReduce是计算逻辑清晰的，只有两个步骤，任务是JVM进程级别，每执行到什么步骤 去申请具体的资源。而spark根本不知道具体有几个stage，逻辑未知，每个人的job stage等根本不知道。它是默认倾向于抢占资源的，他会在sparkContext（）这个函数执行的时候，直接根据下面textFile（）代码逻辑抢占所有资源，任务以JVM线程的级别泡在Excutor里面目前已知的： 每一个
转载
2023-09-26 19:22:30
115阅读
1. 前言由于信息技术的发展，特别是互联网的出现，产生并要处理请求数可能达到百万QPS，甚至更高，面对这些海量请求，普通的集中式或者集群都很难满足这个量级的请求时，可行的一种解决办法就是使用分布式运算系统与分布式文件系统来构建服务器。再看现云概念的兴起，而分布式为云计算的基础，因此要运用云，就得先了解及应用分布式。 2. 系统架构演化历程It架构经过几十年的发展，大致
转载
2023-07-24 17:54:35
182阅读
在大数据处理上，Spark计算框架是不可忽视的一个，并且随着Spark的进一步发展，Spark计算框架也在不断地更新优化，以满足大数据领域的最新技术趋势。今天，我们就从Spark功能架构模型的角度，来仔细聊聊Spark计算框架的相关问题。 Spark是在Hadoop之后出现的，一定程度上来说，继承了Hadoop的优势，也就是分布式思想，并且在Hadoop的基础上做了优化，也就是基于实时数据处理方面
转载
2023-09-23 21:00:24
112阅读
简介 Spark和MapReduce的功能差不多，主要做分布式计算的，而分布式存储还是由HDFS来做，其中Spark进行数据转换时最核心的概念就是RDD，既然是做分布式计算的，那就要搞懂Spark是怎么进行分布式计算的以及工作流程Spark各个模块解决的问题以及特点Spark RDD中API的使用场景 上面说了，spark进行分布式计算是基于HDFS的，所以不光要启动spark集群，还是要启动
转载
2023-09-18 09:06:34
100阅读
作者：
Super
导语：hashicorp/raft是raft算法的一种比较流行的golang实现，基于它能够比较方便的构建具有强一致性的分布式系统。本文通过实现一个简单的分布式缓存系统来介绍使用hashicorp/raft来构建分布式应用程序的方法。
1. 背景 对于后台开发来说，随着业务的发展，由于访问量增大的压力和数据容灾的需要，一定会需要使用分布式的系统，而分
转载
2023-11-25 21:27:53
74阅读
1. 背景介绍近期接到任务，需要用Golang开发一个基于Redis的分布式锁，因为目前网上已存在的golang分布式锁要么是性能都不够，要么就是功能不全，根据网上收集到的资料，最终决定参考Redisson的设计思想来设计Go语言的Redis分布式锁。完整代码可以点这里： 外网：GitHub DisGo 内网：Gitee DisGo2. 难点分析主流分布式锁的对比MySQLZookeeperRed
转载
2023-11-24 22:32:26
124阅读
前言Spark是基于内存的计算框架，计算速度非常快。如果想要对接外部的数据，比如HDFS读取数据，需要事先搭建一个Hadoop 集群。Apache Spark是一个开源集群运算框架，相对于Hadoop的MapReduce会在运行完工作后将中介数据存放到磁盘中，Spark使用了存储器内运算技术，能在数据尚未写入硬盘时即在存储器内分析运算。Spark 在存储器内运行程序的运算速度能做到比 Hadoop
转载
2023-10-26 14:11:43
61阅读
本文以 Hadoop 提供的分布式文件系统（HDFS）为例来进一步展开解析分布式存储服务架构设计的要点。架构目标任何一种软件框架或服务都是为了解决特定问题而产生的。还记得我们在 《分布式存储 - 概述》一文中描述的几个关注方面么？分布式文件系统属于分布式存储中的一种面向文件的数据模型，它需要解决单机文件系统面临的容量扩展和容错问题。所以 HDFS 的架构设计目标就呼之欲出了：面向超大文件或大量的文
转载
2024-02-03 21:54:38
60阅读
http://blog.csdn.net/x15594/article/details/6275493 Hadoop是Apache软件基金会所开发的并行计算框架与分布式文件系统。最核心的模块包括Hadoop Common、HDFS与MapReduce。HDFS HDFS是Hadoop分布式文件系统（Hadoop Di
转载
精选
2015-05-14 15:59:48
820阅读
# 如何实现Java分布式计算框架
## 简介
分布式计算是指在多台计算机上进行协同工作，将一个大型计算任务分解成多个小任务，并将它们分配给不同的计算节点进行处理。Java作为一种高级编程语言，在分布式计算领域有着广泛的应用，因其强大的并发处理能力和跨平台的特性而备受青睐。
本文将介绍如何使用Java实现一个简单的分布式计算框架，并以表格形式展示整个实现过程的步骤。
## 分布式计算框架实现
原创
2023-08-09 10:19:01
89阅读
0.什么是MapReduceMapRdeuce是一个分布式运算程序的编程框架，是用户开发“基于hadoop的数据分析应用”的核心框架。MapReduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序，并打运行在一个hadoop集群上。1.MapReduce优缺点优点：MapReduce易于编程，它简单的实现一些接口，就可以完成一个分布式程序，这个分布式程序可以分布到
转载
2024-09-18 18:18:23
99阅读
