https 原理篇 经典三问,是什么,为什么,怎么做? 是什么 是一种http的安全协议,在tcp ip网络模型里,http应用层是在tcp 传输层之上的,https协议规定了在tcp传输层之上还有一层tls/ssl层,这一层对http应用层发出去和接收的报文做加密和解密。 为什么 出现https原因,在我看来有两点 1,因为http是明文传输,极不安全,需要对报文进行加密。 2,我们无法确认浏
原创 精选 2023-05-26 14:38:42
373阅读
MFS读取数据的过程:client需要一个数据时,首先会向master服务器进行请求master服务器检索自己的数据,获取到数据所在的data服务器的位置master服务器将data服务器的地发给clientclient向data服务器发起获取数据的请求data服务器将数据发送给clientMFS写入数据的过程:1.当client有写入需求时,首先向master服务器提供文件元数据的信息,并请求存
原创 2018-04-26 17:01:55
1075阅读
 hdfs的工作机制(工作机制的学习主要是为加深对分布式系统的理解,以及增强遇到各种问题时的分析解决能力,形成一定的集群运维能力) 注:很多不是真正理解hadoop技术体系的人会常常觉得HDFS可用于网盘类应用,但实际并非如此。要想将技术准确用在恰当的地方,必须对技术有深刻的理解4.1 概述1. HDFS集群分为两大角色:NameNode、DataNode2.&nbs
原创 2017-04-01 09:58:26
2175阅读
1点赞
一、开篇几个问题 1、大规模数据如何检索? 当系统数据量上了10亿、100亿条的时候
原创 2022-12-13 10:52:47
471阅读
一、Puppet 简介1、Puppet的用途Puppet是开源的基于Ruby的系统配置管理工具,依赖于C/S的部署架构。主要开发者是Luke Kanies,遵循GPLv2版权协议。从1997年开始Kanies参与UNIX的系统管理工作,Puppet的开发源于这些经验。因为对已有的配置工具不甚满意,从2001年到2005年间,Kanies开始在Reductive实验室从事工具的开发。很快,Reduc
原创 2016-03-26 13:15:01
2779阅读
3.1 mapreduce的shuffle机制3.1.1 概述:v mapreduce中,map阶段处理的数据如何传递给reduce阶段,是mapreduce框架中最关键的一个流程,这个流程就叫shuffle;v shuffle: 洗牌、发牌——(核心机制:数据分区,排序,缓存);v 具体来说:就是将maptask输出的处理结果数据,分发给reducetas
原创 2017-04-05 13:15:32
1236阅读
集群技术的基础知识
本文由云+社区发表 GBDT 是常用的机器学习算法之一,因其出色的特征自动组合能力和高效的运算大受欢迎。 这里简单介绍一下 GBDT 算法的原理,后续再写一个实战。 1、决策树的分类 决策树分为两大类,分类树和回归树。 分类树用于分类标签值,如晴天/阴天/雾/雨、用户性别、网页是否是垃圾页面; 回
转载 2019-01-03 20:54:00
142阅读
2评论
本篇文章主要讲述以下几点:WebSocket的原理与机制WebSocket与Socket.ioWebSocket兼容性WebSocket的原理与机制WebSocket协议分为两部分:握手和数据传输 下面通过客户端和服务端交互的报文对比WebSocket通讯与传统HTTP的不同点,主要关注握手阶段。 根据上面的例子,运行之后,new WebSocket实例化一个新的WebSocket客户端对象,请求
原创 2022-08-31 23:19:37
185阅读
MongoDB分片为什么需要Sharded cluster?MongoDB目前3大核心优势:『灵活模式』+ 『高可用性』 + 『可扩展性』,通过json文档来实现灵活模式,通过复制集来保证高可用,通过Sharded cluster来保证可扩展性。何时使用分片技术存储容量需求超出单机磁盘容量活跃的数据集超出单机内存容量,导致很多请求都要从磁盘读取数据,影响性能写IOPS超出单个...
原创 2021-07-15 11:50:47
658阅读
APM,应用性能监控,有new relic等产品,对APM感兴趣的应该不会不知道它了。主要功能就是统计分析应用的CPU、内存、网络、数据库、UI等性能,并提供错误日志捕获。编码人员需要做的仅仅是使用它提供的插件和jar包,增加一两行代码即可。接下来,本文会以android端的APM为例,分析它到底是
转载 2019-05-19 20:19:00
360阅读
2评论
此文凝聚笔者不少心血请尊重笔者劳动,转载请注明出处。http://freeze.blog.51cto.com/随着Internet技术的迅猛发展,网络技术、性能的不断提高,高可伸缩性、高可用性、可管理性、价格有效性的网络服务技术将成为网络服务技术的主导。各种平台下的技术方案应运而生。本文试图以一完整的理论+实践性的文字来介绍如何在优秀的开源操作系统Linux下创建低成本、高性能、高可用的服务集群
转载 精选 2013-06-15 20:24:32
10000+阅读
3点赞
Mapreduce是一个分布式运算程序的编程框架,是用户开发“基于hadoop的数据分析应用”的核心框架;Mapreduce核心功能是将用户编写的业务逻辑代码和自带默认组件整合成一个完整的分布式运算程序,并发运行在一个hadoop集群上; 1.1 为什么要MAPREDUCE(1)海量数据在单机上处理因为硬件资源限制,无法胜任(2)而一旦将单机版程序扩展到集群来分布式运行,将极大增加程序的
原创 2017-04-05 09:02:04
1389阅读
 2:自动向DHCP服务器申请、用户的计算机会自动向DHCP服务器申请IP地址,接收到此请求的DHCP服务器会分配IP地址给用户的计算机。他可以减轻管理负担,避免因手动输入错误而造成的困扰。除了IP地址之外,DHCP服务器还可以提供其他相关选项设置(options)给DHCP客户端,列入默认网网关的IP地址、DNS服务器的IP地址等。DHCP客户端计算机启动时会搜索DHCP服务器,以便向
原创 2013-01-10 21:34:20
2138阅读
分片简介分片(sharding)是指将数据拆分,将其分散存放在不同的机器上的过程。将数据分散到不同的机器上,不需要功能强大的大型计算机就可以存储更多的数据,处理更大的负载。注:mongodb3.2版本后,分片技术必须结合复制集完成;复制集不在本文讨论范畴。集群组件为了对应用程序隐藏数据库架构细节,在分片之前需要先执行mongos进行一次路由过程。这个路由服务器维护者一个”内容列表“,指明了每个分片
原创 2022-07-08 16:25:16
2398阅读
MongoDB分片为什么需要Sharded cluster?MongoDB目前3大核心优势:『灵活模式』+ 『高可用性
转载 2022-02-11 14:11:04
503阅读
很多人接触Linux的内存管理是从malloc()这个C语言库函数开始,也是从那时开始就知道了虚拟内存的概念。但很多人可能并不知道虚拟地址是如何转换成物理地址的,今天带你搞懂虚拟地址到物理地址的转换过程,这其实也是MMU的工作原理。 1. 预备知识 我们知道,在Linux中,每个进程都有自己独立的地址空间,且互不干扰。每个进程的地址空间又分为用户空间和内核空间,但这些地址空间使用的都是虚拟地址,它
原创 10月前
279阅读
1.什么是SMB文件共享    通用Internet文件系统(CIFS)也称为服务器信息块(SMB),是适用于MicrosoftWindows服务器和客端的标准文件和打印机共享系统。    Samba服务可用于将Linux文件系统作为CIFS/SMB网络文件共享进行共享,并将Linux打印机作为CIFS/SMB打印机共享进行共享。2.Samba服务的组成部分
原创 2016-09-22 18:22:54
10000+阅读
2018-1-2byAtlas一个命令请求从发送到获得回复的过程中,客户端和服务器需要完成一系列操作。举例:<redis>SETkeyvalueok1.简单概述1)客户端向服务器发送命令请求SETkeyvalue。2)服务器接收并处理客户端发来的命令请求SETkeyvalue,在数据库中进行设置操作,并产生命令回复ok。3)服务器将命令回复ok发送给客户端。4)客户端接收服务器返回的命
原创 2018-01-03 01:10:19
995阅读
Docker是什么Docker的构成Docker的分层和写时拷贝策略Docker与主流虚拟机的区别Docker镜像与容器的关系镜像的变更管理Docker是什么Docker是一个开源的应用容器引擎。它的理念是“Buildonce, Run anywhere, Configure once, Run anything”,这与Java提出的“Write Once, Run Anywhere”有异曲同工之
转载 2021-05-10 10:11:17
158阅读
2评论
  • 1
  • 2
  • 3
  • 4
  • 5