1、HDFS简介：HDFS（Hadoop Distributed File System ）Hadoop分布式文件系统。是根据google发表的论文GFS（Google File System）Google 文件系统翻版的。是一个主/从（Master/Slave）架构的系统，它主要由NameNode、DataNode、SecondaryNameNode、事务日志、映像文件等构成。Secondary
背景最近工作中用到阿里云OSS云存储系统;部门的服务器中大量冷数据长期不使用,但是又占据了大量存储空间,硬盘屡屡报错;因此有必要把服务器上面的冷数据备份一下。流程规划具体流程规划如下表数据类型数据特点原始埋点数据（GZIP压缩）当前数仓业务只访问一次。1年前的历史数据很少访问，只有当需要从源头恢复数据时候访问。无法从其他源头恢复。标准化埋点数据（parquet文件，snappy压缩）当前数仓业务只
转载
2024-04-14 14:29:49
84阅读
一、Nosql1、为什么使用Nosql大数据时代！！普通的数据库无法进行数据分析！Hadoop(2006)。历史发展：1 、单机MySQL时代（90年代）,一个网站的访问量一般不会太大，单个数据库完全够用问题：数据量增加到一定程度，单机数据库就放不下了数据的索引（B+ Tree）,一个机器内存也存放不下访问量变大后（读写混合），一台服务器承受不住。2、MySQL+MemCache（缓存）+垂直拆分
转载
2024-10-21 10:33:23
92阅读
背景HDFS 是 Hadoop 生态的默认存储系统，很多数据分析和管理工具都是基于它的 API 设计和实现的。但 HDFS 是为传统机房设计的，在云上维护 HDFS 一点也不轻松，需要投入不少人力进行监控、调优、扩容、故障恢复等一系列事情，而且还费用高昂，成本可能是对象存储是十倍以上。在存储与计算分离大趋势下，很多人尝试用对象存储来构建数据湖方案，对象存储也提供了用于 Hadoop 生态的 con
FastDFS学习笔记-FastDFS这一篇就够了1. FastDFS简介1.1 分布式文档系统对比 常见分布式文件系统有GFS,HDFS,FastDFS,TFS,GridFS（GridDS）,Ceph等，其实均是类GFS的文件系统。文档系统GFSHDFSFastDFSGridFSTFSCeph开发语言JavaCC++/MongoDBC++C++开源协议ApacheGPL V3GPL V2LGPL
转载
2024-04-19 12:52:07
309阅读
分布式文件系统-FastDFS+阿里OSS 目录分布式文件系统-FastDFS+阿里OSS一、配置FastDFS环境准备工作1.1、环境准备1.2、安装步骤(tracker虚拟机与storage虚拟机都要安装)1.2.1、安装基础库1.2.2、安装libfastcommon函数库1.2.3、安装fastdfs主程序文件1.2.4、拷贝配置文件到/etc/fdfs中二、配置tracker服务2.1、
转载
2024-04-08 08:56:35
106阅读
报错信息：2023-07-31 14:31:02,502 INFO org.apache.hadoop.yarn.client.RMProxy [] - Connecting to ResourceManager at hadoop102/172.18.0.202:8032
2023-07-31 14:31:02,756 INFO org.apac
FastDFS介绍FastDFS是一个开源的轻量级分布式文件系统，它对文件进行管理，功能包括：文件存储、文件同步、文件访问（文件上传、文件下载）等，解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务，如相册网站、视频网站等等。在平时的学习和项目中，博主使用的是阿里云的OSS对象存储服务，毕竟是阿里云旗下的产品，有很全的API供你学习使用。当然，它是付费产品。其实就几顿外卖的钱就能包年
实验背景：192.168.122.101 namenode
192.168.122.102 dadanode
192.168.122.103 datanode
192.168.122.104 datanode
关闭几台主机的火墙,selinxnfs的实现如何让新加的结点，同步之前结点的数据?1.首先关闭之前的伪分布式[ha@server1 hadoop]$ sbin/stop-dfs.sh
--HDFS--Hadoop Distributed File SystemHDFS一个分布式，高容错，可线性扩展的文件系统简介：Hadoop分布式文件系统（HDFS）是一种分布式文件系统，设计用于在商用硬件上运行。它与现有的分布式文件系统有许多相似之处。但是，与其他分布式文件系统的差异很大。HDFS具有高度容错能力，旨在部署在低成本硬件上。HDFS提供对应用程序数据的高吞吐量访问，适用于具有大型
转载
2024-03-11 15:13:27
70阅读
1.Hadoop分布式文件系统(HDFS)是指被设计成适合运行在通用硬件(commodity hardware) 上的分布式文件系统（Distributed File System）。它和现有的分布式文件系统有很多共同点 。但同时，它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统， 适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。
转载
2024-03-28 09:30:40
201阅读
那么到这里，分布式文件存储部分讲完啦~这一块主要是针对传统的文件存储方式做的优化提升。那么咱们针对本阶段的学习做个简短的总结。来看一下下方思维脑图来梳理内容∶复习本阶段主要针对fastdfs与oss的讲解，首先我们讲了什么是分布式文件系统与其概念，在传统的文件上传中，我们往往是上传到同服务器，但是这样会面临一个问题，就是当文件越来越多的时候此时扩容是个问题，而且和业务服务耦合在一个计算机节点，所以
生产调优HDFS—存储优化注：演示纠删码和异构存储需要一共 5 台虚拟机。尽量拿另外一套集群。提前准备 5 台服务器的集群。纠删码纠删码原理HDFS 默认情况下，一个文件有 3 个副本，这样提高了数据的可靠性，但也带来了 2 倍的冗余开销。Hadoop3.x 引入了纠删码，采用计算的方式，可以节省约 50％左右的存储空间。 1）纠删码操作相关的命令 hdfs ec 2）查看当前支持的纠删码策略 h
转载
2024-09-10 09:54:36
57阅读
--如何把分区[20210802]从本地磁盘转移到oss上存储（即：做到部分分区在本地磁盘存储，部分分区在oss存储）
1.通过命令复制过去hadoop distcp hdfs://bigdata/user/hive/warehouse/test.db/dim_sony_dev_list_oss2/pt=20210802 oss://dbbigdata/hangwenping/dim_sony_d
原创
2021-08-05 18:40:19
589阅读
#!/bin/bash
oss_size1=`hdfs dfs -du -s oss://dbbigdatapro/group/user/tools/meta/hive-temp-table/test_dbjs_home_nav/${date_desc} | awk '{print $1}'`
if [[ oss_size1 -gt 0 ]]
then echo "${date_desc}数据已
原创
2023-04-11 21:44:06
334阅读
电信业务运营支持系统(BOSS)，面对客户是统一的；面对电信运营商，它融合了业务支撑系统(BSS)与运营支撑系统(OSS)，是一个综合的业务运营和管理平台，同时也是真正融合了传统IP数据业务与移动增值业务的综合管理平台。OSS/BSS是电信运营商的一体化、信息资源共享的支持系统，它主要由网络管理、系统管理、计费、营业、账务和客户服务等部分组成，系统间通过统一的信息总线有机整合在一起。它不仅能在帮助
转载
2023-10-18 21:34:27
78阅读
解决方案：hadoop distcp -skipcrccheck oss://dbbigdatapro/group/user/tools/meta/hive-temp-table/dwd_sony_opt_v4/pt=20220302/* hdfs://bigdata/user/hive/warehouse/tools.db/dwd_sony_opt_v4/pt=202203
原创
2022-03-03 19:30:06
1342阅读
在数字政府领域，许多项目中都有各种类型的文件，它们有不同的大小、不同的用途，甚至编码方式都会千差万别。我们希望通过 OSS 来将这些文件按照一定的规则存储起来，在我们需要的时候，能很快的取出来，并且应用到当前的项目中，甚至能和其他的应用系统集成起来，形成一整套的基于 OSS 存储的生态系统。百分点基于实践探索自主研发出了 OSS，可以将海量的网页内容、图片、音视频等非结构化数据，在高并发的场景下被
转载
2023-10-23 18:57:52
77阅读
http://my-bucket.oss-cn-beijing.aliyuncs.com/gen_mydir_video%2Fmy.mp4
转载
2018-04-21 11:37:00
483阅读
2评论
let OSS = require('ali-oss');//阿里云oss配置自己去官网瞧let client = new OSS({ region: 'oss-cn-shanghai', accessKeyId: '****', accessKeySecret: '******'});client.useBucket('******');async function ...
原创
2022-09-13 12:30:43
116阅读
