江南独孤客的博客_大数据篇

Hive on Spark占用cpu超过100的任务告警

import requests import json from datetime import datetime import pytz from requests.auth import HTTPBasicAuth # CDH Impala API endpoint for running queries cdh_api_url = "http://192.168.0.1:7180/api/v

json

用户名

spark

置顶原创 1月前 13 阅读 yyds干货盘点

NFS文件系统测试clickhouse验证

验证的结果：1.数据目录存到nfs的data目录下，发现系统进程无法启动，日志和数据无法写入到nfs存储2.更改到了本地的data1目录下，系统是可以正常启动。3.存到本地下的情况，创建库和表是成功的。4.官方有相关的说明，ClickHouse 不建议将 NFS（Network File System）用作数据存储的主要方式，因为 NFS 可能会影响 ClickHouse 的性能和稳定性。虽然 C

数据存储

数据

文件系统

置顶原创 1月前 75 阅读

yarn资源占用告警

import requests import json from datetime import datetime import pytz from requests.auth import HTTPBasicAuth # CDH Impala API endpoint for running queries cdh_api_url = "http://192.168.1.1:7180/api/v

json

用户名

任务分配

置顶原创 1月前 41 阅读

impala执行的语句告警

import requests import json from datetime import datetime import pytz from requests.auth import HTTPBasicAuth # CDH Impala API endpoint for running queries cdh_api_url = "http://192.168.1.1:7180/api/v

hdfs

json

sql

置顶原创 1月前 23 阅读

使用spark从hive中的数据导入到nebula graph报java.net.SocketTimeoutException: Read timed out

以下是报错的内容24/02/20 17:32:21 INFO storage.BlockManagerInfo: Added broadcast_2_piece0 in memory on cdh052.dn.tcjf.com:33318 (size: 12.4 KB, free: 5.2 GB) 24/02/20 17:32:21 INFO spark.MapOutputTrackerMaste

scala

spark

java

置顶原创 2月前 116 阅读

Apache Dolphinscheduler3版本编译zk3.4支持CDH的ZK

背景：默认是使用zk-3.8的配置，所以会出现CDH的zk不兼容问题。使用zk-3.4配置即可适配3.4.x解决办法1、#切换到项目源码的根路径中执行mvn clean package -T 1C -Prelease '-Dmaven.test.skip=true' '-Dcheckstyle.skip=true' '-Dmaven.javadoc.skip=true' '-Dzk-3.4'上述命

maven

javad

测试用例

置顶原创 2月前 10000+阅读 2评论

StreamPark从零快速入门（本地调试、功能演示及源码分析）

flink

安装包

导入项目

置顶原创 3月前 10000+阅读

Doris 数仓使用规范（经验版）

第一部分：字符集规范【强制】数据库字符集指定utf-8，并且只支持utf-8。命令规范【建议】库名统一使用小写方式，中间用下划线（_）分割，长度62字节内【建议】表名称大小写敏感，统一使用小写方式，中间用下划线（_）分割，长度64字节内第二部分：建表规范【强制】确保每个tablet大小为1-3G之间。举例：假设表内单分区数据量在100G，按天分区,bucket数量100个。【强烈建议】

数据

字段

3G

置顶原创精选 3月前 10000+阅读 1点赞 1评论

CM金丝雀Canary报错

CM金丝雀Canary报错1 HDFS 金丝雀Canary 测试无法为 /tmp/.cloudera_health_monitoring_canary_files 创建父目录。2 Hive Metastore CanaryHive Metastore canary 创建 hue hdfs 主目录失败。检查：1）hdfs是否处于safemode，正常是off# hdfs dfsadmin -safe

hdfs

cloudera

错误提示

置顶原创 4月前 10000+阅读

hive 查看表权限命令行 hive 查询表权限

一、acl权限 1、设置acl权限 hadoop fs -setfacl -R -m user:ly.feng:rw- /user/hive/warehouse/ucar.db/t_b_city 2、删除用户acl权限 hadoop fs -setfacl -x user:ly.feng /user/hive-0.13.1/warehouse/ucar.db/t_b_city 3、删除所有a

hive

ci

用户权限

置顶原创 4月前 156 阅读

统计HDFS中文件数量、大小、以及在某范围大小的文件数量

说明：统计HDFS文件数量大小，小于20M文件数量1、HDFS 相关命令# 统计文件大小 hdfs dfs -du -h / # 统计文件数量，返回的数据是目录个数，文件个数，文件总计大小，输入路径 hdfs dfs -count / #统计所有文件的信息，过滤文件夹, 只统计文件，因为使用-ls -R 之后,可以看到文件是”-“开头，文件夹是”d”开头 hdfs dfs -ls -R /

hdfs

HDFS

数据

置顶原创 4月前 10000+阅读

配置impala自动同步HMS元数据

由于Impala 的 Automatic Invalidate/Refresh Metadata的功能在CDH6.3版本才有的功能，通过以上两个升级，已经具备的该功能，下面是需要配置该功能测试环境1.CM和CDH版本为6.1.1(hive的版本升级到了CDH6.3.2-2.1.1)2.操作系统版本为RedHat 7.63.impala3.4版本操作步骤进入CM界面 > Hive > 配

hive

hadoop

bc

置顶原创精选 5月前 10000+阅读

cdh6.1.1的hive升级到CDH6.3.2的hive

1.在hive创建数据库的情况下，impala无法自动刷新元数据1.1 发现问题在CDH6.1版本下创建数据库，如在hive中create database test_db; 再在impala中 show databases;没有显示test_db，说明test_db并没有刷新到Impala的catalog中，通过查找Impala Catalog的role log，发现如下的异常日志:Unexp

java

hive

apache

置顶原创精选 5月前 10000+阅读

CDH6.1.1 impala3.1.0升级到3.4.1

本地环境硬件要求CPU 必须至少支持 SSSE3最小内存：16GB （社区推荐64G）硬盘空间：120GB（用于测试数据）仅支持Linux的操作系统Ubuntu 14.04、16.04、18.04CentOS 7编译环境一套CDH6.1.1集群，部署在三台centos7.6机器上一台同样环境的centos机器用来编译Apache Impala 3.4编译impala CDH6.1.1对应

cloudera

bc

apache

置顶原创 5月前 10000+阅读

CDH的Hive升级后，使用spark报kryo.KryoException: java.lang.IndexOutOfBoundsException: Index: 109, Size: 6

公司用的CDH是6.1.1版本的，但是因为这个版本的impala无法自动刷hive的catlog,所以我把hive升级到了6.3.2版本的hive2.1.1了，使用mr引擎没有问题，但是我使用spark的时候就报错了23/11/20 11:39:28 ERROR rpc.RpcDispatcher: [Remote Spark Driver to HiveServer2 Connection] R

java

hive

apache

置顶原创 5月前 366 阅读

Namenode报 failed； error=‘Cannot allocate memory‘ (errno=12)

因为我的CDH平台用的是虚拟机跑的，上面部署的服务太多了，在重启namenode以后出现down的状态，一直起不来，后来查看error日志，报以下错误：Namenode报 failed； error=‘Cannot allocate memory‘ (errno=12)一、解决办法：由于报错os::commit_memory(0x00000000fec00000, 20971520, 0)，但是经

内存分配策略

重启

内存空间

置顶原创精选 5月前 318 阅读 1点赞

ClouderaManager中Event Server报java.io.IOException: No sub-file with id .fnm found

晚上9点30:03.266分 ERROR EventCatcherService Error starting EventServer java.io.IOException: No sub-file with id .fnm found (fileName=_1f9.cfs files: [f474fa52c5c7e5cfdc49"resourcemanager (wyx-cdh-,

java

cloudera

lucene

置顶原创 5月前 133 阅读

编译impala3.4.1的时候在cdh服务器上出现namenode的进入安全模式的报错

原因：我在CDH的HDFS上编译的impala3.4成功以后，HDFS的Namenode的报错进入了安全模式，报错内容如下备注：如果不了解编译的内容，最好是在新的机器上编译，不然会破坏原系统的稳定性分析原因：在编译impala的时候，脚本中更改了服务器的hosts,重新安装了java环境以上是更改了原服务器的环境的配置解决方案：1.删除java的yum安装包2.清理hosts文件夹中用脚本生成的服

服务器

HDFS

yum安装

置顶原创 6月前 90 阅读

导出hive中所有的建表语句

#!/usr/bin/bash # 获取当前脚本所在路径 cur_dir="$(cd "$(dirname "${BASH_SOURCE[0]}")" && pwd)" cd ${cur_dir} # 导出所有hive数据库名 hive -e "show databases;" > ${cur_dir}/all_database.db # 删除导出文件中的警告信息 sed

hive

sql

sed

原创 6月前 398 阅读

Impala刷新hive的元数据

1.脚本#!/bin/bash # 设置Impala的连接属性 im_host="192.168.1.1" im_port="21050" im_user="hive" im_password="11111" # 刷新元数据 echo "刷新Impala元数据..." # 执行刷新元数据的Impala命令 cmd="refresh dc_dev

元数据

hive

bc

置顶原创 7月前 282 阅读

Hbase 删除表数据

1.Hbase 清空整个表数据注意：清空表数据是否要保留预分区# truncate会把表分区也清除掉 truncate 'namespace:tableName' # truncate_preserve只清除数据 truncate_preserve 'namespace:tableName2.删除具体数据# 删除emp表中特定的单元格数据 delete 'emp','row','col

数据

表数据

表分区

置顶原创 8月前 355 阅读

Nebula图数据库网络监控无法显示的问题

背景：因公司使用的图数据是Nebula，在部署监控的过程发现无法获取网络监控的前端显示，原因是生产上有虚拟网络，而且不是以eth开头的，这个需要修改源码才能解决1.进入nebula-dashboard的前端修改界面cd /opt/nebula-dashboard/public2.打开main.1314ff9d9190129689ac.js修改device=~"(eth|en)[a-z0-9]*"

重启

虚拟网络

网络监控

置顶原创 9月前 112 阅读

Hbase跨集群同步数据

增量同步add_peer '5', CLUSTER_KEY => "192.168.1.1,192.168.1.2,192.168.1.3:2181:/hbase", STATE => "ENABLED" set_peer_tableCFs '5', { "jfrcs:graph" => ["e", "f", "g", "h", "i", "l", "m", "s", "t"]

apache

hadoop

hdfs

置顶原创 9月前 216 阅读

Hbase报Master is initializing

报错日志 Error running canary: org.apache.hadoop.hbase.client.RetriesExhaustedException: Failed after attempts=2, exceptions: Tue Jul 18 11:04:15 CST 2023, RpcRetryingCaller{globalStartTime=1689649455392,

apache

hadoop

java

置顶原创 9月前 355 阅读

解决impala查询时提示内存不足的问题

提示如下,提示可用内存为0Admission result : QueuedLatest admission queue reason : Not enough aggregate memory available 8245f198ee96ec8:74134 max mem resources 150.00 GB. Needed 38.43 GB but only 0 was available.

服务器

sql

开发人员

置顶原创 9月前 548 阅读

DataNode的FullGC的处理过程

背景：因公司每天中午11:08~11:40之间，DataNode所有的节点都会挂一会，主要是因为任务太过于集中的原因，在加上公司的HDFS的数据存储已经快达到了2P，DataNode的GC参数还是原来的4G，需要针对问题进行处理处理方案：先查看DataNode的GC情况 jps jstat -gcutil 55336查看FGC有1574次1.先把集群中的小文件删除掉#!/usr/bin/bas

hdfs

Java

4G

置顶原创 10月前 245 阅读

调度平台找不到CDH的Spark客户端

一.背景:因为公司使用的调度平台是没有加入到CDH集群,所以只复制了/opt/cdh下的所有文件到调度平台的work节点,公司的平台一直使用的是MR引擎为调度,上周接到一个项目,必须跑spark,调度平台执行了以后报错找不到hive on spark找不到spark的客户端.FAILED: Execution Error,return code 30041 from org.apache.hado

spark

客户端

hive

置顶原创 2023-04-20 23:11:25 134 阅读

Starrocks在建查hive外表时报EOFException: End of file reached before reading fully

1.在Hive外表时没有报错,但是把hive外表的数据插入到Starrcoks内表时报错如下: [Err] 1064 - HdfsOrcScanner.:do open failed. reason = Failed to read 0.error=Error(255): Unknown error 255, root cause=EOFException: End of f

hive

数据

建表

置顶原创 2023-04-15 08:29:05 1049 阅读

HDFS中的数据迁移到阿里云的OSS脚本

#!/bin/bash oss_size1=`hdfs dfs -du -s oss://dbbigdatapro/group/user/tools/meta/hive-temp-table/test_dbjs_home_nav/${date_desc} | awk '{print $1}'` if [[ oss_size1 -gt 0 ]] then echo "${date_desc}数据已

数据

hive

hdfs

置顶原创 2023-04-11 21:44:06 245 阅读

生产环境CDH集群主机加内存导致系统无法启动,重装系统后CDH数据修复的过程

原因:因为主机扩容内存重启以后发现有七台服务器无法进入系统,重启之前Centos7的启动项被修改过导致无法重启,只能重新安装操作系统,但是HDFS的数据是保存到data盘中.系统OS:CentOS Linux release 7.6.1810 (Core) CDH版本:6.2.1 重新安装操作系统的服务器 10.170.12.43 db-pro-datanode-12-43 10.170.12

hdfs

重启

服务器

置顶原创 2023-04-09 14:59:36 516 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客