前言最近的工作主要是在向实时计算平台方向迁移，之前的实时计算任务都是用Flink DataStream API开发的，对于DBA或者分析人员来说，可能开发代码能难度太大，所以我们打算把API封装好做成Flink SQL对外提供服务。那么其中就要涉及到一些是社区不提供的某些功能，比如与业务紧密结合的自定义函数，比如一些Source和Sink的连接器。下面我就给大家讲一讲 如何基于Flink1.11.
转载
2023-08-09 10:04:26
130阅读
1.概述Flink提供了三个模块来对集群进行安全验证，分别是HadoopModule、JaasModule、ZooKeeperModule。安全认证相关参数对应的类SecurityOptions。HadoopModule用来对使用UserGroupInformation进行身份验证的框架（kudu、hbase同步框架、hdfs等）进行认证配置。 JaasModule用来对使用JaasConfig进
转载
2023-09-04 13:32:22
193阅读
手把手教你如何写一个FLink Connecter(一)--sink connector篇前言flink sql目前逐渐被各大公司采用用于做实时数据。相比较代码coding的形式。使用flink sql更加的直观,开发成本更加低廉。目前flink sql中最重要的连接器也支持了各个大型的生态组建。如：Kafka,DynamoDB,Firehose,Kinesis,JDBC,Elasticsearc
转载
2023-08-04 16:45:36
443阅读
一、Flink CDC 2.2 概览经过3个多月的紧张开发，在社区开发者们的共同努力下，Flink CDC 2.2 版本正式发布了：Release Release-2.2.0 · ververica/flink-cdc-connectors · GitHub2.2 版本共有 34 位社区贡献者参与贡献，累计贡献了 110+ commits。一图胜千言，本文通过下图带你一分钟快速了解 Flink C
转载
2023-09-20 16:32:41
76阅读
我们在做实时数据开发的时候，通常要用spark、flink去消费kafka的数据，拿到数据流后会和外部数据库(Hbase、MySQL等)进行维表关联来把数据流打宽。当然了，有些外部数据库不只是存储维度数据，也会有很多事实数据，并且这些数据更新频繁，数据量巨大，但是我们的Flink流也会去实时的join这些巨大的事实表，这就需要选择一个合适的外部数据库作为支持，这个外部数据库一定要满足
转载
2023-07-18 13:17:19
90阅读
1.如果是csa(Cloudera Streaming Analytics)版本的高版本
Hbase可以参考Cloudera官方例子，通过引入官方提供的
flink-
hbase来实现<dependency>
<groupId>org.apache.
flink</groupId>
<artifactId>
flink-
hbase_2.11&l
转载
2023-06-13 18:19:54
584阅读
1. 处理流程：通过flink 从kafka 中获取到数据， 然后在sink 到hbase 中
数据结构
{"address":"深圳","age":20,"createTime":"2021-12-08 22:30","id":1,"name":"hdfs"}2.Hbase 建表hbase(main):002:0> create 'wudluser','cf', { NUMREGIONS
转载
2023-09-20 16:27:45
137阅读
Hbase是一个分布式的、面向列的开源数据库，是hadoop项目的子项目，不同于一般的数据库，是一个适合非机构化数据结构存储的数据库，是一个基于列而不是行的模式。在hadoop生态圈的角色是实时、分布式、高维数据的数据存储。一个高可靠性、高性能、面向列、可伸缩、 实时读写的分布式数据库。在HBase中上面的表格只是一行数据。 &
目录HBaseUtil工具类API介绍获取表存储数据获取数据批量存储数据批量获取数据删除数据最终代码 HBaseUtil工具类 前面我们实现了Flink整合Kafka，可以从Kafka中获取数据进行分析，分析之后我们要把结果存入HBase中，为了方便操作，我们先提前编写一个操作HBase的工具类。HBase作为一个数据库，我们肯定要进行数据的增删改查，那么我们就围绕这几个操作进行开发。API介绍
转载
2023-08-05 01:01:52
329阅读
1. HBase连接的方式概况主要分为：纯Java API读写HBase的方式；Spark读写HBase的方式；Flink读写HBase的方式；HBase通过Phoenix读写的方式；第一种方式是HBase自身提供的比较原始的高效操作方式，而第二、第三则分别是Spark、Flink集成HBase的方式，最后一种是第三方插件Phoenix集成的JDBC方式，Phoenix集成的JDBC操作
1、前言大家在开发Flink的时候，很多时候会把某些固定的维度信息存储在Hbase或者Redis等这些第三方库里，已方便来跟流发生关联查询输出。本文将从如何本地搭建一个Hbase环境开始讲起，到如何构建一个Hbase公共调用类，到如何构建一个异步调用Hbase的公共代码，再到最后实际调用代码后的输出。2、本地利用Docker搭建HBase环境 本地如何搭建Docker环境，之前一篇博客中
转载
2023-09-04 14:17:21
62阅读
1. 自定义Sink写入hbase？使用的是原生的hbase客户端，可以自己控制每多少条记录刷新一次。遇到了几个坑导致数据写不到hbase里边去：集群hbase版本和客户端版本不一致（版本1和版本2相互之间会有冲突）Jar包冲突例如protobuf-java版本冲突，常见的是两个关键错误，java.io.IOException: java.lang.reflect.InvocationTarget
转载
2023-09-06 18:18:25
149阅读
1、插入HBase表传统方法具有什么问题？ 我们先看下 HBase 的写流程： 因为HBase会block写入，频繁进行flush、split、compact等大量IO操作，这样对HBase节点的稳定性也会造成一定的影响，例如GC时间过长，响应变慢，导致节点超时退出，并引起一系列连锁反应，而HBase支持BulkLoad的写入方式，它是利用HBase数据按照特定格式存储在HDFS内这一原理，直接利
前言好久没有更新 “好” 文章了，内心很过意不去，怎么变的这么懒了，哈哈哈哈哈正好，最近数据湖的概念火的一塌糊涂，特别是 Hudi ， 与 Flink 的结合越来越好，可以说 Flink + Hudi 就是未来的趋势，这不，我就来简单讲讲，给 “小白”当个引路人，让知识传播给大家，毕竟我也是从小白看着别人的文章过来的Hudi概述Apache Hudi (简称：Hudi) 使得您能在hadoop兼容
转载
2023-08-18 17:02:10
64阅读
Standalone Cluster HA前面我们配置的 Standalone 集群实际上只有一个 JobManager，此时是存在单点故障的，所以官方提供了 Standalone Cluster HA 模式来实现集群高可用。1. 前置条件在 Standalone Cluster HA 模式下，集群可以由多个 JobManager，但只有一个处于 active 状态，其余的则处于备用状态，Flin
分布式缓存熟悉 Hadoop 的你应该知道，分布式缓存最初的思想诞生于 Hadoop 框架，Hadoop 会将一些数据或者文件缓存在 HDFS 上，在分布式环境中让所有的计算节点调用同一个配置文件。在 Flink 中，Flink 框架开发者们同样将这个特性进行了实现。Flink 提供的分布式缓存类型 Hadoop，目的是为了在分布式环境中让每一个 TaskManager 节点保存一份相同的数据或者
转载
2023-07-11 17:32:22
123阅读
1. 异常突起 HBase集群的某一个RegionServer的CPU使用率突然飙升到百分之百，单独重启该RegionServer之后，CPU的负载依旧会逐渐攀上顶峰。多次重启集群之后，CPU满载的现象依然会复现，且会持续居高不下，慢慢地该RegionServer就会宕掉，慢慢地HBase集群就完犊子了。2. 异常之上的现象 CDH监控页面来看，除CPU之外的几乎所有核心指标都是正常的，磁盘和网络
背景接入Kafka实时数据经过数据处理写入HBase，后续会应用于类似变量系统以及实时日志中，对于变量系统这类中间需要做实时缓存宽表可能使用HBase连接极其频繁，所以是使用客户端还是Sink的方式就看实际情况而定，具体数据处理后的落库Sink还是比较方便的；摘要关键字Flink，Sink，HBase，数据处理，数据流转设计使用的是Max Well数据源，将业务数据接入Kafka，Flink-So
转载
2023-07-06 21:30:59
72阅读
前提概要：之前我们已经实现了动态分流，即通过TableProcessFunction1类把维度数据和事实数据进行了分流处理，接下来就是把数据写入Hbase表和Kafka主题表中：hbaseDS.addSink(new DimSink());
kafkaDS.addSink(kafkaSink);此时的动态分流后的2种数据类型大致为：在代码注释种我已经详尽地介绍了输出数据的情况和代码逻辑，接下来我
转载
2023-09-14 20:46:13
236阅读
问题描述: 使用异步IO 访问hbase, hbase需要kerberos验证，kerberos验证的时候，需要把kerberos验证文件加载到分布式缓存中，但是flink异步IO不支持访问分布式缓存，报错信息如下: 好了，不说废话，直接上解决方案:在执行异步io操作之前，使用map方法构建对hbase的连接，使用静态变量，创建的hbase连接存储在内存中，后续使用hbase客户端的操作可以直接从
转载
2023-07-18 13:19:03
292阅读
