近日，由 TiDB 社区主办，专属于全球开发者与技术爱好者的顶级挑战赛事——TiDB Hackathon 2020 比赛圆满落幕。今年是 TiDB Hackathon 第四次举办，参赛队伍规模创历届之最，共有 45 支来自全球各地的队伍报名，首次实现全球联动。经过 2 天时间的极限挑战， 大赛涌现出不少令人激动的项目。为了让更多朋友了解这些参赛团队背后的故事， 我们将开启 TiDB Hackath
转载
2021-01-27 09:41:17
168阅读
2评论
文章目录简介：使用场景UDFspark UDF源码:语法：实现方法：案例Hive UDF实现步骤案例：UDAFSpark UDAF（User Defined Aggregate Function）Spark UDAF 实现方法：Spark UDAF 实现步骤：案例：继承`UserDefinedAggregateFunction`：继承`Aggregator`Hive UDAF（User Defi
转载
2023-09-05 21:10:00
253阅读
################## ###################
原创
2022-08-02 17:36:02
175阅读
先说说需求吧。hive中存了银行的很多历史数据。这些历史数据是不可能做更新的。随着时间迁移呢，银行的部门机构可能发生变。那么在银行机构发生变化时，想要统计某个变化机构的一些kpi（指标）。此时我们需要把旧机构号的数据统计到新机构号上。然后就用到了UDF。好了，开始说说具体的解决方式吧。变更机构号，我首先要拿到旧的机构号，以及统计的日期。另外，需要一个配置文件作为外部资源记录机构号的变更（旧机构号，
转载
2023-06-13 21:51:59
102阅读
Tidb架构Tidb架构图，如上图
主要分为3部分
1.TiKV-Server
tikv是负责存储数据，从外部看 TiKV 是一个分布式的提供事务的 Key-Value 存储引擎。类似map数据结构（键值对）
tikv之间是有心跳的，tikv之间的数据都是互相备份的，可以保证数据一致性
既然tikv是负责存储数据的，为什么读写速度这么快？？？？
数据存储效率还是很高
转载
2023-07-09 18:07:57
142阅读
# Spark SQL UDF
## 简介
在Spark SQL中，用户自定义函数（User Defined Function，简称UDF）是一种非常有用的工具，可以允许用户自己定义和使用函数来处理数据。UDF可以在Spark SQL的查询过程中进行自定义的操作，从而提供了更强大的数据处理和分析能力。
本文将介绍Spark SQL中的UDF的概念、使用方法以及一些常见的应用场景。我们将通过代
原创
2023-12-29 10:30:37
56阅读
首先什么是UDF，UDF的全称为user-defined function，用户定义函数，为什么有它的存在呢？有时，你要写的查询无法轻松地使用Hive提供的内置函数来表示，通过写UDF，Hive就可以方便地插入用户写的处理代码并在查询中使用它们，相当于在HQL（Hive SQL）中自定义一些函数。 首先UDF必须用java语言编写，Hive本身就是用java写的。所以想学好hadoop这个分布式框
转载
2023-07-14 23:04:05
572阅读
一、词义解析 UDF(User-Defined-Function) 一进一出 UDAF（User- Defined Aggregation Funcation） 多进一出 （聚合函数，MR） UDTF(User-Defined Table-Generating Functions) 一进多出（生成多行结果）二、
转载
2023-05-23 14:41:29
98阅读
TiDB 的整体架构如下图所示↓底层使用的是KV存储，但却支持MySQL的协议，这是如何做到的呢？先得了解TiDB架构中几个核心模块↓TiDB Server 负责接收 SQL 请求，处理 SQL 相关的逻辑，并通过 PD 找到存储计算所需数据的 TiKV 地址，与 TiKV 交互获取数据，最终返回结果。TiDB Server 是无状态的，其本身并不存储数据，只负责计算，可以无限水平扩展，可以通过负
转载
2024-02-08 23:15:28
93阅读
一：UDF 1.自定义UDF 二：UDAF 2.UDAF 3.介绍AbstractGenericUDAFResolver 4.介绍GenericUDAFEvaluator 5.程序 6.打成jar包 并放入路径：/etc/opt/datas/ 7.添加jar到path 格式： add jar lin
转载
2016-11-18 22:25:00
113阅读
2评论
Impala 中运行 Hive UDF场景：部分查询需要快速返回，使用Impala进行快速、复杂的查询1
原创
2023-05-06 14:59:04
250阅读
文章目录UDF介绍Hive中的内置函数开发一个UDF函数①创建一个普通的maven工程②pom文件中添加hive的依赖③开发UDF代码④打jar包⑤jar包上传服务器Hive中添加UDF函数创建临时的UDF函数创建永久生效的UDF函数编译hive支持自定义的UDF函数 UDF介绍官网：
https://cwiki.apache.org/confluence/display/Hive/Langua
转载
2023-07-14 11:27:09
195阅读
1、发现问题今天在执行一段hive脚本时遇到报错。脚本简化后示例如下：set hive.auto.convert.join=true;
add jar hdfs://nsha/user/dw/udf/dw.hive.udf.jar;
create temporary function myudf as 'com.xxx.dw.hive.udf.myUDF';
select
a.apply_no
转载
2023-06-26 22:33:16
484阅读
目录一、udf函数的使用基础方式1：用@装饰器注册udf函数方法2： 注册udf函数 二、udf函数传入多个参数三、udf函数传入固定参数/常数值/string 方法1：利用 lit（）函数方法2：利用闭包方法3：利用lambda匿名函数+闭包四、传入字典/tuple等特殊数据类型五、传出多个参数六、参考文献
一、udf函数的使用基础 方式1：用@装饰器注册udf函
转载
2023-09-06 07:40:05
993阅读
UDF（Universal Disk Format）是一种用于光盘存储的文件系统，可在Windows、Mac和Linux系统上使用。在Linux系统中，UDF文件系统被广泛用于存储大容量数据，比如视频文件或备份数据。本文将重点介绍在Linux系统上如何使用UDF文件系统。
在Linux系统上，使用UDF文件系统需要安装一个名为「udftools」的软件包。在大多数Linux发行版中，可以通过包管
原创
2024-03-06 12:35:06
338阅读
# MySQL UDF: User-Defined Functions Explained
MySQL UDF (User-Defined Functions) allow developers to extend the functionality of MySQL by creating their own functions. These functions can be written
原创
2023-08-17 14:24:58
51阅读
# 实现Hive UDF的步骤指南
## 概述
在本文中，我将向你介绍如何实现Hive UDF（User-Defined Function）。Hive UDF是一种可以自定义的函数，可用于在Hive查询中执行自定义操作。我们将分为以下几个步骤来完成这个任务：
1. 准备工作
2. 创建Java类
3. 编译和打包
4. 将UDF添加到Hive
5. 在Hive查询中使用UDF
## 步骤详解
原创
2023-08-27 10:39:23
67阅读
Hive自带了一些函数，比如：max/min等，但是数量有限，自己可以通过自定义 UDF来方便的扩展。当 Hive提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数。1. 自定义函数种类虽然hive中为我们提供了很多的内置函数，但是在实际工作中，有些情况下hive提供的内置函数无法满足我们的需求，就需要我们自己来手动编写，所以就有了自定义函数 UDF。UDF分为三种，分别如
转载
2023-09-08 12:53:10
93阅读
Hive中有三种自定义函数分类 1、用户定义函数(user-defined function)UDF; 2、用户定义聚集函数（user-defined aggregate function，UDAF）; 3、用户定义表生成函数（user-defined table-generating function，UDTF)。介绍 UDF操作作用于单个数据行，并且产生一个数据行作为输出。大多数函数都属于这一
转载
2024-06-26 10:54:45
84阅读
TiDB是一个分布式数据库系统，具有高可用性、可扩展性和兼容性等特点。下面是一个TiDB的部署方案及常用命令50条。一、TiDB部署方案安装TiUP：TiUP是一个TiDB生态系统的集成管理工具，你可以使用它来安装和管理各种TiDB组件。curl --proto '=https' --tlsv1.2 -sSf https://tiup-mirrors.pingcap.com/install.sh
原创
2023-10-11 09:27:27
161阅读
