文章目录
- 7.1 系统内置函数
- 7.2 自定义函数
- 7.2.1 自定义 UDF 函数
- 7.2.2 自定义 UDTF 函数
7.1 系统内置函数
1）查看系统自带的函数
hive> show functions;2）显示自带的函数的用法
hive> desc function upper;3）详细显示自带的函数的用法
hive> desc function extended upper;7.2 自定义函数
1）Hive 自带了一些函数，比如：max/min 等，但是数量有限，自己可以通过自定义 UDF来方便的扩展。
2）当 Hive 提供的内置函数无法满足你的业务处理需要时，此时就可以考虑使用用户自定义函数（UDF：user-defined function）。
3）根据用户自定义函数类别分为以下三种：
（1）UDF（User-Defined-Function）
一进一出
（2）UDAF（User-Defined Aggregation Function）
聚集函数，多进一出
类似于：count/max/min
（3）UDTF（User-Defined Table-Generating Functions）
一进多出
如 lateral view explore()
4）官方文档地址
https://cwiki.apache.org/confluence/display/Hive/HivePlugins
5）编程步骤
（1）继承 org.apache.hadoop.hive.ql.UDF
（2）需要实现 evaluate 函数；evaluate 函数支持重载；
（3）在 hive 的命令行窗口创建函数
a）添加 jar
add jar linux_jar_pathb）创建 function
create [temporary] function [dbname.]function_name AS
class_name;（4）在 hive 的命令行窗口删除函数
Drop [temporary] function [if exists]
[dbname.]function_name;6）注意事项:
UDF 必须要有返回类型，可以返回 null，但是返回类型不能为 void；
7.2.1 自定义 UDF 函数
1）创建一个 Maven 工程 Hive
2）导入依赖
<dependencies>
<!--https://mvnrepository.com/artifact/org.apache.hive/hive-exec -->
<dependency>
<groupId>org.apache.hive</groupId>
<artifactId>hive-exec</artifactId>
<version>1.2.1</version>
</dependency>
</dependencies>3）创建一个类
package com.huan;
import org.apache.hadoop.hive.ql.exec.UDF;
public class MyUDF extends UDF {
public int evaluate(int data){
return data+5;
}
}新建一个Ulib目录
[root@Bigdata01 hive]# mkdir Ulib
[root@Bigdata01 hive]# cd Ulib/
[root@Bigdata01 Ulib]# ll
总用量 4
-rw-r--r--. 1 root root 2182 10月 23 22:09 Hive-1.0-SNAPSHOT.jar
[root@Bigdata01 Ulib]# pwd
/opt/module/hive/Ulib打包jar之后放入hive下的Ulib目录
hive (default)> add jar /opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar;
Added [/opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar] to class path
Added resources: [/opt/module/hive/Ulib/Hive-1.0-SNAPSHOT.jar]创建一个函数
hive (default)> create function addFive as 'com.huan.MyUDF';
OK
Time taken: 0.138 seconds普通情况看表
hive (default)> select * from haha;
OK
haha.id
1
2
Time taken: 0.162 seconds, Fetched: 2 row(s)自定义UDF函数之后看表
hive (default)> select addFive(id) from haha;
OK
_c0
6
7
Time taken: 0.197 seconds, Fetched: 2 row(s)7.2.2 自定义 UDTF 函数
1）需求说明
自定义一个 UDTF 实现将一个任意分割符的字符串切割成独立的单词，例如：
Line:"hello,world,hadoop,hive" Myudtf(line, ",") hello
world
hadoop
hive2）过程如下
创建MyUDTF类继承GenericUDTF类后在GenericUDTF类找到如下方法体
public StructObjectInspector initialize(StructObjectInspector argOIs)
throws UDFArgumentException对着GenericUDTF按F4找到GenericUDTFPosExplode类
在GenericUDTFPosExplode类中找到 return ObjectInspectorFactory.getStandardStructObjectInspector(fieldNames, fieldOIs); 返回方法
3）代码实现
package com.hao;
import org.apache.hadoop.hive.ql.exec.UDFArgumentException;
import org.apache.hadoop.hive.ql.metadata.HiveException;
import org.apache.hadoop.hive.ql.udf.generic.GenericUDTF;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.ObjectInspectorFactory;
import org.apache.hadoop.hive.serde2.objectinspector.PrimitiveObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.StructObjectInspector;
import org.apache.hadoop.hive.serde2.objectinspector.primitive.PrimitiveObjectInspectorFactory;
import java.util.ArrayList;
import java.util.List;
public class MyUDTF extends GenericUDTF {
private List<String> dataList = new ArrayList<>();
//定义输出数据的列名和数据类型
@Override
public StructObjectInspector initialize(StructObjectInspector argOIs) throws UDFArgumentException {
//定义输出数据的列名
List<String> fieldNames = new ArrayList<>();
fieldNames.add( "word" );
//定义输出数据的类型
List<ObjectInspector> fieldOIs = new ArrayList<>();
fieldOIs.add( PrimitiveObjectInspectorFactory.javaStringObjectInspector );
return ObjectInspectorFactory.getStandardStructObjectInspector(fieldNames, fieldOIs);
}
@Override
public void process(Object[] args) throws HiveException {
//1.获取数据
String data = args[0].toString();
//2.获取分隔符
String splitKey = args[1].toString();
//3.切分数据
String[] words = data.split( splitKey );
//4.遍历写出
for (String word : words) {
//5.将数据放置集合
dataList.clear();
dataList.add( word );
//6.写出数据操作
forward( dataList );
}
}
@Override
public void close() throws HiveException {
}
}3）打成 jar 包上传到服务器/opt/module/hive/Ulib/udtf.jar
4）将 jar 包添加到 hive 的 classpath 下
hive (default)> /opt/module/hive/Ulib/udtf.jar5）创建临时函数与开发好的 java class 关联
hive (default)> create temporary function myudtf as "com.hao.MyUDTF";6）即可在 hql 中使用自定义的函数
hive (default)> select myudtf(line, ",") word from words;
