文章目录1 mr_uplift 介绍1.1 介绍1.2 ERUPT 准则2 案例模拟2.1 生成模拟数据2.2 绘制ERUPT Curves曲线2.3 为新的观测结果分配最佳处理方法2.4 协变量X的重要性3 mr_uplift + 倾向得分4 简单看一下：class:MRUplift 1 mr_uplift 介绍1.1 介绍官方地址：https://github.com/Ibotta/mr_u
Uplift 经典模型介绍1. 元学习相关模型1.1 双模型(Two Model, T-Learner)1.
原创
2021-11-16 17:27:11
3550阅读
Uplift 经典模型介绍1. 元学习相关模型1.1 双模型(Two Model, T-Learner)1.2 单模
原创
2022-12-30 11:11:28
1335阅读
通过利用PYTHON 设计处理计算器的功能如：1 - 2 * ( (60-30 +(-40/5) * (9-2*5/3 + 7 /3*99/4*2998 +10 * 568/14 ))- (-4*3)/(16-3*2))我的处理计算基本思路是：解题思路是，需要优先处理内层括号运算－－外层括号运算－－先乘除后加减的原则：1、正则处理用户输入的字符串，然后对其进行判断，判断计算公式是否有括号，有就先将
转载
2024-09-20 11:22:46
221阅读
1. 前言相信看了之前关于集成学习的介绍，大家对集成学习有了一定的了解。本文在给大家介绍下远近闻名的随机森林（RF）算法。随机森林是集成学习中可以和梯度提升树GBDT分庭抗礼的算法，尤其是它可以很方便的并行训练，在如今大数据大样本的的时代很有诱惑力。2. 随机森林原理随机森林是Bagging算法的进化版，也就是说，它的基本思想仍然和Bagging,但是进行了独有的改进。RF使用了CART决策树作为
大数据技术 —— MapReduce 简介 本文为senlie原创，转载请保留此地址：http://www.cnblogs.com/senlie/ 1.概要很多计算在概念上很直观，但由于输入数据很大，为了能在合理的时间内完成，这些计算必须分布在数以百计数以千计的机器上。例如处理爬取得到的文档、网页请
转载
2018-08-16 11:37:00
197阅读
2评论
1.Hive简述 1.1 Hive是什么 Hive是数据仓库.它是构建在Hadoop之上的,通过解析QL(Hive SQL),转换成MR任务(Tez,Spark......)去提交执行. RDBMS一般是写验证,而Hive是读验证,即数据进入不会验证数据是否符合要求,只在读取的时候检查,解析具体字段 1.2 Hive的优缺点 优点: 可以直接访问HDFS,或者其它的
转载
2023-11-13 12:42:49
119阅读
通过双模型法、X-Learner和单模型法实现Uplift建模的简单示例
MR数据流向示意图步骤 1输入文件从HDFS流向Mapper节点。在一般情况下，map所需要的数据就存在本节点，这就是数据本地化计算的优势，但是往往集群中数据分布不均衡(1000台节点，数据冗余度是10，每个文件并不能均匀分布在每个节点上)，而MR的计算槽位是均匀分布在节点上的(配置文件中指定的map和reduce数量)，所以势必有些计算节点需要通过数据传输从别的节点获取计算数据。步骤 2Mapp
转载
2023-12-19 19:51:26
96阅读
一，调优基础 ：1 ，连接暗示 ：需求 ： 让 join 发生在 map 端sql ：select /*+ mapjoin(customers) */ a.*,b.*
from customers a left outer join orders b
on a.id=b.cid;2 ，hive 执行计划hql 在执行的时候，是转化成了什么样的 mr 去执行的。3 ，查看执行计划 ： expla
转载
2023-09-05 15:24:40
111阅读
-- hive的库、表等数据操作实际是hdfs系统中的目录和文件，让开发者可以通过sql语句， 像操作关系数据库一样操作文件内容。一、hiveSQL转化为MR过程 一直好奇hiveSQL转化为MR过程，好奇hive是如何做到这些的，所以在网上找了几篇相关博客，根据自己理解重新画了一份执行过程图，做笔记。 二、h
转载
2023-07-12 09:30:10
165阅读
首先Spark是借鉴了mapreduce并在其基础上发展起来的，继承了其分布式计算的优点并改进了mapreduce明显的缺陷，但是二者也有不少的差异具体如下：MR是基于进程，spark是基于线程Spark的多个task跑在同一个进程上，这个进程会伴随spark应用程序的整个生命周期，即使没有作业进行，进程也是存在的MR的每一个task都是一个进程，当task完成时，进程也会结束所以，spark比M
转载
2023-08-11 23:35:57
243阅读
Pig是一种编程语言，它简化了Hadoop常见的工作任务。Pig可加载数据、表达转换数据以及存储最终结果。Pig内置的操作使得半结构化数据变得有意义（如日志文件）。同时Pig可扩展使用Java中添加的自定义数据类型并支持数据转换。 Hive在Hadoop中扮演数据仓库的角色。Hive添加数据的结构在HDFS（hive superimposes structure on data in HDFS）
转载
2023-09-12 03:47:08
113阅读
Fetch抓取 hive中的某些查询不必使用MR，例如select * from，在这种情况下，hive可以简单的读取表的存储目录下的文件，然后输出查询结果到控制台。 hive.fetch.task.conversion设置成mre，如下查询方式都不会执行MR程序 hive (default)> set hive.fetch.task.conversion=more; hive (defau
转载
2024-05-30 13:39:12
95阅读
三个案例wordcount案例需求分析设计代码温度统计案例需求分析设计代码涉及到的类NullWritableWritableComparable\接口WritableComparator类推荐好友案例需求分析设计代码 wordcount案例需求统计输入的文件中，每个单词出现了几次分析设计在map中将输入的每条数据切割成单词，将key为单词，value为1的计算结果输出默认的分组器会将相同key（
转载
2023-11-07 01:32:59
59阅读
基于hive引擎的计算优化本篇文章主要介绍hive引擎的计算优化，可能也是一篇实打实的对大家实际工作带来帮助的文章，全文主要包含三个部分：hive底层、hive参数调优、常见问题解决一、hive底层 - MapReduce1.MR进程一般一个完成的MR程序在运行时有三个进程，分别如下： （1）MR Appmaster：负责整个调度和过程协调 （2）MapTask：负责Map阶段的整个数据处理流程
转载
2023-11-24 21:07:57
498阅读
1 MR的原理MapeReduce（简称MR）的是大数据计算引擎，相对于Linux awk等工具而已，最大的优势是可以分布式执行，充分利用计算机的多核性能。 一个MR作业（job）是客户端需要执行的一个工作单元，包括输入数据、MR程序和配置信息。作业又可以分成若干个任务（task）来执行，包括map任务和reduce任务。原始数据被MR按照HDFS的快大小（默认128M）分片（split），每一个
转载
2024-01-08 18:12:35
169阅读
一、过程 1、进行排序（自定义Hadoop序列化） 2、进行分组 二、语法 1、自定义分组，继承WritableComparator 2、创建无参构造参数 目的：将比较对象的类传给父类 super(GroupBean.class, true); 注意： a、GroupBean.class是Hadoo
原创
2021-07-14 13:50:14
250阅读
# Hive MapReduce
在大数据领域中，Hive是一个非常强大的数据仓库基础设施，它能够提供类似于SQL的查询语言来处理海量数据。而Hive MapReduce（简称Hive MR）是Hive的核心组件之一，它使用了MapReduce框架来实现Hive的查询功能。
## 什么是MapReduce？
MapReduce是一种用于处理和生成大规模数据集的一种编程模型和算法。它分为两个阶
原创
2023-12-05 16:26:13
34阅读
3. 后期工作（组长）3.1 后期组长的工作分为三部分3.1.1 审查合并3.1.2 发布项目和版本变更3.1.3 Gitlab加标签（项目上线以后）
3.1 审查合并3.1.1 组员发起合并请求后，组长登录gitlab，点击合并请求3.1.2 组长注意千万不要轻一点接受合并请求3.1.3 提交评论3.1.4 如果组员将问题全部修改好，且已经决定要发布了，我们就可以接受合并请求。 3.
