Hive基础公司的数据处理方式(四种主流):MR、HIVE、HBase、Spark....非主流:pig、storm、mongodb、mr script.....       流程: 1.使用MR开发:编写MR ,实现mapper、reducer、main在hadoop上运行 2.使用hive开发: 2.1使用内置函数:在hiv
程序开发步骤说明 三步骤:编写、编译、运行编译:是指将我们编写的Java源文件翻译成JVM认识的class文件,在这个过程中, javac 编译器会检查我们 所写的程序是否有错误,有错误就会提示出来,如果没有错误就会编译成功。运行:是指将 class文件 交给JVM去运行,此时JVM就会去执行我们编写的程序了。Java程序结构 main方法:称为主方法。写法是固定格式不可以更改。main方法是程序
转载 2023-06-15 21:56:59
124阅读
当HiveQL跑不出来时,基本上是数据倾斜了,比如出现count(distinct),groupby,join等情况,理解 MR 底层原理,同时结合实际的业务,数据的类型,分布,质量状况等来实际的考虑如何进行系统性的优化。Hive on MR 调优主要从三个层面进行,分别是基于MapReduce优化、Hive架构层优化和HiveQL层优化。MapReduce调优  如果能够根据情况对shuffle
转载 2023-07-14 23:46:15
61阅读
1.1 MLP网络MLP网络是一种应用最为广泛的一种网络,其中DNN就是属于MLP网络,它是一个前向结构的人工神经网络,输入一组向量向前传播输出向量,网络结构如下: 各个层级关系: 其中σ表示激活函数,集中常见的激活函数有:sigmod函数,tanh函数,ReLU函数。 sigmod函数: tanh函数: ReLU函数: 1.2 RNN网络RNN是一种节点定向连接成环的人工神经网络,与DNN网络相
一、rem的定义理解1.rem的定义理解: 通过设置 根元素<html>的font-size的大小,来控制整个html文档内的字体大小、元素宽高、内外边距等,2.rem(font size of the root element)是指相对于根元素的字体大小的单位。  em(font size of the&
转载 4月前
120阅读
Hadoop2.X MR作业流情景概述:作为HFDS的高层建筑,MR被设计与在大型分布式文件系统之上的离线数据运算,在对一些运算时效性要求不高的场景中更适合于MR作业,MR在ETL流不同阶段可扮演不同的角色,甚至在某些场景下基于MR的链式操作可完成ETL的整个流程.MR概述:Hadoop MR(Mapper Reduce) 是一个软件架构的实现,用户处理大批量的的离线数据作业,运行于大型集群中,硬
数学常数ee的含义e的应用 e的含义e是一个重要的常数,但是它的直观含义却不像π那么明了。我们都知道,圆的周长与直径之比是一个常数,这个常数被称为圆周率, 记作π=3.14159…,可是如果我问你,e代表了什么,你能回答吗? 不妨先来看看 维基百科 是怎么说的:“e是自然对数的底数。”但是,你去看“ 自然对数 ”这个条目,得到的解释却是: “自然对数是以e为底的对数函数,e是一个无理数,约等
转载 2023-09-01 13:21:34
729阅读
最近被同事问到开源的代码标准是什么?一时脑海懵然,自己在GitHub上也开源很多代码,最初的想法简单,保存自己的代码(这个代码没有质量可言),方便自己日后查找,随着能力提升,发现之前上传到GitHub上的代码什么鸟用,后来就上传日常开发中的技术难点或者新技术研发记录、项目中需要用到控件封装等,希望能帮助到遇到相同困难的人,能提供一种思路。 开源的概念开放原始码由Bruce Perens
# 代码仓库是什么意思 作为一名经验丰富的开发者,我很高兴能够教授你关于代码仓库的知识。代码仓库是开发团队用于存储和管理代码的地方,它允许多人协同工作,跟踪代码的变化,并保留历史记录。在本文中,我将向你介绍代码仓库的流程,并提供每一步所需的代码和解释。 ## 代码仓库的流程 为了更好地理解代码仓库的概念和工作原理,我们可以用以下步骤来描述整个流程: | 步骤 | 描述 | | --- |
原创 7月前
282阅读
索引(Index) 所谓的Index就是索引其作用与书本中的索引类似,无非就是提高我们检索数据的速度。当然是需要付出一定的代价,这种代价就是数据库所占硬盘空间的增加。其实这也可以理解,我们如果要对一本字典做索引,势必要买点胶贴纸粘在书页上,书的分量增加是必然的了。 索引按照存储结构的不同分为簇索引也叫聚集索引(clustered index)和非簇索引也叫非聚集索引(unclustered ind
转载 2023-07-14 14:11:44
383阅读
代码(也称源程序),是指一系列人类可读的计算机语言指令。 在现代程序语言中,源代码可以是以书籍或者磁带的形式出现,但最为常用的格式是文本文件,这种典型格式的目的是为了编译出计算机程序。 计算机源代码的最终目的是将人类可读的文本翻译成为计算机可以执行的二进制指令,这种过程叫做编译,通过编译器完成。
转载 2020-09-30 16:02:00
1678阅读
2评论
很多刚刚接触java语言的人会问——java是什么?java语言的优点有哪些?其实,Java是一门面向对象编程语言,不仅吸收了C++语言的各种优点,还摒弃了C++里难以理解的多继承、指针等概念,因此Java语言具有功能强 […]很多刚刚接触java语言的人会问——java是什么?java语言的优点有哪些?其实,Java是一门面向对象编程语言,不仅吸收了C++语言的各种优点,还摒弃了C++里难以理解
转载 2023-09-10 15:34:33
263阅读
.apk fileAndroid application package file. Each Android application is compiled and packaged in a single file that includes all of the application's code (.dex files), resources, assets, and manifest
转载 2023-08-18 12:23:14
40阅读
先从一个java基础面试的问题开始引入吧: 问题: 两个对象值相同(x.equals(y) == true),但却可有不同的hash code,这句话对不对? 答案: 不对,有相同的hash code。 下面用我收集的资料说明来分析分析: 首先,想要明白hashCode的作用,你必须要先知道Java中的集合。   总的来说,Java中的集合(
普通用户的一个唯一的标识,只针对当前的公众号有效。也就是说他是唯一的。独一无二的。Token是服务端生成的一串
原创 2022-06-29 14:29:46
1204阅读
这个问题咋一看确实有点不好解释,如果面试问了这个问题该怎么去回答呢?因为这个问题比较基础,所以面试官问这个问题肯定是考量你的Java基础如何。就算不是为了面试,我们也应该有个了解。不能做了几年的开发,遇到这样的问题也懵逼。1 。从定义上来说:Java是一种编程语言,是1995由sun公司发布的。2 。从特征上来说 (1)Java是一种面向对象的语言,Java奉行一切皆对象的思维。即在类之
转载 2023-06-11 18:17:18
317阅读
node基础介绍node概念: node是让javascript可以触及到服务器端的一个运行环境node特性:单线程 每次链接一个用户node都不会创建一个新线程只会用一个;非阻塞式(io) io 输入输出 阻塞式io:网络请求的时候,数据库操作的时候,文件读取的时候 非阻塞式io: node在访问高io操作的一些内容时 不会等待他的完成,而是继续后面的操作,当完成之后会通过回调函数进行返回 特点
阻燃电缆的主要特点是不燃烧,根据GB/T1880.3-2001,GB/T1830.3-2001《电线电缆测试方法》可分为A、B、C三种阻燃等级。即ZA、ZB、ZC。电缆型号前的ZR代表阻燃剂(未标注A、B、C级时,一般判定为C级),ZC代表C级阻燃剂。所以ZR和ZC是同一个意思。下面爬山虎线缆小编详细介绍一下ZA、ZB、ZC三种阻燃等级的区别。阻燃A类是指:电缆安装在试验钢梯上以使总体积中试验所含
   1.  得到Mat类型img的size,可以使用函数img.size(),注意这里有括号。但是在需得到img的行和列时,不需要使用括号,即使用img.rows和img.cols.   2. 已经定义好了img为Mat型,但是没有初始化,在后面程序的任何一个位置可以使用下面的代码初始化img,比如img=Mat(***1,***2),其中***1是矩形区域的大小,***2是
Java语言定义了八种基本数据类型,围绕八种基本数据类型Java语言定义很多运算符,按照表达式中的操作数个数分为单目运算符、双目运算符和三目运算符;按照运算符的功能分为算术运算符、赋值运算符、关系运算符、逻辑运算符、位运算符和其他运算符。算术运算符单目运算:~(按位取反)、! (取非)、-(负号运算符)、 ++(自增)、 - -(自减)~按位取反例程 ++ 与 - -双目运算:+ - * / %
转载 2023-07-22 20:02:06
317阅读
  • 1
  • 2
  • 3
  • 4
  • 5