-------------------------------------------------------------经典算法题：大数据处理常见算法题--------------------------------------------------------------
转载
2021-06-11 09:35:20
505阅读
背景: 云计算+大数据时代政策: 突破大数据挖掘技术一.什么是大数据大数据： 人机交互的互联式计算系统（人生产资源，消耗资源，成为资源)1.政界定义推动信息计算能力实现:按需供给信息技术和数据资源充分利用2.学界定义基于互联网的相关的服务增加 使用和交互的模式虚拟化的资源服务3.大数据具体特征稠密与稀疏共存: 局部稠密与全局稀疏冗余与缺失并存: 大量冗余与局部缺失显式与隐式均有: 大量显式与丰富隐
转载
2023-11-27 00:31:35
53阅读
大数据处理，顾名思义，数据量非常大，有些可以一次处理，有些需要分割后对其进行处理。解决这类题型的第一点就是要算出其所需空间的大小；1.给定100亿个整数，设计算法找到只出现一次的整数;解题思路：有100亿个整数，一个整数4字节,共所占空间:100亿*4字节 = 10G*4 = 40G;所有整数的范围为0到42亿9千万；需要找到只出现一次的整数，那么我们就可以直接断定一个数出现的状态就有三个----
转载
2024-02-04 02:43:35
64阅读
算法面试必备-----大数据算法面试必备-----大数据一、Hadoop问题：Hadoop中有哪些组件？问题：Hadoop分为三个核心部分，每个部分是什么，有什么功能？问题：Hadoop的shuffle过程问题：Hadoop分布式集群中NN和DN、SN，指得是什么？他们分别有什么作用？问题：Hadoop集群中请描述RM，NM是什么？有什么作用？问题：Hadoop集群中RM中分为几大模块，每个模块
转载
2023-11-08 21:03:06
74阅读
一、分类算法：对数据分类和预测1. KNN算法即K近邻（K Nearest Neighbour）算法，是一种基本的分类算法，其主要原理是：对于一个需要分类的数据，将其和一组已经分类标注好的样本集合进行比较，得到距离最近的K个样本，K个样本最多归属的类别，就是这个需要分类数据的类别。下面是KNN算法的原理图：上图中，红蓝绿三种颜色的点为样本数据，分属三种类别ω1、ω2和ω3。对于待分类点Xu，计算和
转载
2023-08-23 17:08:26
186阅读
百度百科：百度百科
原创
2022-08-19 16:20:52
138阅读
学习大数据，你需要掌握多少种算法？机器学习算法，有数百种算法：NaiveBayes（朴素贝叶斯）LinearRegression（线性回归）LogisticRegression（逻辑回归）K-Meansclustering（k均值聚类算法）DecisionTrees（决策树）NaïveBayes’Classifiers（朴素贝叶斯分类算法）……是不是看到就觉得头昏眼花了~这些还没完，还有各种各样的
转载
2020-12-16 13:09:36
806阅读
点赞
转载36大数据（36dsj.com)：36大数据»大数据等最核心的关键技术：32个算法 1、A* 搜索算法——图形搜索算法，从给定起点到给定终点...
原创
2022-04-11 15:35:07
217阅读
科学技术的更新与互联网的飞速发展，推动着大数据时代的来临，每天各行各业都在产生数量无法预估的数据碎片。只有在合理的时间内撷取、管理、处理、整理这些庞大的数据库，才能帮助企业获得自己想要的数据，从而更好地提出经营管理对策。那么数据分析有哪几种方法？今天小编就为大家整理一下：1、可视化分析 大数据分析的使用者有大数据分析专家，同时还有普通用户，但是他们二者对于大数据分析最基本的要求就是可视化分析，因为
转载
2023-05-19 22:26:51
293阅读
上周面试数据开发职位主要从公司的视角讲一下记录下面试流水。1. 三面技术一轮hr，面到了cto 整体来看是这一周技术含量最高信息量最大的一个，1到4轮过了4个小时，技术上的问题主要问的对数据分层的理解。1. 一面自我介绍、目前团队的规模多大（20）、你负责的模块是那些（购物、短信、增长）、那几个人在做2. 数据架构图划分（五层架构讲了7分钟左右）3. 指标口径怎么统一 、那些工作（定标准
转载
2024-08-23 10:14:19
99阅读
听说这是个频繁出现的算法题，在某某网站是的排行很靠前。面试腾讯的时候碰到了。两个大数相加。1、是整数；2、两个数无限大，long都装不下；3、不能用BigInteger；4、不能用任何包装类提供的运算方法；5、两个数都是以字符串的方式提供。两个字符串的数字，怎么相加？其实也简单，核心点考的是ASCII码和相加进位的问题。如果用BigDecimal：private static void add2S
原创
2020-12-25 21:41:49
1195阅读
在处理“Java大数据赛题”时，我的目标是使用Java和大数据技术为复杂的应用场景提供解决方案。该赛题通常涉及数据的处理、分析和可视化，因此，我们需要周密的规划和系统的实现流程。接下来，我将详细描述我在解决这类问题时的过程。
### 环境准备
首先，我需要明确软硬件要求。我的开发环境需要安装以下软件和工具：
- **Java JDK**（版本 11 或更高）
- **Hadoop**（版本
经过了一学期的的学习，我们学习到了：私有云上创建与配置虚拟机，Hadoop，在VMware上创建虚拟机，搭建Spark Standalone集群，Scala，RDD，Spark RDD案例分析，Spring Boot框架。当然还做了很多案例和课堂小作业，从刚刚开始的一无所知到现在熟练的搭建spark集群和掌握RDD算子，我们从概念开始，再到实践案例结束。整个过程不仅不枯燥反而很有趣，对学习感兴趣说
转载
2023-09-11 17:25:56
46阅读
一、大数据算法定义在给定的资源约束下，以大数据为输入，在给定时间约束内可以生成满足给定约束结果的算法。（其中的时间约束，不同研究和业务的要求不同。如科学研究可能允许几个月的计算时间，但搜索引擎和个性化推荐要求几分钟甚至几秒计算出结果。）（1）大数据算法可以不是：精确算法、内存算法、串行算法、仅在电子计算机上运行的算法；这与“算法设计与分析”中的算法大不相同。（2）大数据算法不仅是：云计算、MapR
转载
2023-10-16 12:07:33
74阅读
相对于复杂度分析，还有一个对立的分析方法，叫做事后统计法，但它有两个缺点：测试结果非常依赖测试环境测试结果受数据规模的影响很大我们需要一个不用具体的测试数据来测试，就可以粗略地估计算法的执行效率的方法。这就是我们今天要讲的时间、空间复杂度分析方法。一、大 O 复杂度表示法对于大O复杂度表示法，我们可以把它总结成一个公式：其中，T(n) 表示代码执行的时间，即我们平时所说的时间复杂度；n 表示数据规
转载
2024-01-16 04:26:01
185阅读
大数据分析的基本方法理论(一）可视化分析大数据分析的使用者有大数据分析专家，同时还有普通用户，但是他们二者对于大数据分析最基本的要求就是可视化分析，因为可视化分析能够直观的呈现大数据特点，同时能够非常容易被读者所接受，就如同看图说话一样简单明了。大数据分析的基本方法理论(二） 数据挖掘算法大数据分析的理论核心就是数据挖掘算法，各种数据挖掘的算法基于不同的数据类型和格式才能更加科学的呈现出数据本身具
转载
2024-01-06 05:54:13
64阅读
第一部分、十道海量数据处理面试题1、海量日志数据，提取出某日访问百度次数最多的那个IP。首先是这一天，并且是访问百度的日志中的IP取出来，逐个写入到一个大文件中。注意到IP是32位的，最多有个2^32个IP。同样可以采用映射的方法， 比如模1000，把整个大文件映射为1000个小文件，再找出每个小文中出现频率最大的IP（可以采用hash_map进行频率统计，然后再找出频率最大
转载
2023-08-24 15:20:17
118阅读
身体不适，中断几天，接下来会陆续上传一些基本算法的概念、同时会附上一个算法使用例子。在此之前需要先把算法的大分类进行一个简单说明：一、按照机器学习分类1、有监督学习：已经知道why，这个why可以是分类变量的类别标签，也可以是要预测的数据集的值（比如收入）、可能是单类别或者多类别变量，通过目标变量的不一样有监督学习可以分为两大类，如果是鉴别类别称之为：分类，如果是预测的话，例如二手车的销售价格等，
转载
2024-08-11 17:20:29
47阅读
随着人工智能技术的逐步普及，越来越多的行业开始拥抱人工智能，用“人工智能+”助力技术和产业的不断升级和变革，人工智能已经成为我们当前这个时代的标志。对于企业来说，如果想用人工智能来武装自己，就必须搞清楚人工智能技术的核心。人工智能的概念始于1956年的达特茅斯会议，由于受到数据、计算力、智能算法等多方面因素的影响，人工智能技术和应用发展经历了多次高潮和低谷。2006年以来，以深度学习为代表的机器学
转载
2023-09-25 16:31:06
195阅读
当今时代，数据不再昂贵，但从海量数据中获取价值变得昂贵，而要及时获取价值则更加昂贵，这正是大数据实时计算越来越流行的原因。以百 分点公司为例，在高峰期每秒钟会有近万HTTP请求发送到百分点服务器上，这些请求包含了用户行为和个性化推荐请求。如何从这些数据中快速挖掘用户兴趣偏 好并作出效果不错的推荐呢？这是百分点推荐引擎面临的首要问题。本文将从系统架构和算法两方面全介绍百分点公司在实时计算方面的经验和
转载
2023-09-25 19:17:13
50阅读
