在上篇《IT如何才能助力业务实现大数据自助分析》中讲到，在大数据时代，企业IT 为服务业务实现数据分析会上线各类数据分析工具，然而尽管有如此多的分析工具，很多业务仍旧钟爱使用Excel进行业务分析。 Excel人人爱 简单易学快速上手，几乎人人都会。 精细控制数据到单元格级别，随意组织，调整数据格式。 自助式分析，各类分析功
转载
2024-01-19 16:28:44
75阅读
这篇绝对是我分享过的最清楚、最全的一篇教程！能够解决大部分人的数据采集及分析需求！实用、简单，尤其适合excel大户、办公族、业务人员，或者不会编程、不懂数据分析理论的技术小白……图文、动图、视频都有，包你学的明白！01 点对点的采集：直接采集数据
所用工具：表单（协同收集+隐私保护）
简道云在线表单首先想好需要收集哪些数据，添加字段制作表单。表单创建方式有两种，一种是「创建空白表单」，根据
转载
2023-07-26 00:00:27
389阅读
1 SQL娴熟，这体现在ETL的hive阶段，自定义函数，分析函数，SQL各种关联写 (类dba倾向) 2 hive SQL优化要
原创
2023-04-21 00:37:37
116阅读
好消息！好消息！手把手教你用python玩大数据小旭学长的python大数据教程完结撒花，共26P录制完毕，总时长4小时。每10分钟的视频的录制加剪辑时间加起来都要两小时以上，讲得很细但是节奏也很快，信息量超大！感谢各位观众老爷们的支持和一键三连，下次一定！教程链接教程说明大数据时代到来，随着数据的逐步开放，数据工作者们或多或少都要接触到时空数据。小旭学长曾经说：The data is data
转载
2023-07-21 13:45:55
73阅读
说1.输入身份证号码如果我们直接输入身份证号码时，单元格中会出现3.71102E+17。再给大家介绍第二个方法，先输入一个英文状态下的单引号，再输入身份证号也可以完成。2.输入记忆功能当我在A1单元格输入3.同时输入如果想在几个单元格同时输入一样的内容，可以使用同时输入选中要录的区域，输入需要同时录入的数据，用这个方法也可以填充不连续区域的单元格，只需按住ctrl先选择想要填充的单元格，再输入数据
转载
2023-08-09 13:19:33
189阅读
# Go语言在大数据处理中的应用
在当今信息爆炸的时代，大数据已经成为推动各行各业发展的重要动力。作为一种高效的编程语言，Go语言（也称为Golang）因其并发处理能力、性能以及易用性，逐渐受到数据工程师的青睐。本文将探讨Go语言在大数据处理中的应用，并通过代码示例展示其基本使用。
## Go语言的优势
1. **高效的并发支持**：Go语言内置的goroutines提供了轻量级的线程支持，
4. Python大数据编程入门4.1 Python操作MySQL4.2 Spark与PySpark4.2.1 PySpark基础4.2.2 数据输入4.2.2.1 Python数据容器转换为RDD对象4.2.2.2 读取文本文件得到RDD对象4.2.3 数据计算4.2.3.1 map算子4.2.3.2 flatMap算子4.2.3.3 reduceByKey算子4.2.3.4 案例：单词计数4
转载
2023-09-18 16:20:31
122阅读
Java开发是IT行业的经典岗位，行业当中存在普遍的需求，Web开发、Android开发、游戏开发等岗位，基本上Java语言是主力队伍。而进入大数据时代，Java又在大数据方向上有了用武之地。今天我们主要来讲讲Java大数据开发做什么，又该如何进行成长路线规划。在Java程序界流行着一种默认的说法叫「黄金5年」，也就是一个程序员从入职的时候开始算起，前五年的选择直接影响着整个职业生涯中的职业发展方
转载
2023-07-21 16:24:31
59阅读
python在数据科学中非常流行，有大量可供开发人员使用的库和框架，这些库对数据分析和机器学习都特别有用，为处理大数据提供了无数的支持，使python成为大数据最受欢迎的语言。一、Python 环境搭建1.1 安装 Python安装Python最简单的方法是访问 Python 官方网站并下载相应的版本。Python 的官方网站（http://www.python.org/）提供了 Python 的
转载
2023-07-27 13:42:04
111阅读
今天给大家分享一个制作数据大屏的工具，非常的好用，100行左右的Python代码就可以制作出来一个完整的数据大屏，并且代码的逻辑非常容易理解。PywebIO介绍Python当中的PywebIO模块可以帮助开发者在不具备HTML和JavaScript的情况下也能够迅速构建Web应用或者是基于浏览器的GUI应用，PywebIO还可以和一些常用的可视化模块联用，制作成一个可视化大屏，我们先来安装好需要用
转载
2023-08-21 11:06:23
234阅读
python在大数据处理中是个万能的胶水，在很多地方用起来很舒适。在处理大数据时，需要使用一些技术和工具来确保Python代码的高效性和可扩展性。一些有用的技术和工具如下：使用numpy而不是纯Python列表。 numpy是一个Python库，提供了一些高效的数据结构，如n维数组，可以处理大量的数据。对于大型数据集，numpy能够更快地对数据进行处理和计算。使用pandas进行数据处理
转载
2023-07-27 21:32:34
141阅读
面对读取上G的数据，python不能像做简单代码验证那样随意，必须考虑到相应的代码的实现形式将对效率的影响。如下所示，对pandas对象的行计数实现方式不同，运行的效率差别非常大。虽然时间看起来都微不足道，但一旦运行次数达到百万级别时，其运行时间就根本不可能忽略不计了：故接下来的几个文章将会整理下渣渣在关于在大规模数据实践上遇到的一些问题，文章中总结的技巧基本是基于pandas，有错误之处望指正。
转载
2023-06-28 15:30:50
114阅读
今天我们在进行一个Python数据可视化的实战练习，用到的模块叫做Panel，我们通过调用此模块来绘制动态可交互的图表以及数据大屏的制作。而本地需要用到的数据集，可在kaggle上面获取 https://www.kaggle.com/datasets/rtatman/188-million-us-wildfires，如果无法访问kaggle,可以找我获取数据集。导入模块和读取数据那么首先我们先导入
转载
2023-07-29 15:39:48
184阅读
众所周知，java在处理数据量比较大的时候，加载到内存必然会导致内存溢出，而在一些数据处理中我们不得不去处理海量数据，在做数据处理中，我们常见的手段是分解，压缩，并行，临时文件等方法。例如，我们要将数据库（不论是什么数据库）的数据导出到一个文件，一般是Excel或文本格式的CSV；对于Excel来讲，对于POI和JXL的接口，你很多时候没有办法去控制内存什么时候向磁盘写入，很恶心，而且这些API在
转载
2023-08-15 22:59:42
88阅读
如果你有个5、6 G 大小的文件，想把文件内容读出来做一些处理然后存到另外的文件去，你会使用什么进行处理呢？不用在线等，给几个错误示范：有人用multiprocessing 处理，但是效率非常低。于是，有人用python处理大文件还是会存在效率上的问题。因为效率只是和预期的时间有关，不会报错，报错代表程序本身出现问题了~Python处理大数据的劣势：1、python线程有gil，通俗说就是多线程的
转载
2023-06-20 15:27:26
133阅读
搜索是大数据领域里常见的需求。Splunk和ELK分别是该领域在非开源和开源领域里的领导者。本文利用很少的Python代码实现了一个基本的数据搜索功能，试图让大家理解大数据搜索的基本原理。01 布隆过滤器 （Bloom Filter）第一步我们先要实现一个布隆过滤器。布隆过滤器是大数据领域的一个常见算法，它的目的是过滤掉那些不是目标的元素。也就是说如果一个要搜索的词并不存在于我的数据中，那么它可
转载
2023-11-21 23:16:29
64阅读
如果你有个5、6 G 大小的文件，想把文件内容读出来做一些处理然后存到另外的文件去，你会使用什么进行处理呢？不用在线等，给几个错误示范：有人用multiprocessing 处理，但是效率非常低。于是，有人用python处理大文件还是会存在效率上的问题。因为效率只是和预期的时间有关，不会报错，报错代表程序本身出现问题了~所以，为什么用python处理大文件总有效率问题？如果工作需要，立刻处理一个大
转载
2023-09-07 09:08:14
52阅读
在今天的博文里，我们将探讨“Spark做大数据ETL开发”的过程。ETL（抽取、转换、加载）在数据处理领域至关重要，Spark的高性能计算框架使这一流程变得既高效又灵活。接下来，我们会从多个角度切入，深入分析这一主题的各个方面。
### 协议背景
在大数据领域，ETL作为数据处理的关键步骤，包含多个复杂的流程和协议。我们可以从四象限图中理解ETL过程的主要组件，以及它们在数据流中的角色。下图展
一、可能很多初学大数据的伙伴不知道strom是什么，先给大家介绍一下strom：分布式实时计算系统，storm对于实时计算的意义类似于hadoop对于批处理的意义。storm的适用场景。流数据处理。Storm可以用来处理源源不断流进来的消息，处理之后将结果写入到某个存储中去。分布式rpc。由于storm的处理组件是分布式的，而且处理延迟极低，所以可以作为一个通用的分布式rpc框架来使用。当然，其实
转载
2024-09-09 15:54:47
19阅读
在当今的互联网时代，大数据和DevOps成为了IT行业中最热门的话题之一。许多企业都在思考，究竟是优先发展大数据还是DevOps？这个问题让很多人都感到困惑。
大数据是指非常庞大且复杂的数据集，需要使用先进的技术和工具进行存储、处理和分析。大数据可以帮助企业更好地了解市场和客户需求，优化生产流程，提高业务效率，甚至可以用来预测未来趋势。因此，发展大数据对于企业来说至关重要。
另一方面，DevO
原创
2024-02-26 13:26:21
82阅读
