最近项目中为了提升Python的运行效率，要使用到multiprocessing模块，场景其实不算复杂但是为了避免带来一些隐晦的bug，我觉得还是深入了解一下它比较好。因为当我使用multiprocessing的时候我觉得Python替我做的事情太多了（其实也就是用multiprocessing太方便了）给我带来了快感却没有安全感，还有一个主要的原因就是我觉得fork是最”奇幻”的函数。 可能会
转载
2024-01-16 04:53:42
56阅读
数据分析手册翻译及读后感， 英文原版资料可下载：introduction to data analysis handbook数据分析过程要素：•目的 Purpose •问题 Questions •数据收集 Data Collection •数据分析程序和方法 Data Analysis Procedures and Methods •解释/确定调查结果 Interpretation/Identif
转载
2024-06-08 23:27:35
31阅读
不用任何公开参考资料，估算今年新生儿出生数量 解答：1）采用两层模型（人群画像人群转化）：新生儿出生数=Σ各年龄层育龄女性数量各年龄层生育比率 2）从数字到数字：如果有前几年新生儿出生数量数据，建立时间序列模型（需要考虑到二胎放开的突变事件）进行预测 3）找先兆指标，如婴儿类用品的新增活跃用户数量X表示新生儿家庭用户。Xn/新生儿n为该年新生儿家庭用户的转化率，如X2007/新生儿2007位为20
转载
2023-08-21 09:13:32
633阅读
1.数据分析方法分类业务数据分析师（对数学建模的要求较低）、数据挖掘（对业务与数学建模的要求较高）、大数据分析（需要一定的编程能力）。层层进阶2.职位进阶3.数据分析结果数据可视化4.数据分析的流程在业务理解中要多问问题，了解需求，知道问题的核心。可以看书籍《学会提问》。5. 围绕数据分析师的三大类工作内容
原创
2022-04-15 21:35:17
1588阅读
当我们谈论IT服务管理（ITSM）世界中的大数据时，这里有两个非常不同的概念： • IT为业务提供的大数据工具/服务：对关键的业务运营数据进行数据索引。 • IT运营中的大数据：处理和利用复杂的IT运营数据。大数据中的业务运营服务在竞争日益激烈，数据驱动的世界中，企业管理者都在寻找能够有效管理和解释业务数据（尤其是大数据）的方法。数字化的业务操作，如：电子商务网站和银行移动APP，它们产生了大量的
转载
2023-10-03 08:52:17
206阅读
大数据技术和数据分析有什么关系大数据经过多年发展形成了一个完整的产业链和技术链，大数据的产业链是围绕技术链来打造的，而大数据的技术链则围绕数据价值化这个中心来展开，涉及到数据的采集、存储、安全、分析、呈现和应用，那么大数据技术和数据分析有什么关系呢?1、从大数据的技术链来看：数据分析是其中的重要一环，也是目前大数据价值化的核心环节，所以很多人也把大数据就理解为数据分析了。虽然数据分析比较重要，但是
转载
2024-01-13 20:01:43
252阅读
一、TuShare简介和环境安装 TuShare是一个著名的免费、开源的python财经数据接口包。其官网主页为：TuShare -财经数据接口包。该接口包如今提供了大量的金融数据，涵盖了股票、基本面、宏观、新闻的等诸多类别数据（具体请自行查看官网），并还在不断更新中。TuShare可以基本满足量化初学者的回测需求 环境安装：pip install tushare。如果是老版本升级，可以用升级
转载
2023-12-09 14:01:58
40阅读
在当下这个大数据时代，数据分析早已不是一个岗位，而是许多从业者的核心竞争力。无论是在医疗、旅游还是互联网行业，甚至不论你是做运营还是研发，掌握数据分析能力都是基本功之一。其实也很好理解，我们的生活和工作早就离不开和各种数据打交道了。那么掌握数据分析能力到底有什么用呢？我们可以来看看。 对于运营性质的工作来说，数据是一切工作的驱动力，数据作为一种度量方式，能真实的反映产品运营的状况，帮助我们进一
转载
2023-11-29 10:34:29
74阅读
这是python数据分析的学习部分啦~ 由于数据分析，涉及到绘图、计算撒的，所以我转向用Jupyter编辑器的使用，在很前面的一篇博客也介绍了怎么安装Python 、 PyCharm 、 Anaconda 介绍及安装 当然也可以不用通过 Anaconda，可以直接通过pip install jupyter命令直接安装呀，下面就开始较详细介绍一下Jupyter Notebooks好啦，正文开始 Ju
转载
2024-01-26 09:50:17
68阅读
1. 什么是数据分析1) 数据分析发展背景进入到 21 世纪以后，伴随着互联网的迅速发展，大数据应运而生，越来越多的数据被不断的挖掘出来，形成了“数据为王”的时代。就拿我们自己举例子，比如你的购物习惯、你的喜好等等，这些都会组成数据，对你购物习惯的分析会帮助购物平台更精准的推荐商品，这只是数据分析应用的冰山一角，它还可以应用到金融领域、交通领域、畜牧业等等。随着数据规模越来越庞大，单靠人力重复的脑
转载
2023-07-10 15:24:47
138阅读
数据分析之MySQL学习参考课程：戴师兄数据分析原始幕布格式笔记：戴师兄数据分析启蒙课：SQL基础语法+运行原理+云端数据库搭建.opml，提取码: jb27基础语法语法结构：select--from--where--group by--having--order by--limit运行顺序：from--where--group by--having--order by--limit--selec
转载
2023-09-21 14:20:23
189阅读
二、数据预处理—数据清洗及特征处理我们拿到的数据通常是不干净的，所谓的不干净，就是数据中有缺失值，有一些异常点等，需要经过一定的处理才能继续做后面的分析或建模，所以拿到数据的第一步是进行数据清洗，本章将学习缺失值、重复值、字符串和数据转换等操作，将数据清洗成可以分析或建模的样子。1、缺失值观察、检索与处理载入库与数据1.1、观察：查看每一个特征缺失值的个数#方法一
pd.info()#方法二
df
转载
2024-08-26 00:02:59
108阅读
2022年数据与分析有哪些新趋势？今年数据和分析主要趋势：1.激活多样性和活力使用自适应AI系统推动增长和创新同时应对全球市场的波动； 2.增强人员能力和决策以提供由业务模块化组件创建的丰富的、情境驱动的分析； 3.将信任制度化以大规模地实现数据和分析的价值。管理AI风险并实施跨分布式系统、边缘环境和新兴生态系统的互联治理。现在应该根据关键数据和分析技术趋势对于业务优先事项的紧迫性和匹配性来监测、
转载
2024-01-11 13:38:43
94阅读
数聚智慧决策门户SDP （Smart Decision Platform）是企业级的商业智能数据门户，以信息的民主与集中来改善企业的管理水平，保护企业已有报表与数据分析资产。SDP通过兼容开放的特性、灵活的用户权限配置、便捷的报表访问体验以及高效的互动交流方式，实现企业报表的高度集成、权限管控与协同共享。 数聚智慧决策门户是数聚公司在总结了为多家著名企业实施商业智能BI（Business I
转载
2024-02-06 07:11:11
67阅读
当所要分析的样本特征过多时，我们可以采用主成分分析即PCA（principal component analysis）对数据进行降维和可视化。代码引自《python机器学习》PCA算法及其实现PCA算法的步骤如下： 1）对原始维数据集做标准化处理。 2）构造样本的协方差矩阵。 3）计算协方差矩阵的特征值和相应的特征向量。 4）选择与前个最大特征值对应的特征向量，其中为新特征空间的维度。 5）通过前
转载
2024-02-03 22:52:10
122阅读
目录一、Apache Pig概述二、Apache Pig架构1）架构图2）Apache Pig组件1、Parser（解析器）2、Optimizer（优化器）3、Compiler（编译器）4、Execution engine（执行引擎）三、Apache Pig安装1）下载Apache Pig2）配置环境变量3）修改配置四、Apache Pig执行模式1）本地模式2）Tez 本地模式3）Spark 本
转载
2023-12-20 21:04:58
199阅读
统计杂碎记录PS: 记录一些自己平时遇到的数理统计概念，持续更新中，后续补充学习1. nested random intercept effects 建议参考：Visualizing Nested and Cross Random Effects2. 方差膨胀因子Variance Inflation Factor (VIF) 这个概念呢其实在做PCA, RDA或者其它类似的分析时可能会用到。 首先
转载
2023-12-22 22:15:08
148阅读
时间序列一、定义二、构成要素三、时间序列预测模型3.1 指数平滑法3.2 ARIMA模型3.3霍尔特-温特模型 一、定义时间序列（或称动态数列） 是指将同一统计指标的数值按其发生的时间先后顺序排列而成的数列。时间序列分析的主要目的是根据已有的历史数据对未来进行预测。经济数据中大多数以时间序列的形式给出。根据观察时间的不同，时间序列中的时间可以是年份、季度、月份或其他任何时间形式。二、构成要素1）
转载
2023-08-11 20:43:33
247阅读
一、什么是AARRR模型，以及为什么它如此受欢迎？让我们深入了解Dave McClure的模型。AARRR代表：用户拉新Acquisition 用户激活Activation 用户留存Retention 用户推荐Referral 商业收入Revenue二 、RARRA模型是托马斯·佩蒂特Thomas Petit和贾博·帕普Gabor Papp对于海盗指标-AARRR模型的优化。RARRA模型突出了用
转载
2023-10-03 11:30:01
222阅读
简介二代测序最常用的质量评估软件是FastQC，多样本时可进一步结合MultiQC。此外速度超快的fastp也特别推荐，而且包括质量评估、质量控制等功能，可以说是国产软件之光，详见下方详细教程：数据的质量控制软件——FastQC整合QC质控结果的利器——MultiQC极速的FASTQ文件质控+过滤+校正fastp三代纳米孔(Nanopore)测序数据与二代Illumina测序数据相比，具有读长更长
转载
2023-07-14 17:36:45
483阅读
