导读： 作为一种基础的数据结构，图数据的应用场景无处不在，如社交、风控、搜广推、生物信息学中的蛋白质分析等。如何高效地对海量的图数据进行存储、查询、计算及分析，是当前业界热门的方向。本文将介绍字节跳动自研的图数据库ByteGraph及其在字节内部的应用和挑战。本文将围绕以下五点展开：了解图数据库适用场景介绍举例数据模型和查询语言ByteGraph架构与实现关键问题分析
--01 了解图数据库目前，
转载
2024-01-13 21:19:22
105阅读
记录字节跳动数据挖掘第三场笔试题题型：单选7道，不定项3道，编程3道（单选涉及Linux, SQL）1. 怎么解决数据倾斜 ① 增加reduce的个数，② 重新设计key，有一种方案是在map阶段时给key加上一个随机数，有了随机数的key就不会被大量的分配到同一节点，待到reduce后再把随机数去掉即可。③ 使用combinner合并，combinner是在map阶段，reduce之前的一个中间
转载
2023-12-06 21:36:09
46阅读
数据分析、数据挖掘与数据建模的区别与关联 三者核心差异在于目标与方法：数据分析通过统计和可视化描述现状（如销售趋势分析）；数据挖掘利用算法从海量数据中发现隐藏规律（如用户行为关联规则）；数据建模则构建数学模型解决实际问题（如房价预测）。技术层面，数据分析多用Excel/SQL，后两者依赖Python/R的机器学习库。应
不愧是大厂????
转载
2021-08-09 15:16:03
235阅读
数据挖掘数据挖掘是指对大量的数据进行分析与挖掘，得到一些未知的，有价值的信息等，比如从网站的用户或用户行为数据挖掘出用户的潜在需求信息。 数据挖掘技术可以帮助我们更好的发现事物之间的规律。 业务场景：发现窃电用户、发掘用户潜在需求、个性化推荐、疾病与症状/疾病与药物之间的规律数据挖掘过程1、定义目标 2、获取数据（爬虫、下载一些统计网站发布的数据、自有数据） 3、数据探索：对数据进行初步的研究和探
转载
2023-09-28 13:42:37
355阅读
一、 数据挖掘特点、二、 数据挖掘组件化思想、三、 朴素贝叶斯 与 贝叶斯信念网络、四、 决策树构造方法、五、 K-Means 算法优缺点、六、 DBSCAN 算法优缺点、七、 支持度 置信度、八、 频繁项集、九、 非频繁项集、十、 Apriori 算法过程
原创
2022-03-08 14:33:39
995阅读
数据挖掘(Data Mining)是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。数据挖掘对象根据信息存储格式，用于挖掘的对象有关系数据库、面向对象数据库、数据仓库、文本数据源、多媒体数据库、空间数据库、时态数据库、异质数据库以及Internet等。数据挖掘流程定义问题：清晰地定义出业务问题，确定数据挖掘的目的。数
转载
2023-08-24 20:46:43
309阅读
目录数据挖掘一、数据挖掘理解二、数据准备1、缺失值处理2、异常值处理3、数据偏差的处理4、数据的标准化5、特征选择三、数据建模1、分类问题2、聚类问题3、回归问题4、关联问题四、评估模型1、混淆矩阵与准确率指标2、评估数据的处理 业务理解、数据理解、数据准备、构建模型、评估模型、模型部署。一、数据挖掘理解业务理解和数据理解思考问题数据挖掘只能在有限的资源与条件下去提供最大化的解决方案把握
转载
2023-08-13 21:36:41
432阅读
教材：数据挖掘基于R语言的实战。1数据挖掘数据挖掘的定义数据挖掘是对大量数据进行探索和分析，以便发现有意义的模式和规则的过程。“有意义”针对的是具体需要用数据分析来回答和解决的问题。数据挖掘活动无监督数据挖掘：对各个变量不区别对待，而是考查他们之间的关系。描述和可视化 关联规则分析 主成分分析、聚类分析等有监督数据挖掘：建立根据一些变量来预测另一些变量的模型，前者被称为自变量，后者被称为因变量。线
转载
2023-08-14 16:52:38
589阅读
数据挖掘 今天，我带领大家来了解一下数据挖掘。 首先，我们先来了解一下数据挖掘的定义。 数据挖掘是指从大量的数据中通过算法搜索隐藏于其中信息的过程。 我们再来看一下数据挖掘的详细解释。 所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平凡过程。数据挖掘是一种决策支持过程，它主要基于人工智能、机器学习、模式识别、统计学、数据库、可视化技术等，高度自动化地分析企业的数
转载
2023-11-22 16:10:24
506阅读
导读：数据采集和存储技术的迅速发展，加之数据生成与传播的便捷性，致使数据爆炸性增长，最终形成了当前的大数据时代。围绕这些数据集进行可行的深入分析，对几乎所有社会领域的决策都变得越来越重要：商业和工业、科学和工程、医药和生物技术以及政府和个人。然而，数据的数量（体积）、复杂性（多样性）以及收集和处理的速率（速度）对于人类来说都太大了，无法进行独立分析。因此，尽管大数据的规模性和多样性给数据分析带来了
转载
2023-06-13 23:03:21
217阅读
数据分析：利用统计分析方法，从数据中提取有用的信息，并进行总结和概括的过程。Python 的胶水特性：Python 可以粘合其它语言代码段。一、数据获取手段 1）数据仓库将所有业务数据汇总处理，构成数据仓库（DW）；特点：全部事实的记录（必须是全面的、完备的、尽可能详细的）；可以方便的以不同维度抽取和整理数据（数据是拿来用的，一般一个特定的场景不会使用全部的数据，数据仓库非常丰富，必须根据不同
转载
2023-12-07 09:31:24
97阅读
1.什么是数据挖掘数据挖掘是在大型数据存储库中，自动地发现有用信息的过程。数据挖掘技术用来探查大型数据库，发现先前未知的有用模式。数据挖掘还可以预测未来观测结果。并非所有的信息发现任务都被视为数据挖掘。例如，使用数据库管理系统查找个别的记录，或通过因特网的搜索引擎查找特定的Web页面，则是信息检索（information retrieval）领域的任务。虽然这些任务非常重要，可能涉及使用复杂的算法
转载
2023-07-04 20:50:59
116阅读
数据挖掘算法原理与实践：决策树感谢阳博导远程指导第二关：决策树算法原理第三关：动手实现ID3决策树 感谢阳博导远程指导第二关：决策树算法原理#encoding=utf8
import numpy as np
# 计算熵
def calcInfoEntropy(label):
'''
input:
label(narray):样本标签
output:
转载
2024-04-18 15:48:27
88阅读
1、气候监测数据集 http://cdiac.ornl.gov/ftp/ndp026b 2、几个实用的测试数据集下载的网站 http://www.fs.fed.us/fire/fuelman/ http://www.cs.toronto.edu/~roweis/data.htmlhttp://www.cs.toronto.edu/~roweis/data.htmlhttp://kdd.
转载
2023-06-12 21:09:04
209阅读
PCA是什么，与数据挖掘有何关系？PCA是一种数据挖掘中常用的一种降维技术，来减少数据的属性 数据挖掘于概理关系？/数据挖掘中数据表是数理统计中的什么？ 数据表是样本容量为n的p维随机样本的观测值https://book.51cto.com/art/201705/539123.htm概率论和数理统计的关系？https://www.zhihu.com/question/20269
review通过上次的学习，我们了解了特征工程的操作流程，对数据的处理技巧。为我们这部分数据建模与调参打下了基础。建模与调参5.1 学习目标 了解常用的机器学习模型，并掌握机器学习模型的建模与调参流程 完成相应学习打卡任务 5.2 内容介绍线性回归模型： 线性回归对于特征的要求； 处理长尾分布； 理解线性回归模型；模型性能验证： 评价函数与目标函数； 交叉验证方法； 留一验证方法； 针对时间序 列
转载
2024-01-13 21:12:00
107阅读
很好的Rattle工具使用介绍1.Rattle是什么 数据挖掘是当今时代的一门核心技术，提供了对大数据的描述，探索，模式的识别和预测。数据挖掘者们从统计，机器学习和计算科学中寻找各种适用的方法和工具。很多专门或通用的数据软件包被先后开发出来。 作为优秀的统计软件包，R语言也提供了强大
转载
2023-10-15 00:20:47
140阅读
2021/3/14 随笔 3/14 第一次更改。
数据挖掘基础参考书使用：《Python数据分析与挖掘实战》（第 2 版）什么是数据挖掘？从大量数据（包括文本）中挖掘出隐含的、未知的、对决策有潜在价值的关系、模式和趋势，
并运用这些知识和规则建立用于决策支持的模型，提供预测性决策支持的方法、工具和过程，
就是数据挖掘。常用的数据挖掘建模工具pythonS
转载
2023-09-08 08:46:40
150阅读
数据挖掘的概念首先来看一下什么是数据挖掘？数据挖掘(Data mining)是指从大量的数据中通过算法搜索隐藏于其中信息的过程。数据挖掘旨在利用机器学习等智能数据分析技术，发掘数据对象蕴含的知识与规律，为任务决策提供有效支撑。数据挖掘是建立新一代人工智能关键共性技术体系的基础支撑。在大数据时代背景下，数据挖掘技术已广泛应用于金融、医疗、教育、交通、媒体等领域。然而，随着人工智能、移动互联网、云计算
转载
2023-08-06 12:03:34
169阅读
