一、概述 贝叶斯算法是一系列分类算法的总称，这类算法均是以贝叶斯定理为基础，所以将之统称为贝叶斯分类。而朴素贝叶斯（Naive Bayesian）是其中应用最为广泛的分类算法之一。 朴素贝叶斯分类器是基于一个简单的假定：给定目标值时属性之间相互条件独立。二、核心思想 用p1(x, y)表示数据点（x, y)输入类别1的概率，用p2(x, y)表示数据点（x, y
转载
2023-12-17 11:26:17
127阅读
简介 NaïveBayes算法，又叫朴素贝叶斯算法，朴素：特征条件独立；贝叶斯：基于贝叶斯定理。属于监督学习的生成模型，实现简单，没有迭代，并有坚实的数学理论（即贝叶斯定理）作为支撑。在大量样本下会有较好的表现，不适用于输入向量的特征条件有关联的场景。基本思想 (1)病人分类的例子 某个医院早上收了六个门诊病人，如下表：症状 职业 疾病 ——————————————————&nb
转载
2023-12-13 09:30:28
35阅读
大家好，沉寂了好久之后，终于决定发第二篇文章。闲话少叙，请看正文。 朴素贝叶斯是贝叶斯决策论的一部分，在讲述贝叶斯之前，先阐述一下贝叶斯决策论。 一、贝叶斯决策论 贝叶斯决策论是概率框架下实施决策的基本方法。我们以多分类任务为例来解释其基本原理 1.1贝叶斯条件风险的提出：假设有N种可能的类别标记，即,表示将一个真实标记为的样本误分为所产生的损失。那么基于后验概率P(|),我们可以将样本x分
转载
2024-07-08 10:10:38
61阅读
（一）朴素贝叶斯算法简介。朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。算法的基础是概率问题，分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。朴素贝叶斯假设是约束性很强的假设，假设特征条件独立，但朴素贝叶斯算法简单，快速，具有较小的出错率。在朴素贝叶斯的应用中，主要研究了电子邮件过滤以及文本分类研究。
转载
2023-12-07 18:44:15
102阅读
说起朴素贝叶斯，我脑海中的第一印象是各种独立事件组合发生的概率。 所谓朴素贝叶斯，其实就是根据已知独立事件来求未知组合发生的概率。 举个例子： 当一个病人 患上头痛，职业是农夫，那么他的疾病最可能是什么？ 这就是朴素贝叶斯要估计的事情。 定义：朴素贝叶斯是基于贝叶斯定律和特征条件独立假设的**分类方法，**根据提供的数据集，首先基于特征条件独立假设学习输入/输出的联合概率发布，然后基于此模型，对于
转载
2024-01-21 04:50:13
101阅读
朴素贝叶斯算法仍然是流行的挖掘算法之一，该算法是有监督的学习算法，解决的是分类问题，如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立（条件特征独立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响朴素贝叶斯的实现流程1.理解先验概率和后验概率的区别？&n
转载
2023-12-07 22:48:11
83阅读
朴素贝叶斯（西瓜数据集分类，社区恶意留言分类，垃圾邮件分类，新浪新闻分类），AODE分类器 代码实现以下代码为本人学习后，修改或补充后的代码实现，数据集和原代码请参考：https://github.com/Jack-Cherish/Machine-Learning西瓜数据集分类import numpy as np
from math import exp, sqrt, pi
def getDa
转载
2024-06-14 10:16:03
225阅读
朴素贝叶斯算法简单高效，在处理分类问题上，是应该首先考虑的方法之一。1、准备知识 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。这个定理解决了现实生活里经常遇到的问题：已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率： 表示事件B已经发生的前提下，事件A发生的概率，叫
朴素贝叶斯算法是基于贝叶斯定理和特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出y。1 数学知识贝叶斯定理：特征条件独立假设：2 朴素贝叶斯2.1 算法原理输入空间：输出空间：y={C1，C2，…,CK}。训练集：T={(x1,y1),(x2,y2),…,(xN,yN)}。对于
转载
2024-04-25 10:38:50
153阅读
一 前言 朴素贝叶斯算法是有监督的学习算法，解决的是分类问题，如客户是否流失、是否值得投资、信用等级评定等多分类问题。该算法的优点在于简单易懂、学习效率高、在某些领域的分类问题中能够与决策树、神经网络相媲美。但由于该算法以自变量之间的独立（条件特征独立）性和连续变量的正态性假设为前提，就会导致算法精度在某种程度上受影响。朴素贝叶斯视频：http://p
转载
2023-10-07 15:27:20
157阅读
朴素贝叶斯朴素贝叶斯是经典的机器学习算法之一，也是为数不多的基于概率论的分类算法。在机器学习分类算法中，朴素贝叶斯和其他绝多大的分类算法都不同，比如决策树，KNN,逻辑回归，支持向量机等，他们都是判别方法，也就是直接学习出特征输出Y和特征X之间的关系，要么是决策函数，要么是条件分布。但是朴素贝叶斯却是生成方法，这种算法简单，也易于实现。1.基本概念朴素贝叶斯：贝叶斯分类是一类分类算法的总称，这类算
转载
2024-01-16 14:31:52
179阅读
前言最近学了下几个监督学习的算法，觉得朴素贝叶斯很有意思，来做一个总结。一、概念朴素贝叶斯算法（Naive Bayes Algorithm）用来解决分类问题，尤其是文本分类。在分类问题中，数据常常包含很高的维度（因为每个词代表数据中的一个特征），故其他算法可能不太适合。该算法用于垃圾邮件过滤、情感检测、评分分类等。使用朴素贝叶斯的优势在于其速度，使得高纬度的数据预测变得非常简单。朴素贝叶斯算法模型
转载
2023-11-02 22:57:55
94阅读
朴素贝叶斯哈尔滨工程大学-537算法原理：代码实现：首先导入将会使用到的库：numpy、re、randomimport numpy as np
import re
import random定义一个text_parse函数，将文档进行分词(将整篇文档切分成单词)解析，得到长度大于2的词的列表。def text_parse(big_string):
list_of_tokens = re.s
转载
2024-01-11 22:26:36
53阅读
朴素贝叶斯算法简单高效，在处理分类问题上，是应该首先考虑的方法之一。1、准备知识 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。这个定理解决了现实生活里经常遇到的问题：已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率： 表示事件B已经发生的前提下，事件A发生的概率，叫
转载
2023-08-28 20:45:20
216阅读
1.朴素贝叶斯算法不需要调参，训练集误差大，结果肯定不好。2.朴素贝叶斯分类优缺点 优点： 朴素贝叶斯模型发源于古典数学理论，有稳定的分类效率。对缺失数据不太敏感，算法也比较简单。 常用于文本分类， 分类准确度高，速度快。 缺点： 需要知道先验概率P(F1,F2,…|C)，因此在某些时候会由于假设的先验 模型的原因导致预测效果不佳。3.对缺失数据不太敏感，是指文本中缺少一些词，对结果
转载
2023-06-03 15:17:01
312阅读
朴素贝叶斯是一种简单的分类算法，称它“朴素”是因为，整个形式化过程只做最原始 最简单的假设。朴素贝叶斯的核心思想是：对于待分类项，求解此待分类项在各个类别中出现的概率，哪个类别概率最大，则认为此待分类项就属于那个类别。朴素贝叶斯是贝叶斯决策理论的一部分1 朴素贝叶斯原理1.1 概率论知识既然朴素贝叶斯是求概率，首先介绍概率论的知识。假设\(X\)和\(Y\)相互独立，则有条件独立公式：\[P(X,
转载
2023-10-16 22:37:00
123阅读
代码实现西瓜分类，我们先上数据：我的编程实现过程非常杂糅，没有系统，而且我的python也没学多久，所以用的都是简单的循环、函数。在编程过程中，我把色泽变量记为x1，根蒂记为x2，敲声记为x3，纹理记为x4，脐部记为x5，触感记为x6，密度记为x7，含糖率记为x8，是否为好瓜这一名义变量记好瓜为0，坏瓜为1。接下来，我们引入一些有关朴素贝叶斯算法的基础知识： 首先是计算先验概率： 在实际编程过程中
转载
2024-02-29 10:01:07
44阅读
朴素贝叶斯算法是一种有监督的分类算法，可以进行二分类，或者多分类。基于概率论的贝叶斯定理，应用非常广泛，从文本分类、垃圾邮件过滤器、医疗诊断等等。朴素贝叶斯适用于特征之间的相互独立的场景，例如利用花瓣的长度和宽度来预测花的类型。“朴素”的内涵可以理解为特征和特征之间独立性强。算法python实现如下，共收集两个代码，代码1为使用iris数据集，仅输出预测准确率，代码2使用简单的文字词语，进行预测某
转载
2023-11-15 15:49:44
160阅读
最近工作中涉及到文本分类问题，于是就简单的看了一下朴素贝叶斯算法（Naive Bayes），以前对该算法仅仅停留在概念上的了解，这次系统的查阅资料学习了一下。朴素贝叶斯算法以贝叶斯定理为理论基础，想起大学时学习概率论与数理统计时，老师仅仅讲授贝叶斯定理，却没有引申讲一下朴素贝叶斯算法。上学时，学习很多数学定理时，心里都有个疑问，这个到底有什么用
转载
2023-11-09 05:36:21
71阅读
朴素贝叶斯朴素贝叶斯和其他绝大多数的分类算法都不同。对于大多数的分类算法，比如决策树,KNN,逻辑回归，支持向量机等，他们都是判别方法，也就是直接学习出特征输出Y和特征X之间的关系，要么是决策函数Y=f(X),要么是条件分布P(Y|X)。但是朴素贝叶斯却是生成方法，也就是直接找出特征输出Y和特征X的联合分布P(X,Y),然后用P(Y|X)=P(X,Y)/P(X)得出。贝叶斯公式：P(A|B) =
转载
2023-12-14 02:51:14
132阅读
