机器学习 之 贝叶斯分类器
贝叶斯分类器学习笔记 判别模型与生成模型P(Y|X)建模有两种策略：第一种是判别式模型，即直接对P(Y|X)来进行建模，例如线性回归模型，SVM，决策树等，这些模型都预先制定了模型的格式，所需要的就是通过最优化的方法学到最优参数Θ即可；第二种是生成式模型，这种策略并不直接对P(Y|X)进行建模，而是先对联合概率分布P(X,Y)进行建模，然后依据贝
转载
2024-07-08 09:58:25
115阅读
第七章 贝叶斯分类器学习
1. 解释先验概率、后验概率、全概率公式、条件概率公式，结合实例说明贝叶斯公式，如何理解贝叶斯定理？ 例子：假设有一个容器，里面装满了可能有偏见的硬币 1）硬币类型1是公平的，50%正面/ 50%反面浴缸里40%的硬币是1型的。 2） 硬币类型2产生70%的正面。35%的硬币是2型硬币 3）型硬币产生20%的正面。25%的硬币
转载
2024-08-19 16:37:00
56阅读
import numpy as npfrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets('MNIST_data', om = 10desimon = ...
原创
2024-04-01 13:42:56
156阅读
# 用Python简单实现贝叶斯分类器
## 引言
贝叶斯分类器是一种常用的机器学习算法，它基于贝叶斯定理来进行分类。对于刚入行的小白来说，可能对于实现一个贝叶斯分类器还比较陌生。在本文中，我将向你展示如何用Python简单实现贝叶斯分类器的过程，帮助你理解并掌握该算法。
## 贝叶斯分类器的流程
下面是贝叶斯分类器的一般流程：
| 步骤 | 描述 |
|---|---|
| 1. 数据准备
原创
2023-12-18 07:39:27
104阅读
贝叶斯分类器什么是贝叶斯分类器贝叶斯分类器是一类分类器的总称，这些分类器均以贝叶斯定理为基础，故统称为贝叶斯分类器。这些分类器中最简单的是朴素贝叶斯分类器，它几乎完全按照贝叶斯定理进行分类，因此我们从朴素贝叶斯分类器说起。贝叶斯定理：贝叶斯定理是概率论中一个比较重要的定理，在讲解贝叶斯定理之前，首先回顾一下贝叶斯定理的基础：条件概率和全概率公式。条件概率：设\(A,B\)是两个事件，且\(P(A)
转载
2024-05-10 20:23:11
47阅读
一 高斯朴素贝叶斯分类器代码实现网上搜索不调用sklearn实现的朴素贝叶斯分类器基本很少，即使有也是结合文本分类的多项式或伯努利类型，因此自己写了一遍能直接封装的高斯类型NB分类器，当然与真正的源码相比少了很多属性和方法，有兴趣的可以自己添加。代码如下(有详细注释)：class NaiveBayes():
‘‘‘高斯朴素贝叶斯分类器‘‘‘
def __init__(self):
self._X_
转载
2023-12-14 11:22:10
122阅读
英文出处：machinelearningmastery.com。欢迎加入翻译组。参考：http://python.jobbole.com/81019/机器学习之用Python从零实现贝叶斯分类器朴素贝叶斯算法简单高效，在处理分类问题上，是应该首先考虑的方法之一。通过本教程，你将学到朴素贝叶斯算法的原理和Python版本的逐步实现。更新：查看后续的关于朴素贝叶斯使用技巧的文章“Better Naiv
翻译
2024-07-15 10:30:02
25阅读
朴素贝叶斯分类器朴素贝叶斯分类器的训练速度比线性模型更快。这种高效率所付出的代价是，朴素贝叶斯模型的泛化能力要比线性分类器（如 LogisticRegression 和 LinearSVC）稍差。朴素贝叶斯模型如此高效的原因在于，它通过单独查看每个特征来学习参数，并从每个特征中收集简单的类别统计数据。scikit-learn 中实现了三种朴素贝叶斯分类器：GaussianNB、Ber
转载
2023-12-17 15:51:52
104阅读
条件概率P(A|B) = P(B|A)* P(A) / P(B)全概率公式P(B) = P(A1B) + P(A2B) + ··· + P(AnB)
= ∑P(AiB)
= ∑P(B|Ai)* P(Ai) （i=1，2，····，n）贝叶斯公式是将全概率公式带入到条件概率公式当中，对于事件Ak和事件B有：
P(Ak|B) = (P(Ak)* P(B|Ak)) / ∑P(B|Ai)* P(Ai
转载
2024-04-04 20:11:54
102阅读
1.贝叶斯决策论 贝叶斯分类器是一类分类算法的总称，贝叶斯定理是这类算法的核心，因此统称为贝叶斯分类。贝叶斯决策论通过相关概率已知的情况下利用误判损失来选择最优的类别分类。 “风险”(误判损失)= 原本为cj的样本误分类成ci产生的期望损失，期望损失可通过下式计算：为了最小化总体风险，只需在每个样本上
转载
2024-03-29 07:00:00
80阅读
【1】贝叶斯分类器请看链接。原理就是P(ab)。公式如下：【2】正态分布下的贝叶斯分类器，由于1.其似然函数具有特殊形式，指数部分为马氏距离。所以可以ln化。注意ln化的原因：1.e次数一般要ln转化为加法 2.指数为马氏距离2.最大后验概率是用来比大小的，所以与i无关的项是可以消掉的，考虑化简。这不失于一种加快计算的方法。【3】几种特殊形式1.各类别具有相同的斜方差矩阵，且协方差矩阵
转载
2024-04-06 13:09:37
37阅读
朴素贝叶斯；半朴素贝叶斯；贝叶斯网；贝叶斯python实现
贝叶斯分类器（Bayesian decision theory）一、知识脉络 二、基本原理 贝叶斯决策论通过相关概率已知的情况下利用误判损失来选择最优的类别分类。 “风险”（误判损失）= 原本为cj的样本误分类成ci产生的期望损失（如下式，概率乘以损失为期望损失） 为了最小化总体风险，只
转载
2023-10-30 16:40:16
90阅读
基于C++的朴素贝叶斯分类器github链接 使用c++编写的朴素贝叶斯分类器，其中似然中的离散分量，以及先验概率使用拉普拉斯平滑，连续分量为正态分布。警告，此代码仅为初学学习之用，请勿用作任何工程项目！一、跑起来方式一使用vscode+cmake插件或者Clion打开目录。然后直接编译运行。方式二1、确保安装cmake环境，没有请先装cmake。 2、在工程目录下键入：mkdir build
c
转载
2023-12-01 11:29:02
53阅读
之前已经介绍了先验概率，后验概率，类条件概率，现在举例说明其应用。问题如下 比如：有如下的需求，要判断某一句英语是不是侮辱性语句分析思路对于机器来说，可能不容易分辨出某一句话是不是侮辱性的句子，但是机器可以机械的进行分析，何为机械的进行分析，就是判断某一个句子中侮辱性的单词是不是达到一定数量（当然这个只是判决准则中很简单的一种）。这个方法叫词集法！代码思路规定标记：w0 （值为0）表示非侮辱性
转载
2024-06-21 08:41:10
24阅读
其实我第一次听到朴素贝叶斯分类器时，又看到一大堆的公式，下意识地以为很难。随着后来阅读了一些文献，便觉得不那么难了。可是随着了解的深入，又发现我以为的并不总是我以为的，一些细节处还是没想明白。在这里对朴素贝叶斯作一个总结。首先，亮一下贝叶斯定理： Ｐ(c|x) ＝ P(x|c)P(c)/P(x)代入一个具体的分类问题中，c代表类别，x代表特征。那么现在的情况是，给你一堆训练数据，训练一个朴素贝叶
转载
2023-11-11 21:32:21
32阅读
贝叶斯决策论 (Bayesian decision theory)是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率都己知的理想情形，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的类别标记。贝叶斯模型的基本形式为\[P(c|{\bf{x}}) = \frac{{P(c)P({\bf{x}}|c)}}{{P({\bf{x}})}}\]公式的意义在于根据条件概率公式推得样本$\bf
转载
2024-01-16 14:37:41
45阅读
理论基础我没复制过来，我只在代码基础上加了注释。注释比较基础也比较详细，我也是初学因此该注释为小白学习自用，有错误敬请指出。import math
import random
all_num = 0 # 样本总数
cla_num = {} # 字典，分类的集合，里面是类别
cla_tag_num = {} # 字典，分类的集合，里面元素还有字典
landa = 0.6
转载
2023-06-19 05:49:38
73阅读
1、条件概率P(A|B)=P(AB)P(B)即：在事件B发生的条件下事件A发生的频率。等于事件A、B同一时候发生的频率除以事件B发生的频率，能够通过文氏图来理解条件概率。由条件概率能够得到乘法公式：P(AB)=P(A|B)P(B)，同理：P(AB)=P(B|A)P(A)2、全概率公式设B1,B2,...,Bn为一完备事件组，即相互之间交集为空，且总的并集为1。则对事件A有：P(A)=∑ni=1P(
原创
2022-01-10 17:30:04
106阅读
概率和统计学作为数学中重要的一支，同样在机器学习中占据中重要的地位。读者们
转载
2023-05-01 18:38:45
192阅读
感觉自己从开始到现在到是学了很多，但是并没有记住什么，一开始就意识到应该要自己去巩固复习，但是迟迟没有行动，今天就开始回顾一下之前的贝叶斯分类器吧！一、贝叶斯分类器简介贝叶斯分是各种分类错误概率最小或者在预先给定代价的情况下平均风险最小的分类器，它是一种最基本的统计分类方法，起其分类原理是通过某对象的先验概率，利用贝叶斯共识计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该
转载
2024-04-01 05:33:48
163阅读
