说说 sigmoid 函数为什么用于二分类问题？之前在学习 《Pattern Recognition and Machine Learning》这本书的时候，写笔记的时候，记录了 sigmoid 函数的推导，今天专门单拎出来从下面几个方面再总结一遍，再讲的细致一点。伯努利实验伯努利分布二元分类指数族函数sigmoid 函数的推导伯努利实验在介绍伯努利分布之前，先介绍一个有名的实验 – 伯努利实验。
AUC是指:从一堆样本中随机抽一个，抽到正样本的概率比抽到负样本的概率大的可能性! AUC是一个模型评价指标，只能用于二分类模型的评价，对于二分类模型，还有很多其他评价指标，比如logloss，accuracy，precision。如果你经常关注数据挖掘比赛，比如kaggle，那你会发现AUC和logloss基本是最常见的模型评价指标。为什么AUC和logloss比accuracy更常用呢？
前置知识线性分类指存在一个线性方程可以把待分类数据分开，或者说用一个超平面能将正负样本区分开，表达式为 。线性分类器线性分类器就是用一个“超平面”将两个样本隔离开，如：二维平面上的两个样本用一条直线来进行分类；三维立体空间内的两个样本用一个平面来进行分类；N维空间内的两个样本用一个超平面来进行分类。常见的线性分类器有：LR，贝叶斯分类，单层感知机、线性回归，SVM（线性核）等。线性分类器速度快、编
转载
2024-04-03 20:19:46
87阅读
LDA是一种监督学习的降维技术，也就是说它的数据集的每个样本是有类别输出的。这点和PCA不同。PCA是不考虑样本类别输出的无监督降维技术。LDA的思想可以用一句话概括，就是“投影后类内方差最小，类间方差最大”。什么意思呢？ 我们要将数据在低维度上进行投影，投影后希望每一种类别数据的投影点尽可能的接近，而不同类别的数据的类别中心之间的距离尽可能的大。下面，我们给出了 LDA 的一个简单的实现版本，模
转载
2024-06-06 11:57:46
54阅读
很多基础知识有些遗忘了，也算作是一种复习。我尽量推导的关键的地方写写，建议大家还是要手动推一推公式增加理解。Linear Discriminant Analysis (也有叫做Fisher Linear Discriminant)是一种有监督的（supervised）线性降维算法。与PCA保持数据信息不同，LDA是为了使得降维后的数据点尽可能地容易被区分！假设原始数据表示为X，（m*n矩
转载
2024-09-21 13:27:49
58阅读
我在一开始学习数据科学中机器学习(Machine Learning)的时候重点都放在理解每个模型上，但是真的到用机器学习去解决问题的时候发现自己完全没有思路。所以今天的主要目的是用一个简单的例子和大家分享下使用Python的三方包sklean解决机器学习的思路。文中使用了Kaggle上著名的Titanic数据集，主要利用了Python三方包pandas，sklearn，和matlop
转载
2024-04-26 14:37:40
93阅读
二分查找三种模板模板 #1 (left <= right)left,right二分查找的最基础和最基本的形式。 查找条件可以在不与元素的两侧进行比较的情况下确定（或使用它周围的特定元素）。 不需要后处理，因为每一步中，你都在检查是否找到了元素。如果到达末尾，则知道未找到该元素。模板 #2 (left < right)[left,right)(半闭半开区间)一种实现二分查找的高级方法。
转载
2024-06-03 16:42:53
20阅读
GBDT二元分类算法GBDT(梯度提升树)二元分类1.什么是GBDT(梯度提升树)？2.GBDT处理二元分类详解3.GBDT二元分类算法具体实现3.1构造CART回归树3.2GBDT具体实现4.数据集 GBDT(梯度提升树)二元分类1.什么是GBDT(梯度提升树)？如果你还不是很熟悉GBDT的基本原理，请参考以下两篇博文 1.GBDT(梯度提升树)基本原理及python实现 2.GBDT原理详解
转载
2023-10-21 09:53:45
82阅读
# 二分类问题及其实现：Python代码示例
在机器学习领域，二分类问题是最基础也是应用最广泛的分类问题之一。它的目的是将数据分为两个独立的类别，比如判断邮件是“垃圾邮件”还是“正常邮件”。在这篇文章中，我们将探讨二分类的概念，数据准备，模型训练和预测等步骤，并结合Python代码示例进行详细说明。
## 一、二分类问题简介
二分类问题是指从给定的特征中预测结果是属于两个类别之一的任务。在这
基础监督学习经典模型监督学习任务的基本架构和流程： 1.准备训练数据； 2.抽取所需特征，形成用于训练特征向量(Feature Vectors)； 3.训练预测模型(Predictive Model)； 4.抽取测试数据特征，得到用于测试的特征向量； 5.使用预测模型对待测试特征向量进行预测并得到结果(Label/Target)。分类学习 1.二分类（Binary Classifica
转载
2023-11-03 05:55:58
147阅读
上一篇文章讲了GBDT的回归篇，其实这一篇文章的原理的思想基本与回归相同，不同之处在于分类任务需用的损失函数一般为logloss、指数损失函数。 回顾下logistic regression有助于我们进一步的了解GBDT是如何进行分类的，线性模型是我们使
转载
2024-03-31 19:30:17
86阅读
实验目的和要求： 分类问题是数据分析和挖掘的经典问题，用于预测数据对象的离散、无序的类别。分类算法反应的是如何找出同类事务的共同性质的特征型知识和不用事物之间的差异性特征知识。分类通过有指导的学习训练建立分类模型，并使用模型对未知分类的实例进行分类。通过python 语言实现对二分类问题的解决，掌握数据挖掘的过程和思路。 实验内容： 1. 数据集创建 三个文件格式相同，共四栏数据，前三栏为人的三个
转载
2024-05-31 15:36:26
73阅读
文章目录一、相关概念1.logistic回归1.1前言1.2目的1.3流程1.4Sigmoid函数1.4.1公式1.4.2图像1.5优缺点2.最优化方法2.1梯度上升算法2.1.1梯度公式2.1.2例子2.1.3迭代公式2.1.4训练步骤2.2梯度下降算法2.2.1与梯度上升算法的区别2.2.2迭代公式2.2.3训练步骤2.3随机梯度上升算法2.3.1训练步骤3.分类3.1二分类3.2多分类3.
转载
2023-10-11 09:46:36
606阅读
本篇记录一下如何使用bert进行二分类。这里用到的库是pyotrch-pretrained-bert，原生的bert使用的是TensorFlow，这个则是pytorch版本。本篇文章主要参考了基于BERT fine-tuning的中文标题分类实战的代码以及如何用 Python 和 BERT 做中文文本二元分类？的数据。本文的github代码地址：https://github.com/sky9452
转载
2023-11-14 21:42:31
135阅读
前言最近在b站发现了一个非常好的 计算机视觉 + pytorch实战 的教程，相见恨晚，能让初学者少走很多弯路。 因此决定按着up给的教程路线：图像分类→目标检测→…一步步学习用 pytorch 实现深度学习在 cv 上的应用，并做笔记整理和总结。up主教程给出了pytorch和tensorflow两个版本的实现，我暂时只记录pytorch版本的笔记。pytorch官网入门demo——实现一个图像
转载
2023-08-25 19:01:04
252阅读
二分类问题可能是应用最广泛的机器学习问题，它指的是所有数据的标签就只有两种，正面或者负面。在这个例子中，我们学习根据电影评论的文字内容将其划分为正面或者负面。数据集介绍：本节使用IMDB数据集，它包含来自互联网电影数据库（IMDB）的50000条严重两极分化 的评论。数据集被分为用于训练的25000条评论和用于测试的25000条评论，训练集和测试集都包含50%的正面评论和50%的负面评论。为什么要
转载
2023-08-17 17:05:41
0阅读
深度学习（猫狗二分类）题目要求数据获取与预处理网络模型模型原理Resnet背景Resnet原理代码实现模型构建训练过程批验证过程单一验证APP运行结果训练结果批验证结果APP运行结果Tensorboard可视化模型对比可视化结果分析附录resnet网络架构resnet34网络架构 题目要求题目： 猫狗二分类。要求： 利用Pytorch深度学习框架实现对猫狗图片进行分类。说明： 1.学会读取训练集
转载
2023-09-29 20:20:15
303阅读
## PyTorch二分类代码科普
在机器学习领域，二分类是一种常见的任务，即将数据分为两个类别。PyTorch是一个基于Python的深度学习框架，可以帮助我们快速构建神经网络模型来解决各种问题，包括二分类问题。在本文中，我们将介绍如何使用PyTorch构建一个简单的二分类模型，并进行训练和预测。
### PyTorch简介
PyTorch是一个开源的深度学习框架，拥有动态计算图和自动求导
原创
2024-03-10 03:33:57
356阅读
形式1：输出为单通道即网络的输出 output 为 [batch_size, 1, height, width] 形状。其中 batch_szie 为批量大小，1 表示输出一个通道，height 和 width 与输入图像的高和宽保持一致。在训练时，输出通道数是 1，网络得到的 output 包含的数值是任意的数。给定的 target ，是一个单通道标签图，数值只有 0 和 1 这两种。为了让网络
转载
2023-09-22 12:24:04
116阅读
本文将介绍如何使用pytorch和resnet18模型，实现图片二分类网络微调（Fine Tune）的全过程。首先，我们将介绍pytorch的基本概念，包括tensor、autograd、nn.Module以及optimizer。然后，我们将介绍resnet50模型的结构，以及如何使用pytorch的nn.Module模块来定义模型。接下来，我们将介绍如何使用pytorch的nn.Module模块
转载
2023-07-17 18:11:29
212阅读
