0 前言上篇：从零实现线性回归 此内容主要依据李沐老师的《动手学深度学习》课程，同时结合了网络上其它资料和自己的理解。1 创建与读取数据集导入模块：import torch
import numpy as np
from torch.utils import data
from d2l import torch as d2l超参数的设置与上节一样，我们把上节的synthetic_data方法放入了
转载
2024-04-20 20:35:02
49阅读
统计学习方法是基于训练数据构建统计模型，从而对数据进行预测和分析。 统计学习分为，监督学习（supervised learning），非监督学习，半监督学习和强化学习（reinforcement learning），其中以监督学习最为常见和重要，所以这里只讨论监督学习统计学习的过程如下， 1. 获取训练数据集合 2. 确定假设空间，即所有可能的模型的集合 3. 确定模型选择的准则（什么是最优模型的
本文介绍了 10 大常用机器学习算法，包括线性回归、Logistic 回归、线性判别分析、朴素贝叶斯、KNN、随机森林等。1. 线性回归在统计学和机器学习领域，线性回归可能是最广为人知也最易理解的算法之一。预测建模主要关注的是在牺牲可解释性的情况下，尽可能最小化模型误差或做出最准确的预测。我们将借鉴、重用来自许多其它领域的算法（包括统计学）来实现这些目标。线性回归模型被表示为一个方程式，
1.逻辑回归简介 逻辑回归（logistic regression）是机器学习模型中的基础模型，周志华老师的书中翻译为对数几率回归。很多模型都涉及到逻辑回归，比如SVM、GBDT、AdaBoost等。虽然名字当中有“回归”两个字，但是逻辑回归是用于分类，它可以理解为线性函数和一单调可微函数组成的复合函数。常用的单调
在机器学习问题中，我们根绝解决的问题将机器学习算法归纳为三类：回归（regression）问题、分类（classification）问题及聚类（clustering）问题。作为机器学习三大解决的三大问题之一的回归问题，前辈们做了很多深入的研究，尤其是回归问题的两类难点问题（多重共线性及特征选择），在此随笔中，我主要根据prml开篇对多项式曲线拟合的试验，讨论影响回归模型泛化能力的两种因素及处理
1.背景介绍随着数据量的增加，机器学习和数据挖掘技术的应用也日益广泛。回归问题是机器学习中最常见的问题之一，它涉及预测连续值的问题。特征选择是解决回归问题时的一个关键步骤，它涉及选择与目标变量相关的特征，以提高模型的准确率和性能。在这篇文章中，我们将讨论特征选择与回归问题的关系，以及如何提高模型准确率的方法和算法。2.核心概念与联系2.1 回归问题回归问题是预测连续值的问题，如房价、股票价格等。回
文章目录Log一、分类问题（Classification problems）1. 分类问题的例子2. 正类和负类3. 分类问题中不用线性回归二、假设表示（Hypothesis representation）1. Sigmoid 函数2. 模型解释三、决策边界（Decision boundary）1. 判断 y 何时取到边界值2. 多个特征量下的函数图像①简单例子②复杂例子四、代价函数（Cost
一、前言最近确实太忙了，没能很好的写这个系列的文章，但是大家不要急，好事多磨，我要保证每一篇的质量。今天要讲的是利用torch去做实验，大体完成一个任务的写法框架思路。因为这节之后我会大量的举例以及各种完整的代码细节讲解，大概意思就是我想利用例子把很多细节抠出来这样来说明一些知识点，这样操作可能要比直接列出来知识点更具体些，大家接受这些知识点也能更加的舒服一些。二、做减法，思考整个流程都需要什么？
转载
2024-07-19 11:29:58
192阅读
准确率，精准率，召回率分类问题中的混淆矩阵如下 TP： 预测为1，预测正确，即实际1FP： 预测为1，预测错误，即实际0FN： 预测为0，预测错确，即实际1TN： 预测为0，预测正确即，实际0准确率 accuracy准确率的定义是预测正确的结果占总样本的百分比，其公式如下： 准确率=(TP+TN)/(TP+TN+FP+FN) 虽然准确率可以判断总的正确率，但是在样本不平衡 的情况下，并不能作为很好
转载
2024-05-11 22:22:13
352阅读
一、Scikit Learn中使用estimator三部曲1. 构造estimator2. 训练模型：fit3. 利用模型进行预测：predict 二、模型评价模型训练好后，度量模型拟合效果的常见准则有：1. 均方误差（mean squared error，MSE）：2.  
转载
2024-11-01 15:25:39
62阅读
本文主要对梯度下降算法的基本原理进行了讲解，然后使用手写梯度下降算法解决了线性回归问题。最后对 PyTorch 中的反向传播函数进行了讲解并利用该函数简明快速的完成了损失的求导与模型的训练。 梯度下降算法一、人工梯度下降算法1.线性回归问题2.梯度下降算法3.人工实现梯度下降算法二、利用 PyTorch 实现梯度下降算法 一、人工梯度下降算法 我们使用梯度下降算法来对线性回归问题进行求解。1
转载
2023-10-27 14:25:06
71阅读
独热编码：逻辑回归的类别我们使用独热编码，独热编码是一个向量，有几个类别该向量就有多长，我们将类别对应的分量设置为1，其他所有分量设置为0。激活函数：softmaxsoftmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！假设我们有一个数组，V，Vi表示V中的第i个元素，那么这个元素的softmax值就是交叉熵损失函数：在分类问题中，我们使
# PyTorch中的BCEWithLogitsLoss：计算准确率
在深度学习中，准确率是一个重要的性能指标，用于评估模型的分类能力。在PyTorch中，我们可以使用`BCEWithLogitsLoss`损失函数来计算准确率。本文将介绍`BCEWithLogitsLoss`的原理、用法以及如何计算准确率。
## BCEWithLogitsLoss简介
`BCEWithLogitsLoss`
原创
2023-11-24 06:46:08
639阅读
文章目录前言踩坑1：tensorboard中怎么将训练结果和测试结果同时放置到一张图中做对比？踩坑2：Pytorch中使用tensorboard可视化不显示的问题？擦坑3：Pytorch中使用tensorboard，加载第二次新的数据，却显示的还是第一次的数据结果。Reference：总结 前言最近在训练神经网络时，需要可视化看每次训练的accuracy和loss值。一般可以选用matplotl
0、纳什系数NSE(Nash–Sutcliffe efficiency coefficient):用于评价模型质量的一个评价参数,一般用以验证水文模型模拟结果的的好坏，也可以用于其他模型。公式如下： 公式中Qo指观测值,Qm指模拟值,Qt（上标）表示第t时刻的某个值,Qo(上横线)表示观测值的总平均.E取值为负无穷至1,E接近1,表示模型质量好,模型可信度高；E接近0,表示模拟结果接近观测值的平均
自然语言处理(ML),机器学习(NLP),信息检索(IR)等领域,评估(evaluation)是一个必要的工作,而其评价指标往往有如下几点:准确率(accuracy),精确率(Precision),召回率(Recall)和F1-Measure。本文将简单介绍其中几个概念。中文中这几个评价指标翻译各有不同，所以一般情况下推荐使用英文。 现在我先假定一个具体场景作为例子：假如某个班级有男生8
转载
2024-01-16 20:44:17
700阅读
目录1. 使用 torch.autograd 进行自动微分2. 张量、函数和计算图3. 计算梯度4. 禁用梯度跟踪5. 关于计算图的更多内容选读：张量梯度和雅可比积1. 使用 torch.autograd 进行自动微分 在训练神经网络时，最常用的算法是反向传播。在该
转载
2023-11-20 00:08:26
126阅读
李宏毅老师用了一个比较易懂的demo例子来讲解我们在实际中做regression的时候会遇到哪些困难，我们如何解决，以下是李老师在课堂上的详细demo课程。一.matplotlib是基于Python语言的开源项目，旨在为Python提供一个数据绘图包。import numpy as np
import matplotlib.pyplot as plt二.traning data# traning
转载
2024-09-05 15:37:16
87阅读
数据分析中的回归准确率是一个重要指标，它衡量了模型在预测数值时的精确度。本篇文章将从环境预检、部署架构、安装过程、依赖管理、配置调优和扩展部署几个方面，详细阐述在回归分析中如何提高准确率的流程。
## 环境预检
在进行数据分析之前，需要先对环境进行预检。这里我们使用四象限图和兼容性分析来确保工具与环境的匹配程度。
```mermaid
quadrantChart
title 数据分析
准确率 - accuracy精确率 - precision召回率 - recallF1值 - F1-scoreROC曲线下面积 - ROC-AUC （area under curve）PR曲线下面积 - PR-AUC1 、aucAUC（Area Under Curve）被定义为ROC曲线下与坐标轴围成的面积，这个面积的数值不会大于1。又由于ROC曲线一般都处于y=x这条直线的上方，所以AUC的取值
