这篇文章写得实在是通俗易懂,作者幽默的解释了Markov和隐Markov模型,入门必看。 同前面一样,因为编辑器不支持latex方式的数学公式输入,所以我就试图用文字的方式来简要描述一下隐Markov模型(Hidden Markov Model,HMM)。所有这类模型都有一个前提假设,就是下一个时刻的状态只与当前时刻
转载
2024-04-24 18:52:18
27阅读
细节图单个head: X(sentence) —> [*]WQ(WK/WV) —> [f( )]Q(K/V) —> Zi 注:[ ]内变换方法多个head: Z1... Zn —> *WO —> Z 这里的add操作就是将self-attention这个layer的输出 Z+ self-atten
转载
2024-08-28 13:23:36
64阅读
说到回归,大家第一个想起的肯定是线性回归,但也有其它的回归,就像说到旺旺大家总觉得是旺仔牛奶或者旺旺仙贝,但是没想到它还自己开了一家医院。我们略过第三章的线性回归部分:它从简单线性回归讲起,介绍了
统计量,接着是多元(multiple,没有用矩阵表示)线性回归,当然还有哑变量与交互项的使用与参数解释,然后自然引出了线性回归可能存在的问题——数据本身非线性、误差项非独立、异方差、异常值
导语如我们在第二章中提到的,有监督学习主要分为回归问题和分类问题。之前的章节我们已经介绍过一元线性回归问题,多元线性回归问题,从本章开始我们将进入另一个方向——分类问题 (Classification)。1. 什么是分类问题?分类问题主要针对“是不是”和“有没有”的问题,大致分为:二分类问题:比如猫狗识别,判断一张图片中是猫还是狗(是不是)多分类问题:比如阿拉伯数字识别,判断一张图片中的数字是几(
1. 从Fast R-CNN到Fast R-CNN 由图可见,Faster-RCNN引入了RPN网络(region proposal network)来代替selective-search,这使得整个网络实现了端到端,即在统一的架构处理所有问题。这也是比Fast更快的原因,避免了selective-search的过程,而全替换为CNN网络。2. 细节 很多相似的步骤在上一节Fast R
转载
2024-03-27 16:15:08
75阅读
学习排序算法,除了学习它的算法原理和代码实现之外,更重要的是要学会如何评价、分析排序算法。其实,排序算法主要是从执行效率、内存消耗、稳定性三个方面进行分析。
分析方法执行效率对于排序算法执行效率的分析,不仅仅只是简简单单的一个时间复杂度。还需要从以下方面进行分析:最好情况、最坏情况、平均情况时间复杂度。对于排序算法来说,有序度不同的数据,对于排序的执行时
机器学习的应用示例分析生产线上的产品图像来对产品进行自动分类
图像分类问题,使用卷积神经网络CNN通过脑部扫描发现肿瘤
语义分割,图像中的每个像素都需要被分类,也是用CNN自动分类新闻、恶意评论标记、长文总结
自然语言处理(NLP),更具体的是文本分类,可以使用循环神经网络(RNN)、CNN或者Transformer基于很多性能指标预测来年收入
回归问题,需要回归模型进行处
转载
2024-05-08 17:08:44
67阅读
0510 RNN的东西不会去忘记,直接一串子全部保留下来 Lstm 长短时记忆 可以控制这个参数也是需要去训练 逐渐优化 得到的门单元ft 遗忘门 it 保留门输入经过了一个遗忘门,经过了一个保留门选择性的遗忘和保留 是随时更新ct的状态的 从开始更新到结束 Classification and Location 分类与
转载
2024-03-17 10:41:27
146阅读
1摘要 验证和回归是神经网络中用于预测的两种通用方法。每种方法都有其各自的优势:验证更容易准确推断,回归更有效并且适用于连续目标变量。因此,仔细地组合它们以利用它们的好处通常是有益的。
在本文中,我们采用了这种理念来改进最新的对象检测,特别是通过RepPoints。尽管RepPoints提供了高性能,但我们发现它严重依赖于回归来进行目标定位,因此还有改进的余地。我们将验证任务引入R
转载
2024-01-03 12:56:18
43阅读
一.线性回归算法简介 线性回归(Linear Regression)是利用线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为一元线性回归,多于一个自变量情况的叫做多元线性回归。对于参数的求解,需要对函数进行评估以检测是否为最优。一般这个函数被称为损失函数(loss function)
转载
2024-07-31 23:52:43
321阅读
Transformers版本:4.4.2(2021 年 3 月 19 日发布)1. 本节接着上节内容,本节具体内容: a) BERT-based Models应用模型 b) Bert解决NLP任务 - BertForSequenceClassification - BertForMultiChoice - BertForTokenClassification - Bert
转载
2024-09-28 09:18:54
482阅读
本来想发在知乎专栏的,但是文章死活提交不了,我也是醉了,于是乎我就干脆提交到CNBLOGS了。前言前段时间我们介绍了Logistic的数学原理和C语言实现,而我呢?其实还是习惯使用Matlab进行计算的,而且是不带C的Matlab。(主要我们都用Windows) 那为什么要用SQL实现呢?(准确的说是PL/SQL) 因为我发现数据一次性加载进内存里面太大了,直接在SELECT的时候OutOfMem
转载
2024-04-12 05:34:45
233阅读
朴素贝叶斯是一个基于概率统计的机器学习算法,作用是用于多分类。 训练集包含已知分类类别的大量样本,每个样本具有n维特征,例如:已知一个人分类为胖或者瘦,有5个特征用于分类,这5个特征分别是体重、身高、年龄、鞋码、每天吃几碗饭。每个特征可能还有分等级,
数据回归分析和拟合的matlab实现2.doc 数据回归分析和拟合的MATLAB实现目录一、多元线性回归二、多项式回归一元多项式POLYFIT或者POLYTOOL多元二项式RSTOOL或者RSMDEMO三、非线性回归四、逐步回归一、多元线性回归多元线性回归1、BREGRESSY,X确定回归系数的点估计值2、B,BINT,R,RINT,STATSREGRESSY,X,ALPHA求回归系数的点估计和区
写在前面:打算记录一下很常见的backbone网络,本篇博客用于记录自己ResNet网络的学习过程。 论文传送门:Deep Residual Learning for Image Recognition一、ResNet网络做了什么1、提出 Residual 结构(残差结构),并搭建超深的网络结构 我们在搭建更深层网络时,并不是简单堆叠就能取得比较好的效果的。 如上图,56层的网络效果反而更差,这是
转载
2024-04-23 15:16:30
136阅读
GBDT即可用于解决回归问题,也能用于解决分类问题。在初步理解GBDT时,最好从回归和分类的角度分别理顺思路,发现其中的不同和关键点,就能初步明白GBDT的算法原理。接下来从回归和分类的角度分别记录下:1、回归的角度——初步:GBDT的思想可以用一个通俗的例子解释,假如有个人30岁,我们首先用20岁去拟合,发现损失有10岁,这时我们用6岁去拟合剩下的损失,发现差距还有4岁,第三轮我们用3岁拟合剩下
转载
2023-11-29 13:47:58
71阅读
前言在《统计学习方法》这本书中介绍了基于分类问题的AdaBoost方法,其中更新样本权重采用的是,其实当时就思考这样一个问题:如果用于回归任务,那么这个更新样本权重该如何计算?本文基于此问题展开讨论。AdaBoost 回归算法我们都知道回归预测得到的结果是数值,比如 房子价格,每一个房产样本都有一个房产价格,这个价格是一个数值,不同的房产价格可能是不一样的,且价格繁多,不像分类问题,类别较固定,所
转载
2024-03-20 11:56:02
40阅读
1 概述YOLO系列模型是一种基于深度学习的目标检测算法,它可以快速地在图像中定位和识别多个对象,历代以来以速度快而被人称道。2 YOLO系列2.1 YOLOv1YOLO模型的第一个版本,它将输入图像划分为7x7个网格,每个网格负责预测两个边界框和一个类别标签。YOLOv1使用一个全卷积神经网络来直接输出边界框的坐标、置信度和类别概率。YOLOv1的优点是速度快,背景误检率低,通用性强,但是缺点是
数据线性回归与分类分析一、高尔顿数据集(一元)线性回归分析二、 Anscombe四重奏(一元)线性回归分析 一、高尔顿数据集(一元)线性回归分析下载高尔顿数据集excel文件数据分析>>回归选择Y/X输入区域(这里Y为孩子身高,X为父亲身高),其他的勾上对应你想要的数据出现结果(我这里已经调整好线性回归图)调整回归图,双击红框部分,可以调整名称与X/Y轴数据右键蓝色区域(蓝色点为实际
转载
2024-05-11 15:15:05
80阅读
非线性回归过程是用来建立因变量与一组自变量之间的非线性关系,它不像线性模型那样有众多的假设条件,可以在自变量和因变量之间建立任何形式的模型 非线性,能够通过变量转换成为线性模型——称之为本质线性模型,转换后的模型,用线性回归的方式处理转换后的模型,有的非线性模型并不能够通过变量转换为线性模型,我们称之为:本质非线性模型 &nbs
转载
2024-06-06 05:36:14
102阅读