一 线性回归（最小二乘法）假设我们有n个样本数据，每个数据有p个特征值，然后p个特征值是线性关系。即对应的线性模型写成矩阵的形式即是Y=XA由于样本与模型不一定百分百符合，存在一些噪声，即误差，用B表示，B也是一个向量即B=Y-XAY为样本值，XA为模型的计算值，即期望值误差的平方的计算公式Xi为行向量，A为列向量。最小二乘法的目标就是取得最小的e对应的A，由于方差的计算是一个二次函数
转载
2024-06-19 10:42:46
162阅读
小样本学习和元学习基础知识人工智能最终依赖于大数据中学习。很难用很少的数据快速概括一个模型。相反，人类可以快速应用他们过去学到的东西来学习新事物。一个重要的方向是缩小人工智能与人类之间的差距。通过有限数据进行学习。少样本学习（few-shot learning）深度学习是data hunger的方法， 需要大量的数据，标注或者未标注。少样本学习研究就是如何从少量样本中去学习。拿分类问题来说,每个类
0 引言在一些简单的应用场合，特别是针对手部的，并不需要太多的手部信息，往往关注手部的运动信息，通过识别手部的运动信息便可实现人机交互操作。正是基于此，本文着重关注手部运动特征，通过对运动特征的分析来实现人机交互。本文提出一种基于样本回归分析的手部动作识别算法。1 运动方向判别系统手部动作识别需要依次完成数据采集、预处理、动作解析、特征点提取、创建数据点集、拟合曲线和动作分析等步骤。 由于完成手部
大家早上好哇！能不能写一份优秀的分析报告，是衡量分析师是否牛X的重要标准。除了不同场景下特定的分析逻辑，怎么把分析报告写的更好，其实是有成体系方法论的。今天给大家分享一篇关于数据分析报告规范的干货，常看常新，值得收藏和细品。01 结构规范及写作报告常用结构：1. 架构清晰、主次分明数据分析报告要有一个清晰的架构，层次分明能降低阅读成本，有助于信息的传达。虽然不同类型的分析报告有其适用的呈
场景：样本少，且只有部分进行了标注。负样本类别（不是被标注的那些）不可穷尽，图像处理步骤：1，数据增强,扩充确认为普通苹果的样本数量 2，特征提取,使用VGG16模型提取图像特征 3，Kmeans模型尝试普通/其他苹果聚类，查看效果 4，Meanshift模型提升模型表现 5，数据降维PCA处理,提升模型表现环境：使用conda 安装： tensorflow-gpu 2.10.1 keras 2.
转载
2024-06-28 12:09:45
120阅读
文章目录一、小样本目标检测 vs 少样本目标检测二、小样本目标检测简介三、小样本目标检测的方法四、小样本目标检测现有的问题五、参考资料 一、小样本目标检测 vs 少样本目标检测首先必须要分辨这两个概念。如果光看名字，我们可能会单纯的认为小样本就是代检测目标区域比较小，难以检测；少样本就是训练样本数量较少，难以训练。上面的理解其实是错的。看网上大部分的文章、博客、论文，小样本和少样本是等价的。所谓
转载
2024-02-04 20:58:00
112阅读
在Open AI的官方文档 GPT 最佳实践中，也给出了和上面这两大原则一脉相承的6大策略。分别是：写清晰的指示给模型提供参考（也就是示例）将复杂任务拆分成子任务给GPT时间思考使用外部工具反复迭代问题提示的结构指令（Instuction）告诉模型这个任务大概要做什么、怎么做，比如如何使用提供的外部信息、如何处理查询以及如何构造输出。这通常是一个提示模板中比较固定的部分。一个常见用例是告诉模型“你
转载
2024-06-18 15:15:06
114阅读
最近在接触用机器学习处理数据进行回归的任务，偶然看到一篇开源代码具有很好的代码规整性，所以通过写这一篇博客来介绍这部分代码。目录一、简介二、关键代码介绍2.1 得分函数2.2 验证函数2.3 评估函数三、公式化训练模型3.1 直接调用式训练3.2 手撕模型式训练四、模型测试五、总结一、简介
一1与传统的监督学习不同，few-shot leaning的目标是让机器学会学习；使用一个大型的数据集训练模型，训练完成后，给出两张图片，让模型分辨这两张图片是否属于同一种事物。比如训练数据集中有老虎、大象、汽车、鹦鹉等图片样本，训练完毕后给模型输入两张兔子的图片让模型判断是否是同一种事物，或者给模型兔子和狗的图片去判断。2训练的目的是靠着Support Set提供的一点信息，让模型判断出Quer
转载
2024-06-21 22:25:38
141阅读
上一章节中总结了scikit learn库中提供的机器学习算法。本节总结一下样本数据预处理相关知识。1、处理存在缺失特征的样本数据简单粗暴的方式是将含有缺失值得行或列删除：df.dropna() #删除含有缺失值的行
df.dropna(axis=1) #删除含有缺失值的列
df.dropna(how='all') #删除所有值都缺失的行
df.dropna(thresh=4)
转载
2024-06-27 20:47:58
46阅读
这篇博文是作者的一个实验笔记，研究一个”飞机-背景“二分类器在不同样本比例下精度，召回率的规律。1. 问题描述固定正样本（飞机）2000个，改变负样本（背景）的训练数据量 1 : 0.5 、 1 : 1 、 1 : 2 、 1 : 5 、 1 : 10 、 1: 30. 随着负样本数量的增多，类间数据量不均衡的情况更为显著。 测试时，分别随机选取4096张飞机、背景样本（不出现在训练集）
目录小样本学习研究现状现有工作Are Large-scale Datasets Necessary for Self-Supervised Pre-training? 小样本学习研究现状目前，计算机视觉神经网络被大量参数化：它们通常有数千万或数亿个参数，这是它们成功利用大型图像集合 (如 ImageNet) 的关键。然而，这些高容量模型往往会在小型（包含数十万张图像）甚至中型数据集上过度拟合。因
少样本关系抽取任务的目标是通过利用极少量的标注数据训练（或Fine-Tuning）模型，使得模型可以快速学习到一个关系类别的特征，从而对这样只有极少数样本的类别进行准确分类。图2所示是少样本关系抽取任务的一个范式，初始网络参数f_θ使用少量关系Ri的实例进行训练或微调后得到参数f_(θi ),这组参数可以很好地用于提取对应的关系Ri。少样本学习中常见的实验设置一般被称为N-way-K-shot，N
转载
2024-02-03 21:51:10
132阅读
样本数据不平衡是我们建模场景中经常遇到的问题，由于目标类别的分布占比差异较大，使得模型训练难以取得较好的拟合效果，甚至模型结果在实际应用中无效。举个最常见的例子，在信贷场景中构建反欺诈模型时，训练样本数据的欺诈目标群体往往是占比很少，必然需要我们对这种正负样本不平衡的情形进行处理，从而保证模型拟合训练的有效性，并获取满足实际需求的模型结果。 解决样本不平衡的常规方法主要有重采样、样本加权等维度，其
样本不均衡的问题是指训练集中类别之间的样本数据量比例失衡。有研究表明，部分学习任务，在类别出现1∶35比例时就会使某些分类学习方法无效，甚至1∶10比例也会。样本不均衡导致的问题有：1）少数类所包含的信息就会很有限，从而难以确定少数类数据的分布，即在其内部难以发现规律，进而造成少数类的识别率低；2）数据碎片，很多分类算法采用分治法，样本空间的逐渐划分会导致数据碎片问题，这样只能在各个独立的子空间中
每日英文What makes life dreary is the want of motive.没有了目的，生活便郁闷无光。Recommender：云不见作者：李学凯、吴桐桐、漆桂林在之前的文章中，我们已经介绍过了知识图谱是什么，知识图谱的表示，以及知识图谱的应用等相关主题。我们也提到过，知识图谱技术栈比较长，也给出了一些适合初学者进行学习的相关资料。在知识图谱构建技术栈中，关系抽取（Relat
目录2.2 数据集包含 100 个样本, 其中正、反例各一半, 假定学习算法所产生的模型是将新样本预测为训练样本数较多的类别 (训练样本数相同时进行随机猜测) , 试给出用 10 折交叉验证法和留一法分别对错误率进行评估所得的结果。2.3 若学习器 A 的 F1 值比学习器 B 高, 试析 A 的 BEP 值是否也比 B 高。2.4 试述真正例率 (TPR)、假正例率 (FPR) 与查准率 (P)
何为样本不均衡： 样本分布不均衡就是指样本差异非常大，例如共1000条数据样本的数据集中，其中占有10条样本分类，其特征无论如何你和也无法实现完整特征值的覆盖，此时属于严重的样本分布不均衡。为何要解决样本不均衡： 样本分部不均衡的数据集也是很常见的：比如恶意刷单、黄牛订单、信用卡欺诈、电力窃电、设备故障、大企业客户流失等。 样本不均衡将导致样本量少的分类所包含的特征过少，很难从中提取规律，即使得到
转载
2023-11-09 21:04:01
66阅读
什么是回归分析？ 回归分析是一种预测性的建模技术，它研究的是因变量（目标）和自变量（预测器）之间的关系。这种技术通常用于预测分析，时间序列模型以及发现变量之间的因果关系。例如，司机的鲁莽驾驶与道路交通事故数量之间的关系，最好的研究方法就是回归。 回归分析是建模和分析数据的重要工具。在这里，我们使用曲线/线来拟合这些数据点，在这种方式下，从曲线或线到数据点的距离差异最小。我会在接下来的部分详细解释
在只有有限个数据点的情况下，使用最小二乘法来对样本点做回归，势必会造成模型过拟合。什么意思呢？下面有两幅图： 分别是使用三阶多项式和九阶多项式对样本点做最小二乘回归的结果（红色的线），而样本点是由绿色的线加上一些噪音所生成的。可以看到，显然三阶多项式对真实模型的逼近效果更好，而九阶多项式的效果很差，虽然它做到了平方误差和为零，但你拿这个九阶模型去预测的话，预测结果会非常离谱。 那为什么对样本拟合非
转载
2024-04-23 15:43:06
340阅读
