KNN最邻近规则，主要应用领域是对未知事物的识别，即判断未知事物属于哪一类，判断思想是，基于欧几里得定理，判断未知事物的特征和哪一类已知事物的的特征最接近； K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属
转载
2024-10-11 06:50:21
24阅读
常见的监督学习包括：回归：预测值为连续值，如销售额；二分类：预测值为离散值，且只有两种取值，如性别，要么是男，要么是女；多分类：预测值为离散值，且多于两种取值，如动物分类，可能有猫、狗、狮子等等；还有另外一种，也是本文的主角：多任务学习（Multi Task Learning）。MTL介绍首先，介绍什么是多任务学习，例如之前文章提到的微信视频场景，同时包含多个学习目标（task）：是否转发、是否点
转载
2024-05-30 16:11:47
217阅读
新闻分类：多分类问题本节任务描述： 将路透社新闻划分为 46 个互斥的主题。因为有多个类别，所以这是多分类（multiclass classification）问题的一个例子。这是单标签、多分类（single-label, multiclass classification） 问题的一个例子。如果每个数据点可以划分到多个类别（主题），那它就是一个多标签、多分类（multilabel, multic
转载
2024-05-30 07:21:27
141阅读
当我们进行这样处理是会产生非常多的参数，我我们可以通过以下详细过程进行分析，如何利用最少的参数等到相同的结果这只是一个分类情况，就用了16个参数，之后看最后的结果使用了16*9个参数才能计算完成，而且这只是一层，我们发现最后的结果一般只与四个参数有关，我们可不可将这四个参数提取出来最后通过一个卷积层将数据进行转换在上图中，输入和卷积核都是张量，卷积运算就是卷积分别乘以输入张量中的每个元
转载
2024-01-14 19:32:13
71阅读
线性分类 由于之前KNN分类器的缺点，让我们很自然地去寻找有更加强大地方法去完成图像分类任务，这种方法主要有两部分组成： 评分函数（score function），它是原始图像数据到类别分值的映射(f(x)=Wx)。 损失函数（loss function），它是用来量化预测分类标签的得分与真实标签之间一致性的。 这种方法其实最后可以转化成一个最优化问题，在最优化过程中，将通过更新评分函
转载
2024-03-21 10:53:28
92阅读
论文题目：《Fully Convolutional Networks for Semantic Segmentation》 论文地址：https://arxiv.org/abs/1411.4038传统的基于CNN的语义分割方法 传统的基于CNN的语义分割方法为了对一个像素分类，使用该像素周围的一个图像块作为CNN的输
二分~多分~Softmax~理预一、简介 在二分类问题中，你可以根据神经网络节点的输出，通过一个激活函数如Sigmoid，将其转换为属于某一类的概率，为了给出具体的分类结果，你可以取0.5作为阈值，凡是大于0.5的样本被认为是正类，小于0.5则认为是负类 然而这样的做法并不容易推广到多分类问题。多分类问题神经网络最常用的方法是根据类别个数n，设置n个输出节点，这样每个样本，神经网络都会给出一个n维
1 概述 组合分类器（集成学习）：多个弱分类器共同组成一个强分类器。 设计要求： （1）每个基分类器（弱分类器）的分类正确率要大于50% （2）每个基分类器的训练集和训练结果要有差异 （3）基分类器的数量不是越多越好 （4）方差和偏差是组合分类器重点考虑的两项指标 组合分类器的主要类型： （1）Bagging方法： 通过准备独立且同分布的一组训练子集来并行训练多个基分
# coding: utf-8
import tensorflow as tf
class TCNNConfig(object):
"""CNN配置参数"""
embedding_dim = 20 # 词向量维度
seq_length = 100 # 序列长度
num_classes = 73 # 类别数
num_filters = 256
转载
2023-12-14 01:44:57
97阅读
正文共3758张图，4张图，预计阅读时间18分钟。1、简介 原先写过两篇文章，分别介绍了传统机器学习方法在文本分类上的应用以及CNN原理，然后本篇文章结合两篇论文展开，主要讲述下CNN在文本分类上的应用。前面两部分内容主要是来自两位博主的文章（文章中已经给出原文链接），是对两篇论文的解读以及总结，基本上阐释了CNN文本分类模型；后半部分讲一个实例和项目实战。2、论文1《convolutional
转载
2024-05-22 20:01:26
60阅读
【Wyn Enterprise BI知识库】 认识多维数据建模与分析 ZT
与业务系统类似，商业智能的基础是数据。但是，因为关注的重点不同，业务系统的数据使用方式和商业智能系统有较大差别。本文主要介绍的就是如何理解商业智能所需的多维数据模型和多维数据分析。 数据立方体多维数据模型是为了满足用户从多角度多层次进行数据查询和分析的需要而建立起来的基于事实和维的数据库模型
SVM的中文名为支持向量机，是一种非常经典的有监督数据分类算法，也即该算法首先需要训练，训练得到分类模型之后，再使用分类模型对待分类数据进行分类。有监督数据分类算法的大致过程如下图所示：上图中，训练数据与待分类数据通常为n维向量，n可以是1，2，3，4，5，......对于图像，一般有两种方法把其所有像素点的像素值转换为n维向量：方法一：图像数据属于二维矩阵，可以直接把二维矩阵的多行数据按行进行首
转载
2024-03-27 12:33:28
416阅读
根据西瓜书《神经网络》章节反向传播的推导过程写成。书上推导了单样本的反向传播，本例实现了批量梯度下降，设置batch_size=1，就是单样本随机梯度下降。有别于其他分类算法的标签集，神经网络要对标签进行独热编码，在制作测试数据时要注意这点。本例使用sklearn生成的3000个3类别的训练数据，多次调试后，能达到90%的正确率。import numpy as np
from sklearn im
深度学习在文本分类中的鼻祖-TextCNN1.文本分类转眼学生生涯就结束了，在家待就业期间正好有一段空闲期，可以对曾经感兴趣的一些知识点进行总结。本文介绍NLP中文本分类任务中核心流程进行了系统的介绍，文末给出一个基于Text-CNN模型在搜狗新闻数据集上二分类的Demo。文本分类是自然语言处理领域最活跃的研究方向之一，从样本数据的分类标签是否互斥上来说，可以分为文本多分类与文本多标签分类。文本分
转载
2024-09-25 11:07:01
125阅读
01 GBDT GBDT全称梯度下降树，在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，gbdt在各种竞赛是大放异彩。原因大概有几个，一是效果确实挺不错。二是即可以用于分类也可以用于回归。三是可以筛选特征。这三点实在是太吸引人了，导致在面试的时候大家也非常喜欢问这个算法。 GBDT通过多轮迭代，每轮迭代产生一个弱分类器，每个分类器在上一轮分类器的残差
摘要： 分类任务是解决各种应用问题的方式。实践中，我们常用机器学习算法将现实问题归纳为分类任务进行解决，一个简单易懂的问题归纳例子就是垃圾邮件的识别问题，解决时常将电子邮件分类为“ 垃圾邮件 ”或“ 非垃圾邮件”。那么算法建模及问题解决应如何从问题域中归纳分类任务类型，且每种分类任务类型都可能会使用专门的建模方法。这都将影响问题
1.背景介绍图像识别技术是人工智能领域的一个重要分支，它涉及到计算机对于图像中的目标进行识别和分类的能力。图像分类和图像检测是图像识别技术的两个主要方向，它们在应用场景和算法方面有很大的不同。图像分类是指将图像中的目标分为多个类别，如猫、狗、鸟等。图像检测则是指在图像中找出特定的目标，如人脸、车辆等。本文将从背景、核心概念、算法原理、代码实例和未来发展等方面进行对比，为读者提供一个深入的技术分析。
转载
2024-08-07 11:03:35
106阅读
1. 本文目的使用SVM代替CNN网络的全连接层，即CNN提取特征后利用SVM进行分类。（注：仍使用完整CNN网络进行训练获取卷积层参数，SVM参数单独训练获得，后续会对此进行详细说明。）2. 实验流程：对样本数据进行处理建立完整的卷积神经网络（CNN）利用训练数据进行训练，获取卷积层权重参数将卷积层输出转换为SVM输入特征向量利用上一步特征向量对SVM进行训练利用测试数据进行准确率测试。3. 网
转载
2023-10-16 00:17:24
115阅读
写在前面构建一个网络，将路透社新闻划分为46 个互斥的主题。因为有多个类别，所以 这是多分类（multiclass classification）问题的一个例子。因为每个数据点只能划分到一个类别， 所以更具体地说，这是单标签、多分类（single-label, multiclass classification）问题的一个例 子。如果每个数据点可以划分到多个类别（主题），那它就是一个多标签、多分类
转载
2024-06-23 09:08:17
125阅读
1、一维数组的内存分析：数组含义： 1）数组是一种引用类型 2）数组是一种简单的数据结构，线性的结构 3）数组是一个容器，可以用来存储任意数据类型的元素 4）数组分为：一维数组，二维数组，三维数组，多维数组 5）数组中存储的元素类型是统一的 6）数组长度不可改变，即数组一旦创建数组的长度是不可以改变的，是固定的数组查找元素的效率较高。数组
