在机器学习领域中，分类算法是最常用的一种算法，其主要目的是将数据集划分成不同的类别，以便对数据进行分析和预测。在实际应用中，分类算法被广泛应用于文本分类、情感分析、图像识别、信用评级等领域。本文将介绍十种常见的分类算法，包括K-近邻算法、决策树算法、朴素贝叶斯算法、支持向量机算法、逻辑回归算法、神经网络算法、随机森林算法、梯度提升算法、AdaBoost算法和XGBoost算法。K-近邻算法（K-N
转载
2023-11-03 09:53:19
92阅读
分治算法一、基本概念在计算机科学中，分治法是一种很重要的算法。字面上的解释是“分而治之”，就是把一个复杂的问题分成两个或
原创
2022-06-20 20:14:46
157阅读
基于BoF算法的图像分类图像分类一直是计算机视觉中的一个重要问题，BoF(Bag of features)算法在图像分类中具有着重要的作用。本文旨在介绍BoF算法的基本原理和过程并且给出Python代码的实现：用于解决在Caltech 101数据库上的多分类问题。算法起源起源1：纹理识别纹理(texture)是由一些重复的纹理单元(texton)组成的，如图1所示。我们想要进行纹理的识别，应该关注
转载
2024-03-29 12:52:53
62阅读
【实验名称】 实验：分类算法 【实验目的】 1.了解分类算法理论基础 2.平台实现算法 3. 编程实现分类算法 【实验原理】 分类(Categorization or Classification)就是按照某种标准给对象贴标签(label),再根据标签来区分归类。 【实验环境】 OS：Ubuntu16.04 PyCharm： 2017.3 【实验准备】 安装实验所需依赖库pip install s
转载
2024-03-18 09:57:17
80阅读
1.KNN算法概述KNN可以说是最简单的分类算法之一，同时，它也是最常用的分类算法之一，注意KN
原创
2022-05-26 01:02:09
589阅读
决策树是一种很基础而又重要的机器学习算法，是众多更高级算法实现的基础，比较famous的决策树算法有ID3，C4.5和分类与回归树(Classify and Regression Tree)。要理解哪些更高级的算法，对这些决策树算法有个好的理解是very useful的！这篇文章将关注CART的原理与实现！ CART的特点：既是分类树，又可以做回归树！CART是二叉树！原理解析 CART用于分类时
转载
2024-05-16 09:38:13
60阅读
前言：出自于学校课程数据挖掘与分析布置的实验小作业，案例经典，代码注释较全，供大家参考。题目：现有西瓜挑选数据文件：dataset.txt，编程实现朴素贝叶斯算法，并判断有如下特征的瓜是否好瓜：
青绿,稍蜷,浊响,清晰,凹陷,硬滑。实验数据如下： 要求：1、自行采用一种语言编程实现算法（注意：计算条件概率、判别分类等核心算法需自己编程实现）
2、用课堂例子进行正确性检验
3、用户界面友好，要
转载
2023-08-10 07:02:32
100阅读
本文未赘述原理，觉得知道knn的优秀的同志们都有一定的了解，直接上代码，本代码作为一个参考，希望大家能够结合本人的代码自己去做一遍，虽然可以直接调knn或有数据集，本文呈现的更多的是底层。1.创建knn.py# 定义一个knn函数，后期方便调用.
class KNN(object):
def __init__(self,k=3): # 定义内置函数，方便自己传参，默认k值为3
转载
2023-08-15 12:47:11
201阅读
1、选择排序选择排序是一种简单直观的排序算法。它的原理是这样：首先在未排序序列中找到最小（大）元素，存放到排序序列的起始位置，然后，再从剩余未排序元素中继续寻找最小（大）元素，然后放到已排序序列的后面，以此类推，直到所有元素均排序完毕。算法实现如下：#找到最小的元素def FindSmall(list):
min=list[0] for i in range(len(list)): i
转载
2023-08-10 07:02:42
66阅读
分类算法简述一、什么是分类算法数据挖掘任务通常分为两大类：预测任务，根据其他属性的值，预测特定属性的值。描述任务，概括数据中潜在联系的模式（相关性，趋势，聚类，轨迹和异常） 分类属于预测任务，就是通过已有数据集（训练集）的学习，得到一个目标函数f（模型），把每个属性集x映射到目标属性y（类），且y必须是离散的（若y为连续的，则属于回归算法）。二、分类的基本流程1、模型建立 分类过程首先需要将
转载
2024-02-26 14:25:35
76阅读
马上各种算法竞赛又要开始了，写这篇博客的主要目的是复习和巩固已经学过的算法，而不是从零开始学习新的算法。 所以对于不会对算法内容进行过多的阐述和讲解，而是以代码展示为主，阅读需要有一定的算法基础。二分二分查找（binary search），又称折半查找，是一种搜索算法，适用情况为：有一个区间，有一个判定条件，它们之间满足这样的一个关系：这个区间内存在一个分界点，分界点左边的值均不满足该判定条件，分
转载
2024-06-23 08:56:00
33阅读
文章目录一、电影类别分类1.准备电影数据1.1numpy创建数据集2，处理分类问题2.1分类代码二、约会网站配对效果判定1. 收集数据2. 准备数据2.1 从文本文件中解析数据2.2 可视化数据2.3 归一化数据2.4 测试算法：验证分类器2.5 使用算法：构建完整可用系统三、手写数字识别1. 收集数据2. 准备数据：将图像转换为测试向量3. 分析数据总结 一、电影类别分类 k-近邻算法是一种
转载
2023-10-12 23:24:30
208阅读
kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集
转载
2024-08-24 09:48:24
42阅读
目录一、KNN介绍K-近邻(K-Nearest Neighboor)算法定义理解K近邻总结KNN⼯作流程二、案例实现 作为机器学习中最基础的算法，KNN在简单分类问题上有其独特的优势，其理念类似于中国的成语“近朱者赤，近墨者黑”，这种将特征数字转化为空间距离判断的方法也是我们认识机器学习世界的第一步。一、KNN介绍K-近邻(K-Nearest Neighboor)算法定义如果⼀个样本在特征空间中
转载
2024-03-21 22:36:52
78阅读
分类和回归的区别在于输出变量的类型。 定量输出称为回归，或者说是连续变量预测； 定性输出称为分类，或者说是离散变量预测。回归是统计学的一个重要概念，其本意是根据之前的数据预测一个准确的输出值。回归算法：线性回归是一种基本的回归算法，当给出相应的训练集后，通过线性回归来寻找合适参数θ（向量）使得Hypothesis函数的Cost function最小。分类算法：逻辑回归是一个分类算法，逻辑回归的Hy
转载
2023-12-21 10:40:05
145阅读
聚类算法的种类：基于划分聚类算法（partition clustering)k-means： 是一种典型的划分聚类算法，它用一个聚类的中心来代表一个簇，即在迭代过程中选择的聚点不一定是聚类中的一个点，该算法只能处理数值型数据 k-modes： K-Means算法的扩展，采用简单匹配方法来度量分类型数据的相似度 k-prototypes： 结合了K-Means和K-Modes两种算法，能够处理混合型数据 k-medoids： 在迭代过程中选择簇中的某点作为聚点，...
原创
2021-05-20 22:57:31
963阅读
Cspiration 独家出品此表以先易后难 + 分类而成。Leetcode（https://leetcode.com/）本身并没有顺序， 并且类别分的并不是非常好，因为大量非最优解也涵盖在各种类别中。 所以我们依据做题经验，最优解的类别，难度，重新划分。 如果是第一次刷题的小伙伴，最好以本书的顺序为主，可以为大家节省时间，更有效率的做题，减少很多刷题的负担。数组字符串数学树动态规划链
原创
2022-03-29 16:12:22
269阅读
1.分治法 关键词：递归（递归式）、大问题分解成子问题（子问题相互独立，且与原问题相同）、合并（子问题的解合并成原问题的解） 步骤： 1.分解。将原问题分解成一系列子问题。 2.求解。递归地求解各子问题。若子问题足够小，则直接求解。（递归式） 3.合并。将子问题的解合并成原问题的解 示例：归并排序；
转载
2016-10-19 19:59:00
118阅读
2评论
一、引言 分类算法有很多，不同分分类算法又用很多不同的变种。不同的
原创
2023-03-28 09:56:37
91阅读
Cspiration 独家出品此表以先易后难 + 分类而成。Leetcode（https://leetcode.com/）本身并没有顺序， 并且类别分的并不是非常好，因为大量非最优解也涵盖在各种类别中。 所以我们依据做题经验，最优解的类别，难度，重新划分。 如果是第一次刷题的小伙伴，最好以本书的顺序为主，可以为大家节省时间，更有效率的做题，减少很多刷题的负担。数组字符串数学树动态规划链表二分查找矩
原创
2021-04-17 15:35:07
2093阅读
