编译 | reason_W编辑 | 明 明【AI 科技大本营导读】近日，OpenAI 在其官方博客发文介绍了他们最新的自然语言处理（NLP）系统。这个系统是可扩展的、与任务无关的，并且在一系列不同的 NLP 任务中都取得了亮眼的成绩。但该方法在计算需求等方面仍存在改进的空间。下面我们来看他们的博文：我们即将发布一个可扩展的，与任务无关的自然语言处理系统，该系统在一系列不同的语言任务上都取得了目前最
转载
2024-05-21 14:24:52
37阅读
兄弟萌，我咕里个咚今天又杀回来了，有几天时间可以不用驻场了，喜大普奔，终于可以在有网的地方码代码了，最近驻场也是又热又心累啊，抓紧这几天，再更新一点的新东西。今天主要讲一下非监督学习，你可能要问了，什么是非监督学习，我的理解就是不会给样本标签的，它本质上是一个统计手段，在没有标签的数据里可以发现潜在的一些结构的一种训练方式。这个可以用来干什么，举个例子，在工业场景瑕疵检测的运用中，由于良品的数量远
2.2 深度学习基础及数学原理深度学习并没有想象的那么难，甚至比有些传统的机器学习更简单。所用到的数学知识也不需要特别的高深，本章将会一边讲解深度学习中的基本理论，一边通过动手使用PyTorch实现一些简单的理论，本章内容很多，所以只做一个简短的介绍2.2.1 监督学习和无监督学习 监督学习、无监督学习、半监督学习、强化学习是我们日常接触到的常见的四个机器学习方法：监督学习：通过已有的训练样本（即
转载
2023-10-20 18:13:46
97阅读
Pytorch：深度学习基础及数学原理监督学习和无监督学习常见机器学习方法：监督学习：通过已有的训练样本（即已知数据及对应的输出）去训练得到一个最优模型，再利用这个模型将所有的输入映射为相应的输出无监督学习：没有已训练样本，需要对数据进行建模半监督学习：在训练阶段结合大量未标记的数据和少量的标签数据。使用训练集训练的模型在训练时更为准确强化学习：设定一个回报函数，通过这个函数来确认是否与目标值越来
转载
2023-11-07 09:26:00
103阅读
本文回顾了一些常见的半监督算法，随后介绍了作者在 NIPS 2017 展示的 Mean Teacher 项目。 Mean Teacher 的论文地址：https://arxiv.org/abs/1703.01780；Mean Teacher 的 GitHub 地址：https:/
转载
2023-12-12 14:10:20
49阅读
神经网络也能进行非监督学习, 只需要训练数据, 不需要标签数据. 自编码就是这样一种形式. 自编码能自动分类数据, 而且也能嵌套在半监督学习的上面, 用少量的有标签样本和大量的无标签样本学习.这次我们还用 MNIST 手写数字数据来压缩再解压图片.然后用压缩的特征进行非监督分类.训练数据自编码只用训练集就好了, 而且只需要训练 training data 的 image, 不用训练 labels.
转载
2024-02-06 20:58:01
89阅读
用Pytorch进行图像分类（对一张猫和一张鱼的图片进行区分）传统挑战1、首先需要数据要想有效地使用深度学习技术，需要较大量的数据来训练神经网络，让神经网络学习并记忆他们的特征。所以我们需要很多鱼和猫的图片 **监督学习和无监督学习的区别有监督学习必须要有训练集和测试样本。在训练集中找规律，而对测试样本使用这种规律。非监督学习没有训练集，只有一组数据，在该数据集中寻找规律有监督学习的方法就是识别事
转载
2023-09-05 11:14:05
184阅读
4章 机器学习基础4.1 三类机器学习4.2 机器学习术语4.3 评估模型4.4 数据预处理和特征工程4.4 过拟合和欠拟合4.5 机器学习模型基本设计流程 4.1 三类机器学习1. 有监督学习:有标签数据的学习（需要得到的学习结果为具体的、可表示的、可描述的）分类问题回归问题分割问题识别问题2. 无监督学习：没有标签数据的学习（对数据进行整理，归类寻找特征）聚类问题降维问题3. 强化学习4.2
转载
2023-08-13 19:18:44
98阅读
1、人工智能： 弱人工智能：特定任务（语言处理领域-谷歌翻译） 强人工智能：类似人类 超人工智能：超越人类2、机器学习
转载
2024-04-10 22:09:34
35阅读
1 无监督学习利用无标签的数据学习数据的分布或数据与数据之间的关系被称作无监督学习。 有监督学习和无监督学习的最大区别在于数据是否有标签 无监督学习最常应用的场景是聚类(clustering)和降维(DimensionReduction)2 聚类(clustering)聚类(clustering)，就是根据数据的“相似性”将数据分为多类的过程。 评估两个不同样本之间的“相似性” ，通常使用的
目录无监督对比学习：Moco文章内容理解代码解释有监督对比学习：Supervised Contrastive Learning文章内容理解 无监督对比学习：Moco文章内容理解以下内容全部来自于：自监督学习-MoCo-论文笔记. 侵删 论文：Momentum Contrast for Unsupervised Visual Representation LearningCVPR 2020 最佳论
转载
2024-08-12 10:49:59
198阅读
深度学习是机器学习的子集，因为层数较多（深度较深），故名深度学习。 因此首先了解机器学习的基本概念也是很有帮助的参考书为《PyTorch深度学习》，ISBN: 9787115508980，可配套食用。一、三类机器学习问题主要有三类：有监督学习、无监督学习和强化学习。这里的监督怎么理解呢？ 监督可以理解为训练数据需要人工打标签，比如首先收集到1000张动物图片，由人来区分都是什么动物，为其打上标签。
转载
2024-08-17 16:41:07
22阅读
在现代机器学习领域，无监督学习（Unsupervised Learning）逐渐成为一项重要技术，尤其是在处理未标记数据时。PyTorch 作为一款灵活、强大的深度学习框架，为无监督学习提供了良好的工具。本文将详细介绍如何使用 PyTorch 解决无监督学习的问题，包括参数解析、调试步骤、性能调优等。
## 背景定位
在实际应用中，很多场景具备大量未标记的数据，比如推荐系统、图像聚类等。然而，
本文目的在于记录无监督光流估计如何构建损失函数。主要用于自己的研究项目，并且因为处于刚入门的阶段，因此一些内容可能描述存在问题。(文内的公式可在参考文献处找到)目录无监督光流估计损失函数的提出光度损失 photometric loss 基本的光度损失Charbonnier lossSSIMCensus loss平滑损失 smooth loss增强正则化损失 augmentation re
使用Pytorch实现对比学习SimCLR 进行自监督预训练这里将深入研究 SimCLR 框架并探索该算法的关键组件，包括数据增强、对比损失函数以及编码器和投影的head 架构。SimCLR（Simple Framework for Contrastive Learning of Representations）是一种学习图像表示的自监督技术。与传统的监督学习方法不同，SimCLR 不依赖标记数据
转载
2024-07-22 14:45:55
119阅读
划分聚类分析K 均值聚类最常见的划分方法是K均值聚类分析。从概念上讲，K均值算法如下：选择K个中心点（随机选择K行）；把每个数据点分配到离它最近的中心点；重新计算每类中的点到该类中心点距离的平均值（也就说，得到长度为p的均值向量，这 里的p是变量的个数）；分配每个数据到它最近的中心点；重复步骤(3)和步骤(4)直到所有的观测值不再被分配或是达到最大的迭代次数（R把10次 作为默认迭代次数）。K均值
pre-training技术在NLP领域得到了很好的应用，比如最近几年比较火的谷歌的BERT模型、OpenAI的GPT模型，在NLP各种类型的任务中都取得了很大的突破，大幅刷新了公开数据集的SOTA结果，由于最近在做语音预训练的一些工作，所以最近简单梳理了一下NLP领域pre-training技术的发展脉络。 NLP领域的预训练技术主要有两大方向：第一个是基于feature的方法，这个是比较早期的
随着深度学习的兴起，其算法的核心：梯度下降算法正不断发展，本文将简要介绍几种主流的optimizer：SGD（Stochastic Gradient Descent），Momentum，AdaGrad（Adaptive Gradient Algorithm），RMSProp（Root Mean Square prop ）和Adam（
转载
2023-11-22 07:39:35
231阅读
K-means算法 K-means算法是很典型的基于距离的聚类算法，算法采用误差平方和准则函数作为聚类准则函数，也是典型的基于原型的目标函数聚类方法的代表，它是数据点到原型的某种距离作为优化的目标函数，利用函数求极值的方法得到迭代运算的调整规则。K-means算法以欧式距离作为相似度测度，它是求对应某一初始聚类中心向量V最优分类，使得评价指标J最
转载
2024-05-09 11:10:28
50阅读
第3章 深度神经网络基础3.1 监督学习和无监督学习监督学习(supervised learning)：提供一组输入数据和其对应 的标签数据，然后搭建一个模型，让模型在通过训练后准确地找到输入数据和标签数据之间的最优映射关系，在输入新的数据后，模型能够通过之前学到的最优映射关系，快速地预测出这组新数据的标签。这就是一个监督学习的过程3.1.1监督学习监督学习的主要应用场景：回归问题和分类问题回归问
转载
2024-02-11 21:16:54
43阅读
