文章目录python基础安装过程常见的python解释器性能优化 python基础环境的搭建：开发环境：记事本即可，vim sublime运行环境：安装python官方提供的解释器cpythonpython下载： 官方网站：http://www.python.orghttp://www.python.org/ftp/python 在官方ftp下载地址中，可以选择下载任意一个需要的版本安装过程我们
转载
2024-01-02 13:34:11
103阅读
# 导入所需的库
import torch
import torch.nn as nn
import torch.nn.functional as F
from torchvision import models
# 定义PSPNet类
class PSPNet(nn.Module):
def __init__(self, num_classes):
super(PSPN
转载
2024-02-03 21:24:52
247阅读
1 简介在学习B站发布的《动手学深度学习》PyTorch版本教学视频中发现在操作使用PyTorch方面有许多地方看不懂，往往只是“动手”了，没有动脑。所以打算趁着寒假的时间好好恶补、整理一下PyTorch的操作，以便跟上课程。2 Transforms主要用于变换图形import cv2
import torch
from torchvision import transforms
from PIL
转载
2023-11-15 15:44:42
162阅读
# 使用 PyTorch 实现 Transformer 模型示例代码
在这篇文章中，我们将一步一步地指导你如何使用 PyTorch 来实现一个基本的 Transformer 模型。Transformer 是一种广泛应用于自然语言处理（NLP）领域的架构，因其在序列到序列任务中的优越性能而受到重视。我们将遵循以下步骤来实现这个模型：
| 步骤 | 描述
文章目录Configuration (配置)Parallelization (并行)Imputation (插补)Feature Extraction (特征提取)1. Feature filtering(特征筛选)2. Feature selection(特征选择)Benchmarking (基准点)Visualization (可视化)Wrappers (封装器)Nested Resampl
转载
2024-06-13 19:55:16
111阅读
ICLR，即国际表征学习大会，是公认的深度学习领域国际顶级会议之一，关注有关深度学习各个方面的前沿研究，在人工智能、统计和数据科学领域以及机器视觉、语音识别、文本理解等重要应用领域中发布了众多极其有影响力的论文。据统计，ICLR 2022 共有 54 篇 Oral 论文和 176 篇 Spolight 论文，论文接收总数 1095 篇，最终投稿量 3391 篇，论文接收率 32.3%。今年该会议投
选自Medium作者：Victor Sanh机器之心编译参与：魔王
过去一段时间，大模型层出不穷。在大家纷纷感叹「大力出奇迹」的时候，作为调用预训练语言模型最流行的库，HuggingFace 尝试用更少的参数量、更少的训练资源实现同等的性能，于是知识蒸馏版 BERT——DistilBERT 应运而生！
近日，HuggingFace 发布了 NLP transformer 模型——Dist
02-06 LS-PLM思维导图纲要LS-PLM(Large Scale Piece-wise Linear Model，大规模分段线性模型)。这个是本书的最后一例机器学习模型。原因有二：该模型在2012年已经是阿里巴巴主流的推荐模型，2017年才被公之于众；其结构与三层神经网络极其相似。LS-PLM模型的主要结构LS-PLM, 又被称为 MLR( Mixed Logistic Regressio
以实现LeNet网络为例，来学习使用pytorch如何搭建一个神经网络。LeNet网络的结构如下图所示。一、使用torch.nn.Module类构建网络模型搭建自己的网络模型，我们需要新建一个类，让它继承torch.nn.Module类，并必须重写Module类中的__init__()和forward()函数。init()函数用来申明模型中各层的定义，forward()函数用来描述各层之间的连接关
转载
2024-04-19 16:35:35
200阅读
上一篇博客学习了如何搭建Inception网络，这篇博客主要讲述如何利用pytorch搭建ResNets网络。上一篇博客中遗留了一个问题，就是1*1卷积核的作用，第一个作用是减少参数，第二个作用是压缩通道数，减少计算量。理论上，随着网络深度的加深，训练应该越来越好，但是，如果没有残差网络，深度越深意味着用优化算法越难计算，ResNets网络模型优点在于它能够训练深层次的网络模型，并且有助于解决梯度
转载
2023-09-30 08:47:15
92阅读
介绍 MLR算法是alibaba在2012年提出并使用的广告点击率预估模型，2017年发表出来。 如下图，LR不能拟合非线性数据，MLR可以拟合非线性数据，因为划分-训练模式。 讨论，非线性拟合能力： 数据划分规则如下公式，特征分片数m=1时，退化为LR；上图MLR中m=4。m越大，模型的拟合能力越
转载
2024-07-01 12:42:24
37阅读
Pytorch 模型构建、训练、测试及预测本文以AlexNet识别手写数字为例，简要介绍如何使用pytorch构建网络模型，并进行训练、测试及预测 所使用的环境：Ubuntu 19.04，python 3.7，pytorch 1.1.0，torchvision 0.3.01· Pytorch模型构建pytorch自定义网络模型较为简单，自定义class继承自(torch.nn.Module)并定义
转载
2023-08-19 21:46:37
411阅读
参与：思源、一鸣经典预训练模型、新型前沿研究模型是不是比较难调用？PyTorch 团队今天发布了模型调用神器 PyTorch Hub，只需一行代码，BERT、GPT、PGAN 等最新模型都能玩起来。项目地址：https://pytorch.org/hub机器学习领域，可复现性是一项重要的需求。但是，许多机器学习出版成果难以复现，甚至无法复现。随着数量上逐年增长的出版成果，包括数以万计的 arXiv
转载
2023-11-08 21:37:26
76阅读
线性回归可能是机器学习中最简单、最基础的算法了。但一定不要因为它简单就轻视它的存在，因为它也是很多更高级机器学习算法的基础，比如多项式回归、岭回归、 LASSO 回归等。线性回归的核心归结为求解正规方程（由样本特征x所得预测值y'和实际值y差的平方和，对x求偏导并使其为0所得的方程组），也就是利用最小二乘法求解方程系数。当x为一个n维向量时，方程的物理意义也被扩展为求解一个n维超平面前的系数。在介
转载
2024-04-27 22:47:05
41阅读
本节内容参照小土堆的pytorch入门视频教程，主要通过查询文档的方式讲解如何搭建卷积神经网络。学习时要学会查询文档，这样会比直接搜索良莠不齐的博客更快、更可靠。讲解的内容主要是pytorch核心包中TORCH.NN中的内容(nn是Neural Netwark的缩写)。通常，我们定义的神经网络模型会继承torch.nn.Module类，该类为我们定义好了神经网络骨架。卷积层对于图像处理来说，我们通
转载
2024-05-21 09:00:05
124阅读
由于在图像生成效果上可以与GAN媲美，扩散模型最近成为了AI界关注的焦点。谷歌、OpenAI过去一年都提出了自家的扩散模型，效果也都非常惊艳。另一边，剑桥大学的学者David Krueger提出，自动编码器会不会卷土重来成为研究热潮。就在最近，DeepMind的一位研究科学家Sander Dieleman基于以上两股热潮，提出了自己的观点：扩散模型就是自动编码器啊！这一观点立刻引起了不少网友的注意
LSTM学习笔记（Pytorch实现） 文章目录LSTM学习笔记（Pytorch实现）1. LSTM解决的问题：长程依赖问题2. LSTM的原理3. LSTM公式4. 实现LSTM单元4.1 模型初始化4.2 forward4.3 LSTM单元全部代码5. 基于LSTM单元实现整个LSTM序列向前传播的算法5.1 pack_padded_sequence5.2 模型初始化5.3 forward5.
# SAC（Soft Actor-Critic）模型：介绍与PyTorch实现
