见到叫我滚去学习的博客_联邦学习,区块链,人工智能学习_51CTO博客

开源基础软件社区

WOT全球技术创新大会

公众号矩阵

移动端

免费课程课程排行直播课软考学堂

精品班厂商认证 IT技术 2023年软考 PMP项目管理

在线学习企业服务

CTO训练营技术经理研习营 LeaTech峰会

文章资源问答开源课堂专栏直播

51CTO

开源基础软件社区

51CTO技术栈

51CTO官微

51CTO学堂

51CTO博客

CTO训练营

开源基础软件社区订阅号

51CTO学堂APP

51CTO学堂企业版APP

开源基础软件社区视频号

51CTO博客

搜索历史清空

热门搜索

查看【】的结果
首发福利
写文章
创作中心
登录注册

【debug】常见的问题，怎么引用上一层目录

x的不同，有两种解决方法。

python

悬停

解决方法

原创 23天前 46 阅读

【Python】python setup.py install 与 pip install -e . 有什么区别呢？

【Python】python setup.py install 与 pip install -e . 有什么区别呢？

而 pip install -e . 则是将包安装在当前目录下，并且是可编辑的，也就是说你可以在这个目录

python

pip

开发语言

可编辑

安装包

原创 25天前 111 阅读

column-wise 与 row-wise 之间有什么区别？

中，这些实例以行的方式堆叠，形成了一个同样包含 5 层的神经网络。两种方式训练出来的模型都是一样的，只不过其中参数的排列方

pytorch

深度学习

python

神经网络

原创 25天前 124 阅读

挺有趣的，attention的mask可能有多种用法

挺有趣的，attention的mask可能有多种用法

输入的mask与输入的seq长度不匹配时：有可能是需要mask掉prefixes。如上图所示，输入的mask是。

transformer

原创 1月前 4 阅读

[python tools] 今天看到另一个配置工具 YACS，所以做下笔记

实际上就只是把别人的readme翻译了一下样例代码: https://github.com

python

开发语言

github

配置信息

ide

原创 1月前 78 阅读

[debug] python 内存不能释放

[debug] python 内存不能释放

为啥python的gc不能释放内存呢？这个是正常现象吗？

python

gc

内存

Python

命令行

原创 1月前 277 阅读

【debug】自定义Dataset.__getitem__ RuntimeError: each element in list of batch should be of equal size

【debug】自定义Dataset.getitem RuntimeError: each element in list of batch should be of equal size

【代码】【debug】自定义Dataset.__getitem__ RuntimeError: each element in list of batch should be of equal size。

pytorch

自定义

原创 1月前 152 阅读

【debug】没有设置可训练参数时，训练集的准确率还在发生变化，可能是对训练集数据数据增强的原因。

【debug】没有设置可训练参数时，训练集的准确率还在发生变化，可能是对训练集数据数据增强的原因。

没有设置可训练参数时，训练集的准确率还在发生变化，可能是对训练集数据数据增强的原因。

python

深度学习

机器学习

数据

原创 2月前 84 阅读

【Debug】运行时的 batch_size 跟config中的 batch_size 不是一个东西。

【Debug】运行时的 batch_size 跟config中的 batch_size 不是一个东西。

回答很简单，emmm，因为在最后一个batch中，数据可能不足一个设定的batch_size。一开始我还在嘲笑，为啥作者的代码要利用这个shape信息来动态地获取batch_size。

batch

深度学习

神经网络

数据

原创 2月前 85 阅读

真是太棒了，可以在win11上使用unbuntu的系统命令

真是太棒了，可以在win11上使用unbuntu的系统命令

我其实是好久没有用过win的系统了，这次用还是听惊喜的，可以看到下面的这个图。

wsl

microsoft

linux

ubuntu

原创 2月前 72 阅读

Hypernet

Hypernet

Hypernet起源于2017年 iclr的一篇文章 hypernetworks。

hypernet

ide

原创 3月前 90 阅读

python 包引入顺序错误：torch sklearn fedml

python 包引入顺序错误：torch sklearn fedml

今天遇到的这个问题真的是奇葩，新年的第一个奇葩问题。

python

sklearn

fedml

原创 3月前 126 阅读

HyperTransformer: Model Generation for Supervised and Semi-Supervised Few-Shot Learning

这篇文章中提出了HyperTransformer，基于Transformer，用于监督/半监督 few-shot learning。方法是利用一个high-capacity Transformer mode

深度学习

人工智能

sed

ci

ide

原创 3月前 124 阅读

paper writing: 句式，用于在两种方法中做一个平衡

可以使用的一个句式我们这篇文章中的方法可以在目前的两种方法中取得一个平衡。这篇文章来自 hypernetwork, 2017 google teamIn this paper, we view convolutional networks and recurrent networks as two ends of a spectrum. On one end, recurrent networks

人工智能

Dynamic

原创 3月前 8 阅读

2017 hypernetworks 笔记

这篇文章来自谷歌的一篇文章。

深度学习

人工智能

神经网络

权重

ci

原创 3月前 439 阅读

2021 ACL Parameter-efficient Multi-task Fine-tuning for Transformers via Shared Hypernetworks

2021 ACL Parameter-efficient Multi-task Fine-tuning for Transformers via Shared Hypernetworks

阅读这篇文章的目的是为了了解hypernet，相关代码 https://github.com/rabeehk/hy

深度学习

人工智能

ci

sed

github

原创 3月前 193 阅读

Code for hypernetworks

这篇文章将介绍怎么使用hypernetworks来完成一些实验，本实验基于https://github.com/g1910/HyperNetworks.git。

深度学习

pytorch

人工智能

2d

ci

原创 3月前 83 阅读

Code for VeLO 2: Training Versatile Learned Optimizers by Scaling Up

上一篇文章已经介绍了怎么训练一个MLP网络，这篇文章将介绍一下怎么用VeLO训练resnets1//1.3f.3f.3f.3f。

深度学习

python

人工智能

git

ide

原创 3月前 121 阅读

Code for VeLO 1: Training Versatile Learned Optimizers by Scaling Up

Code for VeLO 1: Training Versatile Learned Optimizers by Scaling Up

这篇文章基于https://colab.research.google.com/drive/1-ms12IypE-EdDSNjhFMdRdBbMnH94zpH#scrollTo=RQBACAPQZyB-，将介绍使用learned optimizer in the VeLO family:使用Optax style的优化器定义和执行一个简单的训练循环绘制一下loss的图像

python

开发语言

数据

随机数

github

原创 3月前 86 阅读

2022 VeLO: Training Versatile Learned Optimizers by Scaling Up

2022 VeLO: Training Versatile Learned Optimizers by Scaling Up

While deep learning models have replaced hand-designed features across many domains,these models

人工智能

深度学习

hypernet

数据集

元知识

原创 3月前 322 阅读

Tools: python objprint

Tools: python objprint

推荐一个挺好用的打印python object的库: objprint https://github.com/gaogaotiantian/objprint。

python

github

原创 3月前 185 阅读

2022 general purpose in-context learning by meta-learning transformers

2022 general purpose in-context learning by meta-learning transformers

机器学习需要去显示地定义 losses, architectures, and optimizers，meta-learning（或者是lear

meta-learning

sed

数据分布

ide

原创 3月前 67 阅读

iclr 2022 Compositional attention: Disentangling search and retrieval

iclr 2022 Compositional attention: Disentangling search and retrieval

要想实现c这种检测，value的向量是需要能够投影出来location的信息，q和k的向量需要映

人工智能

深度学习

sed

ci

计算复杂度

原创 3月前 73 阅读

Why Can GPT Learn In-Context?

Why Can GPT Learn In-Context?

这篇文章的发现：Theoretically, we figure out that the Transformer attention has a dual form of

深度学习

人工智能

自然语言处理

sed

数据

原创 3月前 238 阅读

Prompt: No !!!

Prompt: No !!!

Lu et al., 2022], etc. （对prompt的措辞具有敏感性）prompt-based的方法在NLP中

人工智能

深度学习

sed

ci

原创 3月前 88 阅读

2021 kdd Controllable generation from pre-trained language models via inverse prompting

2021 kdd Controllable generation from pre-trained language models via inverse prompting

inverse prompting的核心是使用生成的文本，来反向地预测prompt（在beam search阶段），这样的话就能够提高prompt与生

语言模型

python

人工智能

ci

Core

原创 3月前 43 阅读

利用opencv将从torchvision中加载的Cirfar10数据集再转成图片

利用opencv将从torchvision中加载的Cirfar10数据集再转成图片

opencv

python

人工智能

原创 4月前 38 阅读

利用opencv将从torchvision中加载的Cirfar10数据集再转成图片

利用opencv将从torchvision中加载的Cirfar10数据集再转成图片

利用opencv将从torchvision中加载的Cirfar10数据集再转成图片

python

人工智能

开发语言

原创 4月前 36 阅读

pytorch 如何从checkpoints中继续训练

pytorch 如何从checkpoints中继续训练

pytorch 如何从checkpoints中继续训练

pytorch

Soft

.net

json

原创 4月前 462 阅读

【学习笔记】Pytorch LSTM/RNN 代码

【代码】【学习笔记】Pytorch LSTM/RNN 代码。

python

初始化

原创 5月前 186 阅读

首页
1
2
3
4
5
6
7
8
共358条记录