制作自己的训练集下图是我们数据的存放格式，在data目录下有验证集与测试集分别对应iris_test， iris_train为了向伟大的MNIST致敬，我们采用的数据名称格式和MNIST类似classification_index.jpg图像的index都是5的整数倍是因为我们选择测试集的原则是每5个样本，选择一个样本作为测试集，其余的作为训练集和验证集生成这样数据的过程相对简单，如果有需要pyt
简介CenterTrack是CenterNet目标检测网络的作者xingyizhou在多目标跟踪领域的工作，Tracking Objects as Points，作为一个多目标跟踪算法，个人认为CenterTrack比较新颖的地方在于不完全依赖前后帧的IOU关系，而是把匹配的过程尽量多的交给CNN结果，减少了常规多目标跟踪方法中负责的匹配过程，而这个匹配甚至可以和IOU解耦，CenterTrack
Kaldi-Timit 训练背景这篇博客主要记录使用Kaldi和Timit数据集训练模型的过程以及遇到的问题及解决方法。Timit数据介绍制作方Timit是几个研究机构联合收集的，文本材料由Massachusetts Institude of Technology(MIT)、Stanford Research Institude(SRI)和Texas Instruments(TI)共同完成；语音录
MAE是一种使用自监督预训练策略的ViT，通过遮蔽输入图像中的补丁，然后预测缺失区域进行子监督的与训练。尽管该方法既简单又有效，但 MAE 预训练目标目前仅限于单一模态——RGB 图像——限制了在通常呈现多模态信息的实际场景中的应用和性能。在新论文 MultiMAE: Multi-modal Multi-task Masked Autoencoders 中，来自瑞士洛桑联邦理工学院 (EPFL)
转载
2024-06-30 10:54:41
73阅读
论文：Generative Adversarial Networks 作者：Ian J. Goodfellow 年份：2014年从2020年3月多开始看网络，这是我第一篇看并且可以跑通代码的论文，简单记录一下，有时间会补充。 更多关于GAN的可以看我另一篇：直接讲代码实现部分，这个代码是用pytorch训练GAN，基于MNIST数据集 真实图片：代码：import torch
import tor
转载
2024-03-26 07:27:33
46阅读
承接上文ChatGPT进化的过程简介2018年，Google的Bert和OpenAI的GPT绝代双骄，两者非常像，都是语言模型，都基本上是无监督的方式去训练的，你给我一个文本，我给你一个语言模型出来。GPT前两代没有什么特别的，第三代才有点大发神威。GPT还不是特别火的时候，已经预计每天产生450亿词，每小时生成100W本书，所以以后看到的东西，可能是AI生成出来的。这仅仅是22年5月份的GPT-
作者 | 追光者一、Address发表于NIPS 2017的一篇论文地址：https://arxiv.org/pdf/1706.02216v4.pdf二、Introduction首先介绍以下什么是Inductive learing在训练过程中，已知testing data（unlabelled data）是transductive learing在训练过程中，并不知道testing da
ChatGPT是一种基于语言模型的聊天机器人，它使用了GPT（Generative Pre-trained Transformer）的深度学习架构来生成与用户的对话。GPT是一种使用Transformer编码器和解码器的预训练模型，它已被广泛用于生成自然语言文本的各种应用程序，例如文本生成，机器翻译和语言理解。
在本文中，我们将探讨如何使用Python和PyTorch来训练ChatGPT，以及如何
原创
2023-07-31 14:30:17
202阅读
我在前文 加入开源社区，告别 CRUD 中讲到参与开源社区的种种好处，本文分享一下在使用或者学习开源项目源码的过程中的一些经验技巧。因为我最近在研究 Apache Pulsar 这款消息队列，所以就以这个项目为例，不过本文介绍的都是通用的技巧，完全可以用在其他大型开源项目中。如果你也对消息队列相关技术感兴趣，可以参看前文 Apache Pulsar 架构设计 和 用 Pulsar 做一款联机小游戏
关于Word2Vec，上篇文章文本分类特征提取之Word2Vec中已有还算详尽的叙述。简单总结下：word2vec是Google在2013年提出的一款开源工具，其是一个Deep Learning模型（实际上该模型层次较浅，严格上还不能算是深层模型，如果word2vec上层再套一层与具体应用相关的输出层，如Softmax，便更像是一个深层模型），它将词表征成实数值向量，采用CBOW（Continuo
文章目录Word2Vec说明环境准备常用的API实践GloVe说明环境准备实践 在处理NLP任务时，首先要解决的就是词（或字）在计算机中的表示问题。优秀的词（或字）表示要求能准确的表达出semantic（语义） 和syntactic（语法）的特征。目前常用的词嵌入（word embedding）训练方法有两种：word2vec;glove;本文旨在介绍如何使用 word2vec 和 glove 算
转载
2024-02-12 19:53:51
114阅读
论文标题：Improving Language Understanding by Generative Pre-Training论文链接：https://www.cs.ubc.ca/~amuham01/LING530/papers/radford2018improving.pdf一、概述从无标注文本中高效学习的能力对于缓解对监督学习的依赖是很关键的。很多自然语言处理任务依赖于大量的标注数据，对于这
转载
2024-05-06 14:51:35
120阅读
在小的图像数据集进行深度学习任务，一个高效的方式是利用预先训练好的模型一 为什么预训练的模型可以用于其他任务如果用于预训练模型的数据集足够大，且足够普通，那么在此数据集上训练好的模型学习到的空间层次特征可作为通用模型使用，其学习到的特征对其他许多不同的计算机视觉任务都是有用的。深度学习的一个优点就是不同问题学习特征的可移植性。这一特征使得深度学习对于小数据集的任务也依然非常有效。二 预训练模型的使
转载
2024-07-11 14:06:14
57阅读
深度学习的兴起，使得多线程以及GPU编程逐渐成为算法工程师无法规避的问题。这里主要记录自己的GPU自学历程。十、 流并行我们前面学习的CUDA并行程序设计，基本上都是在一批数据上利用大量线程实现并行。 除此之外， NVIDIA系列GPU还支持另外一种类型的并行性 —— 流。 GPU中的流并行类似于CPU上的任务并行，即每个流都可以看作是一个独立的任务，每个流中的代码操作顺序执行。下面从流并行的基础
转载
2024-03-20 14:11:25
95阅读
很多问题不是一个指令就可以得到精准结果的，需要根据每个问题深入去了解，不能浅尝即止，期待大家提交prompts。仓库地址，最新指令发布在助安社区论坛（secself.com），定期同步到此仓库：https://github.com/sechelper/awesome-chatgpt-prompts-cybersecurity.git渗/透测试历史漏洞跟踪，包括文章和POC脚本地址提问Thinkph
原创
2023-04-07 18:46:41
429阅读
Python Roll：一个强大的Python库如果你是一位Python程序员，你可能已经了解到Python库的重要性。Python库为Python开发者提供了极大的便利，让开发者能够轻松地完成各种任务。今天，我们要介绍的是Python Roll——一个强大的Python库，它已经成为了许多Python开发者的首选。什么是Python RollPython Roll是一个用于Python的流行软件
转载
2024-06-26 20:34:36
56阅读
前面我的两篇博客分别介绍了语义分割FCN及SegNet的算法重点知识及代码实现，最近在github上又fork了一个好资源https://github.com/divamgupta/image-segmentation-keras，这里分享一下。该资源实现了FCN，UNet, SegNet, PSPNet网络，本篇以SegNet为例来说明下如何使用其来训练和预测自己的数据集。值得一提的是，该资源是
转载
2024-05-10 11:59:29
108阅读
目录一、简介二、GraphSAGE2.1 概览GraphSAGE：Graph Sample and aggreGatE三个步骤：2.2 Embedding的生成Forward propagation：Neighborhood definition2.3 Learning the parameters of GraphSAGE基于图的无监督损失基于图的有监督损失2.4 聚合函数的选择概览Mean
预训练语言模型（PLMs）内容来自AACL 2022 Tutorial：https://d223302.github.io/AACL2022-Pretrain-Language-Model-Tutorial/https://d223302.github.io/AACL2022-Pretrain-Language-Model-Tutorial/lecture_material/AACL_2022_t
转载
2024-05-13 14:59:58
121阅读
通俗来说，模型部署就是在某一框架内训练好的模型（权重文件），通过具体框架进行模型转化或者直接使用对应语言所提供的API接口，load、get一系列操作，使得训练好的“黑箱”能得到实际应用。这种方式可能是简单的pyinstaller库进行简单的封装、也可以是pyqt进行界面集成、接口调用，或者使用flask或者Django框架进行前端和后台服务器的嵌入，这些总体来说，都算是模型部署。使用docker
转载
2024-05-13 12:16:52
23阅读
