蜗牛_的博客_机器学习

数字人项目 ER-NeRF 的使用和部署详细教程

ER-NeRF（官方链接）是一个（对嘴型）项目。即：给一段某人说话的视频，再给定一段音频，经过该模型后处理后，可将原视频的嘴型与音频保持一致。可以做到实时响应。即模型比较小，处理速度快。需要对“要对嘴型的视频”进行训练。也就是每段视频对应一个模型生成出的头部不够稳定。

计算机视觉

人工智能

深度学习

python

3d

原创 2月前 349 阅读

中文拼写纠错(CSC)任务各个数据集汇总与简介

论文地址论文代码用于生成违数据集对预测结果进行评价作者知乎数据集年份：2022-11CSCD-IME全称：Chinese Spelling C200w个违数据集。

中文拼写纠错

自然语言处理

数据集

github

Test

原创 8月前 462 阅读

【论文解读】（CSC任务的音标和字形信息到底用了多少？）Investigating Glyph-Phonetic Information for Chinese Spell Checking

许多中文拼写检查(Chiniese Spell Checking, CSC)模型都使用了“字形信息+拼音信息”(glyph-phonetic)来进行预测

中文拼写纠错

CSC

自然语言处理

Glyph

数据集

原创 8月前 62 阅读

【论文源码解读】（中文拼写检查, CSC）SCOPE：Improving Chinese Spelling Check by Character Pronunciation Prediction

作者提出了CPP辅助任务，可以让Encoder模型学会对汉语拼音进行编码。作者提供了一个预训练好的SCOPE模型，后续的CS约束矫正方法），可以用在预测阶段。

深度学习

CSC

中文拼写纠错

自然语言处理

Dynamic

原创精选 8月前 307 阅读

【论文笔记】SDCL: Self-Distillation Contrastive Learning for Chinese Spell Checking

论文提出了一种token-level的自蒸馏对比学习(self-distillation contrastive learning)方法。作者并没有直接使用BERT的输出作为token embedding，而了BERT的输出和word embeddings。

论文阅读

深度学习

CSC

中文拼写纠错

自然语言处理

原创精选 8月前 122 阅读

详解使用sklearn实现一元线性回归和多元线性回归

简单的线性回归就是使用一根直线去拟合一种趋势。例如：我们有一批房屋面积与房价的数据。X = [100, 110, 120, 130, 140] # 并不知道aaa和。

sklearn

线性回归

人工智能

多元线性回归

数据

原创精选 10月前 548 阅读

【论文笔记】(对比学习经典论文MoCo) Momentum Contrast for Unsupervised Visual Representation Learning

本文是参考大神bryanyzhu对MoCo论文的解读视频，并按照他的解读结合论文进行笔记

论文阅读

学习

特征向量

锚点

特征提取

原创精选 2023-07-13 15:32:35 548 阅读

【论文笔记】MacBert：Revisiting Pre-trained Models for Chinese Natural Language Processing

论文阅读

自然语言处理

人工智能

ci

维基百科

原创 2023-05-08 16:25:31 325 阅读

【论文解读】（拼音+字形+字三种信息的中文BERT）ChineseBERT: Chinese Pretraining Enhanced by Glyph and Pinyin Information

bert

python

深度学习

卷积

Glyph

原创精选 2023-05-08 16:16:12 504 阅读

模型泛化技巧“随机权重平均(Stochastic Weight Averaging, SWA)”介绍与Pytorch Lightning的SWA实现讲解

SWA，

pytorch

深度学习

机器学习

模拟退火

权重

原创精选 2023-05-06 11:51:21 816 阅读

【论文解读】(如何微调BERT？) How to Fine-Tune BERT for Text Classification?

用BERT做具体任务时效果不够好？这篇论文教你如何微调BERT

bert

深度学习

人工智能

数据

数据集

原创精选 2023-05-06 10:47:16 1007 阅读

Bert的pooler_output是什么？

在学习bert的时候，我们知道bert是输出每个token的embeding。但在使用hugging face的

bert

深度学习

python

全连接

sed

原创 2023-05-01 16:41:40 1071 阅读

中文文本纠错(Chinese Spell Checking, CSC)任务各个论文的评价指标

本文汇总了中文文本纠错(Chinese Spell Checking)任务在各个开源项目中的评价指标，他们虽然写法不同，但大部分本质是相同的，但也有少部分论文的评价指标存在问题或其他论文不一致，本文对他们的指标代码进行了分析，并说明了其中的问题。

人工智能

深度学习

中文文本纠错

评价指标

开源项目

原创 2023-03-05 09:21:18 695 阅读

Google Colab运行完后如何自动断开连接？

如果你用Colab时老是让它在哪空闲，Google就会记住你，然后是不是就给你弹出人机验证，而且你的colab就特别容易断连。

colab

Google

原创 2023-03-05 09:20:59 1136 阅读

Pytorch入门实战（5）：基于nn.Transformer实现机器翻译（英译汉）

使用Google Colab运行(open In Colab)源码地址文章目录本文涉及知识点本文内容环境配置数据预处理文本分词与构造词典Dataset and Dataloader模型构建模型训练模型推理本文涉及知识点nn.Transformer的使用 Transformer源码解读 (了解即可

pytorch

transformer

机器翻译

缓存文件

加载

原创 2023-01-01 18:04:59 3765 阅读 2点赞 1收藏 1评论

万字逐行解析与实现Transformer，并进行德译英实战（一）

1. Transformer各模块的逐行代码实现2. Transformer逐行代码的详细注释3. Transformer的训练和推理4. 利用Transformer进行德译中实战

transformer

python

深度学习

类对象

执行过程

原创 2022-11-15 12:45:53 648 阅读

万字逐行解析与实现Transformer，并进行德译英实战（二）

Transformer各模块的逐行代码实现Transformer逐行代码的详细注释Transformer的训练和推理利用Transformer进行德译中实战

transformer

深度学习

人工智能

正则化

打印日志

原创 2022-11-15 12:44:56 827 阅读

Pytorch加载模型后optimizer.step()报RuntimeError: output with shape...错误

存储模型参数后，重新加载接着训练，结果optimizer.step()报错。

pytorch

深度学习

python

加载

初始化

原创 2022-10-30 06:55:27 681 阅读

BERT源码实现与解读(Pytorch)

使用nn.Transformer构建BERT模型，并使用样例样本使用MLM任务和NSP任务训练BERT

bert

pytorch

深度学习

数据集

词向量

原创 2022-10-21 13:56:18 1356 阅读 2点赞

【论文阅读】Read, Listen, and See: Leveraging Multimodal Information Helps Chinese Spell Checking

多模态中文拼写检查

深度学习

自然语言处理

人工智能

编码器

sed

原创 2022-10-19 22:11:51 288 阅读

【论文复现】MDCSpell: A Multi-task Detector-Corrector Framework for Chinese Spelling Correction论文复现

本文为MDCSpell: A Multi-task Detector-Corrector Frame

词向量

环境配置

多任务

原创 2022-10-03 14:32:43 394 阅读

中文文本纠错（CSC）任务Benchmark数据集SIGHAN介绍与预处理

SIGNHAN是台湾学者（所以里面都是繁体字）公开的用于中文文本纠错4(测试集)106250.0771。

深度学习

NLP

数据集

预处理

数据

原创 2022-10-03 14:32:10 1413 阅读

【论文笔记】MDCSpell: A Multi-task Detector-Corrector Framework for Chinese Spelling Correction

作者基于Transformer和BERT设计了一个多任务的网络来进行CSC（Chinese Spell Checking）任务（中文拼写纠错）。多任务分别是找出哪个字是错的和对错字进行纠正。

论文阅读

深度学习

人工智能

词向量

初始化

原创 2022-09-24 01:14:27 174 阅读

Hugging Face快速入门（重点讲解模型(Transformers)和数据集部分(Datasets)）

1. Hugging Face是什么，提供了哪些内容2. Hugging Face模型的使用（Transformer类库）3. Hugging Face数据集的使用（Datasets类库）

深度学习

人工智能

机器学习

数据集

sed

原创 2022-09-23 19:22:35 6734 阅读

【论文阅读】BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

BERT全称BEncoderRTransformers，其是一个基于Transformer模型、使用无监督方式训练的预训练模型。只要简单的在BERT下游接个输出

论文阅读

bert

深度学习

全连接

数据

原创 2022-09-17 01:20:23 328 阅读

万字逐行解析与实现Transformer，并进行德译英实战（三）

文章目录Part 3: 实战：德译英数据加载Iterators训练模型测试结果你也可以在该项目找到本文的源码。Part 3: 实战：德译英现在我们来进行一个案例实战，我们使用Multi30k German-English 翻译任务。虽然这个任务远小于论文中的WMT任务，但也足以阐明整个系统。数据加载我们将使用torchtext进行数据加载，并使用s

transformer

人工智能

深度学习

加载

sed

原创 2022-09-16 18:35:45 759 阅读

Pytorch入门实战（7）：基于BERT实现文本隐喻二分类（Kaggle入门题目）

Bert入门实战，文本二分类问题

pytorch

bert

分类

加载

数据

原创 2022-09-12 10:05:46 1090 阅读 1点赞

【强化学习】 OpenAI Gym入门：基础组件（Getting Started With OpenAI Gym: The Basic Building Blocks）

强化学习

深度学习

OpenAI

重置

初始化

原创 2022-09-12 10:05:09 1216 阅读

【论文阅读】Spelling Error Correction with Soft-Masked BERT

使用Soft-Masked BERT完成中文拼写纠错(Chinses Spell Checking, CSC)任务，并且该方法

bert

自然语言处理

深度学习

损失函数

数据集

原创 2022-09-11 00:05:45 584 阅读

【论文阅读】Contextual Similarity is More Valuable ...: Curriculum Learning for Chinese Spell Checking

使用课程学习(curriculum learning)完成中文拼写纠错(Chinese Spell Checking)任务

机器学习

深度学习

人工智能

html

相似度

原创 2022-09-10 00:56:04 202 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

11456419

数字人项目 ER-NeRF 的使用和部署详细教程

中文拼写纠错(CSC)任务各个数据集汇总与简介

【论文解读】（CSC任务的音标和字形信息到底用了多少？）Investigating Glyph-Phonetic Information for Chinese Spell Checking

【论文源码解读】（中文拼写检查, CSC）SCOPE：Improving Chinese Spelling Check by Character Pronunciation Prediction

【论文笔记】SDCL: Self-Distillation Contrastive Learning for Chinese Spell Checking

详解使用sklearn实现一元线性回归和多元线性回归

【论文笔记】(对比学习经典论文MoCo) Momentum Contrast for Unsupervised Visual Representation Learning

【论文笔记】MacBert：Revisiting Pre-trained Models for Chinese Natural Language Processing

【论文解读】（拼音+字形+字三种信息的中文BERT）ChineseBERT: Chinese Pretraining Enhanced by Glyph and Pinyin Information

模型泛化技巧“随机权重平均(Stochastic Weight Averaging, SWA)”介绍与Pytorch Lightning的SWA实现讲解

【论文解读】(如何微调BERT？) How to Fine-Tune BERT for Text Classification?

Bert的pooler_output是什么？

中文文本纠错(Chinese Spell Checking, CSC)任务各个论文的评价指标

Google Colab运行完后如何自动断开连接？

Pytorch入门实战（5）：基于nn.Transformer实现机器翻译（英译汉）

万字逐行解析与实现Transformer，并进行德译英实战（一）

万字逐行解析与实现Transformer，并进行德译英实战（二）

Pytorch加载模型后optimizer.step()报RuntimeError: output with shape...错误

BERT源码实现与解读(Pytorch)

【论文阅读】Read, Listen, and See: Leveraging Multimodal Information Helps Chinese Spell Checking

【论文复现】MDCSpell: A Multi-task Detector-Corrector Framework for Chinese Spelling Correction论文复现

中文文本纠错（CSC）任务Benchmark数据集SIGHAN介绍与预处理

【论文笔记】MDCSpell: A Multi-task Detector-Corrector Framework for Chinese Spelling Correction

Hugging Face快速入门（重点讲解模型(Transformers)和数据集部分(Datasets)）

【论文阅读】BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

万字逐行解析与实现Transformer，并进行德译英实战（三）

Pytorch入门实战（7）：基于BERT实现文本隐喻二分类（Kaggle入门题目）

【强化学习】 OpenAI Gym入门：基础组件（Getting Started With OpenAI Gym: The Basic Building Blocks）

【论文阅读】Spelling Error Correction with Soft-Masked BERT

【论文阅读】Contextual Similarity is More Valuable ...: Curriculum Learning for Chinese Spell Checking