动手学Bert文本分类-Pytorch实现

https://www.bilibili.com/video/BV1FT4y1G7Rs?p=3&vd_source=6292df769fba3b00eb2ff1859b99d79e

 

BERT代码(源码)从零解读【Pytorch-手把手教你从零实现一个BERT源码模型】(good)

https://www.bilibili.com/video/BV1Kb4y187G6/?spm_id_from=333.337.search-card.all.click&vd_source=6292df769fba3b00eb2ff1859b99d79e

评论:无代码。

这个代码只是为了帮助大家理解模型,是个玩具,如果实际工作中使用,用抱抱脸的transformers库,它有专门预训练代码,

我用您给的与训练的代码,确实损失可以看到很明显的下降,但是mask的预测就基本没对过

麻烦问下这份预训练代码能运行吗,我看没有原始数据

只有transformer 没有bert

 

图解BERT(good)

https://www.bilibili.com/video/BV1uF411Y7F7/?spm_id_from=333.788.recommend_more_video.1&vd_source=6292df769fba3b00eb2ff1859b99d79e

 

自然语言处理最著名模型-BERT从零详细解读,大佬10小时带你完全吃透NLP,看不懂来打我!(人工智能、深度学习、循环神经网络、词向量)

https://www.bilibili.com/video/BV1Bx4y157Lb?p=9&vd_source=6292df769fba3b00eb2ff1859b99d79e

 

基于中文Bert的文本分类任务代码(上)-数据处理(good)

https://www.bilibili.com/video/BV1264y1x7rT/?spm_id_from=333.337.search-card.all.click&vd_source=6292df769fba3b00eb2ff1859b99d79e

评论: 代码  链接: https://pan.baidu.com/s/1RBANU_CrZlEKe1QbwuCl5A 提取码: eknr

 

【入门级NLP】基于Bert的文本分类任务(下) 模型与训练

https://www.bilibili.com/video/BV1w64y1v7Qs/?p=1&share_medium=iphone&share_plat=ios&share_session_id=C727786B-5287-49BC-91FC-65966B64A3AC&share_source=COPY&share_tag=s_i&timestamp=1629762844&unique_k=cEqyj5&vd_source=6292df769fba3b00eb2ff1859b99d79e

链接: https://pan.baidu.com/s/1RBANU_CrZlEKe1QbwuCl5A 提取码: eknr      。

没有训练的视频讲解。

基于BERT bert的文本分类通用代码教程 完整数据+代码 通用代码模板


手推transformer

https://www.bilibili.com/video/BV1UL411g7aX/?spm_id_from=333.788.recommend_more_video.-1&vd_source=6292df769fba3b00eb2ff1859b99d79e