一、 简单介绍
a) 预测字符串概率
i. 那一个字符串更有可能或者更符合语法
1. Grill doctoral candidates.
2. Grill doctoral updates.
(example from Lee 1997)
ii. 向字符串赋予概率的方法被称之为语言模型（Methods for assigning probabilities to strings
"【NLP CS224N笔记】Lecture 1 Introduction of NLP" "【NLP CS224N笔记】Lecture 2 Word Vector Representations: word2vec"
原创
2021-05-20 23:14:04
317阅读
review: Word2vec: More detailsHow do we have usable meaning in a computer?wordNet的问题:? 1. 词语跟词语之间存在一定的语境差别 2. 有些单词的新含义缺少 3. 需要主观调整 4. 无法计算单词相似度word2vec步骤: 1. 寻找大量的文本 2. 固定词汇表中的每个单词都
原创
2021-04-10 12:32:58
328阅读
review: Word2vec: More detailsHow do we have usable meaning in a computer?wordNet的问题:? 1. 词语跟词语之间存在一定的语境差别 2. 有些单词的新含义缺少 3. 需要主观调整 4. 无法计算单词相似度word2vec步骤: 1. 寻找大量的文本 2. 固定词汇表中的每个单词都
原创
2021-04-10 12:33:03
396阅读
CS224n，基于转移的神经网络 依存句法分析作业（1）Adam和dropout的理解（2）完成parser_transition文件的几个关键函数
原创
2022-08-25 10:40:02
894阅读
学习总结文章目录学习总结一、QA介绍1.1 QA的分类：1.2 QA的框架1.1 QA在深度学习领域1.2 Beyond textual QA problems
原创
2022-08-25 10:38:48
884阅读
一只小狐狸带你解锁NLP/ML/DL秘籍前言「StanfordCS224n追剧计划」是由夕小瑶的卖萌屋发起的开源课程学习公益项目，以唯二两个开放课程平台为基础，实现同期学员交流讨论、专业助教答疑解惑和资源共享三大功能，解决大家学习stanfordCS224n公开课的困难，帮助大家更高效的学习。1夕小瑶@StanfordCS224n追剧群目前已有上千志同道合的同期小伙伴加入，加入讨论群可以提问问题、
原创
2020-12-21 22:35:25
225阅读
（1）语言模型： 预测下⼀个单词 的系统（2）递归神经网络：⼀系列神经网络- 采用任意长度的顺序输入- 在每一步上应用相同的权重- 可以选择在每一步上生成输出（3）递归神经网络 ≠ 语言模型。RNNs构建LM。
原创
2022-08-25 10:45:18
189阅读
多多指教呀。2021年1月12日，又一季Stanford CS...
原创
2023-05-02 08:53:25
158阅读
学习总结（1）adam和dropout是算法岗面试的常考题，下面的问题是源自斯坦福大学NLP的CS224n作业assignment3的2道题。
原创
2022-10-05 20:52:39
98阅读
学习总结Transformer 的进一步改进可能在于以下几个方向：0.1 理论分析Transfor
原创
2022-11-16 11:13:16
428阅读
I. 什么是NLP NLP全称是 Natural Language Processing ，即 自然语言处理 ，这是一门计算机科学、人工智能以及语言学的交叉学科。 NLP涉及的几个层次由下图所示。可以看到输入数据有两大类，分别是语音和文字。在接收到数据之后还需要做一系列的处理。 首先是speech数
原创
2021-05-01 19:28:49
481阅读
前言上周我们组织的StanfordCS224n追剧计划开启，很快收到了上千名志同道合的小伙伴的加入。在这一周的时间里，我们根据各位小伙伴的反馈和建议，制定了这个“开源追剧计划”的完整攻略。首先，重要的事情说五遍！！！该计划纯开源！纯公益！无任何收费！！！该计划纯开源！纯公益！无任何收费！！！该计划纯开源！纯公益！无任何收费！！！该计划纯开源！纯公益！无任何收费！！！该计划纯开源！纯公益！无任何收费
原创
2020-12-23 16:37:46
493阅读
(a) theory 证明对于任意输入向量x和常数c，softmax的输出不会随着c的改变而改变，即softmax(x) = softmax(x+c) note：在实际使用中，经常利用这个性质，将每个元素x减去最大的那个元素，即最大值为0. 证明：利用softmax的公式分别将两边展开计算即可。 (
转载
2019-01-08 18:36:00
92阅读
2评论
学习总结文章目录学习总结内容简介：一、从 RNN 到基于注意力的 NLP 模型1.
原创
2022-11-16 11:13:50
269阅读
一只小狐狸带你解锁NLP/ML/DL秘籍简介「StanfordCS224n追剧计划」是由夕小瑶的卖萌屋发起的开源开放NLP入门项目，借助github和微信群为大家提供同期小伙伴打卡讨论、内容沉淀、作业笔记和FAQ共享、连线斯坦福等服务。关于该计划的详请见这里1Github项目地址https://github.com/xixiaoyao/CS224n-winter-together扫码添加小夕微信，
原创
2020-12-21 22:41:22
302阅读
(a) 推导sigmoid的导数公式 y = 1/(1+exp( x)) Answer： y' = y (1 y) sigmoid的导数形式是十分简洁的，这也是sigmoid函数使用广泛的一个原因。 (b) 当使用交叉熵作为loss function时，推导其梯度公式，输入的y是一个one hot向
转载
2019-01-08 18:39:00
140阅读
2评论
/apachecn/stanford-cs224...
原创
2023-07-14 20:24:44
130阅读
重磅干货，第一时间送达1AboutCS224N「CS224n：深度自然语言处理课程」（NaturalLanguageProcessingwithDeepLearning），由斯坦福大学出品，让你在了解丰富的自然语言处理基础理论的同时，学会将运用神经网络到实际问题中。主讲人为斯坦福大学人工智能实验室主任，著名计算机科学家ChristopherManning教授，1月份课程阅读材料已公布。本课程自20
原创
2020-12-15 16:16:19
1014阅读
