一.概述        DPCNN(Deep Pyramid Convolutional Neural Networksfor Text Categorization),是RieJohnson等提出的一种深度卷积神经网络,可以称之为"深度金字塔卷积神经网络"。        在D
NLP分类经验总结以下文章来源于对白的算法屋 ,作者对白在我们做一项目或业务之前,需要了解为什么要做它,比如为什么要做文本分类?项目开发需要,还是文本类数据值得挖掘。1、介绍目前讨论文本分类几乎都是基于深度学习的方法,本质上还是一建模的过程,包括数据准备-预处理-模型选择-模型调优-模型上线这样的一套流程。在本地进行文本分类开发我们需要关注的两主要的问题:数据处理和模型选择,这两者是相互依赖
目录自然语言处理涉及的几个层次nlp任务流程BERT适用场景BERT适合解决句子匹配类任务的原因BERT已经发布的框架包括BERT的主要贡献Transrofmer模型讲解注意力机制attention时主要分为三步BERT的输入词向量是三向量之和:实验的代码流程如下:过拟合的解决方案监督学习和非监督学习常用的分类器有哪些LR和SVM的联系与区别是什么?CNN最成功的应用是在CV,CNN通过什么手
是 ...
转载 2021-10-26 00:49:00
267阅读
2评论
《大道至简》读后感 近几天,我阅读了周爱民的《大道至简》典藏版,一本关于软件工程的图书,收益颇丰,也对初入软件工程的我起了启蒙的作用。 记得刚进入大学时,我们的软件工程老师当时介绍软件工程专业的时候提到了愚公移山的典故,犹记得当时的我什么也不懂,只是感觉愚公移山这个典故特别搞笑,总是不会想到他背后真 ...
转载 2021-08-06 22:52:00
314阅读
2评论
自然语言处理(nlp)作为计算机的一研究方向存在已久,但是最近人工智能这一波热潮又让nlp重新得到巨大关注。由于处理对象是语言这一种人类特有的沟通工具以及其丰富巨大的信息量,给人一种错觉--似乎这是人工智能领域真正的皇冠,达到最终真正人工智能(强人工智能)的最近之路。但是事实是如何不敢随意断言,只是有点感慨一下,就是这一块很难做。语言作为人类的工具,一方面可以让我们与外界交互,可以说话,可以记录
1、监视局部变量 在GDB中,能够通过调用info locals命令得到当前桟帧中的全部局部变量的值的列表。 2、直接检查内存 在有些情况下。可能希望检查给定地址的内存,而不是通过变量的名称。GDB为这样的目的提供x命令。 print和display的高级选项,print和display命令同意指定
转载 2017-08-13 13:32:00
140阅读
2评论
一、任务介绍与实际应用文本分类任务是NLP中最常见、最基础的任务之一,顾名思义,就是对给定的一句子或一段文本进行分类。根据文本分类的类别定义,可以分为二分类/多分类、多标签、层次分类,以下面的新闻分类为例:• 二分类/多分类:标签集中有两或以上的标签类别,每个样本有且只有一标签;• 多标签:每个样本有一或多个标签;• 层次分类:特殊的多分类或多标签任务,标签之间具有层次关系。比如下图样本的
think in  , effective java  这两本书一直都在java的生态圈中经久不衰。本来想着先翻过 think in effective java 来自google首席架构师 joshua bloch      拿到书的那一天,我兴奋地回到宿舍,翻开书读了读引言,大多跟平常的书没啥区
转载 2023-07-06 11:42:09
98阅读
继续学习基于深度学习的文本分类 资料链接Transformer原理 编码器堆叠,解码器堆叠。编码器:每个编码器结构完全相同,但不共享参数,每一编码器都可以拆解成两部分。在对输入序列做词的向量化之后,它们首先流过一self-attention层,该层帮助编码器在编码单词的时候能够看到输入序列中的其他单词。self-attention的输出流向一前向网络(Feed Forward Neural
第一故事:1850年 美国律师亚当·尤因乘船回国,在临别宴会上,有人第一次说起“自然法则”这个词,指白人对黑人的奴役是合理的。航行途中,尤因救了一位黑人,后又被黑人所救。尤因回国后,告诉身为美国奴隶主的岳父,自己要投身于废奴运动中。岳父再次强调了“自然法则”,并告诉他一滴水是无法撼动大海的。而尤因则回答说:没有一滴滴的水,哪来的
原创 2013-02-11 23:08:52
880阅读
 伯松分布就是正态分布,形状是一钟形,两边低而中间高。最简单的理解是,假设找100 个人扔硬币,每个人扔100次。100人扔完了以后,先把x轴分成10份,y轴是人数,出现10次以下正面的人数当作y轴画在x轴10的位置上;10次 到20次正面的人的个数标注在x轴为20的y轴上;以此类推,扔到90次正面以上的人数标注到x轴为100的y位置上。最终得到的就是正态分布。 显然,100
原创 2013-02-16 15:54:56
714阅读
http://www.vsharing.com/k/career/2009-12/628719.html 《浮沉》读后感连续用几个晚上睡觉前的一段时间把《浮沉》第一部看完了,总体感觉写的不错,但较之《圈子圈套》、《杜拉拉升职记》而言,语言的简洁生动方面稍微逊之,难掩夸张虚构的成分。作者毕竟很年轻,生活的积淀有限,但能写出这样的作品也实属难能可贵。现将有些感想与大家分享如下:第一章:从前台
转载 精选 2015-01-21 15:47:12
942阅读
重读《程序员修炼之道》时,我刻意跳过了被奉为圭臬的DRY原则与正交性理论,转而聚焦“让你的工具锐利”这一常被轻忽的章节。这才惊觉,自己多年来始终停留在“用工具”的层面,从未真正践行“养工具”的修炼。 书中关于“纯文本的威力”的论述,精准击中了我过往的技术盲区。曾为追求“高效”,我习惯用专用格式存储配 ...
转载 7小时前
372阅读
  昨日深夜读完《洗牌》,里面的人物从主角到配角,我居然没有一是由衷喜欢的。虽然,本书有很多搞笑的场面,也不乏很多让人捧腹的段子,但看后心里面总是堵着,有种闷闷的感觉。   巴:有官瘾,能逢场作戏,能喊上级作爸爸,能把贵人变情人,遇事畏畏缩缩,前怕狼后怕虎。对于帮过他的人,没有任何感恩之情,一味索取;索取不成,立马翻脸。自己本身也不是清白的人,拒收一、两次贿赂,居然还突然觉得自己高尚起来。
原创 2010-01-06 17:00:08
497阅读
1评论
PON:Passive Optical Network,无源光网络的简写。 组成:光线路终端(OLT),光配线网络(ODN),光网络单元(ONU) 看上图所示,即可明白它们各自的用途。 各个组件的作用和结构:   PON的下行采用TDM技术,以无源功率分束广播到各个用户   上行采用TDMA方式,把多个用户的信息接入OLT。相对较复杂。 PON技术的
原创 2013-01-20 18:22:43
1697阅读
近日阅读中,2句话,颇有感悟。记录如下。士先器识,而后文艺。意思是:一人应当先培养器量见识,其次是文才技艺。出自后晋赵莹主修的《旧唐书·列传·卷一百四十》:“士之致远,先器识而后文艺。”器量,是里子;文艺,是外在。可见的是外在,内心追求更应该聚焦内里的元素。子曰:“道不行,乘桴浮于海,从我者,其由与!”子路闻之喜。孔子说:“如果主张的确无法推行了,我想乘着木排漂流海外。但跟随我的,恐怕只有仲由吧
原创 2021-08-26 15:22:50
591阅读
1.instanceof 运算符:该运算符用于操作对象实例,检查该对象是否是一特定类型(类类型或接口类型)。返回boolean类型,运算符使用:( Object reference variable ) instanceof (class/interface type)。如果后面是前面的类型,返回 ...
转载 2021-10-03 22:02:00
222阅读
2评论
《SRE》这本书英文版已面世半年后,中文版终于面世。从4月、5月的时候,我就一直在尝试看英文版,由于自己英文水
原创 2022-07-22 16:43:35
167阅读
《方与圆》读后感 “方”的确是做人之本,是堂堂正正做人的精神脊梁,人的外在是内在的一种反映,内心没有的东西,外表就无法显露;内心有了,外在自然而然就表现出来。人的心灵杰出,行为才可能杰出;人的内心美好,气质才会美好。人的气质、能力在很大程度上是由人的内在品质决定。正如军队,做参谋的,只需要有计谋,但起决定作用的司令官,却要有威望、魄力、具备优秀的品质。对人生而言,技巧
原创 2012-06-20 21:53:03
489阅读
2点赞
1评论
  • 1
  • 2
  • 3
  • 4
  • 5