adnb34g的博客_自然语言处理

HanLP封装为web services服务的过程介绍

前几天的召开的2019年大数据生态产业大会不知道大家关注到没有，看到消息是hanlp2.0版本发布了。不知道hanlp2.0版本又将带来哪些新的变化？准备近期看能够拿到一些hanlp2.0的资料，如果能顺利拿到的话，到时候分享给大家！今天分享这篇是关于将hanlp封装到web services服务中的。文章的部分内容有修改，阅读室请注意！ 1. Apache Axis2简要介绍 Apache

hanlp

web sercices

转载 2019-08-09 09:32:50 639 阅读

hanlp分词工具应用案例：商品图自动推荐功能的应用

本篇分享一个hanlp分词工具应用的案例，简单来说就是做一图库，让商家轻松方便的配置商品的图片，最好是可以一键完成配置的。先看一下效果图吧：商品单个推荐效果：匹配度高的放在最前面这个想法很好，那怎么实现了。分析了一下解决方案步骤： 1、图库建设：至少要有图片吧，图片肯定要有关联的商品名称、商品类别、商品规格、关键字等信息。 2、商品分词算法：由于商品名称是商家自己设置的，不是规范的，所以

hanlp分词

转载 2019-08-07 10:20:20 751 阅读

HanLP分词工具中的ViterbiSegment分词流程

本篇文章将重点讲解HanLP的ViterbiSegment分词器类，而不涉及感知机和条件随机场分词器，也不涉及基于字的分词器。因为这些分词器都不是我们在实践中常用的，而且ViterbiSegment也是作者直接封装到HanLP类中的分词器，作者也推荐使用该分词器，同时文本分类包以及其他一些自然语言处理任务包中的分词器也都间接使用了ViterbiSegment分词器。今天的文章还会介绍各分词词典文件

hanlp

人名识别

ViterbiSegment分词

转载 2019-08-05 09:50:03 597 阅读

hanlp自然语言处理包的人名识别代码解析

HanLP发射矩阵词典nr.txt中收录单字姓氏393个。袁义达在《中国的三大姓氏是如何统计出来的》文献中指出：当代中国100个常见姓氏中，集中了全国人口的87%，根据这一数据我们只保留nr.txt中的100个常见词语的姓氏角色，其他词语去掉其姓氏角色状态。过滤后，nr.txt中具有姓氏角色的单字共计97个。列于下表：丁万乔于任何余侯傅冯刘卢史叶吕吴周唐夏姚姜孔孙孟宋尹崔常康廖张彭徐戴方易曹曾朱李

hanlp

人名识别

原创 2019-08-02 09:33:36 985 阅读

Hanlp-地名识别调试方法详解

HanLP收词特别是实体比较多，因此特别容易造成误识别。下边举几个地名误识别的例子，需要指出的是，后边的机构名识别也以地名识别为基础，因此，如果地名识别不准确，也会导致机构名识别不准确。

hanlp

地名识别

原创 2019-07-29 09:52:16 836 阅读

自然语言处理工具HanLP-基于层叠HMM地名识别

本篇接上一篇内容《HanLP-基于HMM-Viterbi的人名识别原理介绍》介绍一下层叠隐马的原理。首先说一下上一篇介绍的人名识别效果对比：只有Jieba识别出的人名准确率极低，基本为地名或复杂地名组成部分或复杂机构名组成部分。举例如下：[1]战乱的阿富汗地区，枪支可随意买卖，AK47价格约500人民币“阿富汗”被识别为人名。[2]安庆到桂林自驾游如何规划？“桂林”被识别为人名。[3]2018天津

hanlp

地名识别

原创 2019-07-26 09:19:31 485 阅读

HanLP-基于HMM-Viterbi的人名识别原理介绍

Hanlp自然语言处理包中的基于HMM-Viterbi处理人名识别的内容大概在年初的有分享过这类的文章，时间稍微久了一点，有点忘记了。看了 baiziyu 分享的这篇比我之前分享的要简单明了的多。下面就把文章分享给大家交流学习之用，部分内容有做修改。本文主要介绍一下HanLP是如何利用HMM来做人名识别的。基本思想是把词语序列作为观测序列，将角色序列作为隐藏序列，当模型预测出最佳隐藏状态序列后

hanlp

人名识别

原创 2019-07-24 09:47:09 764 阅读

HanLP-朴素贝叶斯分类预测缺陷

文章整理自 baiziyu 的知乎专栏，感兴趣的朋友可以去关注下这位大神的专栏，很多关于自然语言处理的文章写的很不错。昨天看到他的分享的两篇关于朴素贝叶斯分类预测的文章，整理了一下分享给给大家，文章已做部分修改！朴素贝叶斯分类时，最好取对数变相乘为相加，防止预测结果溢出。可能出现的badcase就是明明训练语料X类目下没有词语t，而系统就将文本预测为X类目。解决方法就时改相乘为取对数相加。Han

hanlp

朴素贝叶斯分类

转载 2019-07-22 09:37:43 498 阅读

HanLP-地名识别调试方法

HanLP收词特别是实体比较多，因此特别容易造成误识别。下边举几个地名误识别的例子，需要指出的是，后边的机构名识别也以地名识别为基础，因此，如果地名识别不准确，也会导致机构名识别不准确。类型1 数字+地名[1] 暗访哈尔滨网约车：下10单来7辆“黑车” 1辆套牌[2] 房天下每日成交5月12日海宁商品房销售备案43套[3] 广西近视手术专家-黄明汉院长9月9日百色见面会类型2 前词+地名首词

hanlp

地名识别

原创 2019-07-19 09:47:29 504 阅读

HanLP-地名识别调试方法

HanLP收词特别是实体比较多，因此特别容易造成误识别。下边举几个地名误识别的例子，需要指出的是，后边的机构名识别也以地名识别为基础，因此，如果地名识别不准确，也会导致机构名识别不准确。类型1 数字+地名[1] 暗访哈尔滨网约车：下10单来7辆“黑车” 1辆套牌[2] 房天下每日成交5月12日海宁商品房销售备案43套[3] 广西近视手术专家-黄明汉院长9月9日百色见面会类型2 前词+地名首词成

hanlp

地名识别

原创 2019-07-19 09:45:38 539 阅读

自然语言处理工具python调用hanlp的方法步骤

Python调用hanlp的方法此前有分享过，本篇文章分享自“逍遥自在017”的博客，个别处有修改，阅读时请注意！1.首先安装jpype首先各种坑，jdk和python 版本位数必须一致，我用的是JPype1-py3 版本号0.5.5.2 、1.6jdk和Python3.5，win7 64位下亲测没问题。否则死翘翘，有可能虚拟机都无法启动：出错调试，原因已说；测试成功会有输出。下面启动虚拟机跑h

python

hanlp

转载 2019-07-17 09:27:37 674 阅读

python调用hanlp进行命名实体识别

本文分享自 6丁一的猫的博客，主要是python调用hanlp进行命名实体识别的方法介绍。以下为分享的全文。1、python与jdk版本位数一致 2、pip install jpype1（python3.5） 3、类库hanlp.jar包、模型data包、配置文件hanlp.properties放在一个新建目录 4、修改hanlp.properties中root根目录，找到data 代码调用

python

hanlp

命名实体识别

转载 2019-07-15 09:13:49 1708 阅读

hanlp添加自定义字典的步骤介绍

本篇分享一个hanlp添加自定义字典的方法，供大家参考！总共分为两步：第一步：将自定义的字典放到custom目录下，然后删除CustomDicionary.txt.bin，因为分词的时候会读这个文件。如果没有的话它会根据配置文件中路径去加载字典生成bin文件。第二步：去配置文件把自己添加自定义的文件的路径添加进去，注意一定要添加末尾后面而且结束时不能有;号，我添加在其他位置都不好使。而且相对

hanlp

自然语言处理

自定义字典

转载 2019-07-12 09:15:51 404 阅读

hanlp添加自定义字典的步骤介绍

本篇分享一个hanlp添加自定义字典的方法，供大家参考！总共分为两步：第一步：将自定义的字典放到custom目录下，然后删除CustomDicionary.txt.bin，因为分词的时候会读这个文件。如果没有的话它会根据配置文件中路径去加载字典生成bin文件。第二步：去配置文件把自己添加自定义的文件的路径添加进去，注意一定要添加末尾后面而且结束时不能有;号，我添加在其他位置都不好使。而且相对

hanlp

自然语言处理

自定义字典

转载 2019-07-12 09:15:48 984 阅读

Spring MVCD框架中调用HanLP分词的方法

项目简要：关于java web的一个项目，用的Spring MVCd 框架。鉴于参与此次项目的人中并不是所人都做的Spring，为了能够提高效率，建议大家是先抛开SPring来写自己负责的模块，最后再把各个模块在Spring里面集成。项目里有一个文本分析的模块是一个同学用hanlp写的，由于在最后集成的时候直接使用maven添加的依赖，但最终测试时无法通过。后经分析发现她坐了实体识别，是自己改了h

spring

hanlp

原创 2019-07-10 10:08:56 474 阅读

java分词工具hanlp介绍

HanLP是由一系列模型预算法组成的工具包，结合深度神经网络的分布式自然语言处理，具有功能完善、性能高效、架构清晰、语料时新、可自定义等特点，提供词法分析、句法分析、文本分析和情感分析等功能，是GitHub最受欢迎、用户量最大（超过13000个star）、社区活跃度最高的自然语言处理技术。

Java

hanlp

原创 2019-07-03 10:27:34 1321 阅读

基于hanlp的es分词插件

摘要：elasticsearch是使用比较广泛的分布式搜索引擎，es提供了一个的单字分词工具，还有一个分词插件ik使用比较广泛，hanlp是一个自然语言处理包，能更好的根据上下文的语义，人名，地名，组织机构名等来切分词Elasticsearch默认分词输出： IK分词输出： hanlp分词输出： ik分词没有根据句子的含义来分词，hanlp能根据语义正确的切分出词安装步骤： 1、

hanlp

转载 2019-07-01 10:33:28 497 阅读

pyhanlp 繁简转换之拼音转换与字符正则化

繁简转换HanLP几乎实现了所有我们需要的繁简转换方式，并且已经封装到了HanLP中，使得我们可以轻松的使用，而分词器中已经默认支持多种繁简格式或者混合。这里我们不再做过多描述。 ·说明· HanLP能够识别简繁分歧词，比如打印机=印表機。许多简繁转换工具不能区分“以后”“皇后”中的两个“后”字，HanLP可以。·算法详解· 《汉字转拼音与简繁转换的Java实现》汉字转拼音 HanLP中的汉字

pyhanlp

转载 2019-06-28 09:20:57 544 阅读

自然语言处理工具中的中文分词器介绍

中文分词是中文文本处理的一个基础步骤，也是中文人机自然语言交互的基础模块，不同于英文的是，中文句子中没有词的界限，因此在进行中文自然语言处理时，通常需要先进行分词，分词效果将直接影响词性，句法树等模块的效果，当然分词只是一个工具，场景不同，要求也不同。在人机自然语言交互中，成熟的中文分词算法能够达到更好的自然语言处理效果，帮助计算机理解复杂的中文语言。

自然语言处理工具

中文分词器

结巴分词工具

hanlp分词

转载 2019-06-24 10:01:02 563 阅读

Ansj与hanlp分词工具对比

一、Ansj1、利用DicAnalysis可以自定义词库： 2、但是自定义词库存在局限性，导致有些情况无效：比如：“不好用“的正常分词结果：“不好，用”。（1）当自定义词库”好用“时，词库无效，分词结果不变。（2）当自定义词库“不好用”时，分词结果为：“不好用”，即此时自定义词库有效。 3、由于版本问题，可能DicAnalysis, ToAnalysis等类没有序列化，导致读取hdfs数据出错此

ansj

hanlp

转载 2019-06-21 12:00:07 719 阅读

python使用jieba实现中文文档分词和去停用词

分词工具的选择：　　现在对于中文分词，分词工具有很多种，比如说：jieba分词、thulac、SnowNLP等。在这篇文档中，笔者使用的jieba分词，并且基于python3环境，选择jieba分词的理由是其比较简单易学，容易上手，并且分词效果还很不错。分词前的准备：待分词的中文文档存放分词之后的结果文档中文停用词文档（用于去停用词，在网上可以找到很多）分词之后的结果呈现：去停用词和分词

python

转载 2019-06-19 09:55:42 1068 阅读

Hanlp配置自定义词典遇到的问题与解决方法

本文是整理了部分网友在配置hanlp自定义词典时遇到的一小部分问题，同时针对这些问题，也提供另一些解决的方案以及思路。这里分享给大家学习参考。

hanlp

自定义词典

转载 2019-06-17 09:42:41 747 阅读

HanLP-分类模块的分词器介绍

最近发现一个很勤快的大神在分享他的一些实操经验，看了一些他自己关于hanlp方面的文章，写的挺好的！转载过来分享给大家！

hanlp

自然语言处理

转载 2019-06-14 10:03:58 658 阅读

elasticsearch教程--中文分词器作用和使用

概述本文都是基于elasticsearch安装教程中的elasticsearch安装目录(/opt/environment/elasticsearch-6.4.0)为范例环境准备·全新最小化安装的centos 7.5·elasticsearch 6.4.0认识中文分词器在博文elasticsearch分词器中提到elasticsearch能够快速的通过搜索词检索出对应的文章归功于倒排索引

elasticsearch

中文分词

hanlp自定义

转载 2019-06-12 09:04:45 1623 阅读

HanLP-最短路径分词

今天介绍的内容是最短路径分词。最近换回了thinkpad x1，原因是mac的13.3寸的屏幕看代码实在是不方便，也可能是人老了吧，^_^。等把HanLP词法分析介绍结束后，还是会换回macbook pro的。个人有强迫症，只要看或写Java或C/C++代码或者用开发机的化，还是喜欢在windows下工作。看论文特别是理论的研究还是习惯用mac了。感觉开发还是windows比较顺手，理论研究还是m

hanlp

最短路径分词

转载 2019-06-05 10:29:35 673 阅读

史上最全中文分词工具整理

一．中文分词二．准确率评测：THULAC：与代表性分词软件的性能对比我们选择LTP-3.2.0 、ICTCLAS(2015版) 、jieba(C++版)等国内具代表性的分词软件与THULAC做性能比较。我们选择Windows作为测试环境，根据第二届国际汉语分词测评（The SecondInternational Chinese Word Segmentation Bakeoff)发布的国际中文分

中文分词

hanlp分词

结巴分词

转载 2019-06-03 10:18:00 709 阅读

NLP自然语言处理中英文分词工具集锦与基本使用介绍

一、中文分词工具（1）Jieba （2）snowNLP分词工具（3）thulac分词工具（4）pynlpir 分词工具（5）StanfordCoreNLP分词工具1.from stanfordcorenlp import StanfordCoreNLP2.with StanfordCoreNLP(r'E:\Users\Eternal Sun\PycharmProjects\1\venv\Lib

jieba

snowNLP分词工具

hanlp

转载 2019-05-31 09:51:58 4757 阅读

部分常用分词工具使用整理

以下分词工具均能在Python环境中直接调用（排名不分先后）。1、jieba（结巴分词）免费使用2、HanLP（汉语言处理包）免费使用3、SnowNLP（中文的类库）免费使用4、FoolNLTK（中文处理工具包）免费使用5、Jiagu（甲骨NLP）免费使用6、pyltp（哈工大语言云）商用需要付费7、THULAC（清华中文词法分析工具包）商用需要付费8、NLPIR（汉语分词系统）付

hanlp分词

jieba分词

汉语分词系统

转载 2019-05-29 09:25:49 521 阅读

HanLP-实词分词器

在进行文本分类（非情感分类）时，我们经常只保留实词（名、动、形）等词，为了文本分类的分词方便，HanLP专门提供了实词分词器类NotionalTokenizer，同时在分类数据集加载处理时，默认使用了NotionalTokenizer分词器。在HanLPJava版代码库中可以查看下边的文件中的函数 1、AbstractDataSet.java文件中的AbstractDataSet方法2、HanLP

pyhanlp

实词分词

转载 2019-05-27 10:02:04 601 阅读

Eclipse myeclipse下配置HanLP的教程

一、说明博主的配置1：window102：myeclipse3：jdk1.8备注：文章分享自贾继康的博客，博客使用的hanlp是1.6.8的版本。大家可以去下载最新的1.7版本了，也比较推荐使用最新的这个版本！二、资源获取 1、hanlp jar包获取：可以github上下载。本文中使用的是hanlp-1.6.8.zip版本 2、数据包获取三、配置说明 1、配置jar包获取ha

Eclipse

HanLP

转载 2019-05-24 09:28:17 430 阅读

官方博客	全部文章	热门标签	班级博客
了解我们	网站地图	意见反馈

鸿蒙开发者社区	51CTO学堂
51CTO	软考资讯

51CTO博客

adnb34g的博客