五分钟入门Python自然语言处理(一)
專 欄
❈Jerry,Python中文社区专栏作者。
blog:https://my.oschina.net/jhao104/blog
github:https://github.com/jhao104
❈
本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。
什么是NLP?
简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。
这里讨论一些自然语言处理(NLP)的实际应用例子,如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落。
这并不是NLP能做的所有事情。
NLP实现
搜索引擎: 比如谷歌,Yahoo等。谷歌搜索引擎知道你是一个技术人员,所以它显示与技术相关的结果;
社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理,就会显示相关的广告和帖子。
语音引擎:比如Apple的Siri。
垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义,来判断是不是垃圾邮件。
NLP库
下面是一些开源的自然语言处理库(NLP):
- Natural language toolkit (NLTK);
- Apache OpenNLP;
- Stanford NLP suite;
- Gate NLP library
其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP),它是用Python编写的,而且背后有非常强大的社区支持。
NLTK也很容易上手,实际上,它是最简单的自然语言处理(NLP)库。
在这个NLP教程中,我们将使用Python NLTK库。
安装 NLTK
如果您使用的是Windows/Linux/Mac,您可以使用pip安装NLTK:
pip install nltk
打开python终端导入NLTK检查NLTK是否正确安装:
import mltk
如果一切顺利,这意味着您已经成功地安装了NLTK库。首次安装了NLTK,需要通过运行以下代码来安装NLTK扩展包:
import nltk
nltk.download()
这将弹出NLTK 下载窗口来选择需要安装哪些包:
您可以安装所有的包,因为它们的大小都很小,所以没有什么问题。
使用Python Tokenize文本
首先,我们将抓取一个web页面内容,然后分析文本了解页面的内容。
我们将使用urllib模块来抓取web页面:
从打印结果中可以看到,结果包含许多需要清理的HTML标签。 然后BeautifulSoup模块来清洗这样的文字:
现在我们从抓取的网页中得到了一个干净的文本。 下一步,将文本转换为tokens,像这样:
统计词频
text已经处理完毕了,现在使用Python NLTK统计token的频率分布。
可以通过调用NLTK中的FreqDist()
方法实现:
如果搜索输出结果,可以发现最常见的token是PHP。
您可以调用plot
函数做出频率分布图:
这上面这些单词。比如of
,a
,an
等等,这些词都属于停用词。
一般来说,停用词应该删除,防止它们影响分析结果。
处理停用词
NLTK自带了许多种语言的停用词列表,如果你获取英文停用词:
现在,修改下代码,在绘图之前清除一些无效的token:
最终的代码应该是这样的:
现在再做一次词频统计图,效果会比之前好些,因为剔除了停用词:
使用NLTK Tokenize文本
在之前我们用split
方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本。
文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。
你可以将段落tokenize成句子,将句子tokenize成单个词,NLTK分别提供了句子tokenizer和单词tokenizer。
假如有这样这段文本:
使用句子tokenizer将文本tokenize成句子:
输出如下:
这是你可能会想,这也太简单了,不需要使用NLTK的tokenizer都可以,直接使用正则表达式来拆分句子就行,因为每个句子都有标点和空格。
那么再来看下面的文本:
这样如果使用标点符号拆分,Hello Mr
将会被认为是一个句子,如果使用NLTK:
输出如下:
这才是正确的拆分。
接下来试试单词tokenizer:
输出如下:
Mr.
这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer,它是NLTK.tokenize的一部分。而且这个tokenizer经过训练,可以适用于多种语言。
- JavaScript 教程
- JavaScript 编辑工具
- JavaScript 与HTML
- JavaScript 与Java
- JavaScript 数据结构
- JavaScript 基本数据类型
- JavaScript 特殊数据类型
- JavaScript 运算符
- JavaScript typeof 运算符
- JavaScript 表达式
- JavaScript 类型转换
- JavaScript 基本语法
- JavaScript 注释
- Javascript 基本处理流程
- Javascript 选择结构
- Javascript if 语句
- Javascript if 语句的嵌套
- Javascript switch 语句
- Javascript 循环结构
- Javascript 循环结构实例
- Javascript 跳转语句
- Javascript 控制语句总结
- Javascript 函数介绍
- Javascript 函数的定义
- Javascript 函数调用
- Javascript 几种特殊的函数
- JavaScript 内置函数简介
- Javascript eval() 函数
- Javascript isFinite() 函数
- Javascript isNaN() 函数
- parseInt() 与 parseFloat()
- escape() 与 unescape()
- Javascript 字符串介绍
- Javascript length属性
- javascript 字符串函数
- Javascript 日期对象简介
- Javascript 日期对象用途
- Date 对象属性和方法
- Javascript 数组是什么
- Javascript 创建数组
- Javascript 数组赋值与取值
- Javascript 数组属性和方法
- nginx学习(1): openresty安装
- 2020年8月26日更新WINDOWS服务器同时安装多个版本的MYSQL的方法,MQYSQL5和MQYSQL8的共存。
- python 自动化测试(3):数据库连接与使用
- 微信小程序实战开发二:微信小程序 WEUL组件之 画廊组件
- 关于Cookie和Session
- 微信小程序实战开发一:在小程序中使用useExtendedLib方法引入官方UI
- python 自动化测试(4):日志类封装
- 微信小程序实战开发三:小程序之全局配置APP.JSON之底部菜单栏tabBar
- python 自动化测试(5):页面基类封装
- 微信小程序实战开发四:小程序获取用户信息流程及信息存储方式解析
- python 自动化测试(6):jar包调用
- 微信小程序实战开发五:使用自定义组件配置一个通用的图片轮播组件。
- 亿级流量系统如何玩转 JVM
- 微信小程序实战开发六:使用weui-flex创建一个可自由配置的布局组件。
- JDBCJava连接MySql数据库