NLTK:一个先进的用来处理自然语言数据的Python程序。
本资源由 伯乐在线 – 赵叶宇 整理
NLTK是一个高效的Python构建的平台,用来处理人类自然语言数据。它提供了易于使用的接口,通过这些接口可以访问超过50个语料库和词汇资源(如WordNet),还有一套用于分类、标记化、词干标记、解析和语义推理的文本处理库,以及工业级NLP库的封装器和一个活跃的讨论论坛。
统计语言学话题方面的手动编程指南加上全面的API文档,使得NLTK非常适用于语言学家、工程师、学生、教育家、研究人员以及行业用户等人群。NLTK可以在Windows、Mac OS X以及Linux系统上使用。最好的一点是,NLTK是一个免费、开源的社区驱动的项目。
NLTK被称为“一个使用Python开发的用于统计语言学的教学和研究的有利工具”和“一个自然语言处理的高效库”。
Python自然语言处理提供了一个自然语言处理的实例介绍。这个介绍是由NLTK的创建者所写的,它引导读者通过编写Python程序,使用语料库,分类文本,分析语言结构等基本过程来理解NLTK的使用。 这本书正在为Python3版本和NLTK3版本更新内容。(Python2版本仍然可以在http://nltk.org/book_1ed获得。)
用NLTK实现的简单例子
给一些文本做标记和打标签
Shell
1234567891011 | >>> import nltk>>> sentence = “””At eight o’clock on Thursday morning… Arthur didn’t feel very good.”””>>> tokens = nltk.word_tokenize(sentence)>>> tokens[‘At’, ‘eight’, “o’clock”, ‘on’, ‘Thursday’, ‘morning’,’Arthur’, ‘did’, “n’t”, ‘feel’, ‘very’, ‘good’, ‘.’]>>> tagged = nltk.pos_tag(tokens)>>> tagged[0:6][(‘At’, ‘IN’), (‘eight’, ‘CD’), (“o’clock”, ‘JJ’), (‘on’, ‘IN’),(‘Thursday’, ‘NNP’), (‘morning’, ‘NN’)] |
识别已命名的实体
Shell
1234567 | >>> entities = nltk.chunk.ne_chunk(tagged)>>> entitiesTree(‘S’, [(‘At’, ‘IN’), (‘eight’, ‘CD’), (“o’clock”, ‘JJ’), (‘on’, ‘IN’), (‘Thursday’, ‘NNP’), (‘morning’, ‘NN’), Tree(‘PERSON’, [(‘Arthur’, ‘NNP’)]), (‘did’, ‘VBD’), (“n’t”, ‘RB’), (‘feel’, ‘VB’), (‘very’, ‘RB’), (‘good’, ‘JJ’), (‘.’, ‘.’)]) |
显示解析树
Shell
123 | >>> from nltk.corpus import treebank>>> t = treebank.parsed_sents(‘wsj_0001.mrg’)[0]>>> t.draw() |
安装NLTK
NLTK要求Python的版本为2.7或者3.2以上
Mac/Unix
#p#分页标题#e#
1.安装NLTK:执行sudo pip install -U nltk
2.安装Numpy(可选):执行sudo pip install -U numpy
3.安装测试:执行pyhon
,进入python环境后再执行import nltk
Windows
以下安装指南默认用户还没有在本地安装Python
32位安装
1.安装Python3.4:http://www.python.org/downloads/ (避免安装64位版本)
2.安装Numpy(可选):http://sourceforge.net/projects/numpy/files/NumPy/(适用于Python3.4的版本)
3.安装NLTK:http://pypi.python.org/pypi/nltk
4.安装测试:Start>Python34
,再输入import nltk
安装第三方软件
参照:http://github.com/nltk/nltk/wiki/Installing-Third-Party-Software
安装NLTK数据
NLTK附带了许多语料库,toy grammar以及训练模型等。完整的列表发布在:http://nltk.org/nltk_data/
要安装这些数据,首先安装NLTK(安装指南见http://nltk.org/install.html,再利用下述NLTK的数据下载器。
除了一些个人数据包,用户还可以下载整个集合(使用“all”),或者仅下载书中例子和练习中使用到的数据(使用“book”),或者仅下载没有语法和训练模型的语料库(使用“all-corpora”)。
详细安装教程见http://www.nltk.org/data.html
为NLTK做贡献
自然语言处理工具(NLTK)的发展完全得益于许多开发者们的共同努力,项目启动于2000年。
在2015年,NLTK团队将NLTK的范围扩展到了其他领域。在2016年将继续细化在这些领域的技术支持。其他关于开发者信息包括:
其他资源
开发资源
官方网站:http://www.nltk.org
开源地址:http://github.com/nltk/nltk