【前言】

自然语言：日常交流使用的语言

NLP:Natural Language Processing

【第1章 语言处理与Python】

1.1语言计算：文本和单词

基本入门

-想要获得我们期望的小数除法，要输入from __future__ import division

-下载NLTK数据包

 import nltk

 nltk.download()

-加载要用的文本

 from nltk.book import *

搜索文本

-concordance词汇索引,会显示词汇所处的上下文

text1.concordance("monstrous")

-similar，查找还有哪些词会出现在相似的上下文中

text1.similar("monstrous")

-common_contexts，允许我们研究两个或者两个以上的词共同的上下文

text2.common_contexts(["monstrous","very"])

-dispersion_plot,判断词汇在文本中的位置，使用离散图来表示位置。

text4.dispersion_plot(["citizens","democracy","freedom","duties","America"])

-不同风格生成文本

text3.generate()

计数词汇

-len(text3)出现的词和标点符号的个数

-sorted(set(text3))所有文章出现的词汇，并且进行排序（词类型，一个词在一个文本中独一无二出现的形式或者拼写）

-from __future__ import division

 len(text3)/len(set(text3))

 丰富度测量，每个字平均被使用的次数

-text3.count("smote")特定次出现的次数

-100*text4.count('a')/len(text4)特定的词在文本中占据的百分比

-定义函数，进行重复运算。

 def lexical_diversity(text):

    return len(text)/len(set(text))

 def percentage(count,total):

    return 100*count/total