编辑推荐

NLP，让人类与智能机器的交互不再遥远；深度学习，让语言解析不再是智能系统的瓶颈!

本书核心内容

NLP中的开源系统及其应用

中文分词源码解析

概率图模型的理论与算法

使用概率图模型进行序列标注

语料库的介绍与建设

深度学习与NLP

NLP与认知理论

汉语的句法与语义的解析

内容简介

　　本书是一本研究汉语自然语言处理方面的基础性、综合性书籍，涉及NLP的语言理论、算法和工程实践的方方面面，内容繁杂。 本书包括NLP的语言理论部分、算法部分、案例部分，涉及汉语的发展历史、传统的句法理论、认知语言学理论。需要指出的是，本书是迄今为止**本系统介绍认知语言学和算法设计相结合的中文NLP书籍，并从认知语言学的视角重新认识和分析了NLP的句法和语义相结合的数据结构。这也是本书的创新之处。 本书适用于所有想学习NLP的技术人员，包括各大人工智能实验室、软件学院等专业机构。

作者简介

　　郑捷，threedweb网站的负责人，研究方向是机器学习与自然语言处理。当前负责的核心产品是高精度自然语言认知系统的设计与研发，研发目标是高精度（识别率为85%~95%）的统一架构的NLP认知系统，已经出版专著《机器学习算法原理与编程实践》，希望能与在NLP这方面有兴趣的读者一起学习交流。

目录

第1章 中文语言的机器处理 1
1．1 历史回顾 2
1．1．1 从科幻到现实 2
1．1．2 早期的探索 3
1．1．3 规则派还是统计派 3
1．1．4 从机器学习到认知
计算 5
1．2 现代自然语言系统简介 6
1．2．1 NLP流程与开源框架 6
1．2．2 哈工大NLP平台及其
演示环境 9
1．2．3 Stanford NLP团队及其
演示环境 11
1．2．4 NLTK开发环境 13
1．3 整合中文分词模块 16
1．3．1 安装Ltp Python组件 17
1．3．2 使用Ltp 3．3进行中文
分词 18
1．3．3 使用结巴分词模块 20
1．4 整合词性标注模块 22
1．4．1 Ltp 3．3词性标注 23
1．4．2 安装StanfordNLP并
编写Python接口类 24
1．4．3 执行Stanford词性
标注 28
1．5 整合命名实体识别模块 29
1．5．1 Ltp 3．3命名实体识别 29
1．5．2 Stanford命名实体
识别 30
1．6 整合句法解析模块 32
1．6．1 Ltp 3．3句法依存树 33
1．6．2 Stanford Parser类 35
1．6．3 Stanford短语结构树 36
1．6．4 Stanford依存句法树 37
1．7 整合语义角色标注模块 38
1．8 结语 40
第2章 汉语语言学研究回顾 42
2．1 文字符号的起源 42
2．1．1 从记事谈起 43
2．1．2 古文字的形成 47
2．2 六书及其他 48
2．2．1 象形 48
2．2．2 指事 50
2．2．3 会意 51
2．2．4 形声 53
2．2．5 转注 54
2．2．6 假借 55
2．3 字形的流变 56
2．3．1 笔与墨的形成与变革 56
2．3．2 隶变的方式 58
2．3．3 汉字的符号化与结构 61
2．4 汉语的发展 67
2．4．1 完整语义的基本
形式――句子 68
2．4．2 语言的初始形态与
文言文 71
2．4．3 白话文与复音词 73
2．4．4 白话文与句法研究 78
2．5 三个平面中的语义研究 80
2．5．1 词汇与本体论 81
2．5．2 格语法及其框架 84
2．6 结语 86
第3章 词汇与分词技术 88
3．1 中文分词 89
3．1．1 什么是词与分词规范 90
3．1．2 两种分词标准 93
3．1．3 歧义、机械分词、语言
模型 94
3．1．4 词汇的构成与未登录
词 97
3．2 系统总体流程与词典结构 98
3．2．1 概述 98
3．2．2 中文分词流程 99
3．2．3 分词词典结构 103
3．2．4 命名实体的词典
结构 105
3．2．5 词典的存储结构 108
3．3 算法部分源码解析 111
3．3．1 系统配置 112
3．3．2 Main方法与例句 113
3．3．3 句子切分 113
3．3．4 分词流程 117
3．3．5 一元词网 118
3．3．6 二元词图 125
3．3．7 NShort算法原理 130
3．3．8 后处理规则集 136
3．3．9 命名实体识别 137
3．3．10 细分阶段与最短
路径 140
3．4 结语 142
第4章 NLP中的概率图模型 143
4．1 概率论回顾 143
4．1．1 多元概率论的几个
基本概念 144
4．1．2 贝叶斯与朴素贝叶斯
算法 146
4．1．3 文本分类 148
4．1．4 文本分类的实现 151
4．2 信息熵 154
4．2．1 信息量与信息熵 154
4．2．2 互信息、联合熵、
条件熵 156
4．2．3 交叉熵和KL散度 158
4．2．4 信息熵的NLP的
意义 159
4．3 NLP与概率图模型 160
4．3．1 概率图模型的几个
基本问题 161
4．3．2 产生式模型和判别式
模型 162
4．3．3 统计语言模型与NLP
算法设计 164
4．3．4 极大似然估计 167
4．4 隐马尔科夫模型简介 169
4．4．1 马尔科夫链 169
4．4．2 隐马尔科夫模型 170
4．4．3 HMMs的一个实例 171
4．4．4 Viterbi算法的实现 176
4．5 最大熵模型 179
4．5．1 从词性标注谈起 179
4．5．2 特征和约束 181
4．5．3 最大熵原理 183
4．5．4 公式推导 185
4．5．5 对偶问题的极大似然
估计 186
4．5．6 GIS实现 188
4．6 条件随机场模型 193
4．6．1 随机场 193
4．6．2 无向图的团（Clique）
与因子分解 194
4．6．3 线性链条件随机场 195
4．6．4 CRF的概率计算 198
4．6．5 CRF的参数学习 199
4．6．6 CRF预测标签 200
4．7 结语 201
第5章 词性、语块与命名实体
识别 202
5．1 汉语词性标注 203
5．1．1 汉语的词性 203
5．1．2 宾州树库的词性标注
规范 205
5．1．3 stanfordNLP标注
词性 210
5．1．4 训练模型文件 213
5．2 语义组块标注 219
5．2．1 语义组块的种类 220
5．2．2 细说NP 221
5．2．3 细说VP 223
5．2．4 其他语义块 227
5．2．5 语义块的抽取 229
5．2．6 CRF的使用 232
5．3 命名实体识别 240
5．3．1 命名实体 241
5．3．2 分词架构与专名
词典 243
5．3．3 算法的策略――词典
与统计相结合 245
5．3．4 算法的策略――层叠
式架构 252
5．4 结语 259
第6章 句法理论与自动分析 260
6．1 转换生成语法 261
6．1．1 乔姆斯基的语言观 261
6．1．2 短语结构文法 263
6．1．3 汉语句类 269
6．1．4 谓词论元与空范畴 274
6．1．5 轻动词分析理论 279
6．1．6 NLTK操作句法树 280
6．2 依存句法理论 283
6．2．1 配价理论 283
6．2．2 配价词典 285
6．2．3 依存理论概述 287
6．2．4 Ltp依存分析介绍 290
6．2．5 Stanford依存转换、
解析 293
6．3 PCFG短语结构句法分析 298
6．3．1 PCFG短语结构 298
6．3．2 内向算法和外向
算法 301
6．3．3 Viterbi算法 303
6．3．4 参数估计 304
6．3．5 Stanford 的PCFG算法
训练 305
6．4 结语 310
第7章 建设语言资源库 311
7．1 语料库概述 311
7．1．1 语料库的简史 312
7．1．2 语言资源库的分类 314
7．1．3 语料库的设计实例：
国家语委语料库 315
7．1．4 语料库的层次加工 321
7．2 语法语料库 323
7．2．1 中文分词语料库 323
7．2．2 中文分词的测评 326
7．2．3 宾州大学CTB简介 327
7．3 语义知识库 333
7．3．1 知识库与HowNet
简介 333
7．3．2 发掘义原 334
7．3．3 语义角色 336
7．3．4 分类原则与事件
分类 344
7．3．5 实体分类 347
7．3．6 属性与分类 352
7．3．7 相似度计算与实例 353
7．4 语义网与百科知识库 360
7．4．1 语义网理论介绍 360
7．4．2 维基百科知识库 364
7．4．3 DBpedia抽取原理 365
7．5 结语 368
第8章 语义与认知 370
8．1 回顾现代语义学 371
8．1．1 语义三角论 371
8．1．2 语义场论 373
8．1．3 基于逻辑的语义学 376
8．2 认知语言学概述 377
8．2．1 象似性原理 379
8．2．2 顺序象似性 380
8．2．3 距离象似性 380
8．2．4 重叠象似性 381
8．3 意象图式的构成 383
8．3．1 主观性与焦点 383
8．3．2 范畴化：概念的
认知 385
8．3．3 主体与背景 390
8．3．4 意象图式 392
8．3．5 社交中的图式 396
8．3．6 完形：压缩与省略 398
8．4 隐喻与转喻 401
8．4．1 隐喻的结构 402
8．4．2 隐喻的认知本质 403
8．4．3 隐喻计算的系统
架构 405
8．4．4 隐喻计算的实现 408
8．5 构式语法 412
8．5．1 构式的概念 413
8．5．2 句法与构式 415
8．5．3 构式知识库 417
8．6 结语 420
第9章 NLP中的深度学习 422
9．1 神经网络回顾 422
9．1．1 神经网络框架 423
9．1．2 梯度下降法推导 425
9．1．3 梯度下降法的实现 427
9．1．4 BP神经网络介绍和
推导 430
9．2 Word2Vec简介 433
9．2．1 词向量及其表达 434
9．2．2 Word2Vec的算法
原理 436
9．2．3 训练词向量 439
9．2．4 大规模上下位关系的
自动识别 443
9．3 NLP与RNN 448
9．3．1 Simple-RNN 449
9．3．2 LSTM原理 454
9．3．3 LSTM的Python
实现 460
9．4 深度学习框架与应用 467
9．4．1 Keras框架介绍 467
9．4．2 Keras序列标注 471
9．4．3 依存句法的算法
原理 478
9．4．4 Stanford依存解析的
训练过程 483
9．5 结语 488
第10章 语义计算的架构 490
10．1 句子的语义和语法预处理 490
10．1．1 长句切分和融合 491
10．1．2 共指消解 496
10．2 语义角色 502
10．2．1 谓词论元与语义
角色 502
10．2．2 PropBank简介 505
10．2．3 CPB中的特殊
句式 506
10．2．4 名词性谓词的语义
角色 509
10．2．5 PropBank展开 512
10．3 句子的语义解析 517
10．3．1 语义依存 517
10．3．2 完整架构 524
10．3．3 实体关系抽取 527
10．4 结语 531

前言/序言

推荐序

自然语言处理是人工智能领域的一颗明珠，现在已经成为人工智能研究中最为活跃的领域。几十年来，随着计算机技术和人工智能技术的发展，自然语言处理取得了长足的进步。现在，自然语言处理技术正处在一个新的历史转折点，随着可获取信息量的爆炸性增长，信息过载问题愈发严重，以词法分析和词义理解为主的传统自然语言处理技术已经难以满足解决实际问题的需要，句子级乃至篇章级语义理解技术即将成为人工智能技术发展的新趋势。

自然语言处理作为人工智能与语言学的综合学科，理应从两个学科中汲取营养来推动自身的进步。但目前概率和数据驱动的方法在自然语言处理领域占据绝对的主流，加之近几年深度学习的异军突起，语言学知识在自然语言处理领域中受到的重视程度愈发不足。而以我在自然语言处理领域工作的经验来看，越深入研究，越能感觉到语言学知识不足的掣肘。特别是深层次的语义理解，脱离了语言学知识，就会变成无源之水、无本之木。常见的自然语言处理书籍对于解决具体问题的方法讲解已经足够丰富，但对于语言学基础理论的介绍和思考还略显不足。一些前辈虽然一直在思考语言和认知的本质，但其发表出来的内容只限于思考结果的一鳞半爪，较少结集成书。加之现在自然语言处理领域的学习者大多是计算机背景，极少系统地学习过语言学的基础理论。这样造成的现状就是从事自然语言处理的技术人员越来越多，但相互之间的讨论和经验分享多集中于具体的技术手段或算法的数学原理，而极少涉及语言学的基础理论和语义理解的本质问题。

本书作者通过对前人语言学理论和自然语言处理技术的深入梳理，形成了自己对于语义理解，特别是汉语语义理解独特的思考和一整套理论体系，提出了语义理解的系统解决之道。尽管如何才能让计算机理解语义，在学术界还没有定论，但作者系统性的思考和解决思路是非常难能可贵的。本书在内容上保证了理论和技术的平衡，在介绍术的同时，充分展示了作者对于道的思考成果。此书是自然语言处理书籍中的一股新风，希望其可以对语义理解的研究和发展起到积极的推动作用，同时引导自然语言处理领域的研究者，特别是初学者，加强对于语言学的理论的学习，更多地从问题的本源来寻求新的解决思路，而不仅仅满足于在传统解决思路上尝试新的技术手段。

愿每一位有志于从事自然语言处理的研究者，都能从此书中获得一些启示。

贾文杰：早年在富士通研发中心，著名的1998年人民日报语料库的研发单位之一，任高级研究员，负责情感分析，后进入360搜索引擎自然语言处理部，项目核心成员之一，主持搜索引擎分词，纠错等核心模块研发工作，历时3年，对搜索效果的提升起到重要作用。目前，转入移动互联领域，负责猎豹移动的自然语言处理部，任负责人。

前 言

写作本书的动机

自然语言处理（Natural Language Processing，NLP）是人工智能和语言学领域的分支学科，主要研究如何让计算机处理和运用自然语言。自然语言处理广义上分为两大部分，第一部分为自然语言理解，是指让电脑“懂”人类的语言；第二部分为自然语言生成，是指把计算机数据转化为自然语言。本书重点讲解汉语自然语言处理方面的最新理论、技术和进展。

自然语言处理作为一个独立的学科诞生至今，已经半个多世纪了。与绝大多数传统学科的最大不同是，在这半个世纪中，它始终离问题的终结遥遥无期，当人们千辛万苦地获得一次又一次的突破后，又会被新出现的问题无情地阻拦，而再次陷入迷惘之中。在NLP中，问题好像没有最终解决方案，甚至连最佳实践也没有，而只有最新现状（State of art）。而近些年，那些历史上的State of art 正被不断地刷新、不断地超越。

就在十多年前，商业化的人机交互都是人们可望而不可即的目标，但现在智能机器人正逐渐走入市场，走入人们的生活。虽然这些技术还不够成熟，还要解决诸多问题，即便普通大众也能意识到，我们离人工智能的终极目标越来越近了。

面对市场上诸多的人工智能系统，以及背后的各种算法理论，使我想起了一部获奖的英国电影《模仿游戏》。这不是一部艺术上的State of art ，却赢得了第87届奥斯卡金像奖最佳改编剧本奖。在肯定这部作品的诸多因素中，我认为最重要的是，它宣誓了现阶段人工智能的本质：模仿。这也是本书自始至终贯穿的主题：模仿→象似性→算法理论。

但从另一个角度，我们希望能够终结一些问题，即便这些问题还未得到百分之百的解决（当然，从概率论的角度而言，没有百分之百），否则，我们很难进入以下阶段的研究，整个学科只会停滞不前。幸运的是，近些年，在序列标注上的全面突破，使我们有幸将目光放到了句子的范畴，最近提出的语义依存理论，更使汉语自然语言处理，无论理论还是实践都迎来了新的曙光。汉语的句子分析，终于跨越了句法的误区，走向了语义解析的道路。相信不久的将来，在语义解析的道路上，汉语NLP将会获得更大的突破。

本书的受众与特色

本书是一本研究汉语自然语言处理方面的基础性、综合性书籍，涉及NLP的语言理论、算法和工程实践的方方面面，内容繁杂。为此，我们设定本书的读者为如下几种：

? 具有一定计算机编程基础，对自然语言处理感兴趣的非专业人员。

? 希望构建完整的NLP应用系统的专业工程技术人员。

? 高校计算机专业和自然语言处理专业的大学生、研究生。

? 高校自然语言处理专业的教师。

需要指出的是，本书是一本系统介绍认知语言学和算法设计相结合的中文NLP书籍，并从认知语言学的视角重新认识和分析了NLP的句法和语义相结合的数据结构。这也是本书的创新之处。

内容及体系结构

为兼顾各方面的需求，我们对全书各部分做了精心的安排。从结构上，全书分为如下三大部分。

（1）语言理论部分：涉及4个章节，第2章为汉语的发展历史；第6章为传统的句法理论；第7章为语料库和知识库的构建理论；第8章为认知语言学理论。

（2）算法部分：涉及4个章节，第3章为中文分词算法；第4章为NLP中的概率图模型算法体系；第6章为句法的自动分析算法，包括转换生成语法的算法原理，以及依存句 NLP汉语自然语言处理原理与实践 电子书 下载 mobi epub pdf txt

不适合入门，算法和应用都讲不清楚，整体一般

适合入门吧，我感觉讲的有点拖沓

书里面有些低级错误，感觉不是一个人写的

书不错，价格不错，我推荐。

原理还行，介绍得挺用心的，实战部分感觉存在感不强

凑字数，评价得京东豆，哇咔咔

作为一个机器学习的选手，不懂点自然语言处理就略显low了，加油

不错哦

这是真的不错的书，推荐