産品特色

編輯推薦

神經網絡是機器學習和深度學習的基礎，本書用一條學習路綫貫穿全書，首先講解瞭數學基礎、機器學習基礎以及神經網絡基礎，接著通過原理、結構、實例、優劣勢分析、適用場景等全方位講解瞭各種常典型的神經網絡，緊密結閤一綫工程師的研究成果，可以幫助讀者更好地學習神經網絡。

內容簡介

本書結閤實際應用介紹神經網絡和深度學習等技術領域相關信息，從結構上重點介紹瞭前饋型神經網絡、反饋型神經網絡，以及自組織競爭型神經網絡，並針對當下深度學習中比較重要的網絡進行瞭詳細介紹，包括捲積神經網絡、循環（遞歸）神經網絡、深度信念網絡、生成對抗網絡，以及深度強化學習。本書不僅能讓讀者對當前神經網絡和深度學習技術有體係的認知，更能讓讀者在人工智能領域進行一些深入思考。

作者簡介

劉凡平，碩士，畢業於中國科學技術大學，專注於大數據分析、搜索引擎、機器學習和深度學習研究，曾任職於微軟亞太研發集團，現任職於百度（中國）有限公司，曾齣版《大數據搜索引擎原理分析及編程》《大數據時代的算法》，是執著於將互聯網技術演繹為藝術的完美追求者。

目錄

基礎篇
第1章 時代崛起 2
1．1 概要 2
1．1．1 基本概念 2
1．1．2 深度學習與機器學習的關係 4
1．1．3 深度學習與人工智能的關係 5
1．2 曆史發展 5
1．2．1 神經網絡發展曆史 5
1．2．2 人工智能發展曆史 7
1．3 應用領域 8
1．3．1 智能個人助理 8
1．3．2 智能安防 9
1．3．3 無人駕駛 9
1．3．4 電商零售 11
1．3．5 智慧醫療 11
1．3．6 金融服務 12
1．3．7 智能教育 13
1．4 未來猜想 14
1．4．1 人文的快速發展 14
1．4．2 人類也是“機器人” 14
1．4．3 新的不平等現象 15
1．5 本章小結 16

第2章 數學理論基礎 17
2．1 嚮量 17
2．1．1 相關概念 17
2．1．2 嚮量的綫性相關性 18
2．1．3 嚮量的外積 18
2．1．4 嚮量夾角與餘弦相似性 18
2．1．5 實例：基於嚮量夾角的文本相似性分析 19
2．2 矩陣 20
2．2．1 矩陣乘法 20
2．2．2 剋羅內剋積 21
2．3 導數 22
2．3．1 概述 22
2．3．2 一般運算法則 22
2．3．3 鏈式求導法則 23
2．4 數值計算 23
2．4．1 誤差 23
2．4．2 距離 24
2．4．3 數值歸一化 26
2．5 概率分布 26
2．5．1 二項分布 26
2．5．2 超幾何分布 27
2．5．3 泊鬆分布 27
2．5．4 指數分布 28
2．5．5 正態分布 29
2．6 參數估計 29
2．6．1 概率 29
2．6．2 貝葉斯估計 30
2．6．3 最大似然估計 31
2．6．4 最大後驗估計 32
2．7 迴歸分析 33
2．7．1 綫性迴歸 33
2．7．2 邏輯迴歸 36
2．8 判定問題 39
2．8．1 P問題 39
2．8．2 NP問題 39
2．8．3 NP-Complete問題 40
2．8．4 NP-Hard問題 40
2．9 本章小結 41

第3章 機器學習概要 42
3．1 機器學習的類型 42
3．1．1 有監督學習 42
3．1．2 無監督學習 43
3．1．3 強化學習 43
3．2 機器學習中常見的函數 44
3．2．1 激活函數 44
3．2．2 損失函數 47
3．2．3 核函數 48
3．3 機器學習中的重要參數 49
3．3．1 學習速率 49
3．3．2 動量係數 50
3．3．3 偏置項 50
3．4 擬閤問題 51
3．4．1 過擬閤現象 51
3．4．2 欠擬閤現象 52
3．4．3 解決過擬閤問題的一般方法 52
3．4．4 實例：擬閤與二元一次方程求解 55
3．5 交叉檢驗 55
3．5．1 數據類型種類 55
3．5．2 留一交叉驗證 57
3．5．3 K摺交叉驗證 57
3．6 綫性可分與不可分 58
3．7 機器學習的學習特徵 59
3．8 産生式模型與判彆式模型 60
3．9 機器學習效果的一般評價指標 61
3．10 本章小結 63

第4章 神經網絡基礎 64
4．1 概述 64
4．1．1 神經網絡模型 64
4．1．2 經典的神經網絡結構 65
4．1．3 一般業務場景中神經網絡適應性 66
4．1．4 神經網絡的深度 67
4．2 常見學習方法 67
4．2．1 誤差修正學習 67
4．2．2 赫布學習規則 68
4．2．3 最小均方規則 69
4．2．4 競爭學習規則 70
4．2．5 其他學習規則 71
4．3 優化方法：梯度下降 72
4．3．1 概述 72
4．3．2 梯度下降法 72
4．3．3 梯度下降的優化算法 74
4．3．4 梯度消失問題 76
4．3．5 示例：利用梯度下降法求函數極值 77
4．4 常見的神經網絡類型 78
4．4．1 前饋型神經網絡 78
4．4．2 反饋型神經網絡 79
4．4．3 自組織競爭型神經網絡 79
4．5 深度學習中常見的網絡類型 80
4．5．1 捲積神經網絡 80
4．5．2 循環神經網絡 80
4．5．3 深度信念網絡 80
4．5．4 生成對抗網絡 81
4．5．5 深度強化學習 81
4．6 其他神經網絡與深度學習 82
4．6．1 隨機神經網絡 82
4．6．2 量子神經網絡 82
4．6．3 遷移學習 82
4．7 深度學習與多層神經網絡的關係 83
4．8 調參技巧 84
4．9 本章小結 85

進階篇
第5章 前饋型神經網絡 88
5．1 概述 88
5．2 常見結構 88
5．3 單層感知器網絡 89
5．3．1 原理 89
5．3．2 網絡結構 90
5．3．3 實例一：基於單層感知器“與”運算 90
5．3．4 實例二：利用感知器判定零件是否閤格 91
5．4 BP神經網絡 93
5．4．1 概述 93
5．4．2 反嚮傳播算法 93
5．4．3 異或問題的解決 96
5．4．4 避免病態結果 98
5．4．5 實例：基於多層感知器的手寫體數字識彆 99
5．5 徑嚮基函數神經網絡 101
5．5．1 原理介紹 101
5．5．2 中心選擇方法 102
5．5．3 訓練過程 103
5．5．4 徑嚮基函數神經網絡與BP神經網絡的差異 104
5．6 本章小結 105

第6章 反饋型神經網絡 107
6．1 概述 107
6．1．1 基本原理 107
6．1．2 與前饋型神經網絡的差異 108
6．2 Hopfield神經網絡 109
6．3 Elman神經網絡 112
6．3．1 結構組成 112
6．3．2 學習算法 112
6．4 遞歸神經網絡 113
6．4．1 産生背景 114
6．4．2 基本結構 115
6．4．3 前嚮計算過程 116
6．4．4 反嚮傳播：BPTS算法 117
6．4．5 應用場景 118
6．4．6 遞歸神經網絡的結構改進 118
6．4．7 應用實例 121
6．5 本章小結 124

第7章 自組織競爭型神經網絡 125
7．1 概述 125
7．1．1 一般網絡模型 125
7．1．2 工作原理 126
7．1．3 實例：用競爭學習規則進行模式分類 127
7．2 常見的聚類方法 129
7．2．1 係統聚類法 129
7．2．2 基於劃分的聚類算法 130
7．2．3 基於密度的聚類算法 131
7．2．4 基於層次的聚類算法 132
7．3 自組織映射網絡 134
7．3．1 概述 134
7．3．2 訓練算法 134
7．3．3 實例：利用自組織映射網絡劃分城市群 135
7．3．4 優劣勢分析 136
7．4 其他自組織競爭型神經網絡 137
7．4．1 自適應共振理論 137
7．4．2 對偶傳播神經網絡 138
7．5 本章小結 139

高階篇
第8章 捲積神經網絡 142
8．1 概述 142
8．1．1 發展背景 142
8．1．2 基本概念 143
8．1．3 基本網絡結構 144
8．2 捲積 145
8．2．1 捲積的物理意義 145
8．2．2 捲積的理解 145
8．2．3 捲積的實例 147
8．3 捲積核 148
8．3．1 捲積核的含義 148
8．3．2 捲積操作 150
8．3．3 捲積核的特徵 150
8．4 捲積神經網絡中各層工作原理 151
8．4．1 捲積層 151
8．4．2 下采樣層 151
8．4．3 Softmax層 152
8．5 捲積神經網絡的逆嚮過程 153
8．6 常見捲積神經網絡結構 154
8．6．1 LeNet-5 154
8．6．2 AlexNet 155
8．7 應用場景與效果評估 157
8．7．1 場景1：圖像分類 157
8．7．2 場景2：目標檢測 158
8．7．3 場景3：實例分割 159
8．8 Maxout Networks 160
8．9 本章小結 162

第9章 循環神經網絡 163
9．1 概述 163
9．2 一般循環神經網絡 164
9．2．1 概述 164
9．2．2 單嚮循環神經網絡 165
9．2．3 雙嚮循環神經網絡 166
9．2．4 深度循環神經網絡 167
9．3 訓練算法：BPTT算法 168
9．3．1 前嚮計算 168
9．3．2 誤差項計算 169
9．3．3 權值梯度計算 169
9．3．4 梯度爆炸與梯度消失問題 170
9．4 長短時記憶網絡 170
9．4．1 背景 170
9．4．2 核心思想 171
9．4．3 詳細結構 172
9．4．4 訓練過程 176
9．4．5 相關變種簡介 181
9．5 常見循環神經網絡結構 182
9．5．1 N比N結構 182
9．5．2 N比1結構 183
9．5．3 1比N結構 183
9．5．4 N比M結構 184
9．6 與自然語言處理結閤 185
9．7 實例：文本自動生成 186
9．8 本章小結 187

第10章 深度信念網絡 188
10．1 概要 188
10．1．1 背景 188
10．1．2 基本結構 188
10．2 受限玻爾茲曼機 190
10．2．1 概述 190
10．2．2 邏輯結構 192
10．2．3 對比分歧算法 194
10．3 訓練過程 194
10．3．1 工作流程 194
10．3．2 調優過程 195
10．4 本章小結 196

第11章 生成對抗網絡 197
11．1 概述 197
11．1．1 背景概要 197
11．1．2 核心思想 198
11．1．3 基本工作流程 199
11．2 樸素生成對抗網絡 201
11．2．1 網絡結構 201
11．2．2 實例：基於樸素生成對抗網絡生成手寫體數字 203
11．3 深度捲積生成對抗網絡 206
11．3．1 産生背景 206
11．3．2 模型改進 206
11．3．3 網絡結構 207
11．3．4 實例：基於深度捲積對抗網絡生成手寫體數字 208
11．4 條件生成對抗網絡 212
11．4．1 網絡結構 212
11．4．2 實例：CGAN結閤DCGAN生成手寫體數字 213
11．5 瓦瑟斯坦生成對抗網絡 214
11．5．1 概述 214
11．5．2 差異化 215
11．5．3 實例：WGAN結閤DCGAN生成手寫體數字 216
11．6 生成對抗網絡的探索 217
11．6．1 價值與意義 217
11．6．2 麵臨的問題 218
11．6．3 應用場景示例 218
11．6．4 未來探索 220
11．7 本章小結 220

第12章 深度強化學習 221
12．1 概述 221
12．1．1 概要 221
12．1．2 基本原理 222
12．2 馬爾科夫決策過程 223
12．2．1 馬爾科夫過程 223
12．2．2 隱馬爾科夫模型 224
12．2．3 馬爾科夫決策過程 225
12．3 深度強化學習算法 229
12．3．1 DQN算法 229
12．3．2 A3C算法 231
12．3．3 UNREAL算法 231
12．4 強化學習的探索 232
12．4．1 應用場景探索 232
12．4．2 麵臨的問題 233
12．5 本章小結 234

前言/序言

前言

本書結閤實際應用介紹神經網絡和深度學習等技術領域相關信息，從結構上重點介紹瞭前

饋型神經網絡、反饋型神經網絡，以及自組織競爭型神經網絡，並針對當下深度學習中比較重

要的網絡進行瞭詳細介紹，包括捲積神經網絡、循環（遞歸）神經網絡、深度信念網絡、生成

對抗網絡，以及深度強化學習。本書不僅能讓讀者對當前神經網絡和深度學習技術有體係的認

知，更能讓讀者在人工智能領域進行一些深入思考。

讀者對象

? 對神經網絡、深度學習以及人工智能有興趣的讀者；

? 對算法以及機器學習領域有興趣的讀者；

? 互聯網行業不同層次的從業者；

? 軟件工程或計算機相關專業的在校學生。

本書特色

書中內容緊密結閤當前一綫工程師工作研究成果，是對當前神經網絡和深度學習的完整性

原理介紹和實踐分析。本書充分利用瞭最新技術發展的應用成果，不僅結閤原理分析，還結閤

案例進行輔助理解。

本書介紹的相關深度學習技術廣泛應用於各個領域，可以在自然語言處理、計算機視覺、

文本分析等領域中應用，在當前甚至未來三到五年，都具有實際意義。

本書結構

本書按照由淺入深、循序漸進的順序對神經網絡和深度學習的內容進行介紹。全書共分為

三篇，分彆從基礎、進階、高階三個層次逐步展開，總共12 章，各章的主要內容如下。

第1 章闡述瞭在當前時代背景下，神經網絡和人工智能的發展曆程，針對未來人工智能極

可能改變的領域進行瞭深入介紹，並介紹瞭深度學習與機器學習的關係，以及深度學習與人工

智能的關係。

第2 章介紹瞭神經網絡和深度學習的數學基礎，從嚮量、矩陣、導數、數值計算、概率分

布、參數估計等方麵進行瞭詳細介紹，為學習後續內容奠定基礎。

第3 章重點介紹瞭機器學習的基礎內容，神經網絡和深度學習都屬於機器學習中的內容，

包括擬閤問題、交叉檢驗、産生式與判彆式模型等，有助於加強對神經網絡和深度學習的理解。

第4 章介紹瞭神經網絡的基礎，包括神經網絡中常見的學習方法以及神經網絡的優化方法，

闡述瞭常見的神經網絡類型以及深度學習中的網絡類型，並介紹瞭深度學習與多層神經網絡的

關係。

第5 章重點介紹瞭前饋型神經網絡，它是神經網絡中極為重要的一種網絡類型。本章從單

層感知器開始，逐步深入介紹瞭BP 神經網絡以及徑嚮基函數神經網絡，重點介紹瞭反嚮傳播

算法。

第6 章詳細介紹瞭反饋型神經網絡，它是一種帶聯想記憶的神經網絡。本章重點介紹瞭

Hopfiled 神經網絡、Elman 神經網絡以及遞歸神經網絡。對於遞歸神經網絡還進行瞭更為深入

的介紹，包括其反嚮傳播算法以及各類改進的結構。

第7 章重點介紹瞭自組織競爭型神經網絡，從傳統的係統聚類法、基於劃分的聚類算法、

基於密度的聚類算法、基於層次的聚類算法開始，詳細介紹瞭自組織競爭型神經網絡中的典型

代錶——自組織映射網絡，還介紹瞭自適應共振理論以及對偶傳播網絡。

第8 章介紹瞭捲積神經網絡，捲積神經網絡是目前圖像處理中比較優秀的神經網絡。本章

重點介紹瞭捲積神經網絡中的捲積、捲積核等重要基礎概念，詳細闡述瞭捲積神經網絡中各層

的工作原理，並介紹瞭常見的間距神經網絡結構。

第9 章介紹瞭循環神經網絡，循環神經網絡與遞歸神經網絡有一定的相似性。本章介紹瞭

一般的循環神經網絡，包括單嚮循環神經網絡、雙嚮循環神經網絡以及深度循環神經網絡。重

點介紹瞭長短時記憶網絡。

第10 章介紹瞭深度信念網絡，深度信念網絡是由受限玻爾茲曼機組成的網絡結構。本章

重點介紹瞭受限玻爾茲曼機的邏輯結構和工作原理，並介紹瞭深度信念網絡的訓練過程。

第11 章介紹瞭生成對抗網絡，生成對抗網絡是未來會有較大突破的網絡結構之一。本章

從一般的生成對抗網絡入手進行介紹，然後介紹瞭各類改進版本，包括DCGAN、CGAN、

WGAN 等，並對生成對抗網絡的未來做瞭一定猜想。

第12 章介紹瞭深度強化學習，深度強化學習是一種有彆於傳統的有監督學習和無監督學

習的學習方式。本章重點介紹瞭強化學習的工作原理、馬爾科夫決策過程等，並結閤強化學習

的各類算法進行瞭詳細的介紹。

上述章節中，郭武彪完成瞭第6 章內容的編寫，陳相禮完成瞭第9 章內容的編寫，楊華完

成瞭第11 章內容的編寫以及本書格式校驗，其餘章節內容由劉凡平完成編寫，並對本書內容

進行瞭校驗。

由於時間倉促及編者水平有限，書中難免存在錯誤和不足之處，懇請廣大讀者多多理解，

並批評指正，也可以通過郵箱（liufanping@iveely.com）聯係我們。

此用戶未填寫評價內容

好

此用戶未填寫評價內容

不錯的書

此用戶未填寫評價內容

簡直就是一本垃圾書，打印錯誤就不說，講前麵的用後麵的概念(又不說明)，毫無條理可言，不建議大傢買！！！

簡直就是一本垃圾書，打印錯誤就不說，講前麵的用後麵的概念(又不說明)，毫無條理可言，不建議大傢買！！！

簡直就是一本垃圾書，打印錯誤就不說，講前麵的用後麵的概念(又不說明)，毫無條理可言，不建議大傢買！！！

不錯的書籍，內容比較詳實