Python神經網絡編程+深度學習+機器學習 三本套裝僅需226.9元，

dy 章

本書麵嚮的讀者

深度學習的曆史趨勢

神經網絡的眾多名稱和命運變遷

與日俱增的數據量

與日俱增的模型規模

與日俱增的精度、復雜度和對現實世界的衝擊

第部分應用數學與機器學習基礎

第2章綫性代數

標量、嚮量、矩陣和張量

矩陣和嚮量相乘

單位矩陣和逆矩陣

綫性相關和生成子空間

範數

特殊類型的矩陣和嚮量

特徵分解

奇異值分解

Moore-Penrose僞逆

跡運算

行列式

實例：主成分分析

第3章概率與信息論

為什麼要使用概率

隨機變量

概率分布

離散型變量和概率質量函數

連續型變量和概率密度函數

邊緣概率

條件概率

條件概率的鏈式法則

獨立性和條件獨立性

期望、方差和協方差

常用概率分布

Bernoulli分布

Multinoulli分布

高斯分布

指數分布和Laplace分布

Dirac分布和經驗分布

分布的混閤

常用函數的有用性質

貝葉斯規則

連續型變量的技術細節

信息論

結構化概率模型

第4章數值計算

上溢和下溢

病態條件

基於梯度的優化方法

梯度之上：Jacobian和Hessian矩陣

約束優化

實例：綫性 小二乘

第5章機器學習基礎

學習算法

任務T

性能度量P

經驗E

示例：綫性迴歸

容量、過擬閤和欠擬閤

沒有免費午餐定理

正則化

超參數和驗證集

交叉驗證

估計、偏差和方差

點估計

偏差

方差和標準差

權衡偏差和方差以 小化均方誤差

一緻性

似然估計

條件對數似然和均方誤差

似然的性質

貝葉斯統計

後驗(MAP)估計

監督學習算法

概率監督學習

支持嚮量機

其他簡單的監督學習算法

無監督學習算法

主成分分析

k-均值聚類

隨機梯度下降

構建機器學習算法

促使深度學習發展的挑戰

維數災難

局部不變性和平滑正則化

流形學習

第部分深度網絡：現代實踐

第6章深度前饋網絡

實例：學習XOR

基於梯度的學習

代價函數

輸齣單元

隱藏單元

整流綫性單元及其擴展

logisticsigmoid與雙麯正切函數

其他隱藏單元

架構設計

近似性質和深度

其他架構上的考慮

反嚮傳播和其他的微分算法

計算圖

微積分中的鏈式法則

遞歸地使用鏈式法則來實現反嚮傳播

全連接MLP中的反嚮傳播計算

符號到符號的導數

一般化的反嚮傳播

實例：用於MLP訓練的反嚮傳播

復雜化

深度學習界以外的微分

高階微分

曆史小記

第7章深度學習中的正則化

參數範數懲罰

L參數正則化

L正則化

作為約束的範數懲罰

正則化和欠約束問題

數據集增強

噪聲魯棒性

嚮輸齣目標注入噪聲

半監督學習

多任務學習

提前終止

參數綁定和參數共享

捲積神經網絡

稀疏錶示

Bagging和其他集成方法

Dropout

對抗訓練

切麵距離、正切傳播和流形正切分類器

第8章深度模型中的優化

學習和純優化有什麼不同

經驗風險 小化

代理損失函數和提前終止

批量算法和小批量算法

神經網絡優化中的挑戰

病態

局部極小值

高原、鞍點和其他平坦區域

懸崖和梯度爆炸

長期依賴

非 梯度

局部和全局結構間的弱對應

優化的理論限製

基本算法

隨機梯度下降

動量

Nesterov動量

參數初始化策略

自適應學習率算法

AdaGrad

RMSProp

Adam

選擇正確的優化算法

二階近似方法

牛頓法

共軛梯度

BFGS

優化策略和元算法

批標準化

坐標下降

Polyak平均

監督預訓練

設計有助於優化的模型

延拓法和課程學習

第9章捲積網絡

捲積運算

動機

池化

捲積與池化作為一種無限強的先驗

基本捲積函數的變體

結構化輸齣

數據類型

高效的捲積算法

隨機或無監督的特徵

捲積網絡的神經科學基礎

捲積網絡與深度學習的曆史

dy 0章序列建模：循環和遞歸網絡

展開計算圖

循環神經網絡

導師驅動過程和輸齣循環網絡

計算循環神經網絡的梯度

作為有嚮圖模型的循環網絡

基於上下文的RNN序列建模

雙嚮RNN

基於編碼-解碼的序列到序列架構

深度循環網絡

遞歸神經網絡

長期依賴的挑戰

迴聲狀態網絡

滲漏單元和其他多時間尺度的策略

時間維度的跳躍連接

滲漏單元和一係列不同時間尺度

刪除連接

長短期記憶和其他門控RNN

LSTM

其他門控RNN

優化長期依賴

截斷梯度

引導信息流的正則化

外顯記憶

dy 1章實踐方法論

性能度量

默認的基準模型

決定是否收集更多數據

選擇超參數

手動調整超參數

自動超參數優化算法

網格搜索

隨機搜索

基於模型的超參數優化

調試策略

示例：多位數字識彆