本書目標讀者是大三以上的學生，以及廣大的工程技術人員，研發人員。亦可以作為統計、計算機、大數據以及相關專業和各交叉學科的教材使用。

●第1章淺層模型1
1.1深度學習史前發展史1
1.1.1數據分析的初級階段：手工演算階段1
1.1.2數據分析的中級階段：淺層模型階段3
1.1.3數據分析的高級階段：大數據深度學習階段4
1.2線性回歸模型7
1.2.1極小二乘線性回歸8
1.2.2模型選擇：模型容量與過擬合和欠擬合問題19
1.2.3屬性空間、假設函數空間與基於核函數的特征映射22
1.2.4特征選擇26
1.2.5回歸分析的概率解釋32
1.3Logistics二分類模型33
1.4Softmax多分類模型37
1.5廣義線性模型42
參考文獻52
第2章深度神經網絡56
2.1引言56
2.2BP神經網絡58
2.2.1從生到M模型58
2.2.2BP神經網絡結構59
2.2.3BP算法64
2.2.4BP算法算例72
2.3從BP網絡到深度網絡73
2.3.1梯度消失：多層BP網絡訓練難題74
2.3.2逐層貪心預訓練+全局微調76
2.4深度網絡的進一步解釋83
2.5克服過擬合：深度網絡中的正則化技術85
2.5.1模型約束技術86
2.5.2輸入約束技術88
2.5.3模型集成技術92
2.6深度網絡發展史98
2.6.1早期神經網絡模型（1958—1969年）98
2.6.2深度學習萌芽期（1969—2006年）99
2.6.3深度學習爆發期（2006年至今）100
參考文獻101
第3章卷積神經網絡108
3.1引言108
3.2卷積的數學公式及其含義109
3.3卷積神經網絡的技術細節114
3.3.1計算機“眼”中的圖像115
3.3.2卷積神經網絡116
3.3.3卷積神經網絡的結構116
3.3.4CNNs訓練算法121
3.3.5卷積網提取特征的可視化129
3.4CNNs的變體131
3.4.1關於卷積核的變體132
3.4.2關於卷積通道的變體136
3.4.3關於卷積層連接的變體141
3.5卷積網絡在自動駕駛中的應用145
3.6卷積網絡發展史146
參考文獻148
第4章反饋神經網絡151
4.1引言151
4.2反饋神經網絡153
4.2.1統計語言模型154
4.2.2RNNs的網絡結構158
4.2.3RNNs的訓練算法：BPTT162
4.2.4RNNs的誤差沿時間軸傳播公式170
4.2.5RNNs的變體172
4.3長短期反饋神經網絡175
4.3.1早期解決長時間序列學習難題的樸素方法176
4.3.2LSTM網絡結構177
4.3.3LSTM的前向計算179
4.3.4LSTM的反向計算181
4.3.5LSTM的權值更新184
4.3.6理解LSTM網絡186
4.4時間序列處理中的幾種重要機制188
4.4.1處理變長序列的編碼器-解碼器模型189
4.4.2注意力機制192
4.4.3序列自動對齊的CTC技術195
4.4.4小結215
4.5深度反饋網絡在時間序列處理中的應用216
4.5.1Google神經機器翻譯繫統216
4.5.2深度語音識別繫統219
4.5.3用LSTM編程和寫作223
4.6反饋神經網絡發展現狀229
參考文獻229
第5章深度強化學習234
5.1引言234
5.2馬爾可夫決策過程238
5.2.1馬爾可夫過程239
5.2.2馬爾可夫獎勵過程243
5.2.3馬爾可夫決策過程246
5.2.4廣義策略迭代255
5.2.5小結257
5.3強化學習算法257
5.3.1動態規劃算法258
5.3.2蒙特卡羅算法263
5.3.3時間差分學習算法274
5.3.4小結297
5.4深度強化學習算法299
5.4.1基於深度網絡的狀態價值和動作價值函數近似301
5.4.2基於深度網絡的策略梯度法307
5.5深度強化學習的應用317
5.5.1圍棋AlphaGo317
5.5.2從AlphaGo到AlphaGoZero332
5.5.3基於像素的乒乓球遊戲341
5.6深度強化學習發展現狀344
5.6.1強化學習起源與發展現狀344
5.6.2深度強化學習在棋類中的應用345
5.6.3深度強化學習技術在自主智能體中的應用347
參考文獻350
後記353

深度學習是機器學習的一個分支，是以人工神經M絡為架構，對數據進行表征學習的算法。本書深入淺出地介紹了淺層模塑、深度學習模型以及相應的正則化技術、卷積的物理意義、卷積神經網絡及其各種改進、反饋神經網絡及其改進的長短期、深度強化學習等內容。本書的目標讀者是大學三年級以上的本科生和研究生、廣大的工程技術人員、研發人員，亦可以作為統計、計算機、大數據以及相關專業和各交叉學科的教材使用。

陳藹祥 著