深度學(xué)習(xí):主流框架和編程實戰(zhàn)
定 價:59 元
叢書名:智能系統(tǒng)與技術(shù)叢書
- 作者:趙涓涓 強彥
- 出版時間:2018/5/1
- ISBN:9787111592396
- 出 版 社:機械工業(yè)出版社
- 中圖法分類:TP273
- 頁碼:220
- 紙張:膠版紙
- 版次:1
- 開本:16開
本書是利用實例來講解深度學(xué)習(xí)框架以及深度學(xué)習(xí)方法的綜合性著作,介紹了四大深度學(xué)習(xí)框架(TensorFlow、Caffe、Torch和MXNet),還詳細介紹了調(diào)參、二次接口的編程、遷移學(xué)習(xí)的模型等內(nèi)容。
PREFACE前 言自20世紀80年代以來,機器學(xué)習(xí)已經(jīng)在算法、理論和應(yīng)用等方面取得了巨大成功,廣泛應(yīng)用于產(chǎn)業(yè)界與學(xué)術(shù)界。簡單來說,機器學(xué)習(xí)就是通過算法使得機器能從大量歷史數(shù)據(jù)中學(xué)習(xí)規(guī)律,從而對新的樣本完成智能識別或?qū)ξ磥碜鲱A(yù)測。深度學(xué)習(xí)是一種機器學(xué)習(xí)方法,在一些最新的研究領(lǐng)域和新的應(yīng)用背景下,可用數(shù)據(jù)量的激增、計算能力的增強以及計算成本的降低為深度學(xué)習(xí)的快速發(fā)展鋪平了道路,同時也為深度學(xué)習(xí)在各大領(lǐng)域的應(yīng)用提供了支撐。自AlphaGo被提出并成功擊敗職業(yè)圍棋手后,“深度學(xué)習(xí)”這一概念快速進入人們的視野并在業(yè)界引起了轟動,其因強大的特征提取能力以及靈活性在國內(nèi)外各大企業(yè)中掀起一陣狂潮,在語音識別、圖像識別和圖像處理領(lǐng)域取得的成果尤為突出。
本書是以實踐案例為主的深度學(xué)習(xí)框架結(jié)合編程實戰(zhàn)的綜合性著作,將帶領(lǐng)讀者逐步掌握深度學(xué)習(xí)需要的數(shù)據(jù)處理、調(diào)整參數(shù)、運行實例和二次編碼,不僅幫助讀者理解理論知識,而且能夠使讀者熟練掌握各種深度學(xué)習(xí)框架下的編程控制。本書配有大量的實踐案例,既便于課堂教學(xué),又便于學(xué)生自學(xué)。此外本書還配有同步PPT課件和程序源碼,可供教師進行實驗課程輔導(dǎo)。
本書介紹了四種深度學(xué)習(xí)框架(TensorFlow、Caffe、Torch、MXNet)的運行原理,配合實例介紹了框架的詳細安裝、程序設(shè)計、調(diào)參和二次接口的詳細編程過程,引領(lǐng)讀者完整搭建深度學(xué)習(xí)框架,相信本書能夠從實戰(zhàn)的角度幫助讀者快速掌握和提高深度學(xué)習(xí)編程的技能。
全書內(nèi)容可分為緒論、四大框架、遷移學(xué)習(xí)和并行計算/交叉驗證四大部分,共7章。
第1章討論深度學(xué)習(xí)與機器學(xué)習(xí)的關(guān)系、深度學(xué)習(xí)與統(tǒng)計學(xué)的關(guān)系、深度學(xué)習(xí)框架、深度學(xué)習(xí)中涉及的優(yōu)化方法以及對深度學(xué)習(xí)的展望五個方面的內(nèi)容,從理論上對深度學(xué)習(xí)進行全面深刻的剖析,旨在為后續(xù)學(xué)習(xí)提供理論鋪墊與指導(dǎo)。
第2章對TensorFlow深度學(xué)習(xí)框架進行詳細介紹,主要包括TensorFlow運作原理、模型構(gòu)建、框架安裝,并進一步介紹了TensorFlow框架下具體網(wǎng)絡(luò)的圖像分類編程實現(xiàn)以及詳細代碼的解讀。
第3章從理論與實戰(zhàn)兩方面對Caffe深度學(xué)習(xí)框架的發(fā)展、結(jié)構(gòu)以及具體的搭建過程進行詳細介紹,并在Caffe深度學(xué)習(xí)框架下構(gòu)建全卷積神經(jīng)網(wǎng)絡(luò)(Fully Convolutional Network,F(xiàn)CN),用該網(wǎng)絡(luò)進行圖像語義分割的實戰(zhàn)編程,對該案例程序代碼進行詳細解讀。
第4章介紹Torch深度學(xué)習(xí)框架的基礎(chǔ)知識,同時介紹Torch深度學(xué)習(xí)框架中使用的Lua語言;按照Torch框架的安裝過程,以一個具體的目標檢測實例為出發(fā)點,詳細介紹Torch的類和包的用法以及構(gòu)建神經(jīng)網(wǎng)絡(luò)的全過程,最后介紹Faster R-CNN的方法和實例。
第5章對MXNet框架進行詳細介紹,包括MXNet的基本概念和特點、MXNet的安裝過程等,利用自然語言處理的實例來進一步展示MXNet在深度學(xué)習(xí)方面的應(yīng)用實戰(zhàn)。
第6章介紹遷移學(xué)習(xí)發(fā)展、遷移學(xué)習(xí)的類型與模型,并以實際案例對遷移學(xué)習(xí)的過程進行詳細介紹與分析。
第7章在深度學(xué)習(xí)的背景下分別對并行計算和交叉驗證這兩種方法進行詳細介紹。
本書既可作為大學(xué)本科、研究生相關(guān)專業(yè)教材,也適用于各種人工智能、機器學(xué)習(xí)的培訓(xùn)與認證體系,同時可供廣大深度學(xué)習(xí)開發(fā)人員參考。
本書由多人合作完成,其中,第1章由太原理工大學(xué)強彥編寫,第2章由太原理工大學(xué)趙涓涓編寫,第3章由太原理工大學(xué)王華編寫,第4章由太原理工大學(xué)肖小嬌編寫,第5章由晉中學(xué)院董云云編寫,第6章由太原理工大學(xué)馬瑞青編寫,第7章由大同大學(xué)傅文博編寫,全書由強彥審閱。
本書在撰寫過程中得到了趙鵬飛、羅嘉瀅、肖寧、高慧明、吳保榮等項目組成員和業(yè)內(nèi)專家的大力支持和協(xié)助,在此一并表示衷心的感謝!
由于作者水平有限,不當(dāng)之處在所難免,懇請讀者及同仁賜教指正。
CONTENTS
目 錄
前言
第1章 緒論 1
1.1 機器學(xué)習(xí)與深度學(xué)習(xí) 1
1.1.1 機器學(xué)習(xí)與深度學(xué)習(xí)的關(guān)系 2
1.1.2 傳統(tǒng)機器學(xué)習(xí)與深度學(xué)習(xí)的對比 3
1.2 統(tǒng)計學(xué)與深度學(xué)習(xí) 5
1.2.1 統(tǒng)計學(xué)與深度學(xué)習(xí)的關(guān)系 5
1.2.2 基于統(tǒng)計的深度學(xué)習(xí)技術(shù) 6
1.3 本書涉及的深度學(xué)習(xí)框架 8
1.4 優(yōu)化深度學(xué)習(xí)的方法 8
1.5 深度學(xué)習(xí)展望 9
第2章 TensorFlow深度學(xué)習(xí)框架構(gòu)建方法與圖像分類的實現(xiàn) 12
2.1 TensorFlow概述 12
2.1.1 TensorFlow的特點 13
2.1.2 TensorFlow中的模型 14
2.2 TensorFlow框架安裝 16
2.2.1 基于Anaconda的安裝 16
2.2.2 測試TensorFlow 19
2.3 基于TensorFlow框架的圖像分類實現(xiàn)(ResNet-34) 20
2.3.1 應(yīng)用背景 20
2.3.2 ResNet 21
2.3.3 ResNet程序?qū)崿F(xiàn) 24
2.3.4 詳細代碼解析 27
2.3.5 實驗結(jié)果及分析 51
第3章 Caffe深度學(xué)習(xí)框架搭建與圖像語義分割的實現(xiàn) 56
3.1 Caffe概述 56
3.1.1 Caffe的特點 56
3.1.2 Caffe框架結(jié)構(gòu) 57
3.2 Caffe框架安裝與調(diào)試 59
3.3 基于Caffe框架的圖像分割實現(xiàn)(FCN) 64
3.3.1 用Caffe構(gòu)建卷積神經(jīng)網(wǎng)絡(luò) 64
3.3.2 FCN-8s網(wǎng)絡(luò)簡介 69
3.3.3 詳細代碼解讀 85
3.3.4 實驗結(jié)果與結(jié)論 98
第4章 Torch深度學(xué)習(xí)框架搭建與目標檢測的實現(xiàn) 100
4.1 Torch概述 100
4.1.1 Torch的特點 100
4.1.2 Lua語言 102
4.2 Torch框架安裝 104
4.3 基于Torch框架的目標檢測實現(xiàn)(Faster R-CNN) 113
4.3.1 Torch的類和包的基本用法 113
4.3.2 用Torch構(gòu)建神經(jīng)網(wǎng)絡(luò) 116
4.3.3 Faster R-CNN介紹 119
4.3.4 Faster R-CNN實例 127
4.3.5 實驗結(jié)果分析 161
第5章 MXNet深度學(xué)習(xí)框架構(gòu)建與自然語言處理的實現(xiàn) 164
5.1 MXNet概述 164
5.1.1 MXNet基礎(chǔ)知識 164
5.1.2 編程接口 166
5.1.3 系統(tǒng)實現(xiàn) 169
5.1.4 MXNet的關(guān)鍵特性 171
5.2 MXNet框架安裝 172
5.3 基于MXNet框架的自然語言處理實現(xiàn)(LSTM) 179
5.3.1 自然語言處理應(yīng)用背景 179
5.3.2 RNN及LSTM網(wǎng)絡(luò) 180
5.3.3 Bucketing及不同長度的序列訓(xùn)練 183
5.3.4 詳細代碼實現(xiàn) 185
5.3.5 實驗過程及實驗結(jié)果分析 191
第6章 遷移學(xué)習(xí) 195
6.1 遷移學(xué)習(xí)發(fā)展概述 195
6.2 遷移學(xué)習(xí)的類型與模型 196
6.2.1 凍結(jié)源模型與微調(diào)源模型 197
6.2.2 神經(jīng)網(wǎng)絡(luò)遷移學(xué)習(xí)模型與分類器遷移學(xué)習(xí)模型 197
6.3 遷移學(xué)習(xí)方法實例指導(dǎo) 199
6.3.1 遷移學(xué)習(xí)應(yīng)用示例 199
6.3.2 實驗結(jié)論 202
第7章 并行計算與交叉驗證 203
7.1 并行計算 203
7.1.1 數(shù)據(jù)并行框架 204
7.1.2 模型并行框架 205
7.1.3 數(shù)據(jù)并行與模型并行的混合架構(gòu) 205
7.2 交叉驗證 207
7.2.1 留出法 207
7.2.2 K折交叉驗證 208
7.2.3 留一交叉驗證 209
參考文獻 211