深度學(xué)習(xí)高手筆記 卷2:經(jīng)典應(yīng)用
定 價(jià):129.8 元
- 作者:劉巖(@大師兄)
- 出版時(shí)間:2024/6/1
- ISBN:9787115608956
- 出 版 社:人民郵電出版社
- 中圖法分類:TP181
- 頁碼:330
- 紙張:
- 版次:01
- 開本:16開
本書通過扎實(shí)、詳細(xì)的內(nèi)容,從理論知識、算法源碼、實(shí)驗(yàn)結(jié)果等方面對深度學(xué)習(xí)中涉及的算法進(jìn)行分析和介紹。本書共三篇,第一篇主要介紹深度學(xué)習(xí)在目標(biāo)檢測與分割方向的前沿算法,包括雙階段檢測、單階段檢測、無錨點(diǎn)檢測、特征融合、損失函數(shù)、語義分割這 6 個(gè)方向;第二篇主要介紹深度學(xué)習(xí)在場景文字檢測與識別方向的重要突破,主要介紹場景文字檢測、場景文字識別這兩個(gè)階段的算法;第三篇主要介紹深度學(xué)習(xí)的其他算法與應(yīng)用,包括圖像翻譯、圖神經(jīng)網(wǎng)絡(luò)、二維結(jié)構(gòu)識別、人像摳圖、圖像預(yù)訓(xùn)練、多模態(tài)預(yù)訓(xùn)練這6個(gè)方向的算法。附錄部分介紹雙線性插值、匈牙利算法、Shift-and-Stitch、德勞內(nèi)三角化、圖像梯度、仿射變換矩陣等內(nèi)容。
本書結(jié)構(gòu)清晰,內(nèi)容廣度與深度齊備。通過閱讀本書,讀者可以了解前沿的深度學(xué)習(xí)算法,擴(kuò)展自己的算法知識面。無論是從事深度學(xué)習(xí)科研的教師及學(xué)生,還是從事算法落地實(shí)踐的工作人員,都能從本書中獲益。
緊跟AI發(fā)展熱點(diǎn),深入探討了深度學(xué)習(xí)在目標(biāo)檢測與分割、場景文字檢測與識別、圖像翻譯等多個(gè)前沿領(lǐng)域的應(yīng)用,為你揭開了深度學(xué)習(xí)算法的神秘面紗;
本書不僅涵蓋深度學(xué)習(xí)的經(jīng)典應(yīng)用場景,更從算法原理、公式推導(dǎo)、源碼分析到實(shí)驗(yàn)結(jié)果,全方位解析深度學(xué)習(xí)算法的精髓,清晰演示算法的演進(jìn)脈絡(luò);
書中還特別強(qiáng)調(diào)了算法中的數(shù)學(xué)原理,如雙線性插值、匈牙利算法等,幫助讀者從根本上理解算法的內(nèi)在邏輯;
本書不僅能夠擴(kuò)展你的算法知識面,更能讓你深入理解主流算法,構(gòu)建起自己的知識體系,掌握模型優(yōu)化的關(guān)鍵方法;
現(xiàn)在,讓我們一起翻開本書,探索深度學(xué)習(xí)的奧秘,把握AI時(shí)代的脈搏,開啟一段知識與技術(shù)的深度之旅!
劉巖,曾先后就讀于重慶大學(xué)軟件工程專業(yè)和澳門大學(xué)計(jì)算機(jī)科學(xué)專業(yè),分別獲得學(xué)士和碩士學(xué)位,期間發(fā)表多篇論文。目前就職于京東零售技術(shù)研發(fā)與數(shù)據(jù)中心,主要負(fù)責(zé)電商場景下的基礎(chǔ)算法研究以及內(nèi)容風(fēng)控業(yè)務(wù),包括風(fēng)險(xiǎn)輿情監(jiān)控和挖掘、風(fēng)險(xiǎn)電商內(nèi)容的發(fā)現(xiàn)和治理等。擅長前沿人工智能算法的原理分析和落地,先后參與并負(fù)責(zé)了深度學(xué)習(xí)多個(gè)算法在業(yè)務(wù)上的落地,例如 OCR、公式識別、手勢識別、視頻摳像、文本分類,預(yù)訓(xùn)練詞向量模型、語言識別、圖神經(jīng)網(wǎng)絡(luò)等。知乎賬號:大師兄。
第 一篇 目標(biāo)檢測與分割
第 1 章 雙階段檢測 3
11 R-CNN 4
111 R-CNN 檢測流程 5
112 候選區(qū)域提取 6
113 預(yù)訓(xùn)練及微調(diào) 7
114 訓(xùn)練數(shù)據(jù)準(zhǔn)備 7
115 NMS 8
116 小結(jié) 9
12 SPP-Net 9
121 空間金字塔池化 10
122 SPP-Net 的推理流程 11
123 小結(jié) 13
13 Fast R-CNN 13
131 Fast R-CNN 算法介紹 13
132 數(shù)據(jù)準(zhǔn)備 14
133 Fast R-CNN 網(wǎng)絡(luò)結(jié)構(gòu) 15
134 多任務(wù)損失函數(shù) 16
135 Fast R-CNN 的訓(xùn)練細(xì)節(jié)17
136 Fast R-CNN 的推理流程18
137 小結(jié) 18
14 Faster R-CNN 18
141 區(qū)域候選網(wǎng)絡(luò) 18
142 Faster R-CNN 的訓(xùn)練 22
143 小結(jié) 22
15 R-FCN 23
151 提出動機(jī) 23
152 R-FCN 的網(wǎng)絡(luò) 24
153 R-FCN 結(jié)果可視化 26
154 小結(jié) 27
16 Mask R-CNN 27
161 Mask R-CNN 的動機(jī) 28
162 Mask R-CNN 詳解 28
163 小結(jié) 31
17 MaskX R-CNN 31
171 權(quán)值遷移函數(shù) 32
172 MaskX R-CNN 的訓(xùn)練 32
173 小結(jié) 33
18 DCNv1 和 DCNv2 33
181 DCNv1 33
182 DCNv2 36
183 小結(jié) 39
第 2 章 單階段檢測 40
21 YOLOv1 41
211 YOLOv1 的網(wǎng)絡(luò)結(jié)構(gòu) 42
212 損失函數(shù) 44
213 小結(jié) 46
22 SSD 和 DSSD 47
221 SSD 48
222 DSSD 51
223 小結(jié) 53
23 YOLOv2 54
231 YOLOv2:更快,更高 54
232 YOLO9000:更強(qiáng) 59
233 小結(jié) 61
24 YOLOv3 61
241 多標(biāo)簽任務(wù) 62
242 骨干網(wǎng)絡(luò) 62
243 多尺度特征 63
244 錨點(diǎn)聚類 63
245 YOLOv3 一些失敗的嘗試 64
246 小結(jié) 64
25 YOLOv4 65
251 背景介紹 65
252 數(shù)據(jù) 65
253 模型 69
254 后處理 78
255 YOLOv4 改進(jìn)介紹 79
256 小結(jié) 82
第 3 章 無錨點(diǎn)檢測 83
31 DenseBox 84
311 DenseBox 的網(wǎng)絡(luò)結(jié)構(gòu) 84
312 多任務(wù)模型 85
313 訓(xùn)練數(shù)據(jù) 86
314 結(jié)合關(guān)鍵點(diǎn)檢測 87
315 測試 88
316 小結(jié) 88
32 CornerNet 89
321 背景 89
322 CornerNet 詳解 90
323 小結(jié) 95
33 CornerNet-Lite 96
331 CornerNet-Saccade 96
332 CornerNet-Squeeze 99
333 小結(jié) 99
34 CenterNet 99
341 網(wǎng)絡(luò)結(jié)構(gòu) 100
342 數(shù)據(jù)準(zhǔn)備 102
343 損失函數(shù) 103
344 推理過程 104
345 小結(jié) 104
35 FCOS 104
351 算法背景 105
352 FCOS 的網(wǎng)絡(luò)結(jié)構(gòu) 105
353 多尺度預(yù)測 107
354 測試 107
355 小結(jié) 107
36 DETR 107
361 網(wǎng)絡(luò)結(jié)構(gòu) 108
362 損失函數(shù) 109
363 小結(jié) 111
第 4 章 特征融合 112
41 FPN 113
411 CNN 中的常見骨干網(wǎng)絡(luò) 113
412 FPN 的網(wǎng)絡(luò)結(jié)構(gòu) 114
413 FPN 的應(yīng)用 116
414 小結(jié) 116
42 PANet 117
421 PANet 117
422 小結(jié) 120
43 NAS-FPN 121
431 NAS-FPN 算法詳解 121
432 NAS-FPN Lite 125
433 小結(jié) 125
44 Effi cientDet 125
441 BiFPN 126
442 EfficientDet 詳解 127
443 小結(jié) 128
第 5 章 損失函數(shù) 129
51 Focal Loss 129
511 Focal Loss 介紹 130
512 RetinaNet132
513 小結(jié)132
52 IoU 損失 133
521 背景知識 133
522 IoU 損失133
523 UnitBox 網(wǎng)絡(luò)結(jié)構(gòu)135
524 小結(jié)136
53 GIoU 損失 136
531 算法背景 136
532 GIoU 損失詳解137
533 小結(jié)139
54 DIoU 損失和 CIoU 損失 140
541 背景140
542 DIoU 損失141
543 CIoU 損失142
544 小結(jié)142
55 Focal-EIoU 損失 143
551 EIoU 損失143
552 Focal L1 損失144
553 Focal-EIoU 損失146
554 小結(jié)146
第 6 章 語義分割 147
61 FCN 和 SegNet 148
611 背景知識 148
612 FCN 詳解149
613 SegNet 詳解150
614 分割指標(biāo) 151
615 小結(jié)152
62 U-Net 152
621 U-Net 詳解153
622 數(shù)據(jù)擴(kuò)充 155
623 小結(jié)155
63 V-Net 156
631 網(wǎng)絡(luò)結(jié)構(gòu) 156
632 Dice 損失 160
633 小結(jié)161
64 DeepLab 系列 161
641 DeepLab v1161
642 DeepLab v2164
643 DeepLab v3165
644 DeepLab v3+167
645 小結(jié)170
第二篇 場景文字檢測與識別
第 7 章 場景文字檢測 173
71 DeepText 173
711 RPN 回顧174
712 DeepText 詳解175
713 小結(jié)175
72 CTPN 176
721 算法流程 176
722 數(shù)據(jù)準(zhǔn)備 177
723 CTPN 的錨點(diǎn)機(jī)制 177
724 CTPN 中的 RNN178
725 邊界微調(diào) 178
726 CTPN 的損失函數(shù) 179
727 小結(jié)179
73 RRPN 179
731 RRPN 詳解180
732 位置精校 183
733 小結(jié)184
74 HED 185
741 HED 的骨干網(wǎng)絡(luò) 186
742 整體嵌套網(wǎng)絡(luò) 186
743 HED 的損失函數(shù) 187
744 小結(jié) 188
75 HMCP 188
751 HMCP 的標(biāo)簽值 189
752 HMCP 的骨干網(wǎng)絡(luò) 190
753 訓(xùn)練 190
754 檢測 191
755 小結(jié) 193
76 EAST 193
761 網(wǎng)絡(luò)結(jié)構(gòu) 193
762 EAST 的標(biāo)簽生成 194
763 EAST 的損失函數(shù) 196
764 局部感知 NMS 196
765 Advanced-EAST 197
766 小結(jié) 198
77 PixelLink 198
771 骨干網(wǎng)絡(luò) 199
772 PixelLink 的標(biāo)簽 199
773 PixelLink 的損失函數(shù) 200
774 后處理 201
775 小結(jié) 201
第 8 章 場景文字識別 202
81 STN 202
811 空間變形模塊 203
812 STN 205
813 STN 的應(yīng)用場景 205
814 小結(jié) 207
82 RARE 207
821 基于 TPS 的 STN 208
822 序列識別網(wǎng)絡(luò) 210
823 訓(xùn)練 212
824 基于字典的測試 212
825 小結(jié) 212
83 Bi-STET 212
831 殘差網(wǎng)絡(luò) 213
832 編碼層 213
833 解碼層 214
834 小結(jié) 214
84 CTC 214
841 算法詳解 215
842 小結(jié) 219
第三篇 其他算法與應(yīng)用
第 9 章 圖像翻譯 223
91 GAN 223
911 邏輯基礎(chǔ) 224
912 GAN 的訓(xùn)練 224
913 GAN 的損失函數(shù) 225
914 理論證明 226
915 小結(jié) 230
92 Pix2Pix 230
921 背景知識 231
922 Pix2Pix 解析 232
923 小結(jié) 234
93 Pix2PixHD 235
931 網(wǎng)絡(luò)結(jié)構(gòu) 235
932 輸入數(shù)據(jù) 240
933 損失函數(shù) 241
934 圖像生成 241
935 小結(jié) 242
94 圖像風(fēng)格遷移 242
941 算法概覽 243
942 內(nèi)容表示 244
943 風(fēng)格表示 245
944 風(fēng)格遷移 246
945 小結(jié)247
第 10 章 圖神經(jīng)網(wǎng)絡(luò)248
101 GraphSAGE 249
1011 背景知識 249
1012 算法詳解 249
1013 小結(jié)254
102 GAT 254
1021 GAT 詳解 254
1022 GAT 的推理257
1023 GAT 的屬性257
1024 小結(jié)258
103 HAN 258
1031 基本概念 258
1032 HAN 詳解259
1033 小結(jié)261
第 11 章 二維結(jié)構(gòu)識別 262
111 Show and Tell 262
1111 網(wǎng)絡(luò)結(jié)構(gòu) 263
1112 解碼264
1113 小結(jié)264
112 Show Attend and Tell 264
1121 整體框架 265
1122 小結(jié)268
113 數(shù)學(xué)公式識別268
1131 基礎(chǔ)介紹 269
1132 公式識別模型詳解272
1133 小結(jié)277
第 12 章 人像摳圖278
121 Background Matting 278
1211 輸入279
1212 生成模型 280
1213 判別模型 280
1214 模型訓(xùn)練 281
1215 模型推理 282
1216 小結(jié)282
122 Background Matting v2 283
1221 問題定義 283
1222 網(wǎng)絡(luò)結(jié)構(gòu) 284
1223 訓(xùn)練286
1224 小結(jié)286
第 13 章 圖像預(yù)訓(xùn)練287
131 MAE 287
1311 算法動機(jī) 287
1312 掩碼機(jī)制 288
1313 模型介紹 289
1314 小結(jié)291
132 BEiT v1 291
1321 背景介紹 292
1322 BEiT v1 全覽292
1323 BEiT v1 的模型結(jié)構(gòu)293
1324 掩碼圖像模型 294
1325 BEiT v1 的損失函數(shù)294
1326 小結(jié)295
133 BEiT v2 295
1331 背景介紹 295
1332 BEiT v2 概述296
1333 矢量量化 - 知識蒸餾296
1334 BEiT v2 預(yù)訓(xùn)練297
1335 小結(jié)298
第 14 章 多模態(tài)預(yù)訓(xùn)練 299
141 ViLBERT 299
1411 模型結(jié)構(gòu) 300
1412 預(yù)訓(xùn)練任務(wù) 301
1413 模型微調(diào) 302
1414 小結(jié) 303
142 CLIP 304
1421 數(shù)據(jù)收集 304
1422 學(xué)習(xí)目標(biāo):對比學(xué)習(xí)(Contrastive
Learning)預(yù)訓(xùn)練 304
1423 圖像編碼器 305
1424 文本編碼器 306
1425 CLIP 用于圖像識別 306
1426 模型效果 306
1427 小結(jié) 307
143 DALL-E 307
1431 背景知識:變分自編碼器 308
1432 階段一:離散變分自編碼器309
1433 階段二:先驗(yàn)分布學(xué)習(xí) 310
1434 圖像生成 312
1435 混合精度訓(xùn)練 312
1436 分布式運(yùn)算 313
1437 小結(jié) 313
144 VLMo 314
1441 算法動機(jī) 314
1442 MoME Transformer 314
1443 VLMo 預(yù)訓(xùn)練 315
1444 小結(jié) 318
145 BEiT v3 318
1451 背景:大融合 319
1452 BEiT v3 詳解320
1453 小結(jié) 322
附錄 A 雙線性插值 323
附錄 B 匈牙利算法 324
附錄 C Shift-and-Stitch 325
附錄 D 德勞內(nèi)三角化 328
附錄 E 圖像梯度 329
附錄 F 仿射變換矩陣 330