第一部分 環(huán)境基礎(chǔ)教學(xué)
第1章 實(shí)驗(yàn)環(huán)境搭建 3
1.1 Anaconda的安裝 3
1.2 PyCharm的安裝與使用 7
1.3 包的安裝 10
1.3.1 pip的安裝與使用 10
1.3.2 NumPy的安裝 11
1.3.3 Matplotlib的安裝 11
1.3.4 Pandas的安裝 12
1.4 框架搭建 13
1.4.1 PyTorch-CPU的安裝 13
1.4.2 TensorFlow-CPU的安裝 15
1.5 本章小結(jié) 18
1.6 本章習(xí)題 18
第2章 Python編程語言基礎(chǔ) 19
2.1 基礎(chǔ)語法 19
2.1.1 輸入/輸出函數(shù) 20
2.1.2 標(biāo)識符和關(guān)鍵字 22
2.1.3 變量、數(shù)據(jù)類型及注釋 23
2.1.4 運(yùn)算符 25
2.2 基本程序設(shè)計(jì)方法 27
2.2.1 函數(shù) 28
2.2.2 分支結(jié)構(gòu) 31
2.2.3 循環(huán) 33
2.3 編程進(jìn)階 36
2.3.1 列表 37
2.3.2 字典 40
2.3.3 文件操作 43
2.4 本章小結(jié) 46
2.5 本章習(xí)題 47
第二部分 機(jī)器學(xué)習(xí)
第3章 機(jī)器學(xué)習(xí)基礎(chǔ) 51
3.1 基本概念 51
3.2 機(jī)器學(xué)習(xí)的三要素 52
3.2.1 模型 52
3.2.2 學(xué)習(xí)策略 53
3.2.3 優(yōu)化準(zhǔn)則 54
3.3 評估方法 55
3.3.1 數(shù)據(jù)集劃分方法 56
3.3.2 性能度量 56
3.4 本章小結(jié) 58
3.5 本章習(xí)題 59
第4章 K近鄰算法 60
4.1 算法概述 60
4.1.1 基本概念 60
4.1.2 距離計(jì)算函數(shù) 61
4.2 實(shí)驗(yàn)數(shù)據(jù) 61
4.2.1 準(zhǔn)備數(shù)據(jù) 62
4.2.2 分析數(shù)據(jù) 62
4.2.3 處理數(shù)據(jù) 63
4.3 算法實(shí)戰(zhàn) 64
4.3.1 KNN算法實(shí)現(xiàn) 64
4.3.2 預(yù)測測試集并計(jì)算準(zhǔn)確率 65
4.3.3 結(jié)果分析 65
4.4 本章小結(jié) 66
4.5 本章習(xí)題 66
第5章 決策樹算法 67
5.1 算法概述 68
5.1.1 基本概念 68
5.1.2 特征選擇 69
5.1.3 決策樹的生成 71
5.1.4 決策樹的剪枝 72
5.1.5 決策樹的存儲 72
5.1.6 決策樹的可視化 72
5.2 實(shí)驗(yàn)數(shù)據(jù) 72
5.2.1 數(shù)據(jù)集介紹 73
5.2.2 導(dǎo)入數(shù)據(jù)集 73
5.2.3 劃分訓(xùn)練集和測試集 74
5.3 算法實(shí)戰(zhàn) 75
5.3.1 計(jì)算香農(nóng)熵 75
5.3.2 數(shù)據(jù)集最佳劃分函數(shù) 76
5.3.3 按照給定列劃分?jǐn)?shù)據(jù)集 76
5.3.4 遞歸構(gòu)建決策樹 77
5.3.5 利用訓(xùn)練集生成決策樹 78
5.3.6 保存決策樹 78
5.3.7 預(yù)測測試集并計(jì)算準(zhǔn)確率 78
5.3.8 繪制決策樹 79
5.4 本章小結(jié) 81
5.5 本章習(xí)題 81
第6章 樸素貝葉斯算法 82
6.1 算法概述 83
6.1.1 基本概念 83
6.1.2 貝葉斯算法的原理 84
6.1.3 樸素貝葉斯算法的類型 85
6.2 實(shí)驗(yàn)數(shù)據(jù) 85
6.2.1 準(zhǔn)備數(shù)據(jù) 85
6.2.2 分析數(shù)據(jù) 87
6.2.3 處理數(shù)據(jù) 89
6.3 算法實(shí)戰(zhàn) 92
6.3.1 算法構(gòu)建 92
6.3.2 訓(xùn)練測試數(shù)據(jù) 93
6.3.3 結(jié)果分析 93
6.4 本章小結(jié) 93
6.5 本章習(xí)題 94
第7章 Logistic回歸 95
7.1 Logistic回歸概述 95
7.1.1 基本概念 95
7.1.2 Logistic回歸算法 96
7.1.3 梯度下降法 99
7.2 Logistic回歸實(shí)戰(zhàn) 101
7.2.1 準(zhǔn)備數(shù)據(jù) 102
7.2.2 分析數(shù)據(jù) 102
7.2.3 處理數(shù)據(jù) 103
7.3 算法實(shí)戰(zhàn) 104
7.3.1 算法構(gòu)建 104
7.3.2 定義分類函數(shù) 106
7.3.3 預(yù)測測試集并計(jì)算準(zhǔn)確率 106
7.3.4 結(jié)果分析 107
7.4 本章小結(jié) 108
7.5 本章習(xí)題 108
第8章 支持向量機(jī) 109
8.1 支持向量機(jī)算法思想 109
8.1.1 算法原理 109
8.1.2 算法流程 111
8.1.3 SMO算法 117
8.2 實(shí)驗(yàn)數(shù)據(jù) 119
8.2.1 準(zhǔn)備數(shù)據(jù) 119
8.2.2 分析數(shù)據(jù) 120
8.2.3 處理數(shù)據(jù) 122
8.3 算法實(shí)戰(zhàn) 124
8.3.1 算法構(gòu)建 124
8.3.2 訓(xùn)練測試數(shù)據(jù) 127
8.3.3 結(jié)果分析 128
8.4 本章小結(jié) 129
8.5 本章習(xí)題 129
第9章 隨機(jī)森林算法 130
9.1 算法概述 131
9.1.1 集成學(xué)習(xí)概述 131
9.1.2 隨機(jī)森林算法概述 132
9.2 實(shí)驗(yàn)數(shù)據(jù) 134
9.2.1 準(zhǔn)備數(shù)據(jù) 135
9.2.2 分析數(shù)據(jù) 135
9.2.3 處理數(shù)據(jù) 137
9.3 算法實(shí)戰(zhàn) 138
9.3.1 創(chuàng)建隨機(jī)森林分類器 138
9.3.2 創(chuàng)建修改參數(shù)的隨機(jī)森林 139
9.3.3 使用隨機(jī)森林模型找重要特征 140
9.3.4 可視化特征分?jǐn)?shù) 140
9.3.5 在選定的特征上建立隨機(jī)森林模型 141
9.4 本章小結(jié) 142
9.5 本章習(xí)題 142
第10章 AdaBoost算法 143
10.1 算法概述 143
10.1.1 Boosting算法概述 143
10.1.2 AdaBoost算法概述 145
10.2 實(shí)驗(yàn)數(shù)據(jù) 146
10.2.1 準(zhǔn)備數(shù)據(jù) 146
10.2.2 處理數(shù)據(jù) 147
10.3 算法實(shí)戰(zhàn) 147
10.3.1 算法構(gòu)建 147
10.3.2 訓(xùn)練測試數(shù)據(jù) 152
10.3.3 結(jié)果分析 152
10.4 本章小結(jié) 153
10.5 本章習(xí)題 153
第11章 Apriori算法 154
11.1 算法概述 154
11.1.1 關(guān)聯(lián)分析 154
11.1.2 Apriori算法的思想 155
11.2 實(shí)驗(yàn)數(shù)據(jù) 158
11.2.1 準(zhǔn)備數(shù)據(jù) 158
11.2.2 分析數(shù)據(jù) 158
11.2.3 處理數(shù)據(jù) 159
11.3 算法實(shí)戰(zhàn) 160
11.3.1 算法構(gòu)建 160
11.3.2 訓(xùn)練測試數(shù)據(jù) 163
11.3.3 結(jié)果分析 163
11.4 本章小結(jié) 163
11.5 本章習(xí)題 164
第三部分 深度學(xué)習(xí)
第12章 深度學(xué)習(xí)基礎(chǔ) 167
12.1 基礎(chǔ)知識 167
12.1.1 框架介紹 167
12.1.2 PyTorch基礎(chǔ)語法 170
12.2 神經(jīng)網(wǎng)絡(luò)基礎(chǔ) 172
12.2.1 神經(jīng)元 172
12.2.2 激活函數(shù)概述 174
12.2.3 常見的激活函數(shù) 176
12.3 前饋神經(jīng)網(wǎng)絡(luò)和反饋神經(jīng)網(wǎng)絡(luò) 179
12.3.1 前饋神經(jīng)網(wǎng)絡(luò) 179
12.3.2 反饋神經(jīng)網(wǎng)絡(luò) 180
12.4 損失函數(shù) 186
12.4.1 L1和L2損失函數(shù) 187
12.4.2 交叉熵?fù)p失函數(shù) 187
12.4.3 其他常見損失函數(shù) 189
12.5 優(yōu)化方法 189
12.5.1 基本概念 189
12.5.2 梯度下降法 190
12.6 本章小結(jié) 191
12.7 本章習(xí)題 191
第13章 感知機(jī)算法 192
13.1 算法概述 192
13.1.1 感知機(jī)簡介 192
13.1.2 算法實(shí)現(xiàn)原理 193
13.2 實(shí)驗(yàn)數(shù)據(jù) 196
13.3 算法實(shí)戰(zhàn) 196
13.3.1 and運(yùn)算 196
13.3.2 鳶尾花分類 198
13.4 本章小結(jié) 200
13.5 本章習(xí)題 200
第14章 卷積神經(jīng)網(wǎng)絡(luò) 201
14.1 模型概述 202
14.1.1 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)及原理 202
14.1.2 卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn) 203
14.1.3 卷積層 204
14.1.4 池化層 205
14.1.5 全連接層 206
14.2 實(shí)驗(yàn)數(shù)據(jù) 207
14.2.1 準(zhǔn)備數(shù)據(jù) 207
14.2.2 處理數(shù)據(jù) 209
14.3 模型構(gòu)建 209
14.3.1 相關(guān)函數(shù)介紹 209
14.3.2 卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)建 210
14.3.3 模型訓(xùn)練 211
14.4 本章小結(jié) 214
14.5 本章習(xí)題 214
第15章 VGG16網(wǎng)絡(luò) 215
15.1 模型概述 216
15.1.1 VGG網(wǎng)絡(luò)的結(jié)構(gòu)及原理 216
15.1.2 VGG網(wǎng)絡(luò)的特點(diǎn) 217
15.2 實(shí)驗(yàn)數(shù)據(jù) 218
15.2.1 準(zhǔn)備數(shù)據(jù) 218
15.2.2 處理數(shù)據(jù) 219
15.3 模型構(gòu)建 220
15.3.1 構(gòu)建VGG16網(wǎng)絡(luò) 220
15.3.2 測試模型 226
15.3.3 結(jié)果分析 227
15.4 本章小結(jié) 227
15.5 本章習(xí)題 228
第16章 循環(huán)神經(jīng)網(wǎng)絡(luò) 229
16.1 算法概述 229
16.1.1 語言模型 229
16.1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)的原理 230
16.1.3 雙向循環(huán)神經(jīng)網(wǎng)絡(luò) 231
16.1.4 循環(huán)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練算法 232
16.1.5 長短時(shí)記憶網(wǎng)絡(luò) 234
16.2 數(shù)據(jù)處理 239
16.2.1 準(zhǔn)備數(shù)據(jù) 239
16.2.2 分析數(shù)據(jù) 240
16.2.3 處理數(shù)據(jù) 241
16.3 算法實(shí)戰(zhàn) 242
16.3.1 模型構(gòu)建 242
16.3.2 驗(yàn)證數(shù)據(jù) 243
16.3.3 股票價(jià)格預(yù)測 244
16.4 本章小結(jié) 245
16.5 本章習(xí)題 245
參考文獻(xiàn) 246