第 1章 預(yù)測分析過程 1 1.1 技術(shù)要求 1 1.2 什么是預(yù)測分析 2 1.3 回顧預(yù)測分析的重要概念 3 1.4 預(yù)測分析過程 5 1.4.1 理解問題和定義問題 6 1.4.2 收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 6 1.4.3 使用EDA挖掘數(shù)據(jù)信息 7 1.4.4 構(gòu)建模型 8 1.4.5 評價模型 8 1.4.6 溝通以及/或者部署 8 1.4.7 CRISP-DM和其他方法 9 1.5 Python數(shù)據(jù)科學(xué)棧概述 10 1.5.1 Anaconda 10 1.5.2 Jupyter Notebook 11 1.5.3 NumPy 13 1.5.4 SciPy 18 1.5.5 pandas 19 1.5.6 Matplotlib 19 1.5.7 Seaborn 23 1.5.8 scikit-learn 24 1.5.9 TensorFlow和Keras 24 1.5.10 Dash 24 1.6 小結(jié) 25 擴(kuò)展閱讀 25 第 2章 理解問題和準(zhǔn)備數(shù)據(jù) 26 2.1 技術(shù)要求 26 2.2 理解業(yè)務(wù)問題并提出解決方案 27 2.2.1 背景決定一切 27 2.2.2 定義預(yù)測內(nèi)容 28 2.2.3 明確項目需要的數(shù)據(jù) 28 2.2.4 考慮數(shù)據(jù)訪問 28 2.2.5 提出解決方案 29 2.3 實(shí)踐項目—鉆石的價格 30 2.3.1 鉆石的價格—理解問題和定義問題 30 2.3.2 更多背景知識 32 2.3.3 鉆石的價格—提出解決方案 32 2.3.4 鉆石的價格—收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 33 2.4 實(shí)踐項目—信用卡違約 38 2.4.1 信用卡違約—理解問題和定義問題 38 2.4.2 信用卡違約—提出解決方案 39 2.4.3 信用卡違約—收集數(shù)據(jù)和準(zhǔn)備數(shù)據(jù) 41 2.5 小結(jié) 51 擴(kuò)展閱讀 52 第3章 理解數(shù)據(jù)集—探索性數(shù)據(jù)分析 53 3.1 技術(shù)要求 54 3.2 什么是EDA 54 3.3 一元EDA 56 3.3.1 數(shù)值特征的一元EDA 57 3.3.2 分類特征的一元EDA 61 3.4 二元EDA 63 3.4.1 兩個數(shù)值特征 64 3.4.2 兩個分類特征 73 3.4.3 一個數(shù)值特征和一個分類特征 77 3.5 圖形化的多元EDA 81 3.6 小結(jié) 86 擴(kuò)展閱讀 86 第4章 基于機(jī)器學(xué)習(xí)的數(shù)值預(yù)測 87 4.1 技術(shù)要求 88 4.2 機(jī)器學(xué)習(xí)簡介 88 4.2.1 監(jiān)督學(xué)習(xí)中的任務(wù) 89 4.2.2 創(chuàng)建第 一個機(jī)器學(xué)習(xí)模型 90 4.2.3 機(jī)器學(xué)習(xí)的目標(biāo)—泛化 92 4.2.4 過擬合 94 4.2.5 評價函數(shù)和最優(yōu)化 95 4.3 建模之前的實(shí)際考慮 95 4.3.1 scikit-learn簡介 96 4.3.2 進(jìn)一步的特征變換 96 4.4 多元線性回歸 103 4.5 LASSO回歸 106 4.6 kNN 107 4.7 訓(xùn)練與測試誤差 109 4.8 小結(jié) 113 擴(kuò)展閱讀 113 第5章 基于機(jī)器學(xué)習(xí)的分類預(yù)測 115 5.1 技術(shù)要求 116 5.2 分類任務(wù) 116 5.3 信用卡違約數(shù)據(jù)集 117 5.4 邏輯回歸 120 5.4.1 一個簡單的邏輯回歸模型 120 5.4.2 完整的邏輯回歸模型 122 5.5 分類樹 124 5.5.1 分類樹的工作原理 126 5.5.2 分類樹的優(yōu)點(diǎn)和缺點(diǎn) 130 5.5.3 訓(xùn)練更大的分類樹 130 5.6 隨機(jī)森林 131 5.7 訓(xùn)練誤差對測試誤差 133 5.8 多元分類 135 5.9 樸素貝葉斯分類器 136 5.9.1 條件概率 136 5.9.2 貝葉斯定理 138 5.9.3 回到分類問題 140 5.9.4 高斯樸素貝葉斯 141 5.10 小結(jié) 143 擴(kuò)展閱讀 143 第6章 面向預(yù)測分析的神經(jīng)網(wǎng)絡(luò)簡介 144 6.1 技術(shù)要求 144 6.2 引入神經(jīng)網(wǎng)絡(luò)模型 145 6.2.1 深度學(xué)習(xí) 145 6.2.2 MLP的結(jié)構(gòu)—神經(jīng)網(wǎng)絡(luò)模型的組成部分 146 6.2.3 MLP的學(xué)習(xí)原理 148 6.3 TensorFlow和Keras簡介 149 6.3.1 TensorFlow 149 6.3.2 Keras—以人為本的深度學(xué)習(xí) 150 6.4 基于神經(jīng)網(wǎng)絡(luò)的回歸 151 6.4.1 構(gòu)建預(yù)測鉆石價格的MLP 152 6.4.2 訓(xùn)練MLP 154 6.4.3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測 156 6.5 基于神經(jīng)網(wǎng)絡(luò)的分類 157 6.5.1 構(gòu)建預(yù)測信用卡違約的MLP 158 6.5.2 評價預(yù)測 160 6.6 訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的“黑暗藝術(shù)” 161 6.6.1 決策太多，時間太少 162 6.6.2 神經(jīng)網(wǎng)絡(luò)的正則化 163 6.6.3 訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型的實(shí)用技巧 172 6.7 小結(jié) 173 擴(kuò)展閱讀 173 第7章 模型評價 174 7.1 技術(shù)要求 175 7.2 回歸模型的評價 175 7.2.1 評價回歸模型的指標(biāo) 176 7.2.2 評價回歸模型的可視化方法 180 7.3 評價分類模型 183 7.3.1 混淆矩陣及相關(guān)指標(biāo) 184 7.3.2 評價分類模型的可視化方法 187 7.4 k折交叉驗(yàn)證 195 7.5 小結(jié) 197 擴(kuò)展閱讀 197 第8章 調(diào)整模型和提高性能 198 8.1 技術(shù)要求 198 8.2 超參數(shù)調(diào)整 199 8.2.1 優(yōu)化單個超參數(shù) 200 8.2.2 優(yōu)化多個超參數(shù) 205 8.3 提高性能 210 8.3.1 改進(jìn)鉆石價格預(yù)測 210 8.3.2 是技術(shù)問題，更是業(yè)務(wù)問題 214 8.4 小結(jié) 215 第9章 基于Dash的模型實(shí)現(xiàn) 216 9.1 技術(shù)要求 216 9.2 模型溝通和/或部署階段 217 9.2.1 使用技術(shù)報告 217 9.2.2 說明現(xiàn)有應(yīng)用程序的功能 218 9.2.3 分析應(yīng)用程序 219 9.3 Dash簡介 220 9.3.1 什么是Dash 220 9.3.2 Plotly 220 9.3.3 安裝 221 9.3.4 應(yīng)用程序布局 221 9.3.5 構(gòu)建基本的靜態(tài)App 222 9.3.6 構(gòu)建基本的交互式App 224 9.4 將預(yù)測模型實(shí)現(xiàn)為網(wǎng)絡(luò)應(yīng)用程序 228 9.4.1 生成預(yù)測模型對象 229 9.4.2 構(gòu)建網(wǎng)絡(luò)應(yīng)用程序 231 9.5 小結(jié) 237 擴(kuò)展閱讀 238