第 一章 數(shù)據(jù)挖掘與R語(yǔ)言概述 7 1.1　什么是數(shù)據(jù)挖掘 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　7 1.2　數(shù)據(jù)挖掘的基本流程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　7 1.2.1　應(yīng)用背景 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　7 1.2.2　數(shù)據(jù)收集 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　8 1.2.3　數(shù)據(jù)準(zhǔn)備 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　8 1.2.4　建立模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　8 1.2.5　模型評(píng)估與選擇 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　9 1.2.6　模型監(jiān)測(cè)與更新 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .　9 1.3　關(guān)于數(shù)據(jù)挖掘項(xiàng)目的三個(gè)基本問(wèn)題 . . . . . . . . . . . . . . . . . . . . . . .　9 1.3.1　建模數(shù)據(jù)集對(duì)預(yù)測(cè)數(shù)據(jù)集的代表性　10 1.3.2　自變量和因變量之間關(guān)系的因果性解釋　11 1.3.3　模型預(yù)測(cè)精度對(duì)于實(shí)際應(yīng)用的價(jià)值　12 1.4　CRISP-DM數(shù)據(jù)挖掘方法論　12 1.5　SEMMA數(shù)據(jù)挖掘方法論　13 1.6　R語(yǔ)言及Rstudio簡(jiǎn)介　15 第二章　數(shù)據(jù)理解　17 2.1　收集初始數(shù)據(jù)　17 2.2　描述數(shù)據(jù)　17 2.2.1　數(shù)據(jù)的精確含義　17 2.2.2　數(shù)據(jù)粒度　18 2.2.3　變量類(lèi)型　18 2.2.4　冗余變量　19 2.2.5　缺省值　19 2.2.6　數(shù)據(jù)鏈接　19 3 4　目錄 2.3　檢查數(shù)據(jù)質(zhì)量　19 2.3.1　抽樣偏差　19 2.3.2　數(shù)據(jù)取值錯(cuò)誤　20 2.3.3　數(shù)據(jù)缺失情況　21 2.4　初步探索數(shù)據(jù)　22 2.5　R語(yǔ)言分析示例：數(shù)據(jù)理解　22 第三章　數(shù)據(jù)準(zhǔn)備　33 3.1　數(shù)據(jù)整合　33 3.2　處理分類(lèi)自變量　33 3.3　處理時(shí)間信息　34 3.4　清除變量　35 3.5　異常值　35 3.6　及值　36 3.7　處理缺失數(shù)據(jù)　37 3.8　過(guò)抽樣與欠抽樣　38 3.9　降維　38 3.9.1　變量選擇　38 3.9.2　主成分分析　39 3.10　R語(yǔ)言分析示例：數(shù)據(jù)整合　41 3.11　R語(yǔ)言分析示例：數(shù)據(jù)準(zhǔn)備　47 第四章　關(guān)聯(lián)規(guī)則挖掘　59 4.1　關(guān)聯(lián)規(guī)則的基本概念及Apriori算法　59 4.1.1　關(guān)聯(lián)規(guī)則的基本概念　59 4.1.2　Apriori算法簡(jiǎn)介　60 4.2　序列關(guān)聯(lián)規(guī)則挖掘　60 4.3　R語(yǔ)言分析示例：關(guān)聯(lián)規(guī)則挖掘　61 4.3.1　購(gòu)物籃分析　61 4.3.2　泰坦尼克號(hào)存活情況分析　68 第五章　聚類(lèi)分析　75 5.1　k均值聚類(lèi)法　75 5.1.1　觀測(cè)之間的距離度量　75 5.1.2　k均值聚類(lèi)法的具體步驟　76 目錄　5 5.1.3　關(guān)于k均值聚類(lèi)法的一些點(diǎn)評(píng)　77 5.2　層次聚類(lèi)法　78 5.2.1　層次聚類(lèi)法的具體步驟　78 5.2.2　類(lèi)別之間距離的度量　78 5.3　確定最優(yōu)類(lèi)別數(shù)　80 5.4　R語(yǔ)言分析示例：聚類(lèi)　82 第六章　線(xiàn)性模型與廣義線(xiàn)性模型　93 6.1　線(xiàn)性模型　93 6.1.1　模型假設(shè)與估計(jì)　93 6.1.2　模型解釋　94 6.1.3　一些理論結(jié)果　94 6.1.4　模型診斷　95 6.2　廣義線(xiàn)性模型　98 6.2.1　廣義線(xiàn)性模型簡(jiǎn)介　98 6.2.2　因變量為二值變量或比例的情形　99 6.2.3　因變量為多種取值的名義變量的情形　100 6.2.4　因變量為定序變量的情形　100 6.2.5　因變量為計(jì)數(shù)變量的情形　101 6.2.6　因變量為取值可正可負(fù)的連續(xù)變量的情形　101 6.2.7　因變量為非負(fù)連續(xù)變量的情形　101 6.3　線(xiàn)性模型與廣義線(xiàn)性模型中的變量選擇　101 6.3.1　逐步回歸　101 6.3.2　LASSO　102 6.4　R語(yǔ)言分析示例：線(xiàn)性模型與廣義線(xiàn)性模型　103 6.4.1　線(xiàn)性模型示例　103 6.4.2　邏輯回歸及Lasso示例：印第安女性糖尿病數(shù)據(jù)　107 6.4.3　邏輯回歸及Lasso示例：移動(dòng)運(yùn)營(yíng)商數(shù)據(jù)　112 第七章　神經(jīng)網(wǎng)絡(luò)的基本方法　119 7.1　神經(jīng)元及神經(jīng)網(wǎng)絡(luò)介紹　119 7.1.1　單個(gè)神經(jīng)元　119 7.1.2　多層感知器架構(gòu)　119 7.2　神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練　119 7.2.1　誤差函數(shù)　119 6　目錄 7.2.2　神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法　119 7.3　提高神經(jīng)網(wǎng)絡(luò)模型的可推廣性　119 7.4　R語(yǔ)言分析示例：神經(jīng)網(wǎng)絡(luò)　119 7.4.1　白葡萄酒數(shù)據(jù)　119 7.4.2　移動(dòng)運(yùn)營(yíng)商數(shù)據(jù)　119 第八章　決策樹(shù)　121 8.1　決策樹(shù)簡(jiǎn)介　121 8.2　決策樹(shù)的生長(zhǎng)與修剪　121 8.2.1　一般過(guò)程　121 8.2.2　分類(lèi)樹(shù)　121 8.2.3　回歸樹(shù)　121 8.3　對(duì)缺失數(shù)據(jù)的處理　121 8.4　變量選擇　121 8.5　決策樹(shù)的優(yōu)缺點(diǎn)　121 8.6　R語(yǔ)言分析示例：決策樹(shù)　121 第九章　基千決策樹(shù)的模型組合　123 9.1　基于決策樹(shù)的Bagging方法　123 9.2　基于決策樹(shù)的Boosting方法　123 9.3　隨機(jī)森林　123 9.4　貝葉斯累加回歸樹(shù)(BART)　123 9.5　R語(yǔ)言分析示例：基于決策樹(shù)的模型組合　123 第十章　模型評(píng)估與比較　125 10.1　因變量為二分變量的情形　125 10.2　因變量為多分變量的情形　125 10.3　因變量為連續(xù)變量的情形　125 10.4　R語(yǔ)言分析示例：模型評(píng)估與比較　125 第十一章　R語(yǔ)言分析案例：Kaggle房?jī)r(jià)預(yù)測(cè)數(shù)據(jù)　127 11.1　數(shù)據(jù)介紹與業(yè)務(wù)理解　127 11.2　數(shù)據(jù)理解與數(shù)據(jù)準(zhǔn)備　127 11.3　建�！�127 11.4　模型評(píng)估與比較　127 11.5　模型應(yīng)用　12