模式識(shí)別是信息科學(xué)和人工智能的重要組成部分，主要應(yīng)用領(lǐng)域包括圖像分析、光學(xué)字符識(shí)別、信道均衡、語(yǔ)言識(shí)別和語(yǔ)音分類等。本書全面介紹了模式識(shí)別的基礎(chǔ)理論、最新方法及各種應(yīng)用，討論了貝葉斯分類、貝葉斯網(wǎng)絡(luò)、線性和非線性分類器設(shè)計(jì)、上下文相關(guān)分類、特征生成、特征選擇技術(shù)、學(xué)習(xí)理論的基本概念及聚類的概念與算法，新增了與大數(shù)據(jù)集和高維數(shù)據(jù)相關(guān)的算法，詳細(xì)論述了非線性降維、非負(fù)矩陣因數(shù)分解、關(guān)聯(lián)性反饋、魯棒回歸、半監(jiān)督學(xué)習(xí)、頻譜聚類和組合集聚技術(shù)。書中的各章提供習(xí)題與練習(xí)，并在配套網(wǎng)站上提供習(xí)題解答。
Sergios Theodoridis 希臘雅典大學(xué)物理學(xué)學(xué)士，英國(guó)伯明翰大學(xué)信號(hào)處理與通信專業(yè)碩士和博士，希臘雅典大學(xué)信息與通信系教授，IET和IEEE高級(jí)會(huì)員，發(fā)表的4篇論文曾獲IEEE神經(jīng)網(wǎng)絡(luò)會(huì)刊卓越論文獎(jiǎng)。Konstantinos Koutroumbas 希臘佩特雷大學(xué)計(jì)算機(jī)工程與信息學(xué)院計(jì)算機(jī)科學(xué)碩士，英國(guó)倫敦大學(xué)計(jì)算機(jī)科學(xué)碩士，希臘雅典大學(xué)計(jì)算機(jī)科學(xué)博士，希臘雅典國(guó)家天文臺(tái)應(yīng)用與遙感研究所研究員。
李晶皎，東北大學(xué)信息學(xué)院教授、博士生導(dǎo)師。2006—2010年教育部電子電氣基礎(chǔ)教學(xué)指導(dǎo)委員會(huì)委員。自1988年以來一直從事教學(xué)與科研工作。主要研究方向是模式識(shí)別、語(yǔ)音信號(hào)處理、計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)、嵌入式系統(tǒng)。
目 錄
第1章 導(dǎo)論 1
1.1 模式識(shí)別的重要性 1
1.2 特征、特征向量和分類器 3
1.3 監(jiān)督、無監(jiān)督和半監(jiān)督學(xué)習(xí) 4
1.4 MATLAB程序 6
1.5 本書的章節(jié)安排 6
第2章 基于貝葉斯決策理論的分類器 8
2.1 引言 8
2.2 貝葉斯決策理論 8
2.3 判別函數(shù)和決策面 12
2.4 正態(tài)分布的貝葉斯分類 13
2.5 未知概率密度函數(shù)的估計(jì) 23
2.6 最近鄰準(zhǔn)則 41
2.7 貝葉斯網(wǎng)絡(luò) 44
習(xí)題 48
MATLAB編程與練習(xí) 54
參考文獻(xiàn) 58
第3章 線性分類器 61
3.1 引言 61
3.2 線性判別函數(shù)和決策超平面 61
3.3 感知器算法 62
3.4 最小二乘法 68
3.5 均方估計(jì)回顧 73
3.6 邏輯斯蒂判別 78
3.7 支持向量機(jī) 79
習(xí)題 94
MATLAB編程和練習(xí) 96
參考文獻(xiàn) 97
第4章 非線性分類器 101
4.1 引言 101
4.2 異或問題 101
4.3 兩層感知器 102
4.4 三層感知器 105
4.5 基于訓(xùn)練集準(zhǔn)確分類的算法 106
4.6 反向傳播算法 107
4.7 反向傳播算法的變體 112
4.8 代價(jià)函數(shù)的選擇 114
4.9 神經(jīng)網(wǎng)絡(luò)大小的選擇 116
4.10 仿真實(shí)例 119
4.11 共享權(quán)重的網(wǎng)絡(luò) 120
4.12 廣義線性分類器 121
4.13 線性二分分類器中l(wèi)維空間的容量 123
4.14 多項(xiàng)式分類器 124
4.15 徑向基函數(shù)網(wǎng)絡(luò) 125
4.16 通用逼近器 128
4.17 概率神經(jīng)網(wǎng)絡(luò) 129
4.18 支持向量機(jī)：非線性情形 130
4.19 其他SVM范式 134
4.20 決策樹 142
4.21 組合分類器 146
4.22 增強(qiáng)組合分類器的方法 151
4.23 類別不平衡問題 156
4.24 討論 157
習(xí)題 157
MATLAB編程和練習(xí) 160
參考文獻(xiàn) 163
第5章 特征選擇 173
5.1 引言 173
5.2 預(yù)處理 173
5.3 峰值現(xiàn)象 175
5.4 基于統(tǒng)計(jì)假設(shè)檢驗(yàn)的特征選擇 177
5.5 接收機(jī)工作特性曲線 182
5.6 類別可分性判據(jù) 183
5.7 特征子集選擇 188
5.8 最優(yōu)特征生成 191
5.9 神經(jīng)網(wǎng)絡(luò)和特征生成/選擇 198
5.10 關(guān)于泛化理論的提示 199
5.11 貝葉斯信息準(zhǔn)則 205
習(xí)題 206
MATLAB編程和練習(xí) 208
參考文獻(xiàn) 211
第6章 特征生成I：數(shù)據(jù)變換和降維 216
6.1 引言 216
6.2 基向量和圖像 216
6.3 Karhunen-Loève變換 218
6.4 奇異值分解 224
6.5 獨(dú)立成分分析 229
6.6 非負(fù)矩陣因子分解 234
6.7 非線性降維 235
6.8 離散傅里葉變換 243
6.9 離散余弦和正弦變換 245
6.10 哈達(dá)瑪變換 246
6.11 哈爾變換 247
6.12 重新審視哈爾展開式 248
6.13 離散時(shí)間小波變換 251
6.14 多分辨率解釋 258
6.15 小波包 259
6.16 二維推廣簡(jiǎn)介 260
6.17 應(yīng)用 262
習(xí)題 265
MATLAB編程和練習(xí) 267
參考文獻(xiàn) 269
第7章 特征生成II 276
7.1 引言 276
7.2 區(qū)域特征 276
7.3 形狀和尺寸特征 292
7.4 分形簡(jiǎn)介 298
7.5 語(yǔ)音和聲音分類的典型特征 303
習(xí)題 313
MATLAB編程和練習(xí) 315
參考文獻(xiàn) 318
第8章 模板匹配 324
8.1 引言 324
8.2 基于最優(yōu)路徑搜索技術(shù)的度量 324
8.3 基于相關(guān)的度量 335
8.4 可變形模板模型 339
8.5 基于內(nèi)容的信息檢索：相關(guān)反饋 342
習(xí)題 345
MATLAB編程和練習(xí) 345
參考文獻(xiàn) 347
第9章 上下文相關(guān)分類 350
9.1 引言 350
9.2 貝葉斯分類器 350
9.3 馬爾可夫鏈模型 350
9.4 Viterbi算法 351
9.5 信道均衡 354
9.6 隱馬爾可夫模型 357
9.7 基于狀態(tài)持續(xù)時(shí)間建模的HMM 365
9.8 使用神經(jīng)網(wǎng)絡(luò)訓(xùn)練馬爾可夫模型 370
9.9 馬爾可夫隨機(jī)場(chǎng)的討論 371
習(xí)題 373
MATLAB編程和練習(xí) 373
參考文獻(xiàn) 375
第10章 監(jiān)督學(xué)習(xí)：尾聲 380
10.1 引言 380
10.2 錯(cuò)誤計(jì)數(shù)法 380
10.3 利用有限大小的數(shù)據(jù)集 381
10.4 醫(yī)學(xué)成像實(shí)例研究 384
10.5 半監(jiān)督學(xué)習(xí) 386
習(xí)題 394
參考文獻(xiàn) 395
第11章 集聚：基本概念 399
11.1 引言 399
11.2 鄰近度 403
習(xí)題 417
參考文獻(xiàn) 418
第12章 集聚算法I：順序算法 420
12.1 引言 420
12.2 集聚算法的分類 421
12.3 順序集聚算法 423
12.4 改進(jìn)的BSAS 426
12.5 雙閾值順序算法 427
12.6 細(xì)化階段 429
12.7 神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn) 430
習(xí)題 432
MATLAB編程和練習(xí) 434
參考文獻(xiàn) 435
第13章 集聚算法II：層次算法 438
13.1 引言 438
13.2 合并算法 438
13.3 同型矩陣 455
13.4 分裂算法 456
13.5 用于大數(shù)據(jù)集的層次算法 457
13.6 選擇最優(yōu)的聚類數(shù) 462
習(xí)題 464
MATLAB編程和練習(xí) 465
參考文獻(xiàn) 466
第14章 集聚算法III：基于函數(shù)優(yōu)化的方法 469
14.1 引言 469
14.2 混合分解方法 470
14.3 模糊集聚算法 476
14.4 可能性聚類 491
14.5 硬集聚算法 495
14.6 向量量化 501
附錄 503
習(xí)題 503
MATLAB編程和練習(xí) 505
參考文獻(xiàn) 507
第15章 集聚算法IV 512
15.1 引言 512
15.2 基于圖論的集聚算法 512
15.3 競(jìng)爭(zhēng)學(xué)習(xí)算法 522
15.4 二值形態(tài)學(xué)集聚算法 528
15.5 邊界檢測(cè)算法 534
15.6 尋谷集聚算法 536
15.7 代價(jià)優(yōu)化集聚回顧 538
15.8 核集聚算法 543
15.9 處理大數(shù)據(jù)集的基于密度的算法 546
15.10 高維數(shù)據(jù)集的集聚算法 550
15.11 其他集聚算法 560
15.12 組合集聚 561
習(xí)題 565
MATLAB編程和練習(xí) 567
參考文獻(xiàn) 569
第16章 聚類有效性 578
16.1 引言 578
16.2 假設(shè)檢驗(yàn)回顧 578
16.3 聚類有效性中的假設(shè)檢驗(yàn) 580
16.4 相對(duì)準(zhǔn)則 587
16.5 單個(gè)聚類的有效性 598
16.6 集聚趨勢(shì) 600
習(xí)題 606
參考文獻(xiàn) 608
附錄A 概率論與數(shù)理統(tǒng)計(jì)的相關(guān)知識(shí) 613
附錄B 線性代數(shù)基礎(chǔ) 622
附錄C 代價(jià)函數(shù)優(yōu)化 624
附錄D 線性系統(tǒng)理論的基本定義 636
詞匯表 638
書單推薦
