神經(jīng)網(wǎng)絡(luò)設(shè)計方法與實(shí)例分析
定 價:42 元
- 作者:施彥 ,韓力群 ,廉小親 著
- 出版時間:2009/12/1
- ISBN:9787563521029
- 出 版 社:北京郵電大學(xué)出版社
- 中圖法分類:TP183
- 頁碼:363
- 紙張:膠版紙
- 版次:1
- 開本:16開
《神經(jīng)網(wǎng)絡(luò)設(shè)計方法與實(shí)例分析》從神經(jīng)網(wǎng)絡(luò)設(shè)計和應(yīng)用實(shí)踐出發(fā),介紹了10種常見的人工神經(jīng)網(wǎng)絡(luò)的基本原理、設(shè)計方法,并從各個應(yīng)用領(lǐng)域精選了豐富的典型應(yīng)用實(shí)例進(jìn)行剖析,旨在使讀者對各類常用的人工神經(jīng)網(wǎng)絡(luò)的基本原理和學(xué)習(xí)算法進(jìn)一步加深理解,熟悉其主要功能,掌握其設(shè)計方法,了解其主要應(yīng)用,為設(shè)計各類神經(jīng)網(wǎng)絡(luò)和解決實(shí)際問題打下基礎(chǔ)。主要內(nèi)容包括神經(jīng)網(wǎng)絡(luò)模型評估與選擇;10種典型網(wǎng)絡(luò)的設(shè)計與應(yīng)用,包括BP網(wǎng)絡(luò)、RBF網(wǎng)絡(luò)、SOFM網(wǎng)絡(luò)、LVQ網(wǎng)絡(luò)、CPN網(wǎng)絡(luò)、ART網(wǎng)鉻、Hopfield網(wǎng)絡(luò)、時序遞歸網(wǎng)絡(luò)、CMAC網(wǎng)絡(luò)、SVM網(wǎng)絡(luò);最后介紹了人工神經(jīng)元網(wǎng)絡(luò)設(shè)計開發(fā)平臺。
《神經(jīng)網(wǎng)絡(luò)設(shè)計方法與實(shí)例分析》可作為具有一定人工神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)的科技工作者解決實(shí)際問題時的設(shè)計參考書,也可作為相關(guān)專業(yè)研究生及本科專業(yè)高年級學(xué)生的參考教材。
人工神經(jīng)網(wǎng)絡(luò)自20世紀(jì)80年代復(fù)興以來,已經(jīng)經(jīng)過了20余年。除了神經(jīng)網(wǎng)絡(luò)理論得到了進(jìn)一步的發(fā)展以外,神經(jīng)網(wǎng)絡(luò)的應(yīng)用成果也日益豐富。神經(jīng)網(wǎng)絡(luò)今后發(fā)展的一個方向是將其成功地應(yīng)用于生產(chǎn)、生活的各個方面,發(fā)揮其信息處理能力,擴(kuò)展其應(yīng)用范圍。作者在教學(xué)和科研中發(fā)現(xiàn),即便掌握了一些神經(jīng)網(wǎng)絡(luò)的基本理論,在設(shè)計和應(yīng)用中也需要一定的經(jīng)驗(yàn)和指導(dǎo)。特別是初涉此領(lǐng)域的學(xué)生和工程技術(shù)人員,面對需要解決的問題,究竟選擇哪一種網(wǎng)絡(luò)和學(xué)習(xí)算法更為合適,如何進(jìn)行設(shè)計和模型選擇,都是比較困難的事情。本書編寫的目的正是為已具有一定神經(jīng)網(wǎng)絡(luò)基礎(chǔ),希望應(yīng)用神經(jīng)網(wǎng)絡(luò)解決實(shí)際問題的人員提供一定的指導(dǎo)和參考。
基于此目的,本書選擇了近年應(yīng)用較為普及的典型網(wǎng)絡(luò),其中包括靜態(tài)網(wǎng)絡(luò)和動態(tài)網(wǎng)絡(luò);既有監(jiān)督式學(xué)習(xí)網(wǎng)絡(luò),也有無監(jiān)督式學(xué)習(xí)網(wǎng)絡(luò);既有前饋網(wǎng)絡(luò),也有反饋網(wǎng)絡(luò);既有單個網(wǎng)絡(luò)的應(yīng)用,也有多個網(wǎng)絡(luò)協(xié)同工作的應(yīng)用。全書共12章,第1章介紹了通用的神經(jīng)網(wǎng)絡(luò)選擇原則,常用的模型性能評價方法,樣本的選擇和使用等;第2、3章介紹了典型的前饋網(wǎng)絡(luò)BP網(wǎng)絡(luò)和RBF網(wǎng)絡(luò)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第4、5、6章分別介紹了基于競爭學(xué)習(xí)的SOFM網(wǎng)絡(luò)、LVQ網(wǎng)絡(luò)以及CPN網(wǎng)絡(luò)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第7章介紹了自適應(yīng)共振ART、網(wǎng)絡(luò)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第8章介紹了具有聯(lián)想記憶和優(yōu)化計算功能的}topfield網(wǎng)絡(luò)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第9章側(cè)重介紹有反饋和時延環(huán)節(jié)的、適合處理時間序列問題的時序遞歸網(wǎng)絡(luò)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第10章介紹了智能控制中常用的局部逼近網(wǎng)絡(luò)——CMAC網(wǎng)絡(luò)——的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第11章介紹了善于處理小樣本問題的支持向量機(jī)的基本理論、設(shè)計方法和應(yīng)用實(shí)例;第12章介紹了各種人工神經(jīng)元網(wǎng)絡(luò)設(shè)計開發(fā)平臺。本書的3位作者分工如下:第1章及第2、3、4、5、6、8、9、11章的部分基本理論和實(shí)例分析由施彥撰寫;第7章及第2~11章的基本理論和部分實(shí)例分析由韓力群撰寫;第12章及第2、4章部分實(shí)例分析由廉小親撰寫。
本書重點(diǎn)介紹人工神經(jīng)網(wǎng)絡(luò)的主要設(shè)計方法,從各個應(yīng)用領(lǐng)域精選了豐富的典型應(yīng)用實(shí)例進(jìn)行剖析,旨在使讀者對各類常用人工神經(jīng)網(wǎng)絡(luò)的基本原理和學(xué)習(xí)算法進(jìn)一步加深理解,熟悉其主要功能,掌握其設(shè)計方法,了解其主要應(yīng)用,為設(shè)計各類神經(jīng)網(wǎng)絡(luò)和解決實(shí)際問題打下基礎(chǔ)。
第1章 神經(jīng)網(wǎng)絡(luò)模型評估及選擇
1.1 神經(jīng)網(wǎng)絡(luò)的泛化能力
1.2 神經(jīng)網(wǎng)絡(luò)預(yù)測模型的一般描述
1.3 研究神經(jīng)網(wǎng)絡(luò)泛化能力的理論基礎(chǔ)
1.3.1 經(jīng)驗(yàn)風(fēng)險最小化原則
1.3.2 結(jié)構(gòu)風(fēng)險最小化原則
1.3.3 偏差一方差分解
1.4 影響神經(jīng)網(wǎng)絡(luò)的泛化能力的具體因素
1.4.1 神經(jīng)網(wǎng)絡(luò)具有泛化能力的基本必要條件
1.4.2 噪聲的影響
1.4.3 “欠擬合”和“過擬合”
1.5 提高神經(jīng)網(wǎng)絡(luò)的泛化能力的方法
1.5.1 模型結(jié)構(gòu)選擇
1.5.2 訓(xùn)練集擴(kuò)展方法
1.5.3 提前停止
1.5.4 權(quán)值衰減
1.5.5 貝葉斯學(xué)習(xí)
1.5.6 神經(jīng)網(wǎng)絡(luò)集成
1.6 神經(jīng)網(wǎng)絡(luò)模型的評估與選擇
1.6.1 神經(jīng)網(wǎng)絡(luò)模型的評估
1.6.2 神經(jīng)網(wǎng)絡(luò)模型的選擇
本章參考文獻(xiàn)
第2章 基于BP算法的多層感知器的設(shè)計與應(yīng)用
2.1 基于BP算法的多層感知器網(wǎng)絡(luò)工作原理與主要特點(diǎn)
2.1.1 基于BP算法的多層前饋網(wǎng)絡(luò)模型
2.1.2 BP學(xué)習(xí)算法
2.1.3 BP算法的程序?qū)崿F(xiàn)
2.1.4 標(biāo)準(zhǔn)BP算法的改進(jìn)
2.2 基于BP算法的多層前饋網(wǎng)絡(luò)設(shè)計基礎(chǔ)
2.2.1 網(wǎng)絡(luò)信息容量與訓(xùn)練樣本數(shù)
2.2.2 訓(xùn)練樣本集的準(zhǔn)備
2.2.3 初始權(quán)值的設(shè)計
2.2.4 多層前饋網(wǎng)結(jié)構(gòu)設(shè)計
2.2.5 網(wǎng)絡(luò)訓(xùn)練與測試
2.3 基于BP算法的多層前饋網(wǎng)絡(luò)應(yīng)用與設(shè)計實(shí)例
2.3.1 基于BP算法的多層前饋網(wǎng)絡(luò)在催化劑配方建模中的應(yīng)用
2.3.2 基于BP算法的多層前饋網(wǎng)絡(luò)在城市年用水量預(yù)測中的應(yīng)用
2.3.3 基于BP算法的多層前饋網(wǎng)絡(luò)在煤與瓦斯突出預(yù)測中的應(yīng)用
2.3.4 基于BP算法的多層前饋網(wǎng)絡(luò)在磨煤機(jī)料位監(jiān)測中的應(yīng)用
2.3.5 基于BP算法的多層前饋網(wǎng)絡(luò)在道路安全評價中的應(yīng)用
2.3.6 基于BP算法的多層前饋網(wǎng)絡(luò)在項(xiàng)目投資風(fēng)險評價中的應(yīng)用
2.3.7 基于BP算法的多層前饋網(wǎng)絡(luò)在大氣環(huán)境質(zhì)量評價中的應(yīng)用
2.3.8 基于BP網(wǎng)絡(luò)集成的除草劑定量構(gòu)效關(guān)系模型
2.3.9 基于BP網(wǎng)絡(luò)集成的物流中心選址模型
本章參考文獻(xiàn)
第3章 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的設(shè)計與應(yīng)用
3.1 徑向基函數(shù)網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.1.1 正則化RBF網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.1.2 廣義RBF網(wǎng)絡(luò)原理與學(xué)習(xí)算法
3.2 RBF網(wǎng)絡(luò)的設(shè)計要點(diǎn)
3.2.1 隨機(jī)選取RBF中心
3.2.2 自組織學(xué)習(xí)選取RBF中心及網(wǎng)絡(luò)設(shè)計
3.2.3 有監(jiān)督學(xué)習(xí)選取RBF中心及網(wǎng)絡(luò)設(shè)計
3.2.4 正交最小二乘(0LS)法選取RBF中心及網(wǎng)絡(luò)設(shè)計
3.2.5 遞歸最小二乘(OLS)法選取RBF中心及網(wǎng)絡(luò)設(shè)計
3.2.6 其他方法
3.2.7 RBF網(wǎng)絡(luò)與多層感知器的特點(diǎn)與設(shè)計比較
3.3 RBF網(wǎng)絡(luò)的應(yīng)用實(shí)例
3.3.1 RBF網(wǎng)絡(luò)在液化氣銷售量預(yù)測中的應(yīng)用
3.3.2 RBF網(wǎng)絡(luò)在地表水質(zhì)評價中的應(yīng)用
3.3.3 RBF網(wǎng)絡(luò)在汽油干點(diǎn)軟測量中的應(yīng)用
3.3.4 RBF網(wǎng)絡(luò)在地下溫度預(yù)測中的應(yīng)用
3.3.5 RBF網(wǎng)絡(luò)在工程車輛自動變速控制中的應(yīng)用
3.3.6 RBF網(wǎng)絡(luò)在人臉年齡估計中的應(yīng)用
3.3.7 RBF網(wǎng)絡(luò)在專利發(fā)展趨勢預(yù)測中的應(yīng)用
3.3.8 RBF網(wǎng)絡(luò)在圖像融合中的應(yīng)用
3.3.9 RBF網(wǎng)絡(luò)紅外光譜法用于中藥大黃樣品的真?zhèn)畏诸?br>3.3.10 RBF網(wǎng)絡(luò)在船用柴油機(jī)智能診斷中的應(yīng)用
3.3.11 RBF網(wǎng)絡(luò)在多級入侵檢測中的應(yīng)用
本章參考文獻(xiàn)
第4章 SOFM網(wǎng)絡(luò)設(shè)計與應(yīng)用
4.1 SOFM網(wǎng)絡(luò)原理與學(xué)習(xí)算法
4.2 SOFM網(wǎng)絡(luò)的設(shè)計基礎(chǔ)
4.2.1 輸出層設(shè)計
4.2.2 權(quán)值初始化問題
4.2.3 優(yōu)勝鄰域Nj*·(t)的設(shè)計
4.2.4 學(xué)習(xí)率n(t)的設(shè)計
4.3 應(yīng)用與設(shè)計實(shí)例
4.3.1 SOFM網(wǎng)絡(luò)用于皮革外觀效果分類
4.3.2 SOFM網(wǎng)絡(luò)用于物流中心城市分類評價
4.3.3 SOFM網(wǎng)絡(luò)用于遙感影像分類
4.3.4 SOFM網(wǎng)絡(luò)用于火焰燃燒診斷
4.3.5 SOFM網(wǎng)絡(luò)在防火樹種分類中的應(yīng)用
4.3.6 SOFM在基于漢字與部件聚類的漢字認(rèn)知建模中的應(yīng)用
4.3.7 SOFM網(wǎng)絡(luò)在膨脹土分類中的應(yīng)用
4.3.8 SOFM網(wǎng)絡(luò)在水電廠技術(shù)供水系統(tǒng)故障診斷中的應(yīng)用
4.3.9 SOFM網(wǎng)絡(luò)在不同地區(qū)人力資本構(gòu)成分析中的應(yīng)用
本章參考文獻(xiàn)
第5章 LVQ網(wǎng)絡(luò)設(shè)計與應(yīng)用
5.1 LVQ網(wǎng)絡(luò)原理與學(xué)習(xí)算法
5.1.1 LVQ網(wǎng)絡(luò)工作原理
5.1.2 LVQ網(wǎng)絡(luò)的學(xué)習(xí)算法
5.2 LVQ網(wǎng)絡(luò)設(shè)計要點(diǎn)
5.2.1 競爭層設(shè)計
5.2.2 權(quán)值初始化問題
5.2.3 學(xué)習(xí)率n(t)的設(shè)計
5.3 應(yīng)用與設(shè)計實(shí)例
5.3.1 LVQ網(wǎng)絡(luò)在證券投資基金分類中的應(yīng)用
5.3.2 LVQ網(wǎng)絡(luò)在探地雷達(dá)探雷中的應(yīng)用
5.3.3 LVQ網(wǎng)絡(luò)在蘋果等級判別中的應(yīng)用
5.3.4 VQ網(wǎng)絡(luò)在胃癌組織樣品分類識別中的應(yīng)用
5.3.5 LVQ網(wǎng)絡(luò)在液壓系統(tǒng)故障診斷中的應(yīng)用
5.3.6 LVQ網(wǎng)絡(luò)在汽車信貸客戶分類中的應(yīng)用研究
5.3.7 LVQ網(wǎng)絡(luò)在土地利用/覆蓋變化探測中的應(yīng)用
5.3.8 LVQ網(wǎng)絡(luò)在周期信號識別方面的擴(kuò)展應(yīng)用
本章參考文獻(xiàn)
第6章 對偶傳播神經(jīng)網(wǎng)絡(luò)
6.1 網(wǎng)絡(luò)運(yùn)行原理及學(xué)習(xí)算法
6.1.1 網(wǎng)絡(luò)結(jié)構(gòu)及運(yùn)行原理
6.1.2 CPN的學(xué)習(xí)算法
6.2 CPN網(wǎng)的設(shè)計與改進(jìn)
6.2.1 CPN網(wǎng)的設(shè)計要點(diǎn)
6.2.2 改進(jìn)的CPN網(wǎng)
6.3 CPN網(wǎng)的應(yīng)用
6.3.1 CPN網(wǎng)在烤煙煙葉顏色模式分類中的應(yīng)用
6.3.2 CPN網(wǎng)絡(luò)的水電機(jī)組振動故障診斷中的應(yīng)用
6.3.3 CPN網(wǎng)絡(luò)在博士學(xué)位論文質(zhì)量評估中的應(yīng)用
6.3.4 CPN網(wǎng)在人臉識別中的應(yīng)用
6.3.5 CPN網(wǎng)絡(luò)在時間序列預(yù)測問題中的應(yīng)用
6.3.6 CPN網(wǎng)絡(luò)在棉花異性纖維識別中的應(yīng)用
本章參考文獻(xiàn)
第7章 ART網(wǎng)絡(luò)設(shè)計及應(yīng)用
7.1 ART網(wǎng)絡(luò)原理與算法
7.1.1 ART網(wǎng)絡(luò)的主要特點(diǎn)
7.1.2 ARTI型網(wǎng)絡(luò)原理與算法
……
第8章 Hopfield網(wǎng)絡(luò)的設(shè)計與應(yīng)用
第9章 時序遞歸網(wǎng)絡(luò)的設(shè)計與應(yīng)用
第10章 CMAC網(wǎng)絡(luò)的設(shè)計與應(yīng)用
第11章 支持向量機(jī)的設(shè)計與應(yīng)用
第12章 人工神經(jīng)元網(wǎng)絡(luò)設(shè)計開發(fā)平臺
第1章神經(jīng)網(wǎng)絡(luò)模型評估及選擇
神經(jīng)網(wǎng)絡(luò)的種類很多,每一種類型的網(wǎng)絡(luò)適合解決不同的問題,無論對于哪一種網(wǎng)絡(luò),都需要在最終結(jié)束訓(xùn)練和設(shè)計時評估網(wǎng)絡(luò)的性能。以什么指標(biāo)作為評估網(wǎng)絡(luò)性能的主要指標(biāo),如何對該指標(biāo)進(jìn)行量化估計,如何提高網(wǎng)絡(luò)的性能,這是每個設(shè)計者都要遇到和需要解決的問題。即設(shè)計者在解決實(shí)際問題時,需要考慮以什么標(biāo)準(zhǔn)設(shè)置網(wǎng)絡(luò)的各項(xiàng)參數(shù),控制其訓(xùn)練過程,確定最終的模型等一系列問題。大多數(shù)情況下,我們不僅要求神經(jīng)網(wǎng)絡(luò)對現(xiàn)有訓(xùn)練集具有較好的擬合能力,也要求它能夠?qū)τ?xùn)練集以外的同分布數(shù)據(jù)做出較好的預(yù)測,這就與神經(jīng)網(wǎng)絡(luò)的泛化能力有關(guān)。本章從神經(jīng)網(wǎng)絡(luò)的泛化能力出發(fā),討論神經(jīng)網(wǎng)絡(luò)模型性能評估問題,分析提高泛化能力的原理和途徑,給出估計泛化誤差的方法,關(guān)于模型選擇的問題則貫穿在各節(jié)當(dāng)中。
1.1 神經(jīng)網(wǎng)絡(luò)的泛化能力
神經(jīng)網(wǎng)絡(luò)模型設(shè)計常常需要滿足多種不同的要求。例如,具有較好的泛化(推廣)能力、易于硬件實(shí)現(xiàn)、訓(xùn)練速度快等。其中泛化能力最為重要,它是衡量神經(jīng)網(wǎng)絡(luò)性能優(yōu)劣的一個重要方面,這是因?yàn)榻⑸窠?jīng)網(wǎng)絡(luò)模型的一個重要目標(biāo)是通過對已知環(huán)境信息的學(xué)習(xí),掌握其中的規(guī)律,從而對新的環(huán)境信息做出正確的預(yù)測。
泛化能力的定義如下:它是指經(jīng)訓(xùn)練(學(xué)習(xí))后的預(yù)測模型對未在訓(xùn)練集中出現(xiàn)(但具有統(tǒng)一規(guī)律性)的樣本做出正確反映的能力,學(xué)習(xí)不是簡單地記憶已經(jīng)學(xué)過的輸入,而是通過對有限個訓(xùn)練樣本的學(xué)習(xí),學(xué)到隱含在樣本中的有關(guān)環(huán)境本身的內(nèi)在規(guī)律性。例如,對有導(dǎo)師學(xué)習(xí)的網(wǎng)絡(luò),通過對已有樣本的學(xué)習(xí),將所提取的樣本對中的非線性映射關(guān)系存儲在權(quán)值矩陣中,在其后的工作階段,當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時未曾見過的非樣本數(shù)據(jù)(與訓(xùn)練集同分布)時,網(wǎng)絡(luò)也能完成由輸入空間向輸出空間的正確映射。
神經(jīng)網(wǎng)絡(luò)的泛化能力涉及其在獨(dú)立的檢驗(yàn)數(shù)據(jù)(Test Data)上的預(yù)測能力。