數(shù)據(jù)科學(xué)優(yōu)化方法(數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)叢書)
定 價(jià):49 元
叢書名:數(shù)據(jù)科學(xué)與大數(shù)據(jù)技術(shù)叢書
- 作者:孫怡帆
- 出版時(shí)間:2023/10/1
- ISBN:9787300316703
- 出 版 社:中國(guó)人民大學(xué)出版社
- 中圖法分類:TP274
- 頁(yè)碼:236
- 紙張:
- 版次:1
- 開本:16
首先,本書在內(nèi)容選擇上堅(jiān)持“經(jīng)典”與“前沿”并重。一方面,系統(tǒng)全面地講述了無(wú)約束和有約束最優(yōu)化問(wèn)題的常用求解方法,包括負(fù)梯度方法、牛頓方法、擬牛頓方法、共軛梯度方法、罰函數(shù)方法等。另一方面,加入近幾年在數(shù)據(jù)科學(xué)領(lǐng)域受到廣泛關(guān)注的一些新型一階最優(yōu)化方法,例如隨機(jī)梯度下降方法、小批量隨機(jī)梯度下降、動(dòng)量方法、Nesterov加速梯度方法、Adam方法等。特別地,本書著重講述了在數(shù)據(jù)科學(xué)中廣泛使用的正則最優(yōu)化問(wèn)題,并介紹其求解方法,包括坐標(biāo)下降方法、近端方法和交替方向乘子方法。
其次,本書注重理論和實(shí)踐相結(jié)合。主要的最優(yōu)化方法均配有詳細(xì)例子加以解釋和闡述,并在章的最后一節(jié)進(jìn)行數(shù)值實(shí)驗(yàn),通過(guò)幾個(gè)典型的最優(yōu)化問(wèn)題展示最優(yōu)化方法的實(shí)際數(shù)值表現(xiàn),有助于讀者對(duì)方法性能建立起直觀感受。
孫怡帆,中國(guó)人民大學(xué)統(tǒng)計(jì)學(xué)院教授,博士生導(dǎo)師,數(shù)理統(tǒng)計(jì)系系主任,全國(guó)工業(yè)統(tǒng)計(jì)學(xué)教學(xué)研究會(huì)常務(wù)理事,中國(guó)統(tǒng)計(jì)教育學(xué)會(huì)理事。主要從事高維數(shù)據(jù)分析、分布式計(jì)算理論和方法領(lǐng)域研究,以主要作者身份在Statistics in Medicine、Briefing in Bioinformatics、Physical Review X等國(guó)際知名學(xué)術(shù)期刊公開發(fā)表論文30余篇,參與編寫教材 《非結(jié)構(gòu)化大數(shù)據(jù)分析》 。主持國(guó)家自然基金、教育部人文社科等省部級(jí)科研課題8項(xiàng),曾獲北京市高等教育教學(xué)成果一等獎(jiǎng)、北京市高校本科畢業(yè)論文優(yōu)秀指導(dǎo)教師等多項(xiàng)省部級(jí)教學(xué)獎(jiǎng)勵(lì)。
第 1 章 導(dǎo) 論
1.1 本書考慮的最優(yōu)化問(wèn)題
1.2 優(yōu)化方法的特點(diǎn)和要求
1.3 本書主要內(nèi)容
第 2 章 無(wú)約束優(yōu)化方法基礎(chǔ)
2.1 最優(yōu)性條件
2.2 方法框架
2.3 收斂準(zhǔn)則
第 2 章習(xí)題
第 3 章 線搜索方法
3.1 精確線搜索方法
3.2 精確線搜索方法的收斂性
3.3 非精確線搜索方法
3.4 非精確線搜索方法的收斂性
第 3 章習(xí)題
第 4 章 負(fù)梯度方法
4.1 梯度下降方法
4.2 最速下降方法
4.3 梯度下降方法的變體
4.4 梯度下降方法的改進(jìn)
4.5 數(shù)值實(shí)驗(yàn)
第 4 章習(xí)題
第 5 章 牛頓方法
5.1 基本牛頓方法
5.2 基本牛頓方法的改進(jìn)
5.3 牛頓方法在非線性最小二乘問(wèn)題中的應(yīng)用
5.4 數(shù)值實(shí)驗(yàn)
第 5 章習(xí)題
第 6 章 擬牛頓方法
6.1 擬牛頓條件
6.2 對(duì)稱秩 1 方法
6.3 DFP 方法
6.4 BFGS 方法
6.5 Broyden 族方法
6.6 擬牛頓方法的收斂性及收斂速度
6.7 L-BFGS 方法
6.8 數(shù)值實(shí)驗(yàn)
第 6 章習(xí)題
第 7 章 共軛梯度方法
7.1 共軛方向方法
7.2 針對(duì)正定二次函數(shù)的共軛梯度方法
7.3 非線性共軛梯度方法
7.4 數(shù)值實(shí)驗(yàn)
第 7 章習(xí)題
第 8 章 約束最優(yōu)化問(wèn)題的最優(yōu)性理論
8.1 約束最優(yōu)化問(wèn)題的一般形式和定義
8.2 約束最優(yōu)化問(wèn)題的一階最優(yōu)性條件
8.3 約束最優(yōu)化問(wèn)題的二階最優(yōu)性條件
8.4 約束最優(yōu)化的對(duì)偶問(wèn)題
第 8 章習(xí)題
第 9 章 罰函數(shù)方法
9.1 二次罰函數(shù)方法
9.2 障礙函數(shù)方法
9.3 增廣 Lagrange 函數(shù)方法
9.4 數(shù)值實(shí)驗(yàn)
第 9 章習(xí)題
第 10 章 近端方法
10.1 近端算子
10.2 近端極小化方法
10.3 近端梯度方法
10.4 加速近端梯度方法
第 11 章 坐標(biāo)下降方法
11.1 隨機(jī)坐標(biāo)下降方法
11.2 加速隨機(jī)坐標(biāo)下降方法
11.3 循環(huán)坐標(biāo)下降方法
11.4 求解可分正則最優(yōu)化問(wèn)題的隨機(jī)坐標(biāo)下降方法
第 12 章 交替方向乘子方法
12.1 方法基礎(chǔ)
12.2 ADMM 方法的一般形式和理論性質(zhì)
12.3 一致性問(wèn)題
12.4 共享問(wèn)題
12.5 數(shù)值實(shí)驗(yàn)
附錄 A 數(shù)學(xué)基礎(chǔ)
A.1 線性代數(shù)
A.2 微積分
A.3 凸分析
附錄 B 符號(hào)說(shuō)明
參考文獻(xiàn)