近年來，隨著云計算、大數(shù)據(jù)、人工智能等新興技術(shù)的蓬勃發(fā)展，分布式優(yōu)化在大規(guī)模計算、機器學(xué)習(xí)等領(lǐng)域得到了廣泛應(yīng)用。針對算法中關(guān)于步長的嚴(yán)格約束和理論收斂速度局限性導(dǎo)致算法收斂速度慢的科學(xué)問題。本專著主要研究內(nèi)容包括：分布式優(yōu)化與常微分方程之間的關(guān)系、加速分布式優(yōu)化算法設(shè)計與分析�；谔荻鹊募铀俜植际絻�(yōu)化算法存在收斂速度慢的現(xiàn)象。一方面，當(dāng)目標(biāo)函數(shù)為光滑強凸函數(shù)時，現(xiàn)有加速算法的步長嚴(yán)格依賴于目標(biāo)函數(shù)條件數(shù)，使得步長充分小時才能保證算法收斂，而算法收斂速度與步長正相關(guān)，從而導(dǎo)致了算法收斂速度較慢。另一方面，當(dāng)目標(biāo)函數(shù)為光滑凸函數(shù)時，現(xiàn)有加速算法最優(yōu)收斂速度為（k是迭代次數(shù)）。本文針對上述小步長、理論收斂速度局限性導(dǎo)致算法收斂速度慢的問題展開深入研究。
陳蕊娟，河南開封人，中共黨員，漢族，博士，講師。2014年本科畢業(yè)于許昌學(xué)院，2016年碩士畢業(yè)于華中科技大學(xué)，2021年博士畢業(yè)于華中科技大學(xué)，期間于2017年10月至2018年10月獲國家留學(xué)基金委資助公派到加拿大滑鐵盧大學(xué)開展博士聯(lián)合培養(yǎng)，2021年12月進入武漢紡織大學(xué)工作。主要從事分布式優(yōu)化算法設(shè)計與分析、機器學(xué)習(xí)算法分析及應(yīng)用。以第一/通訊作者在國內(nèi)外期刊如Science China-Technological Sciences、Journal of the Franklin Institute -Engineering and Applied Mathematics、Advances in Mathematical Physics等國際學(xué)術(shù)期刊上發(fā)表學(xué)術(shù)論文4篇。
目 錄
第1 章 緒論 001
1 1 研究背景與意義 001
1 2 國內(nèi)外研究現(xiàn)狀 006
1 3 本書主要內(nèi)容 012
第2 章 隱式Euler 加速分布式優(yōu)化算法 015
2 1 問題描述 015
2 2 線性微分方程收斂性分析 022
2 3 算法Im-DGD 設(shè)計與分析 029
2 4 算法實現(xiàn)與分析 034
2 5 本章小結(jié) 038
第3 章 辛格式加速分布式梯度下降算法 040
3 1 問題描述 041
3 2 非線性微分方程 042
3 3 算法Sym-DGD 設(shè)計與分析 053
3 4 算法實現(xiàn)與分析 059
3 5 本章小結(jié) 064
第4 章 校正加速分布式優(yōu)化算法 065
4 1 問題描述 066
4 2 算法CoAcc-DGD 設(shè)計與分析 067
4 3 算法實現(xiàn)與分析 076
4 4 本章小結(jié) 079
第5 章 隱式Runge-Kutta 加速分布式優(yōu)化算法 080
5 1 問題描述 081
5 2 Runge-Kutta 加速優(yōu)化算法 087
5 3 算法D-ImRK 設(shè)計與分析 100
5 4 算法實現(xiàn)與分析 104
5 5 本章小結(jié) 108
第6 章 總結(jié)與展望 109
6 1 本書主要內(nèi)容及結(jié)論109
6 2 本書的主要創(chuàng)新點110
6 3 展望 111
參考文獻(xiàn) 113
書單推薦
