本書由美國斯坦福大學(xué)StephenBoyd教授和加州大學(xué)洛杉磯分校LievenVanden-berghe教授合著，從理論、應(yīng)用和算法三個方面系統(tǒng)地介紹凸優(yōu)化內(nèi)容。
　　凸優(yōu)化在數(shù)學(xué)規(guī)劃領(lǐng)域具有非常重要的地位。從應(yīng)用角度看，現(xiàn)有算法和常規(guī)計算能力已足以可靠地求解大規(guī)模凸優(yōu)化問題，一旦將一個實際問題表述為凸優(yōu)化問題，大體上意味著相應(yīng)問題已經(jīng)得到徹底解決，這是非凸的優(yōu)化問題所不具有的性質(zhì)。從理論角度看，用凸優(yōu)化模型對一般性非線性優(yōu)化模型進(jìn)行局部逼近，始終是研究非線性規(guī)劃問題的主要途徑，因此，通過學(xué)習(xí)凸優(yōu)化理論，可以直接或間接地掌握數(shù)學(xué)規(guī)劃領(lǐng)域幾乎所有重要的理論結(jié)果。由于上述原因，對于涉足優(yōu)化領(lǐng)域的人員，無論是理論研究還是實際應(yīng)用，都應(yīng)該對凸優(yōu)化理論和方法有一定程度的了解。
　　本書內(nèi)容非常豐富。理論部分由4章構(gòu)成，不僅涵蓋了凸優(yōu)化的所有基本概念和主要結(jié)果，還詳細(xì)介紹了幾類基本的凸優(yōu)化問題以及將特殊的優(yōu)化問題表述為凸優(yōu)化問題的變換方法，這些內(nèi)容對靈活運用凸優(yōu)化知識解決實際問題非常有用。應(yīng)用部分由3章構(gòu)成，分別介紹凸優(yōu)化在解決逼近與擬合、統(tǒng)計估計和幾何關(guān)系分析這三類實際問題中的應(yīng)用。算法部分也由3章構(gòu)成，依次介紹求解無約束凸優(yōu)化模型、等式約束凸優(yōu)化模型以及包含不等式約束的凸優(yōu)化模型的經(jīng)典數(shù)值方法，以及如何利用凸優(yōu)化理論分析這些方法的收斂性質(zhì)。通過閱讀本書，能夠?qū)ν箖?yōu)化理論和方法建立完整的認(rèn)識。
　　本書對每章內(nèi)容都配備了大量習(xí)題，因此也非常適合用作教科書。實際上，該書多年來已在美國多所大學(xué)用于課堂教學(xué)，近兩年也在清華大學(xué)自動化系用作相關(guān)研究生課程的主要教材。
　　本書前言及第1，3，5，7章由許鋆翻譯；第2，4，6，8章由黃曉霖翻譯；第9～11章及附錄部分由王書寧翻譯。全書由王書寧定稿。
　　感謝StephenBoyd教授提供本書英文版本的電子文件，為翻譯本書提供了極大的便利。
　　譯者
　　2012年10月

　　前言
　　本書研究優(yōu)化問題的一個重要分支凸優(yōu)化。事實上，最小二乘以及線性規(guī)劃問題都屬于凸優(yōu)化問題。眾所周知，關(guān)于最小二乘和線性規(guī)劃問題的理論相當(dāng)成熟，這兩個問題出現(xiàn)在很多應(yīng)用領(lǐng)域，均能很快地進(jìn)行數(shù)值求解。本書的基本觀點是，除了這兩個問題以外，還有很多凸優(yōu)化問題亦是如此。
　　盡管凸優(yōu)化的研究已經(jīng)持續(xù)了一個世紀(jì)左右，然而，最近一些相關(guān)的研究成果使得這一問題重新引起人們的關(guān)注。這當(dāng)中首推對內(nèi)點法的重新認(rèn)識。內(nèi)點法于20世紀(jì)80年代提出，本是用以求解線性規(guī)劃問題，但是最近人們認(rèn)識到，它亦可以被應(yīng)用于求解凸優(yōu)化問題。這些新的方法使得我們可以如求解線性規(guī)劃一樣有效求解一些特殊的凸優(yōu)化問題，如半定規(guī)劃以及二階錐規(guī)劃問題。
　　第二個相關(guān)的研究成果是人們發(fā)現(xiàn)凸優(yōu)化問題（不僅僅是最小二乘和線性規(guī)劃）在實踐中的應(yīng)用遠(yuǎn)遠(yuǎn)超乎人們的想象。從20世紀(jì)90年代開始，凸優(yōu)化即被用在自動控制系統(tǒng)、估計和信號處理、通信網(wǎng)絡(luò)、電路設(shè)計、數(shù)據(jù)分析及建模、統(tǒng)計和金融方面。此外，在組合優(yōu)化以及全局優(yōu)化方面，凸優(yōu)化經(jīng)常被用來估計最優(yōu)值的界以及給出近似解。我們相信，還有很多其他凸優(yōu)化的應(yīng)用領(lǐng)域正在等待著人們?nèi)グl(fā)現(xiàn)。
　　發(fā)現(xiàn)某個問題是凸優(yōu)化問題或能將其描述為凸優(yōu)化問題將會大有裨益。最本質(zhì)的好處就是對此問題可以用內(nèi)點法或者其他凸優(yōu)化方法進(jìn)行可靠且迅速的求解。這些求解方法可靠，足以嵌入于電腦輔助設(shè)計或分析工具，甚至用于實時響應(yīng)系統(tǒng)或者自動控制系統(tǒng)。此外，將某個問題描述為凸優(yōu)化問題還具有理論或概念上的優(yōu)越性。例如，相應(yīng)的對偶問題經(jīng)常可以基于原問題給出有意義的解釋，有時可導(dǎo)向有效的或分布式的求解原問題的方法。
　　我們認(rèn)為，凸優(yōu)化非常重要，任何從事計算數(shù)學(xué)的人至少需要對其有一定的了解。在我們看來，凸優(yōu)化理所當(dāng)然地是繼近代線性代數(shù)（如最小二乘，奇異值）和線性規(guī)劃之后的又一重要領(lǐng)域。

　　本書目的
　　對于很多一般性的優(yōu)化方法，通常人們用它直截了當(dāng)?shù)卦嚱獯�解的問題。凸優(yōu)化就與此不同，只有我們知道待解的問題是凸的，它的優(yōu)越性才可能完整地體現(xiàn)出來。當(dāng)然，很多優(yōu)化問題是非凸的，判斷某個問題是否凸或者將某個問題表述為凸優(yōu)化的形式是比較困難的。
　　本書的主要目的是幫助讀者掌握應(yīng)用凸優(yōu)化方法的相關(guān)知識，即判斷、描述以及求解凸優(yōu)化問題的技能和背景知識。
　　獲取凸優(yōu)化的相關(guān)應(yīng)用知識對數(shù)學(xué)要求較高，對于主要關(guān)注應(yīng)用的讀者更是如此。根據(jù)我們的經(jīng)驗，對于電氣工程以及計算科學(xué)的研究生來說，在這方面的投入會獲得良好的、有時是豐厚的回報。
　　在此之前，有不少關(guān)于線性規(guī)劃以及一般的非線性規(guī)劃的書籍，這些書籍的側(cè)重點在于問題的描述，建模以及應(yīng)用。另有一些書籍主要討論凸優(yōu)化的理論，內(nèi)點法以及復(fù)雜度分析。本書介于二者之間，介紹一般的凸優(yōu)化理論，側(cè)重于問題描述以及建模。
　　我們也要指出本書并不追求什么。它不是一本側(cè)重于凸分析或者凸優(yōu)化的數(shù)學(xué)知識的教材，已經(jīng)有一些別的書籍涵蓋了這些內(nèi)容。此外，本書也不是凸優(yōu)化算法的一個綜述。我們只是挑選了一些較好的算法，介紹其簡化了的或者是典型的形式（但是它們在實踐中確實能發(fā)揮作用）。本書也不試圖涵蓋求解凸問題的內(nèi)點法（或其他方法）的最新發(fā)展動態(tài)。雖然本書所提供的一些數(shù)值仿真實例經(jīng)過了高度簡化，但是我們認(rèn)為，它們能夠適應(yīng)一些潛在用戶的應(yīng)用要求。并且，對于一些凸優(yōu)化算法，本書詳細(xì)地探討了如何利用問題的結(jié)構(gòu)使得求解更為迅速。對于所描述算法的復(fù)雜性理論，我們也只是以一種簡單方式進(jìn)行了介紹。然而，對于內(nèi)點法的自和諧和復(fù)雜度分析的重要思想我們都有一定的介紹。

　　讀者范圍
　　對于在工作中需要用到數(shù)學(xué)優(yōu)化，或者更一般地說，用到計算數(shù)學(xué)的科研人員、科學(xué)家以及工程師，本書較為適合。這些人群包括直接從事優(yōu)化或者運籌學(xué)的科技工作者，亦包括一些工作在其他科學(xué)和工程領(lǐng)域但是需要借助數(shù)學(xué)優(yōu)化工具的科技工作者，這些領(lǐng)域包括計算科學(xué)、經(jīng)濟(jì)學(xué)、金融、統(tǒng)計學(xué)、數(shù)據(jù)挖掘等。本書主要針對后者，即可能使用凸優(yōu)化的科技工作者，而不是針對人數(shù)相對少很多的凸優(yōu)化領(lǐng)域的專家。
　　在閱讀本書之前，讀者只需要掌握現(xiàn)代微積分和線性代數(shù)的相關(guān)知識。如果讀者對一些基本的數(shù)學(xué)分析知識（如范數(shù)、收斂性、初等拓?fù)鋵W(xué)）和基本的概率論有一定的了解，應(yīng)能較好地理解本書的所有論證和討論。當(dāng)然，我們希望即使沒有學(xué)過數(shù)學(xué)分析和概率論的讀者也能夠理解本書所有的基本思想和要點。此外，本書的正文以及附錄部分包含了數(shù)值計算和優(yōu)化方法需要的所有輔助資料，因此，讀者并不需要事先具備這些知識。

　　使用本書作為教材
　　我們希望本書能夠在不同的課程中作為基本教材或者是參考教材發(fā)揮它的作用。從1995年開始，我們即在Stanford和UCLA的一些研究生課程中使用本書的初稿，這些課程包括線性優(yōu)化、非線性優(yōu)化和凸優(yōu)化（偏工程應(yīng)用）。我們的經(jīng)驗表明，用一個研究生課程的四分之一時間即可以粗略講授完本書的大部分內(nèi)容，如果用一個滿學(xué)期的課程時間，講課進(jìn)度就可以比較從容，也可以增加更多的例子，并且可以更加詳盡地討論有關(guān)理論。若能用兩個四分之一的研究生課程時間，就可以對線性規(guī)劃和二次規(guī)劃（對于以應(yīng)用為目的的學(xué)生極為重要）這些基本內(nèi)容進(jìn)行較廣泛的討論，或者對學(xué)生布置更多的大練習(xí)。
　　本書可以作為線性優(yōu)化、非線性優(yōu)化等基礎(chǔ)課的參考讀物。對于涉及凸優(yōu)化的應(yīng)用領(lǐng)域如控制系統(tǒng)等課程，本書亦可以作為替換教材。此外，對于凸優(yōu)化方面更關(guān)注理論的課程，本書可以作為輔助教材，它提供了一些簡單的實際例子。

　　致謝
　　本書的完成歷時將近十年。這十年中，我們收到了不少關(guān)于本書的反饋以及建議，這些建議來自我們的研究生、我們課程上的學(xué)生以及我們在Stanford和UCLA的同事等。篇幅有限，我們無法一一表達(dá)我們的感謝，僅列出下述名單，表達(dá)我們誠摯的謝意。A.Aggarwal,V.Balakrishnan,A.Bernard,B.Bray,R.Cottle,A.d’Aspremont,
J.Dahl,J.Dattorro,D.Donoho,J.Doyle,L.ElGhaoui,P.Glynn,M.Grant,A.Hansson,T.Hastie,A.Lewis,M.Lobo,Z.-Q.Luo,M.Mesbahi,W.Naylor,P.Parrilo,
I.Pressman,R.Tibshirani,B.VanRoy,L.Xiao和Y.Ye.我們要感謝J.Jalden以及A. d’Aspremont 在時間序列分析§6.5.4 中所提供的例子，§6.5.5中的界定顧客喜好的例子也由他們提供。此外，感謝P.Parrilo對習(xí)題4.4和習(xí)題4.56所提供的建議。
　　我們還要特別感謝兩個人。ArkadiNemirovski引發(fā)了我們對凸優(yōu)化的興趣并且鼓勵我們撰寫本書。而KishanBaheti對本書的完成也發(fā)揮了極大的作用。早在1994年的時候，他就鼓勵我們以凸優(yōu)化在實際工程中的應(yīng)用為題申請美國科學(xué)基金會的科研課程基金，本書可以認(rèn)為是當(dāng)年的基金成果，雖然在時間上可能有所滯后。

　　StephenBoydStanford,CaliforniaLievenVandenbergheLosAngeles,California
　　2003 年7 月