本書講述的是數(shù)據(jù)驅(qū)動方法、應(yīng)用優(yōu)化以及工程數(shù)學(xué)和數(shù)學(xué)物理等經(jīng)典領(lǐng)域之間日益發(fā)展的交叉內(nèi)容。多年來，我們一直在整理這方面的材料，用于教授工程和物理科學(xué)系的高年級本科生和低年級研究生。通常，這類學(xué)生都具有線性代數(shù)、微分方程和科學(xué)計算的數(shù)學(xué)基礎(chǔ)，工科學(xué)生則大多接觸過控制理論和偏微分方程。然而，工程和科學(xué)領(lǐng)域的大多數(shù)本科課程很少涉及數(shù)據(jù)方法或優(yōu)化方法。同樣，計算機科學(xué)和統(tǒng)計學(xué)方向的課程很少涉及動力系統(tǒng)和控制方面的內(nèi)容。本書的目的就是為這類學(xué)生提供廣泛的應(yīng)用數(shù)據(jù)科學(xué)入門知識。本書所討論的方法主要考慮了上述學(xué)科的關(guān)聯(lián)性、簡潔性和通用性，并嘗試提供一系列包括基本知識介紹和前沿技術(shù)在內(nèi)的專題。
數(shù)據(jù)驅(qū)動發(fā)現(xiàn)正在徹底改變我們對復(fù)雜系統(tǒng)建模、預(yù)測和控制的方式。當(dāng)今時代為緊迫的科學(xué)和工程問題并不適合用基于性原理的經(jīng)驗?zāi)Ｐ突蛲茖?dǎo)來解決。研究人員正逐漸轉(zhuǎn)向?qū)��?shù)據(jù)驅(qū)動方法用于研究各種復(fù)雜系統(tǒng)，如湍流、大腦、氣候、流行病學(xué)、金融、機器人和自主體。這些系統(tǒng)通常是非線性的、動態(tài)的、時空多尺度的、高維的，并由可被刻畫和建模的主導(dǎo)基本模式來實現(xiàn)傳感、預(yù)測、估計和控制的終目標(biāo)。借助現(xiàn)代數(shù)學(xué)方法以及前所未有的大量數(shù)據(jù)和計算資源，我們現(xiàn)在能夠處理以前無法解決的難題。這些新技術(shù)包括：適用于稀疏和噪聲下的隨機像素測量的魯棒圖像重構(gòu)、基于機器學(xué)習(xí)的湍流控制、傳感器和執(zhí)行器布置、純粹從數(shù)據(jù)中發(fā)現(xiàn)可解釋的非線性動力系統(tǒng)、用于加速具有復(fù)雜多尺度物理特性的系統(tǒng)的研究和優(yōu)化的降階模型等。
推動現(xiàn)代數(shù)據(jù)科學(xué)發(fā)展的是海量且不斷增長的數(shù)據(jù)的可獲取性，這得益于低成本傳感器的顯著創(chuàng)新、計算能力數(shù)量級的提高，以及幾乎無限的數(shù)據(jù)存儲和傳輸能力。如此大量的數(shù)據(jù)為各個學(xué)科的工程師和科學(xué)家提供了進行數(shù)據(jù)驅(qū)動發(fā)現(xiàn)的新機會，這被稱為科學(xué)發(fā)現(xiàn)的第四范式[245]。第四范式是前三種范式（觀察實驗、解析推導(dǎo)和數(shù)值仿真）發(fā)展的自然結(jié)果。這些技術(shù)為數(shù)據(jù)驅(qū)動發(fā)現(xiàn)工作提供了一個變革性框架。這個科學(xué)發(fā)現(xiàn)的過程并不新鮮，而且確實模仿了科學(xué)革命的領(lǐng)軍人物約翰尼斯·開普勒（Johannes Kepler，15711630）和艾薩克·牛頓爵士（Sir Isaac Newton，16421727）的工作�；�于經(jīng)驗數(shù)據(jù)驅(qū)動和解析方法，他們每個人都在發(fā)展天體力學(xué)的理論基礎(chǔ)方面發(fā)揮了關(guān)鍵作用。數(shù)據(jù)科學(xué)并沒有取代數(shù)學(xué)物理和工程學(xué)，反而在21世紀(jì)進一步發(fā)展了它們，這與其說是一場革命，不如說是一場復(fù)興。
數(shù)據(jù)科學(xué)本身并不新鮮，它于50多年前由約翰·圖基（John Tukey）提出，他曾設(shè)想開展一項從數(shù)據(jù)或數(shù)據(jù)分析中學(xué)習(xí)的科研工作[152]。從那時起，數(shù)據(jù)科學(xué)在很大程度上被兩種截然不同的數(shù)據(jù)文化觀念所主導(dǎo)[78]：以計算機科學(xué)家為主形成的機器學(xué)習(xí)領(lǐng)域，通常以預(yù)測質(zhì)量和可擴展的快速算法為研究中心；統(tǒng)計學(xué)習(xí)領(lǐng)域，通常以統(tǒng)計系為中心，側(cè)重于可解釋模型的推理。兩種研究方式都取得了顯著成功，并為數(shù)據(jù)科學(xué)方法提供了數(shù)學(xué)和計算基礎(chǔ)。對于工程師和科學(xué)家來說，他們的目標(biāo)是利用這些技術(shù)從觀測數(shù)據(jù)中推斷和計算模型（一般是非線性的），這些模型能夠正確地識別潛在的動力學(xué)，并定性和定量地將其推廣到相位、參數(shù)或應(yīng)用空間的未測量部分。本書的目標(biāo)是利用統(tǒng)計和機器學(xué)習(xí)來解決工程問題。
本書主題
本書中有許多重要的主題。首先，盡管測量和計算的精度得到了迅速提高，但許多復(fù)雜系統(tǒng)在數(shù)據(jù)中呈現(xiàn)主導(dǎo)低維模式。這種底層結(jié)構(gòu)能夠?qū)崿F(xiàn)高效的感知以及獲得用于建模和控制的緊湊表達形式。模式提取與第二個主題，即尋找簡化系統(tǒng)的坐標(biāo)變換有關(guān)。實際上，數(shù)學(xué)物理長期以來是以坐標(biāo)變換（例如，譜分解、傅里葉變換、廣義函數(shù)等）為中心的，盡管這些技術(shù)在很大程度上僅限于簡單的理想化幾何和線性動力學(xué)。衍生數(shù)據(jù)驅(qū)動轉(zhuǎn)換的能力帶來了新機遇，即可以將這些技術(shù)推廣到具有更復(fù)雜幾何和邊界條件的研究問題上。我們采用了動力系統(tǒng)和控制的觀點來貫穿全書，將數(shù)據(jù)驅(qū)動技術(shù)應(yīng)用于對隨時間演化的系統(tǒng)進行建模和控制。也許涉及多的主題是數(shù)據(jù)驅(qū)動應(yīng)用優(yōu)化，因為幾乎每個討論的主題都與優(yōu)化有關(guān)（例如，尋找低維模式、傳感器布置、機器學(xué)習(xí)優(yōu)化、控制等）。更為根本的是，書中大多數(shù)數(shù)據(jù)被處理成數(shù)組來進行分析，這樣，從20世紀(jì)60年代早期開始發(fā)展起來的數(shù)值線性代數(shù)工具，能夠為本書中用到的矩陣分解和求解策略提供許多數(shù)學(xué)基礎(chǔ)。
致謝
感謝許多優(yōu)秀的學(xué)生、合作者和同事提供寶貴的反饋、建議和支持。我們要特別感謝 Proctor，他在本書的創(chuàng)作過程中發(fā)揮了重要作用，同時幫助確定了這本書的框架和組織結(jié)構(gòu)。我們還受益于與Bing Brunton、Igor Mezi?、Bernd Noack、Sam Taira的廣泛交流和深入探討。如果沒有這些與我們一同工作的優(yōu)秀同事和合作者，這項工作也不可能完成，這些研究成果都將在本書中有所體現(xiàn)。
在本書的編寫和相關(guān)課程教學(xué)中，我們收到了來自如下優(yōu)秀學(xué)生（包括博士后）的很多反饋和中肯意見：Travis Askham、Michael Au-Yeung、Zhe Bai、Ido Bright、Kathleen Champion、Emily Clark、Charles Delahunt、Daniel Dylewski、Ben