本書參考了國際一流大學(xué)相關(guān)的研究生課程的教學(xué)內(nèi)容,增加了許多近年來隨機(jī)過程理論與應(yīng)用方面的研究新成果.圍繞現(xiàn)代隨機(jī)過程的理論、方法及其工程應(yīng)用背景和發(fā)展前景作了深入細(xì)致的討論,著重論述了基本理論及其應(yīng)用潛力,強(qiáng)化計(jì)算與編程方面的理論分析,力求在內(nèi)容的廣度和深度上與國際水平接軌.
本書內(nèi)容包括: 隨機(jī)過程的基本概念和分類、平穩(wěn)過程與二階矩過程、離散鞅論、Poisson過程與更新過程、Brown運(yùn)動(dòng)、Markov鏈與連接參數(shù)Markov過程等.同時(shí)在內(nèi)容的處理上通過討論和注解的方式使之層次分明,以適應(yīng)不同類型讀者的需求.
本書是現(xiàn)代應(yīng)用隨機(jī)過程理論的入門教材,可作為高年級(jí)本科生及研究生的必修課教材,也可作為本科生、研究生、教師、科研與工程技術(shù)人員的參考書.
本書是作者在清華大學(xué)為電子工程、計(jì)算機(jī)科學(xué)與技術(shù)、自動(dòng)化和生物醫(yī)學(xué)與工程等系的研究生授課的講稿基礎(chǔ)上加以整理、擴(kuò)充和完善的結(jié)果.
本書的特點(diǎn)在于:
(1) 對(duì)讀者所需的數(shù)學(xué)基礎(chǔ)要求的起點(diǎn)較低:讀者只需具備微積分、概率論和線性代數(shù)的基本知識(shí).
(2) 著重揭示一些基本概念的來源及背景,加強(qiáng)了對(duì)基本理論應(yīng)用潛力的探討.
(3) 在每一章中,力求能夠反映基本理論的概貌和在工程中可能的使用模式,加深讀者對(duì)相關(guān)知識(shí)的理解.
(4) 結(jié)合應(yīng)用,加強(qiáng)了計(jì)算與編程方面的理論分析,給出相關(guān)的矩陣算法和統(tǒng)一的編程模式.
(5) 本書的內(nèi)容要點(diǎn)致力于反映本學(xué)科在現(xiàn)代科學(xué)技術(shù)應(yīng)用中所必須具備的基礎(chǔ)知識(shí)和基本技巧,有助于開展相關(guān)學(xué)科領(lǐng)域的科學(xué)研究.
(6) 內(nèi)容的選材和設(shè)置以國際一流大學(xué)(如MIT, Berkeley, Cornell, Gatech, Caltech等) 同類專業(yè)或相近專業(yè)的研究生課程為參考,力求在內(nèi)容上呈現(xiàn)同等的廣度和深度.
(7) 展示了現(xiàn)代隨機(jī)過程基礎(chǔ)理論研究和應(yīng)用最為活躍的一些領(lǐng)域的基本思想和方法.
本書是現(xiàn)代應(yīng)用隨機(jī)過程理論的入門教材,可作為高年級(jí)本科生及研究生的必修課教材,也可作為本科生、研究生、教師、科研與工程技術(shù)人員的參考書.
本書的撰寫原則是,強(qiáng)調(diào)理論的背景與思路,從應(yīng)用的角度,力求內(nèi)容的廣度和深度與國際先進(jìn)水平接軌.對(duì)于命題與定理的處理,強(qiáng)調(diào)了證明的思路,不追究數(shù)學(xué)上的嚴(yán)格性.對(duì)于一些重要的概念與定理的理解,采用了討論和注解模式,進(jìn)一步揭示了其理論內(nèi)涵和潛在的應(yīng)用方式,例如對(duì)Markov鏈轉(zhuǎn)移概率基本關(guān)系式,我們從5個(gè)方面加以討論,解釋它的應(yīng)用;對(duì)于Metropolis 算法,我們從3個(gè)方面進(jìn)行了理論分析.深刻體會(huì)和理解如何靈活運(yùn)用隨機(jī)過程理論是本書撰寫中反復(fù)強(qiáng)調(diào)的重點(diǎn).作者希望通過這些討論和注解使讀者能更深刻地體會(huì)隨機(jī)過程理論的實(shí)質(zhì).此外,這些注解和討論也使本書在內(nèi)容的層次化處理上更具靈活性,對(duì)于那些只強(qiáng)調(diào)理論應(yīng)用的讀者,可以跳過一些繁瑣的理論證明,通過閱讀有關(guān)定理、注解及討論就可體會(huì)其本質(zhì).而對(duì)于那些追求理論分析技巧的讀者,可以通過仔細(xì)閱讀本書提供的引理和理論證明,提高其數(shù)學(xué)分析的能力.
本書的內(nèi)容組織如下:第1章在介紹隨機(jī)過程基本概念的基礎(chǔ)上,強(qiáng)調(diào)了隨機(jī)過程的二重性:隨機(jī)性和函數(shù)特性,并簡述了隨機(jī)過程所研究問題的范疇與分類.第2章討論了平穩(wěn)過程和二階矩過程,通過引入線性系統(tǒng),解釋了功率譜與時(shí)域平均的關(guān)系;重點(diǎn)討論了過程特征參數(shù)的遍歷性理論;在譜分解理論和隨機(jī)預(yù)測的證明與討論中,采用了線性代數(shù)的方法而非測度論的方法.第3章討論了離散鞅論與應(yīng)用.通過許多示例解釋了鞅的概念,并給出了構(gòu)造鞅的一些基本方法.通過對(duì)停時(shí)的討論,解釋了停時(shí)定理在平均時(shí)間估計(jì)和首達(dá)概率計(jì)算方面的應(yīng)用.此外,本章的重點(diǎn)在于強(qiáng)調(diào)鞅論的應(yīng)用,如上穿不等式、極大值不等式、Doob估值定理、Azuma不等式和推廣的Azuma不等式等及其在拖尾概率估計(jì)中的應(yīng)用.第4章在闡述Poisson過程和更新過程的基本理論的基礎(chǔ)上,重點(diǎn)介紹了Poisson過程的分流和非時(shí)齊Poisson過程的應(yīng)用、復(fù)合Poisson恒等式以及Wald恒等式.第5章,在討論Brown運(yùn)動(dòng)之前,對(duì)正態(tài)分布的有關(guān)理論從8個(gè)方面如:Cauchy分布、區(qū)域分布與互相關(guān)系數(shù)的關(guān)系、條件分布、聯(lián)合分布的條件邊緣分布、反正弦率、零交叉、拖尾概率的Mill比值估計(jì)等進(jìn)行了總結(jié)分析,在此基礎(chǔ)上討論了Brown運(yùn)動(dòng)的8個(gè)特性以及過零點(diǎn)的反正弦定理,并對(duì)Brown運(yùn)動(dòng)的變形、帶漂移的Brown運(yùn)動(dòng)以及Brown橋的性質(zhì)與應(yīng)用進(jìn)行了討論,部分證明和事例分析采用了鞅論的方法.值得一提的是對(duì)首中時(shí)的Laplace 變換給出了一個(gè)相對(duì)簡潔的證明.第6章,在闡述Markov鏈基本理論的基礎(chǔ)上,給出了計(jì)算平穩(wěn)分布的矩陣算法,吸收概率的矩陣計(jì)算理論以及近年提出的用于系統(tǒng)仿真的Metropolis 算法與其理論分析.第7章以時(shí)間齊次連續(xù)Markov鏈的定義為基礎(chǔ),討論了Kolmogorov前后向方程與應(yīng)用,給出了平穩(wěn)分布的矩陣計(jì)算方法.通過對(duì)生滅過程的討論,解釋了平衡方程、詳細(xì)平衡方程在網(wǎng)絡(luò)性能分析中的應(yīng)用方法.本章的另一個(gè)重點(diǎn)是系統(tǒng)地討論了嵌入Markov鏈、半Markov過程、Q過程的內(nèi)在聯(lián)系以及系統(tǒng)仿真的一致性理論.關(guān)于平穩(wěn)分布與時(shí)間可逆性理論,通過排隊(duì)論中Burke定理解釋了它的應(yīng)用方法,展示了它在網(wǎng)絡(luò)分析方面的應(yīng)用前景.
本書的內(nèi)容選取和設(shè)置得到了清華大學(xué)研究生精品課建設(shè)基金的支持.在本書的編寫與修改過程中,作者的博士生導(dǎo)師馮重熙教授給予了大量的鼓勵(lì)、關(guān)心和支持,在此表示衷心的感謝.同時(shí)感謝清華大學(xué)電子工程系陸大纟金教授、張顥博士、清華大學(xué)數(shù)學(xué)科學(xué)系葛余博教授,中國礦業(yè)大學(xué)北京校區(qū)數(shù)學(xué)系高運(yùn)良主任,與他們有益的討論,使本書的內(nèi)容更加充實(shí)、豐富.感謝曹志剛教授、陸建華教授、林孝康教授及電子工程系教務(wù)科羅淑云教授等同事的大力支持和幫助.同時(shí)也感謝參加聽課的研究生們及我所在的微波與數(shù)字通信技術(shù)國家重點(diǎn)實(shí)驗(yàn)室的同事們;他們對(duì)更新工科學(xué)生“隨機(jī)過程”課程內(nèi)容的建議和要求,促使作者加快了編寫和整理本書的進(jìn)度.本書的出版得到清華大學(xué)出版社的大力支持,特別是劉穎編輯對(duì)稿件認(rèn)真細(xì)致的審閱和校對(duì).最后,感謝我的妻子和孩子對(duì)我的支持、鼓勵(lì)和幫助.
第1章概論
1.1隨機(jī)過程的基本特點(diǎn)
1.2隨機(jī)過程的研究范圍
1.3隨機(jī)過程的分類方法(1)
1.4隨機(jī)過程的示例
1.5隨機(jī)過程的數(shù)字特征及基本概念
1.6隨機(jī)過程的分類方法(2)
1.7習(xí)題
第2章平穩(wěn)過程與二階矩過程
2.1相關(guān)函數(shù)
2.2功率譜
2.3功率譜與時(shí)域平均
2.4線性系統(tǒng)
2.4.1平均值和自相關(guān)
2.4.2功率譜
2.5隨機(jī)連續(xù)性
2.5.1引言
2.5.2平均值的連續(xù)性
2.6隨機(jī)微分 (均方意義)
2.6.1關(guān)于微分運(yùn)算的性質(zhì)
2.6.2平穩(wěn)過程的微分特性
2.7Taylor級(jí)數(shù)
2.8隨機(jī)微分方程
2.9隨機(jī)積分
2.10遍歷性討論
2.10.1平均值的遍歷性
2.10.2自相關(guān)的遍歷性
2.10.3分布函數(shù)的遍歷性
2.11抽樣定理與隨機(jī)預(yù)測
2.11.1隨機(jī)過程抽樣定理
2.11.2信號(hào)的隨機(jī)預(yù)測
2.12習(xí)題
第3章離散鞅論
3.1條件概率
3.1.1條件概率的物理解釋
3.1.2條件概率的性質(zhì)
3.2鞅的定義與基本性質(zhì)
3.3鞅的舉例與基本構(gòu)造方法
3.3.1鞅的示例
3.3.2關(guān)于鞅的構(gòu)造方法
3.4上鞅、下鞅的定義及基本性質(zhì)
3.4.1基本定義
3.4.2上、下鞅的基本性質(zhì)
3.5Jensen不等式與下鞅的構(gòu)造
3.6分解定理
3.7停時(shí)與停時(shí)定理
3.7.1停時(shí)的基本概念
3.7.2幾個(gè)基本的停時(shí)定理
3.7.3停時(shí)定理的證明
3.7.4停時(shí)定理的應(yīng)用
3.8關(guān)于停時(shí)的Wald恒等式
3.9上穿不等式及應(yīng)用
3.10極大值不等式與Doob定理
3.10.1Markov不等式
3.10.2Chernoff界
3.10.3極大值不等式
3.10.4最大值估計(jì)定理
3.11鞅論的應(yīng)用(1)
3.11.1三人賭博問題
3.11.2關(guān)于對(duì)稱隨機(jī)移動(dòng)
3.12Azuma不等式
3.13Azuma不等式的推廣
3.14鞅論的應(yīng)用(2)
3.14.1Azuma不等式在古典概率估計(jì)中的應(yīng)用
3.14.2無線Ad Hoc網(wǎng)絡(luò)中網(wǎng)絡(luò)編碼的容量計(jì)算
3.15連續(xù)鞅論介紹
3.16習(xí)題
第4章Poisson過程與更新過程
4.1Poisson過程的定義
4.2Poisson過程的基本性質(zhì)
4.3Poisson過程與指數(shù)分布的關(guān)系
4.4到達(dá)時(shí)間的條件分布
4.5Poisson過程的分流
4.6非時(shí)齊Poisson過程
4.7復(fù)合Poisson過程
4.7.1復(fù)合Poisson過程的定義
4.7.2復(fù)合Poisson恒等式
4.8條件Poisson過程
4.9雙重隨機(jī)Poisson過程
4.10更新過程
4.11更新函數(shù)的性質(zhì)與應(yīng)用
4.12更新過程的剩余壽命與年齡
4.13Wald等式
4.14習(xí)題
第5章Brown運(yùn)動(dòng)
5.1Brown運(yùn)動(dòng)的概念
5.2正態(tài)分布的有關(guān)理論
5.2.1Cauchy分布與正態(tài)隨機(jī)變量
5.2.2區(qū)域分布與互相關(guān)系數(shù)的關(guān)系
5.2.3Bayes定理與條件分布密度表示理論
5.2.4聯(lián)合正態(tài)分布的邊緣分布密度與條件分布密度
5.2.5幾個(gè)基本關(guān)系式
5.2.6反正弦率
5.2.7零交叉問題
5.2.8正態(tài)分布的拖尾概率估計(jì)——Mill 比值
5.3隨機(jī)移動(dòng)和Brown運(yùn)動(dòng)
5.4Brown運(yùn)動(dòng)的有限維聯(lián)合概率密度
5.5Brown運(yùn)動(dòng)的性質(zhì)
5.5.1Brown運(yùn)動(dòng)的Markov性
5.5.2正態(tài)過程
5.5.3反射性
5.5.4時(shí)間可逆性
5.6最大值與首中時(shí)的分布特性
5.7過零點(diǎn)的反正弦定理
5.8Brown運(yùn)動(dòng)的推廣
5.8.1帶吸收點(diǎn)的Brown運(yùn)動(dòng)
5.8.2原點(diǎn)反射的Brown運(yùn)動(dòng)
5.8.3幾何Brown運(yùn)動(dòng)
5.8.4Brown運(yùn)動(dòng)的積分
5.8.5Brown運(yùn)動(dòng)的形式導(dǎo)數(shù)
5.9Brown橋與經(jīng)驗(yàn)分布
5.9.1Brown橋的基本概念與性質(zhì)
5.9.2經(jīng)驗(yàn)分布與Brown橋的關(guān)系
5.9.3經(jīng)驗(yàn)分布的誤差估計(jì)
5.10帶漂移的Brown運(yùn)動(dòng)
5.10.1移出區(qū)間的概率計(jì)算
5.10.2首中時(shí)問題
5.11Brown運(yùn)動(dòng)的軌道性質(zhì)
5.12N維Brown運(yùn)動(dòng)
5.12.1N維Brown運(yùn)動(dòng)的定義與性質(zhì)
5.12.2二維Brown運(yùn)動(dòng)的從屬過程
5.12.3輻射型Brown運(yùn)動(dòng)
5.13習(xí)題
第6章Markov鏈
6.1引言
6.2基本概念
6.3轉(zhuǎn)移概率矩陣
6.4Markov鏈狀態(tài)的分類
6.4.1關(guān)于Markov鏈狀態(tài)的一些基本定義
6.4.2一些基本關(guān)系式
6.4.3狀態(tài)之間的等價(jià)關(guān)系
6.5狀態(tài)空間的分解
6.6極限特性與平穩(wěn)分布
6.6.1極限特性
6.6.2平穩(wěn)分布
6.6.3平衡方程及其應(yīng)用
6.7轉(zhuǎn)移矩陣的平均極限
6.8有限狀態(tài)不可約Markov鏈平穩(wěn)分布的矩陣計(jì)算
6.9吸收概率的計(jì)算
6.9.1非常返狀態(tài)子矩陣的特性
6.9.2從非常返態(tài)到吸收態(tài)轉(zhuǎn)移概率的計(jì)算
6.9.3從非常返態(tài)到吸收態(tài)轉(zhuǎn)移時(shí)間的計(jì)算
6.10Metropolis抽樣算法
6.10.1Metropolis抽樣算法的描述
6.10.2Metropolis抽樣算法的理論分析
6.11習(xí)題
第7章連續(xù)參數(shù)Markov鏈
7.1定義與基本概念
7.2轉(zhuǎn)移率矩陣: Q矩陣與其概率意義
7.3Q矩陣的計(jì)算
7.4Kolmogorov前向后向微分方程
7.5平穩(wěn)分布與極限分布及其矩陣計(jì)算
7.5.1極限分布存在性
7.5.2平穩(wěn)分布及其矩陣計(jì)算
7.6平穩(wěn)分布的計(jì)算與應(yīng)用
7.7一致性規(guī)則與強(qiáng)Markov鏈
7.7.1引言與工程問題示例
7.7.2強(qiáng)Markov過程
7.7.3指數(shù)分布與嵌入Markov鏈的應(yīng)用
7.7.4連續(xù)Markov鏈的一致性規(guī)則
7.8Q過程的一致性處理
7.9有限狀態(tài)不可約連續(xù)Markov鏈的計(jì)算機(jī)仿真
7.10平穩(wěn)分布與時(shí)間可逆性
7.11時(shí)間可逆過程在排隊(duì)論中的應(yīng)用
7.12習(xí)題
參考文獻(xiàn)