江曉林主編的《信息論與編碼》是電子信息與通信工程系列教材之一,是在相關(guān)高等學(xué)校教師長(zhǎng)期教學(xué)實(shí)踐的基礎(chǔ)上編寫的。
《信息論與編碼》共分6章,主要內(nèi)容包括:緒論、信息量和信源的熵、信源編碼、信道及信道編碼、接近香農(nóng)極限的編碼和信息率失真函數(shù),章節(jié)后面?zhèn)溆邢嚓P(guān)習(xí)題。
《信息論與編碼》可以作為普通高等院校電子信息、通信類專業(yè)本科生的教材,也可供有關(guān)科技人員參考。
信息論與編碼是一門既具有廣泛的數(shù)學(xué)理論知識(shí),又有實(shí)際工程背景的課程,兩者缺一不可!缎畔⒄撆c編碼》是作者江曉林多年在信息論與編碼方面的教學(xué)和科研經(jīng)驗(yàn)實(shí)踐總結(jié)而加以編寫的,全書注重基本概念、基本定理和基本分析方法的論述,結(jié)合實(shí)例建立概念和數(shù)學(xué)模型,給出詳細(xì)的、必要的數(shù)學(xué)推演過程和證明,力求概念清晰,邏輯性、系統(tǒng)性強(qiáng),力求做到既有實(shí)際應(yīng)用背景,又有清晰的數(shù)學(xué)概念和數(shù)學(xué)思想。
本書內(nèi)容豐富翔實(shí),對(duì)基本概念和基礎(chǔ)理論的闡述清晰明了;吸收了新技術(shù)和新方法。為了幫助讀者掌握基本理論和分析方法,每章附有相應(yīng)習(xí)題。本書可作為普通高等院校電子信息、通信類專業(yè)本科生的教材,也可供有關(guān)科學(xué)技術(shù)人員參考。
第1章緒論
1.1信息
1.1.1信息的概念
1.1.2信息的性質(zhì)
1.1.3信息科學(xué)
1.2通信系統(tǒng)
1.2.1通信系統(tǒng)模型
1.2.2通信系統(tǒng)的基本要求
1.3信息論
1.3.1信息論的發(fā)展歷史
1.3.2信息論分類
第2章信息量和信源的熵
2.1信源分類
2.2自信息量與互信息量
2.2.1自信息量
2.2.2信息量
2.3平均自信息量——熵
2.4熵的基本性質(zhì)
2.5熵的唯一性定理
2.6離散集的平均互信息量
2.6.1離散集的平均互信息量定義
2.6.2平均互信息量的性質(zhì)
2.7馬爾可夫信源
2.7.1馬爾可夫信源
2.7.2馬爾可夫信源的信息熵
2.7.3隨機(jī)過程的信息量和熵
2.8信源的相關(guān)性和剩余度
2.9連續(xù)隨機(jī)變量的互信息和微分熵
2.9.1連續(xù)隨機(jī)變量的熵
2.9.2連續(xù)隨機(jī)變量的聯(lián)合熵、條件熵以及平均互信息量
2.10信道容量
2.10.1單符號(hào)離散信道的信道容量
2.10.2幾種特殊信道的信道容量
2.10.3對(duì)稱信道的信道容量
2.10.4強(qiáng)對(duì)稱離散信道的信道容量
2.10.5準(zhǔn)對(duì)稱離散信道的信道容量
2.10.6一般離散信道的信道容量
習(xí)題
第3章信源編碼
3.1信源編碼的相關(guān)概念
3.1.1無失真信源編碼的分類
3.1.2編碼器
3.1.3碼的分類
3.1.4碼樹
3.2定長(zhǎng)編碼定理
3.2.1無失真編碼條件
3.2.2定長(zhǎng)編碼定理
3.3變長(zhǎng)碼與變長(zhǎng)信源編碼定理
3.4變長(zhǎng)碼的編碼方法
3.4.1香農(nóng)編碼
3.4.2霍夫曼(Huffman)編碼
3.4.3費(fèi)諾編碼
3.5游程編碼
3.5.1游程編碼簡(jiǎn)介
3.5.2MH編碼原理
習(xí)題
第4章信道及信道編碼
4.1信道及譯碼規(guī)則
4.1.1信道的分類
4.1.2信道模型
4.1.3錯(cuò)誤概率和譯碼規(guī)則
4.1.4錯(cuò)誤概率與編碼方法
4.1.5抗干擾信道編碼定理及逆定理
4.2信道編碼的基本思想
4.2.1差錯(cuò)控制系統(tǒng)分類
4.2.2糾檢錯(cuò)基本原理
4.3檢錯(cuò)碼
4.3.1奇偶校驗(yàn)碼
4.3.2行列監(jiān)督碼
4.3.3定比碼
4.4線性分組碼
4.4.1漢明碼的構(gòu)成
4.4.2監(jiān)督矩陣H和生成矩陣G
4.4.3伴隨式(校驗(yàn)子S)
4.4.4分組碼的糾檢錯(cuò)能力
4.5循環(huán)碼
4.5.1循環(huán)碼的描述
4.5.2校驗(yàn)子與循環(huán)碼的編、譯碼原理
4.5.3譯碼方法和電路
4.5.4幾種改進(jìn)循環(huán)碼
4.6卷積碼
4.6.1卷積碼的基本原理
4.6.2卷積碼的譯碼
4.7限失真編碼定理
習(xí)題
第5章接近香農(nóng)極限的編碼
5.1Turbo碼
5.1.1Turbo碼的編碼
5.1.2Turbo碼的譯碼
5.1.3譯碼性能分析
5.2低密度校驗(yàn)碼的定義
5.2.1LDPC碼的概念與描述
5.2.2LDPC碼的Tanner圖表示
5.3低密度校驗(yàn)碼的編碼和譯碼
5.3.1LDPC碼的編碼
5.3.2LDPC碼的譯碼
5.4低密度校驗(yàn)碼的性能分析
習(xí)題
第6章信息率失真理論
6.1引言
6.2信息率失真函數(shù)及其性質(zhì)
6.2.1失真度
6.2.2信息率失真函數(shù)
6.2.3率失真函數(shù)與信道容量的對(duì)偶性
6.2.4最小失真度和最大失真度
6.3二元對(duì)稱信源的率失真函數(shù)
6.4保真度準(zhǔn)則下的信源編碼定理
6.5離散無記憶信道的容量一代價(jià)函數(shù)
6.5.1容量一代價(jià)函數(shù)
6.5.2容量一代價(jià)函數(shù)的理解
6.5.3容量一代價(jià)函數(shù)的性質(zhì)
習(xí)題
參考文獻(xiàn)