《信息論和編碼理論》介紹信息論和編碼理論,包括信息論中仙農(nóng)的幾個重要定理,如:信源的熵、信息的壓縮、信息論中的信道編碼定理、信息論在實際信道中的應(yīng)用實例;最后介紹幾類有廣泛用途的線性碼,包括線性等重碼、一類二重量碼及編碼理論中的極大距離可分碼(簡稱MDS碼)。
《信息論和編碼理論》內(nèi)容結(jié)構(gòu)嚴(yán)謹(jǐn),注重信息論和糾錯編碼理論的相互統(tǒng)一。
《信息論和編碼理論》可作為高等院校數(shù)學(xué)系高年級本科生和低年級研究生的教材,也可作為信息工程類專業(yè)學(xué)生的參考用書。
信息論和編碼理論是隨著計算機和通信技術(shù)的發(fā)展而興起的新學(xué)科。1948年,美國人仙農(nóng)在論文中詳細(xì)闡述了通信中的數(shù)學(xué)理論,引起了通信領(lǐng)域的重大理論突破,奠定了信息論的基礎(chǔ)。仙農(nóng)給出的信道編碼定理極大地促進了編碼理論的發(fā)展,信息的傳輸也自然涉及信息的安全,從而又促進了密碼學(xué)的發(fā)展。信息論、編碼理論可以看成計算機、通信和數(shù)學(xué)的交叉學(xué)科,有著很強的實際背景,同時又是廣泛應(yīng)用數(shù)學(xué)理論的系統(tǒng)科學(xué)。當(dāng)前信息論、編碼理論與密碼學(xué)已發(fā)展成密切聯(lián)系同時又相對獨立的分支。本書介紹信息論和編碼理論的基本內(nèi)容,目的是使讀者了解這個領(lǐng)域的基本概念、思想和方法。
本書的編寫參考了傳統(tǒng)的信息論和編碼理論教材,同時也加入了近期一些新的研究成果。本書內(nèi)容結(jié)構(gòu)嚴(yán)謹(jǐn),注重信息論和糾錯編碼理論的相互統(tǒng)一。糾錯編碼理論可以看作是信息論中信道編碼定理的具體實現(xiàn),而信道編碼定理為糾錯編碼理論的發(fā)展提供了理論依據(jù)。本書詳細(xì)敘述了這些基本關(guān)系,內(nèi)容連貫,涉及的數(shù)學(xué)工具易于理解,適合教學(xué)和自學(xué)兩用。本書的符號遵循本領(lǐng)域書籍的習(xí)慣,矩陣和向量統(tǒng)一用白斜體。
本書適用對象是數(shù)學(xué)系高年級本科生和低年級研究生,也可作為信息工程類專業(yè)學(xué)生的參考用書。
由于作者學(xué)識水平有限,書中難免存在錯誤與不妥之處,懇請讀者批評指正。
第1章 信源的熵
1.1 信息論的奠定
1.2 熵的概念
練習(xí)題
第2章 信源編碼
2.1 可變長度編碼
2.1.1 唯一可譯碼
2.1.2 即時碼和前綴性質(zhì)
2.1.3 唯一可譯碼和McMillan定理
2.2 霍夫曼碼
2.3 霍夫曼編碼定理的證明
2.4 信源編碼定理
練習(xí)題
第3章 有噪信道編碼
3.1 離散無記憶信道和條件熵
3.1.1 離散無記憶信道
3.1.2 條件熵
3.1.3 一些特殊的信道
3.2 信道容量
3.3 譯碼錯誤概率
3.4 信道編碼定理及逆定理
3.4.1 信道編碼定理的逆定理的弱形式
3.4.2 信道編碼定理
3.4.3 信道編碼定理的逆定理的強形式
練習(xí)題
第4章 線性碼
4.1 碼的界
4.2 線性碼的基本概念
4.3 極大距離可分碼
練習(xí)題
第5章 線性碼和信息安全
5.1 碼C與竊聽者獲取的數(shù)據(jù)的關(guān)系
5.2 相對廣義漢明重量
練習(xí)題
第6章 不超過兩個重量的線性碼
6.1 射影幾何介紹
6.2 線性碼與射影幾何的關(guān)系
6.3 線性等重碼
6.4 一類二重量碼
6.4.1 二重量碼的結(jié)構(gòu)
6.4.2 二重量碼子碼支撐重量分布
練習(xí)題
參考文獻
索引