本書介紹信息論的基本理論以及編碼的理論和實現(xiàn)原理，重點討論了信息與信息熵量、平均互信息量、多符號離散信源、多符號離散無記憶信道、連續(xù)信源與連續(xù)信道、無失真信源編碼與香農(nóng)第一定理、有噪信道的編碼、信源壓縮編碼與信息率失真函數(shù)、信道的檢糾錯編碼等。 本書可供專業(yè)技術(shù)人員參考，也可作為一般大學(xué)本科和大專生的教材。
第1章 信息概念與信息熵
1.1 信息概念的引入與自信息
1.1.1 從通信有效性的角度提出狹義信息的概念
1.1.2 自信息
1.2 單符號離散信源的信息熵
1.3 信息熵的性質(zhì)
習(xí)題
第2章 單符號離散信道和平均交互信息量
2.1 單符號離散信道的數(shù)學(xué)模型
2.2 信息的流動及其與通信可靠性的關(guān)系
2.3 平均交互信息量
2.4 平均交互信息量的性質(zhì)
2.5 單符號離散信道的信道容量
2.5.1 信道容量的定義
2.5.2 離散無噪信道的信道容量 第1章 信息概念與信息熵
1.1 信息概念的引入與自信息
1.1.1 從通信有效性的角度提出狹義信息的概念
1.1.2 自信息
1.2 單符號離散信源的信息熵
1.3 信息熵的性質(zhì)
習(xí)題
第2章 單符號離散信道和平均交互信息量
2.1 單符號離散信道的數(shù)學(xué)模型
2.2 信息的流動及其與通信可靠性的關(guān)系
2.3 平均交互信息量
2.4 平均交互信息量的性質(zhì)
2.5 單符號離散信道的信道容量
2.5.1 信道容量的定義
2.5.2 離散無噪信道的信道容量
2.5.3 對稱信道的信道容量
2.5.4 用計算機輔助計算信道容量
習(xí)題
第3章 多符號離散信源和信道
3.1 多符號離散信源的消息符號
3.2 多符號離散無記憶信源
3.3 多符號離散平穩(wěn)有記憶信源
3.4 離散平穩(wěn)有記憶信源的數(shù)學(xué)模型及其極限熵
3.4.1 離散平穩(wěn)有記憶信源的數(shù)學(xué)模型
3.4.2 多符號離散平穩(wěn)有記憶信源的熵
3.5 馬爾可夫鏈與馬爾可夫信源
3.5.1 馬爾可夫鏈
3.5.2 相關(guān)長度有限的多符號離散平穩(wěn)信源與馬爾可夫鏈
3.6 多符號離散信道
3.6.1 離散無記憶信道的擴展信道
3.6.2 獨立并列信道的信道容量
習(xí)題
第4章 連續(xù)信源和連續(xù)信道
4.1 單變量連續(xù)信源
4.1.1 單變量連續(xù)信源的數(shù)學(xué)模型及其離散化
4.1.2 單變量連續(xù)信源的相對熵及其特性
4.1.3 相對熵的最大熵值
4.2 單變量連續(xù)信道
4.2.1 單變量連續(xù)信道的數(shù)學(xué)模型及其平均交互信息量
4.2.2 單變量連續(xù)信道的信道容量和高斯加性信道
4.3 多變量連續(xù)信源與信道
4.3.1 多變量連續(xù)信源
4.3.2 多變量連續(xù)信道
4.3.3 多變量高斯白噪聲加性連續(xù)信道
習(xí)題
第5章 無失真信源編碼
5.1 對信源編碼的要求及單義可譯碼
5.1.1 信源編碼的過程及對無失真信源編碼的要求
5.1.2 單義可譯碼
5.2 即時碼及用樹圖構(gòu)碼的方法
5.3 單義可譯定理
5.3.1 必要性的證明
5.3.2 充分性證明
5.4 無失真信源編碼的有效性和香農(nóng)第一定理
5.4.1 平均碼長及其與信息熵的關(guān)系
5.4.2 單符號離散無記憶信源的平均碼長界限定理
5.4.3 多符號離散信源編碼的極限平均碼長
5.5 香農(nóng)第一定理和數(shù)據(jù)壓縮
5.5.1 香農(nóng)第一定理
5.5.2 無失真信源編碼定理與數(shù)據(jù)壓縮
5.6 霍夫曼編碼
5.7 算術(shù)編碼
習(xí)題
第6章 有噪信道的編碼譯碼
6.1 信道譯碼
6.1.1 信道譯碼與譯碼規(guī)則
6.1.2 平均錯譯概率
6.1.3 最大后驗概率譯碼準(zhǔn)則
6.2 信道編碼
6.3 信道分組編碼的檢糾錯能力和碼字間最小漢明距離的關(guān)系
6.4 信息流理論與香農(nóng)第二定理
6.4.1 信道等效信息流模型
6.4.2 等效信息流分析與香農(nóng)第二定理
習(xí)題
第7章 信息率失真函數(shù)
7.1 信源失真編碼與信道的關(guān)系
7.2 失真函數(shù)和平均失真度
7.3 信息率失真函數(shù)的定義及其性質(zhì)
7.3.1 信息率失真函數(shù)月(D)的定義
7.3.2 尺(D)函數(shù)的定義域及其性質(zhì)
7.4 信息率失真函數(shù)的其他應(yīng)用
習(xí)題
第8章 信道檢糾錯編碼
8.1 分組碼概念
8.2 線性分組碼的編碼
8.3 線性分組碼的譯碼
8.4 漢明碼
8.5 循環(huán)碼
8.5.1 循環(huán)碼及其多項式表示
8.5.2 系統(tǒng)循環(huán)碼的編碼和譯碼
8.6 卷積碼
8.6.1 卷積碼編碼器的一般結(jié)構(gòu)
8.6.2 卷積碼的編碼過程及解析表示
8.6.3 卷積碼編碼過程的圖示法
8.6.4 卷積碼的維特比譯碼
習(xí)題
附錄A 凸函數(shù)和詹森不等式
A.1 凸域
A.2 凸函數(shù)
A.3 詹森不等式
附錄B 信道編碼的代數(shù)知識
B.1 域的概念
B.2 線性空間和矩陣
參考文獻(xiàn)
書單推薦
