本書(shū)系統(tǒng)論述香農(nóng)信息論的基本理論，介紹編碼的基本方法。全書(shū)共分12章，內(nèi)容包括：信息的定義、信息論的基本思路；單符號(hào)離散信源與信道、信息熵、互信息、信道容量、數(shù)據(jù)處理定理、加權(quán)熵、效用信息熵；多符號(hào)離散信源與信道、極限熵、獨(dú)立并列信道的信道容量；網(wǎng)絡(luò)信息論等。本書(shū)是作者在《信息論與編碼》（第三版）的基礎(chǔ)上，對(duì)原來(lái)的章、節(jié)結(jié)構(gòu)和內(nèi)容安排做的進(jìn)一步的調(diào)整、充實(shí)和完善，更具有科學(xué)性和權(quán)威性。
姜丹，教授，中國(guó)科學(xué)院研究生院博士生導(dǎo)生，原中國(guó)科學(xué)院干部管理學(xué)院院長(zhǎng)，原中國(guó)科學(xué)技術(shù)大學(xué)秘書(shū)長(zhǎng)。
第4版前言
第3版前言
再版前言
前言
引言
第1章 單符號(hào)離散信源
1．1 信源的信息熵
1．1．1 信源的數(shù)學(xué)模型
1．1．2 信源符號(hào)的自信量
1．1．3 信源的信息熵
1．2 信息熵的代數(shù)性質(zhì)
1．2．1 對(duì)稱性
1．2．2 非負(fù)性和確定性
1．2．3 連續(xù)性和擴(kuò)展性
1．2．4 可加性
1．2．5 遞推性
1．3 信息熵的解析性質(zhì)
1．3．1 極值性
1．3．2 上凸性
1．3．3 信息熵的最大值（I）
1．3．4 信息熵的最大值（Ⅱ）
1．4 熵函數(shù)的唯一性
1．5 效用信息熵
1．5．1 加權(quán)熵的定義
1．5．2 權(quán)熵的數(shù)學(xué)特性
1．5．3 權(quán)熵的唯一性
1．5．4 效用信息熵的定義
1．5．5 效用信息熵的數(shù)學(xué)特性
習(xí)題
第2章 單符號(hào)離散信道
2．1 平均互信息
2．1．1 信道的數(shù)學(xué)模型
2．1．2 信道兩端符號(hào)的概率變化
2．1．3 兩個(gè)符號(hào)之間的互信息
2．1．4 兩個(gè)隨機(jī)變量之間的平均互信息
2．1．5 信息距離
2．1．6 交互系數(shù)
2．2 平均互信息的數(shù)學(xué)特性
2．2．1 交互性
2．2．2 非負(fù)性
2．2．3 極值性
2．2．4 下凸性
2．2．5 上凸性
2．3 信道容量和匹配信源
2．3．1 信道容量的定義
2．3．2 信道容量的一般算法
2．3．3 匹配信源的等量平衡特性
2．4 幾種特殊信道的信道容量
2．4．1 無(wú)噪信道的信道容量
2．4．2 對(duì)稱信道的信道容量
2．4．3 強(qiáng)對(duì)稱信道的信道容量
2．4．4 準(zhǔn)對(duì)稱信道的信道容量
2．4．5 可逆矩陣信道的信道容量
2．5 信道容量的迭代計(jì)算
2．5．1 信道容量的迭代算法
2．5．2 迭代算法的收斂性
2．6 平均條件互信息
2．6．1 串接信道的數(shù)學(xué)描述
2．6．2 條件互信息
2．6．3 平均條件互信息
2．6．4 中心信息差
2．6．5 隨機(jī)變量序列的平均條件互信息
2．7 平均聯(lián)合互信息
2．7．1 聯(lián)合互信息的表達(dá)式
2．7．2 聯(lián)合互信息的對(duì)稱性
2．7．3 平均聯(lián)合互信息
2．7．4 信源的信息測(cè)量
2．8 數(shù)據(jù)處理
2．8．1 兩個(gè)信道串接的平均互信息不增性
2．8．2 N個(gè)信道串接平均互信息的不增性
2．8．3 信道兩端平均互信息的不增性
習(xí)題
第3章 多符號(hào)離散信源與信道
3．1 離散平穩(wěn)信源的數(shù)學(xué)模型
3．1．1 多符號(hào)離散信源的一般概念
3．1．2 離散平穩(wěn)信源的定義
3．1．3 離散平穩(wěn)信源的數(shù)學(xué)模型
3．2 擴(kuò)展信源的信息熵
3．2．1 無(wú)記憶擴(kuò)展信源的信息熵
3．2．2 有記憶擴(kuò)展信源的信息熵
3．2．3 擴(kuò)展信源信息熵的比較
3．3 平均符號(hào)熵和極限熵
3．3．1 平均符號(hào)熵
3．3．2 極限熵
3．4 馬爾可夫（Markov）信源的極限熵
3．4．1 M信源的定義
3．4．2 m-M信源消息轉(zhuǎn)移特性
3．4．3 各態(tài)歷經(jīng)m-M信源消息極限概率分布
3．4．4 各態(tài)歷經(jīng)m-M信源的數(shù)學(xué)模型
3．4．5 各態(tài)歷經(jīng)m-M信源的極限熵
3．4．6 有記憶信源的剩余度
3．5 擴(kuò)展信道的平均互信息
3．5．1 擴(kuò)展信道的由來(lái)
3．5．2 擴(kuò)展信道的數(shù)學(xué)模型
3．5．3 擴(kuò)展信道平均互信息的數(shù)學(xué)特性
3．6 無(wú)記憶擴(kuò)展信道的獨(dú)立并列特性
3．6．1 無(wú)記憶性
3．6．2 無(wú)預(yù)感性
3．6．3 獨(dú)立并列與信道無(wú)記憶
3．7 獨(dú)立并列信道的信道容量
3．7．1 并列信道的數(shù)學(xué)模型
3．7．2 并列信道的概率變化關(guān)系
3．7．3 獨(dú)立并列信道平均互信息的極值性
3．7．4 信道容量的計(jì)算
習(xí)題
第4章 單維連續(xù)信源與信道
4．1 連續(xù)信源的相對(duì)熵
4．1．1 相對(duì)熵的由來(lái)及其內(nèi)涵
4．1．2 幾種連續(xù)信源的相對(duì)熵
4．1．3 相對(duì)熵的數(shù)學(xué)特性
4．1．4 相對(duì)熵的最大值
4．1．5 熵功率與信息變差
4．1．6 相對(duì)熵的變換
4．2 連續(xù)信道的平均互信息
4．2．1 連續(xù)信道的數(shù)學(xué)描述
4．2．2 “信息熵差”與“相對(duì)熵差
4．2．3 平均互信息的三種表達(dá)式
4．2．4 平均互信息的不增性
4．2．5 平均互信息的不變性
4．2．6 連續(xù)信道的測(cè)量信息
4．3 連續(xù)信道的信道容量
4．3．1 信道容量的定義
4．3．2 加性信道的信道容量
4．3．3 高斯加性信道的信道容量
習(xí)題
第5章 多維連續(xù)信源與信道
5．1 隨機(jī)過(guò)程的離散化
5．1．1 傅里葉（Fourier）分析的基本概念
5．1．2 隨機(jī)過(guò)程在時(shí)間域上的離散化
5．1．3 隨機(jī)過(guò)程在頻率域上的離散化
5．1．4 時(shí)域和頻域隨機(jī)變量序列的轉(zhuǎn)換
5．2 多維連續(xù)信源的相對(duì)熵
5．2．1 均勻分布N維連續(xù)信源的要對(duì)熵
5．2．2 高斯分布N維連續(xù)信源的相對(duì)熵
5．3 多維連續(xù)信源的最大相對(duì)熵
5．3．1 取值區(qū)域受限的N維連續(xù)信源的最大相對(duì)熵
5．3．2 協(xié)方差矩陣受限的N維連續(xù)信源的最大相對(duì)熵
5．4 多維相對(duì)熵的變換
5．5 無(wú)記憶擴(kuò)展連續(xù)信道的平均互信息
5．5．1 N次擴(kuò)展連續(xù)信道的統(tǒng)計(jì)特性
5．5．2 無(wú)記憶N次擴(kuò)展連續(xù)信道的傳遞特性
5．5．3 無(wú)記憶N次擴(kuò)展信道平均互信息的極值性
5．6 高斯白噪聲的統(tǒng)計(jì)特性
5．7 高斯白噪聲加性信道的傳遞特性
5．8 高斯白噪聲加性信道的信道容量
5．9 獨(dú)立并列高斯加性信道容量的最大化
習(xí)題
第6章 無(wú)失真信源編碼定理
6．1 單義可譯結(jié)構(gòu)定理
6．1．1 單義可譯碼
6．1．2 非延長(zhǎng)碼及其構(gòu)成
6．1．3 單義可譯定理
6．2 平均碼長(zhǎng)界限定理
6．2．1 平均碼長(zhǎng)與碼率
6．2．2 平均碼長(zhǎng)界限定理
6．2．3 最佳碼
6．3 符號(hào)傳輸速率極限定理
6．3．1 平均碼長(zhǎng)極限定理
6．3．2 符號(hào)傳輸速率極限定理
習(xí)題
第7章 抗干擾信道編碼定理
7．1 譯碼規(guī)則和誤碼率
7．1．1 譯碼規(guī)則
7．1．2 誤碼率
7．2 最小誤碼率譯碼準(zhǔn)則
7．2．1 最大后驗(yàn)概率譯碼準(zhǔn)則
7．2．2 最大似然譯碼準(zhǔn)則
7．3 漢明（Hamming）距離
7．3．1 漢明距離的數(shù)學(xué)特性
7．3．2 漢明距離與檢糾能力
7．3．3 漢明距離與最小誤碼率
7．4 抗干擾信道編碼定理
7．4．1 費(fèi)諾（Fano）不等式
7．4．2 可靠性與有效性之間的制約關(guān)系
7．4．3 誤碼率極限定理
習(xí)題
第8章 限失真信源編碼定理
8．1 R（D）函數(shù)的定義
8．1．1 平均互信息量的下凸性
8．1．2 平均失真度
8．1．3 信息率一失真函數(shù)R（D）的定義
8．1．4 R（D）函數(shù)的定義域
8．2 R（D）函數(shù)的數(shù)學(xué)特性
8．2．1 R（D）的下凸性
8．2．2 R（D）的單調(diào)遞減性
8．2．3 R（D）的連續(xù)性
8．3 離散信源的R（D）
8．3．1 二元離散信源的R（D）
8．3．2 r元等概率散信源的R（D）
8．3．3 離散信源R（D）函數(shù)的參量表述
8．3．4 二元離散信源R（D）函數(shù)的參量計(jì)算
8．4 連續(xù)信源的R（D）
8．4．1 高斯連續(xù)信源的R（D）
8．4．2 連續(xù)信源R（D）的參量表述
8．4．3 高斯連續(xù)信源R（D）的參量計(jì)算
8．5 R（D）的迭代計(jì)算
8．6 R（D）與信息價(jià)值
8．7 廣義信息率一失真函數(shù)
8．7．1 定義平均互信息
8．7．2 廣義信息率一失真函數(shù)
8．8 K次擴(kuò)展信源的信息率一失真函數(shù)Rk（D）
8．8．1 擴(kuò)展信源的平均失真度DK
8．8．2 RK（D）的定義及其數(shù)學(xué)特性
8．9 限失真信源編碼定理
8．9．1 數(shù)據(jù)壓縮的一般概念
8．9．2 限失真信源編碼極限定理
習(xí)題
第9章 信源一信道編碼定理
9．1 信息傳輸速率的上界
9．2 信源一信道編碼極限定理
習(xí)題
附錄 供熵函數(shù)計(jì)算用的幾種函數(shù)表
參考文獻(xiàn)
書(shū)單推薦
