前言
第1章 概論
1.1 信息理論的基本內(nèi)容
1.2 信息理論的發(fā)展簡史
1.3 控制論、信息論與系統(tǒng)論
1.4 信息理論的應(yīng)用
第2章 信息與熵
2.1 信源熵
2.2 聯(lián)合熵與條件熵
2.3 熵函數(shù)的唯一性
2.4 熵函數(shù)的性質(zhì)
2.5 連續(xù)型隨機(jī)變量的熵
2.6 意義信息和加權(quán)熵
2.7 Renyi熵與Tsallis熵
習(xí)題 前言
第1章 概論
  1.1 信息理論的基本內(nèi)容
  1.2 信息理論的發(fā)展簡史
  1.3 控制論、信息論與系統(tǒng)論
  1.4 信息理論的應(yīng)用
第2章 信息與熵
  2.1 信源熵
  2.2 聯(lián)合熵與條件熵
  2.3 熵函數(shù)的唯一性
  2.4 熵函數(shù)的性質(zhì)
  2.5 連續(xù)型隨機(jī)變量的熵
  2.6 意義信息和加權(quán)熵
  2.7 Renyi熵與Tsallis熵
  習(xí)題
第3章 互信息
  3.1 平均互信息
    3.1.1 事件的互信息
    3.1.2 多隨機(jī)變量下條件互信息與聯(lián)合事件的互信息
    3.1.3 平均互信息
  3.2 互信息與其他熵之間的關(guān)系
    3.2.1 互信息的等價(jià)定義
    3.2.2 熵之間的關(guān)系
  3.3 多個(gè)隨機(jī)變量的互信息
    3.3.1 兩組隨機(jī)變量之間的互信息
    3.3.2 條件互信息
    3.3.3 隨機(jī)向量中各隨機(jī)變量之間的互信息
  3.4 互信息函數(shù)的性質(zhì)
  3.5 連續(xù)型隨機(jī)變量的互信息
  習(xí)題
第4章 離散信源的無錯(cuò)編碼
  4.1 信源與信源編碼簡介
    4.1.1 信源
    4.1.2 信源的分類
    4.1.3 信源編碼
  4.2 無記憶信源的漸近等同分割性與定長編碼定理
    4.2.1 漸近等同分割性(AEP)
    4.2.2 定長編碼定理
  4.3 離散無記憶信源的變長編碼
    4.3.1 前綴碼與Kraft不等式
    4.3.2 Huffman編碼與最優(yōu)編碼定理
    4.3.3 常用變長編碼
  4.4 離散平穩(wěn)信源及其編碼定理
    4.4.1 平穩(wěn)信源的熵率及冗余度
    4.4.2 平穩(wěn)信源的編碼定理
  4.5 馬爾可夫信源及其編碼
    4.5.1 馬爾可夫信源
    4.5.2 馬爾可夫信源的編碼
  習(xí)題
第5章 離散無記憶信道的編碼理論
  5.1 信道容量
    5.1.1 信道容量的定義和例子
    5.1.2 離散無記憶信道容量的有關(guān)性質(zhì)
    5.1.3 某些簡單情況下信道容量的計(jì)算
    5.1.4 轉(zhuǎn)移概率可逆時(shí)信道容量的計(jì)算
    5.1.5 離散無記憶信道容量的迭代計(jì)算
    5.1.6 達(dá)到信道容量時(shí)輸入輸出字母概率分布的唯一性
  5.2 信道編碼
    5.2.1 信道編碼概述
    5.2.2 聯(lián)合典型序列
  5.3 信道編碼定理
    5.3.1 信道編碼定理的證明
    5.3.2 Fano不等式和逆編碼定理
    5.3.3 信源一信道聯(lián)合編碼
  5.4 高斯信道
    5.4.1 高斯信道容量
    5.4.2 高斯信道編碼定理
    5.4.3 高斯信道編碼定理的逆定理
  5.5 級聯(lián)信道和并聯(lián)信息的信道容量
    5.5.1 級聯(lián)信道
    5.5.2 并聯(lián)信道
  5.6 信道編碼實(shí)例
    5.6.1 重復(fù)碼
    5.6.2 Hamming碼
  習(xí)題
第6章 線性碼
  6.1 線性分組碼的定義及表示
  6.2 系統(tǒng)編碼和校驗(yàn)矩陣
  6.3 系統(tǒng)編碼及其最優(yōu)譯碼的實(shí)現(xiàn)
  6.4 線性碼的差錯(cuò)概率及糾錯(cuò)能力
第7章 信源的率失真函數(shù)與熵壓縮編碼
  7.1 熵壓縮編碼和信源的率失真函數(shù)
  7.2 率失真函數(shù)的基本性質(zhì)
  7.3 對離散信源求解率失真函數(shù)的迭代算法
  習(xí)題
第8章 最大熵原理與最小鑒別信息原理
  8.1 最大熵原理
    8.1.1 最大熵原理的提出
    8.1.2 最大熵原理的合理性
    8.1.3 最大熵譜估計(jì)
  8.2 鑒別信息
    8.2.1 鑒別信息的定義
    8.2.2 鑒別信息的性質(zhì)
  8.3 最小鑒別信息原理
    8.3.1 最小鑒別信息原理
    8.3.2 獨(dú)立分量分析
  習(xí)題
第9章 組合信息與算法信息
  9.1 自適應(yīng)統(tǒng)計(jì)編碼
  9.2 組合信息
    9.2.1 基于組合的信息度量
    9.2.2 Fitingof通用編碼
  9.3 算法信息
    9.3.1 Kolmogorov算法熵
    9.3.2 算法熵的不可計(jì)算性
    9.3.3  Lewpel—Ziv通用編碼
    9.3.4 Kieffer—Yang通用編碼
  9.4 近似熵與樣本熵
  習(xí)題
第10章 密碼學(xué)引論
  10.1 古典密碼學(xué)
    10.1.1 古典密碼舉例
    10.1.2 古典密碼分析
  10.2 基于信息論的密碼學(xué)
    10.2.1 完全保密
    10.2.2 唯一解距離
    10.2.3 實(shí)用安全性
  10.3 數(shù)據(jù)加密標(biāo)準(zhǔn)(DES)
    10.3.1  DES的描述
    10.3.2  DES的討論
  10.4 其他
    10.4.1 公開鑰密碼系統(tǒng)
    10.4.2 認(rèn)證系統(tǒng)
    10.4.3 數(shù)字簽名
    10.4.4 密鑰的管理
    10.4.5 電子貨幣
部分習(xí)題解答或提示
參考文獻(xiàn)