信息論與編碼

第1章    緒論
1.1 信息的概念
1.2 信息論研究的對象、目的和內(nèi)容
1.3 信息論發(fā)展簡史與信息科學(xué)
第2章    離散信源及其信息測度
2.1 信息的數(shù)學(xué)模型及分類
2.2 離散信源的信息熵
2.3 信息熵的基本性質(zhì)
2.4 信息熵的唯一性定律
2.5 離散無記憶的擴(kuò)展信源
2.6 離散平衡信源
2.7 馬爾可夫信源
2.8 信息冗余度與自然語言的熵
2.9 定義信息和加權(quán)熵
習(xí)題
第3章    離散信道及其信道容量
3.1 信道的數(shù)學(xué)模型及分類
3.2 平均互信息及平均條件互信息
3.3 平均互信息的特性
3.4 信道容量及其一般計算方法
3.5 離散無記憶擴(kuò)展信道及其信道容量
3.6 獨(dú)立并聯(lián)信道及其信道容量
3.7 串聯(lián)信道的互信息和數(shù)據(jù)處理定理
3.8 信源與信道的匹配
習(xí)題
第4章    波形信源和波形信道
4.1 連續(xù)信源和波形信源的信息測度
4.2 連續(xù)信源熵的性質(zhì)及最大差熵定理
4.3 熵功率
4.4 連續(xù)信道和波形信道的信息傳輸率
4.5 高斯加性波形信道的信道容量
習(xí)題
第5章    無失真信源編碼定理
5.1 編碼器
5.2 等長碼
5.3 漸進(jìn)等分割性和ε典型序列
5.4 等長信源編碼定理
5.5 變長碼
5.6 變長信源編碼定理
習(xí)題
第6章    有噪信道編碼定理
6.1 錯誤概率和譯碼規(guī)則
6.2 錯誤概率與編碼方法
6.3 聯(lián)合ε典型序列
6.4 有噪信道編碼定理
6.5 聯(lián)合信源信道編碼定理
習(xí)題
第7章    保真度準(zhǔn)則下的信源編碼
7.1 失真度和平均失真度
7.2 信息率失真函數(shù)及其性質(zhì)
7.3 信息率失真函數(shù)的參量表述及其計算
7.4 二元信源和離散對稱信源的R（D）函數(shù)
7.5 連續(xù)信源的信息率失真函數(shù)
7.6 保真度準(zhǔn)則下的信源編碼定理
7.7 聯(lián)合有失真信源信道編碼定理
7.8 限失真信源編碼定理的實(shí)用意義
習(xí)題
第8章    無失真的信源編碼
8.1 霍夫曼（Huffman）碼
8.2 費(fèi)諾（Fano）碼
8.3 香農(nóng)-費(fèi)諾-埃利斯碼
8.4 游程編碼和MH編碼
8.5 算術(shù)編碼
8.6 字典碼
習(xí)題
第9章    信道的糾錯編碼
9.1 差錯控制的基本形式
9.2 糾錯碼分類與基本概念
9.3 線性分組碼的數(shù)學(xué)基礎(chǔ)
9.4 線性分組碼
9.5 循環(huán)碼
9.6 BCH碼
9.7 卷積碼
9.8 分組碼性能分析
習(xí)題
附錄A 凸函數(shù)和詹森不等式
附錄B 馬爾可夫鏈
B.1 馬爾可夫鏈的定義
B.2 轉(zhuǎn)移概率和轉(zhuǎn)移矩陣
B.3 各態(tài)歷經(jīng)定理
附錄C 熵函數(shù)的函數(shù)表
參考書目