信息论与编码

本书系统地论述信息论与纠错编码的基本理论。共有9章，内容包括：信息的定义和度量；离散信源和连续信源的信息熵；信道和信道容量；平均失真度和信息率失真函数；三个香农信息论的基本定理：无失真信源编码定理、限失真信源编码定理和信道编码定理；若干种常见实用的无失真信源压缩编码的方法；以及信道纠错编码的基本内容和分析方法。.本书文字通顺、概念清晰、系统性和可读性强。可作为高等院校信息与计算科学、信息与通信工程等相关专业的本科生教材或教学参考书，也可供科研院所从事信息科学理论、技术、方法研究的科研和工程技术人员参考。...

暂缺《信息论与编码》作者简介

第1章    绪论
1.1 信息的概念
1.2 信息论研究的对象、目的和内容
1.3 信息论发展简史与信息科学
第2章    离散信源及其信息测度
2.1 信息的数学模型及分类
2.2 离散信源的信息熵
2.3 信息熵的基本性质
2.4 信息熵的唯一性定律
2.5 离散无记忆的扩展信源
2.6 离散平衡信源
2.7 马尔可夫信源
2.8 信息冗余度与自然语言的熵
2.9 定义信息和加权熵
习题
第3章    离散信道及其信道容量
3.1 信道的数学模型及分类
3.2 平均互信息及平均条件互信息
3.3 平均互信息的特性
3.4 信道容量及其一般计算方法
3.5 离散无记忆扩展信道及其信道容量
3.6 独立并联信道及其信道容量
3.7 串联信道的互信息和数据处理定理
3.8 信源与信道的匹配
习题
第4章    波形信源和波形信道
4.1 连续信源和波形信源的信息测度
4.2 连续信源熵的性质及最大差熵定理
4.3 熵功率
4.4 连续信道和波形信道的信息传输率
4.5 高斯加性波形信道的信道容量
习题
第5章    无失真信源编码定理
5.1 编码器
5.2 等长码
5.3 渐进等分割性和ε典型序列
5.4 等长信源编码定理
5.5 变长码
5.6 变长信源编码定理
习题
第6章    有噪信道编码定理
6.1 错误概率和译码规则
6.2 错误概率与编码方法
6.3 联合ε典型序列
6.4 有噪信道编码定理
6.5 联合信源信道编码定理
习题
第7章    保真度准则下的信源编码
7.1 失真度和平均失真度
7.2 信息率失真函数及其性质
7.3 信息率失真函数的参量表述及其计算
7.4 二元信源和离散对称信源的R（D）函数
7.5 连续信源的信息率失真函数
7.6 保真度准则下的信源编码定理
7.7 联合有失真信源信道编码定理
7.8 限失真信源编码定理的实用意义
习题
第8章    无失真的信源编码
8.1 霍夫曼（Huffman）码
8.2 费诺（Fano）码
8.3 香农-费诺-埃利斯码
8.4 游程编码和MH编码
8.5 算术编码
8.6 字典码
习题
第9章    信道的纠错编码
9.1 差错控制的基本形式
9.2 纠错码分类与基本概念
9.3 线性分组码的数学基础
9.4 线性分组码
9.5 循环码
9.6 BCH码
9.7 卷积码
9.8 分组码性能分析
习题
附录A 凸函数和詹森不等式
附录B 马尔可夫链
B.1 马尔可夫链的定义
B.2 转移概率和转移矩阵
B.3 各态历经定理
附录C 熵函数的函数表
参考书目