信息论与编码基础教程（第2版）

　　孙海欣、张猛、张丽英编著的《信息论与编码基础教程（信息与通信工程第2版高等学校电子信息类专业系列教材）》以香农信息论为基础，对信息论基础和编码理论进行介绍。系统介绍了信息论的3个基本概念（信源熵、信道容量和信息率失真函数），以及无失真信源编码、限失真信源编码、信道编码和加密编码中的理论知识及其实现原理。为了便于教学和加深对概念的理解，每章的最后还附有小结和习题。此外，本书配有相应的教学课件。本书概念清晰、重点突出，用通俗易懂的文字和图形图表阐述基本概念、基本理论及实现原理，既有必要的数学分析，又强调物理概念的理解。本书既可作为普通高等院校电子信息类、通信工程、信息与计算科学及相关专业的本科生教材，也可作为从事相关专业的科研和工程技术人员的参考用书。

　　孙海欣讲师，任职于长春大学电子信息工程学院。2005年获得哈尔滨理工大学工学学士学位，2008年和2012年分别获得吉林大学工学硕士、工学博士学位。主要研究方向为变换域通信系统波形设计及微弱信号处理。长期从事通信原理、信息论与编码、嵌入式系统开发的教学和研究工作。先后教授“通信原理”“信息论与编码”“单片机原理及应用”“专业英语”等课程。主持或参加多个教学改革项目，发表相关论文数十篇。组织和指导学生参加各类竞赛活动，着力培养学生的创新实践能力。张猛副教授，硕士生导师，2004年毕业于俄罗斯联邦太平洋国立大学，获得工学硕士学位，任职于长春大学电子信息工程学院。2013-2017年为教育部高等学校电子信息类专业教学指导委员会协作委员。主要研究方向为信号采集与处理，多年来，致力于电子信息类专业的教学和研究工作，参与并主导多门课程改革和创新工作以及本科教学质量工程项目，发表多篇学术论文。张丽英教授，硕士生导师，毕业于东北师范大学，吉林大学电子与通信工程硕士。曾就职于吉林省商业科学技术研究所及长春大学，现今在东北师大人文学院任教，长期从事通信原理、信息论与编码的教学与研究工作。2010年曾合作编写《信息论与编码基础教程》，并获吉林省**教材一等奖。主持的教科研项目获省教学成果奖、科技进步奖。曾是中国电子学会初级电子信息类工程师认证委员、清华大学出版社，国内教材编审委员等。

第1章 绪论1.1 信息论与编码的基本概念1.1.1 信息的一般概念1.1.2 信息论与编码的发展历程1.2 通信系统的模型1.3 信息论与编码的研究内容与意义1.3.1 信息论研究的主要内容1.3.2 香农信息论对信道编码的指导意义1.3.3 香农信息论对信源编码的指导意义习题第2章 信源及信源熵2.1 信源的数学模型及分类2.1.1 离散无记忆信源2.1.2 离散有记忆信源2.1.3 马尔可夫信源2.1.4 连续信源2.2 离散信源熵2.2.1 自信息量2.2.2 信源熵2.2.3 条件熵和联合熵2.2.4 熵的基本性质2.3 离散序列信源熵2.3.1 离散无记忆信源的序列熵2.3.2 离散有记忆信源的序列熵2.3.3 马尔可夫信源的序列熵2.4 连续信源熵2.4.1 幅度连续的单个符号信源熵2.4.2 波形信源熵2.4.3 最大熵定理2.5 冗余度本章小结习题第3章 信道与信道容量3.1 信道的基本概念3.1.1 信道的分类3.1.2 信道的数学模型及参数3.2 互信息3.2.1 互信息与平均互信息3.2.2 平均互信息的性质3.2.3 数据处理中信息的变化3.3 离散符号信道容量3.3.1 信息传输率与信道容量3.3.2 无干扰离散信道3.3.3 对称DMC信道3.3.4 准对称DMC信道3.3.5 一般DMC信道3.4 离散序列信道及容量3.5 串联信道和并联信道的信道容量3.5.1 串联信道3.5.2 并联信道3.6 连续信道及其容量3.6.1 连续单符号加性信道3.6.2 多维无记忆加性连续信道3.6.3 加性高斯白噪声波形信道3.7 信源与信道的匹配本章小结习题第4章 信息率失真函数4.1 失真函数4.1.1 失真函数（失真度）4.1.2 平均失真4.2 信息率失真函数及其性质4.2.1 信息率失真函数R(D)4.2.2 信息率失真函数的性质4.2.3 信息率失真函数与信道容量的比较4.3 无记忆信源信息率失真函数的计算4.3.1 离散无记忆信源的R（D）计算4.3.2 连续信源的R(D)计算本章小结习题第5章 信源编码5.1 编码的基本概念5.1.1 码的定义及分类5.1.2 码树5.2 无失真信源编码定理5.2.1 定长编码定理5.2.2 变长编码定理5.3 无失真信源编码的常用方法5.3.1 香农码5.3.2 费诺码5.3.3 哈夫曼码5.3.4 游程编码5.3.5 算术编码5.4 限失真信源编码定理及方法5.4.1 保真度准则下信源编码定理5.4.2 矢量量化5.4.3 预测编码5.4.4 变换编码本章小结习题第6章 信道编码6.1 信道编码概述6.1.1 信道编码的基本概念与分类6.1.2 信道编码的基本参数6.1.3 纠错编码的基本原理6.1.4 最优译码与最大似然译码6.2 线性分组码6.2.1 基本概念6.2.2 生成矩阵和一致校验矩阵6.2.3 伴随式与标准阵列译码6.2.4 线性分组码的纠错能力6.2.5 汉明码6.3 循环码6.3.1 循环码的多项式描述及构造方法6.3.2 循环码的生成矩阵和校验矩阵6.3.3 循环码的编码电路6.3.4 循环码的译码电路6.3.5 常用的循环码6.4 卷积码6.4.1 卷积码的基本概念和描述方法6.4.2 卷积码的最大似然译码——维特比算法6.4.3 卷积码的性能限本章小结习题第7章 加密编码7.1 加密编码概述7.1.1 加密编码的基本概念7.1.2 加密编码算法分类7.1.3 密码系统的安全性及其分类7.1.4 加密编码中的熵概念7.2 数据加密标准7.2.1 换位和替代密码7.2.2 DES密码算法7.2.3 DES密码的改进7.3 公开密钥加密法7.3.1 公开密钥密码体制7.3.2 RSA密码体制7.3.3 报文摘要7.3.4 公开密码体制的优缺点7.4 信息安全和确认技术7.4.1 信息安全的基本概念7.4.2 数字签名7.4.3 防火墙7.4.4 常用的信息安全技术应用实例本章小结习题参考文献