信息论理论基础教程

　　《普通高等教育“十二五”规划教材：信息论理论基础教程》为普通高等教育“十二五”规划教材。《普通高等教育“十二五”规划教材：信息论理论基础教程》共分8章，主要内容包括信息论概述、信息的度量、离散信源、离散信道及其容量、无失真信源编码、有噪信道编码定理、限失真信源编码、纠错编码等。为了便于教学和读者自学，每章后都有本章重点及小结、习题。在内容编排上由浅人深，表述简洁，注重可读性，以最易接受的方式介绍信息理论的基本内容及其应用，既保证理论的完整性及系统性，又注意形成理论研究面向应用的特点。《普通高等教育“十二五”规划教材：信息论理论基础教程》可作为普通高等院校信息科学与信息技术等专业的教材用书，也可作为从事通信、雷达、导航、计算机、系统工程、生物工程、管理工程等相关领域的科研和工程技术人员的参考用书。

　　杜玉华，女，常州工学院电子信息与电气工程学院，主要研究方向为信息处理、通信理论及电子电路。作为主要研发人制作的教学课件获得全国多媒体课件大赛三等奖。在科研方面，参与一项市级科学研究及国家级863项目一项，都已通过鉴定并准予结题。发表5篇科技论文与2教改论文，其中一篇已被EI全文检索。由于教学工作突出2006~2009年度被评为中青年骨干教师。

前言
1信息论概述
1.1信息
1.2信息论
1.3信息论的形成和发展
1.4信息论的主要研究成果
本章重点及小结
2信息的度量
2.1信息量
2.2信息熵
2.3离散集的平均互信息量
本章重点及小结
习题
3离散信源
3.1信源的数学模型及分类
3.2离散无记忆的扩展信源
3.3离散平稳信源
3.4马尔可夫信源
3.5信源的相关性和剩余度
本章重点及小结
习题
4离散信道及其容量
4.1信道的数学模型及其分类
4.2离散无记忆信道
4.3信道的组合
4.4信道容量
4.5信源和信道的匹配
本章重点及小结
习题
5无失真信源编码
5.1编码的定义
5.2定长编码定理
5.3变长码定理
5.4最佳编码
本章重点及小结
习题
6有噪信道编码定理
6.1错误概率和译码规则
6.2错误概率与编码方法
6.3有噪信道编码定理
本章重点及小结
习题
7限失真信源编码
7.1失真测度
7.2信息失真函数
7.3限失真信源编码定理和逆定理
7.4信息率失真的函数的计算
本章重点及小结
习题
8纠错编码
8.1纠错编码的基本概念
8.2纠错编码分类
8.3线性分组码
8.4循环码
本章重点及小结
习题
参考文献