信息论与编码（第3版）（本科教材） 陈运,周亮,陈新,陈伟建 9787121277009 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

陈运，周亮，陈新，陈伟建 著

图书标签:

• 信息论
• 编码学
• 通信原理
• 本科教材
• 信号处理
• 数字通信
• 概率论
• 数学基础
• 高等教育
• 陈运

店铺： 北京十翼图书专营店

出版社： 电子工业出版社

ISBN：9787121277009

商品编码：29651925636

包装：平装

出版时间：2015-12-01

基本信息

书名:信息论与编码（第3版）（本科教材）

定价：35.90元

售价：21.5元,便宜14.4元,折扣59

作者:陈运,周亮,陈新,陈伟建

出版社：电子工业出版社

出版日期：2015-12-01

ISBN：9787121277009

字数：

页码：208

版次：3

装帧：平装

开本：16开

商品重量：0.4kg

编辑推荐

---

内容提要

---

本书为“十二五”普通高等教育本科规划教材。本书系统介绍和论述了信息的基本概念；信息论的起源、发展及研究内容；香农信息论的三个基本概念：信源熵、信道容量和信息率失真函数，以及与这三个概念相对应的三个编码定理；解决通信系统有效性、可靠性和安全性的三类编码：信源编码、信道编码和安全编码――密码的基本方法，以及密码安全性与信息论的关系等内容。为了便于教学和读者自学，每章后面都附有习题。

目录

---

章 概论t（1）
1．1 信息的概念和分类t（1）
1．1．1 信息的概念t（1）
1．1．2 信息的分类t（4）
1．2 信息论的起源和发展t（4）
1．2．1 信息论创立的理论基础和
技术条件t（4）
1．2．2 信息论的诞生和发展现状t（5）
1．2．3 信息论的未来发展趋势t（6）
1．3 信息论的研究内容t（7）
1．3．1 通信系统模型t（7）
1．3．2 信息论研究内容t（7）
思考题t（8）
第2章 离散信源熵t（9）
2．1 基本概念t（9）
2．2 离散信源熵的基本概念和性质t（9）
2．2．1 单符号离散信源的数学模型t（10）
2．2．2 自信息量及其性质t（10）
2．2．3 信源熵及其性质t（13）
2．3 多符号离散平稳信源熵t（19）
2．3．1 多符号离散平稳信源的
数学模型t（19）
2．3．2 离散平稳无记忆信源熵t（20）
2．3．3 离散平稳有记忆信源熵t（22）
2．3．4 马尔可夫信源的极限熵t（25）
2．3．5 冗余度、自然语信源及
信息变差t（29）
习题t（31）
第3章 无失真离散信源编码t（33）
3．1 基本概念t（33）
3．2 离散无失真信源编码定理t（33）
3．2．1 定长编码定理t（34）
3．2．2 变长编码定理t（35）
3．2．3 码字可译条件t（36）
3．3 香农编码t（38）
3．4 费诺编码t（39）
3．5 赫夫曼编码t（40）
3．6 游程组合编码t（44）
习题t（47）
第4章 离散信道容量t（49）
4．1 互信息量和平均互信息量t（49）
4．1．1 单符号离散信道的数学模型t（49）
4．1．2 互信息量及其性质t（49）
4．1．3 平均互信息量及其性质t（52）
4．1．4 各种熵之间的关系t（62）
4．2 单符号离散信道的信道容量t（63）
4．2．1 单符号离散信道容量定义t（63）
4．2．2 几种特殊离散信道的信道容量t（64）
4．2．3 离散信道容量的一般计算方法t（69）
4．3 多符号离散信道的信道容量t（71）
4．3．1 多符号离散信道的数学模型t（71）
4．3．2 多符号离散信道容量定义t（72）
4．3．3 离散无记忆扩展信道的信道
容量t（73）
4．3．4 独立并联信道的信道容量t（75）
4．4 网络信息论t（76）
4．4．1 多址接入信道的信道容量t（77）
4．4．2 广播信道的信道容量t（79）
4．4．3 相关信源的边信息和公信息t（80）
习题t（82）
第5章 纠错编码t（85）
5．1 纠错编码的基本概念t（85）
5．1．1 差错控制系统模型及分类t（85）
5．1．2 纠错编码分类t（86）
5．1．3 译码准则t（87）
5．1．4 信道编码定理t（88）
5．2 线性分组码t（88）
5．2．1 线性分组码的基本概念t（88）
5．2．2 线性分组码的编码t（88）
5．2．3 线性分组码的译码t（89）
5．2．4 典型码例t（92）
5．3 循环码t（95）
5．3．1 循环码的基本概念t（95）
5．3．2 循环码的描述t（96）
5．3．3 循环码的伴随多项式与检错t（101）
5．3．4 BCH码与RS码t（102）
5．4 卷积码t（104）
5．4．1 卷积码的矩阵描述t（104）
5．4．2 卷积码的多项式描述t（107）
5．4．3 卷积码的状态转移图与
栅格描述t（109）
5．4．4 维特比(Viterbi)译码算法t（112）
习题t（117）
第6章 连续信源熵和信道容量t（121）
6．1 连续信源熵t（121）
6．1．1 连续信源熵的定义t（121）
6．1．2 几种特殊连续信源的信源熵t（123）
6．1．3 连续信源熵的性质和定理t（125）
6．2 熵功率t（129）
6．3 连续信道的信道容量t（131）
6．3．1 连续信道的数学模型及信道
容量定义t（131）
6．3．2 加性连续信道容量计算和
香农公式t（131）
习题t（133）
第7章 信息率失真函数t（135）
7．1 基本概念t（135）
7．1．1 失真函数与平均失真度t（136）
7．1．2 信息率失真函数的定义t（139）
7．1．3 信息率失真函数的性质t（140）
7．2 离散信源信息率失真函数t（143）
7．2．1 离散信源信息率失真函数的
参量表达式t（144）
7．2．2 二元及等概率离散信源的信息率
失真函数t（146）
7．3 连续信源信息率失真函数t（150）
7．3．1 连续信源信息率失真函数的
参量表达式t（150）
7．3．2 高斯信源的信息率失真函数t（151）







7．4 信息价值t（154）
7．5 信道容量与信息率失真
函数的比较t（157）
习题t（157）
第8章 限失真信源编码t（159）
8．1 基本概念t（159）
8．2 保真度准则下的信源编码定理t（159）
8．3 量化编码t（160）
8．3．1 佳标量量化编码t（160）
8．3．2 矢量量化编码t（164）
8．4 相关信源编码t（167）
8．4．1 预测编码t（167）
8．4．2 差值编码t（169）
8．5 变换编码t（172）
8．5．1 子带编码t（172）
8．5．2 小波变换t（173）
习题t（175）
第9章 密码安全性的信息论测度
方法t（177）
9．1 基本知识t（177）
9．1．1 保密通信系统模型t（177）
9．1．2 密码基本概念t（178）
9．2 密码算法的安全性测度t（178）
9．2．1 完善保密性t（179）
9．2．2 解距离t（180）
9．3 古典代替密码的安全性分析t（180）
9．3．1 加法密码的安全性分析t（181）
9．3．2 乘法密码的安全性分析t（183）
9．3．3 仿射密码的安全性分析t（185）
9．4 边信息泄露的互信息分析t（186）
9．4．1 数据加密标准简介t（186）
9．4．2 DES算法的边信道安全性分析t（188）
习题t（191）
参考文献

作者介绍

---

陈运，电子科技大学通信与信息工程学院教授，主要从事信息论、信息安全等方面的教学、科研等工作，主持编写了国家十一五、十二五规划教材

文摘

---

序言

---

信号的奥秘与信息的传递：一本关于信息论与编码的探索之旅 在人类文明的长河中，信息如同血液般流淌，维系着社会的运转和个体的认知。从远古的烽火狼烟到如今的比特洪流，我们从未停止过对信息本质的探索和对信息传递效率的追求。本书正是这样一次深入信息世界核心的旅程，它将带领读者穿越抽象的数学世界，去理解信息是如何被定义、度量、编码、压缩，并最终被可靠地传输。 第一章：信息度量的基石——信息熵 一切的起点，是对“信息”这个概念的精确定义。我们常常笼统地说“这个消息很有信息量”，但信息的“量”究竟如何衡量？信息论的奠基人克劳德·香农给出了一个革命性的答案——信息熵。本章将深入浅出地介绍信息熵的概念，它并非我们日常理解的混乱无序，而是在概率论框架下，衡量一个随机变量不确定性程度的指标。一个事件发生的概率越低，其包含的信息量就越大。我们将学习如何计算离散信源的熵，理解熵的性质，例如非负性、累加性以及最大值。此外，我们还会探讨联合熵、条件熵和互信息的概念，这些工具将帮助我们理解多个随机变量之间的信息关系，为后续章节打下坚实的理论基础。本章的讲解将辅以丰富的例子，从抛硬币到自然语言的统计特性，让读者直观感受信息熵的魅力。 第二章：通信的瓶颈——信道容量 信息的价值在于传递。然而，现实中的通信通道并非完美无瑕，噪声的干扰、信号的衰减，都可能导致信息失真。那么，一个信道能够可靠地传输信息的最大速率是多少？这便是信道容量的核心问题。本章将引出香农的第二大贡献——信道容量定理。我们将学习如何定义不同类型的信道，例如离散无记忆信道（DMC）、连续信道等。重点将放在理解离散无记忆信道的信道容量计算，以及如何利用最大似然译码和最大后验概率（MAP）译码等基本概念来理解通信的极限。我们还会探讨高斯白噪声信道（AWGN）等连续信道的容量，并讨论带宽、信噪比等参数对信道容量的影响。通过本章的学习，读者将深刻理解通信系统的理论极限，并认识到高效编码的必要性。 第三章：压缩的艺术——数据压缩理论 在信息爆炸的时代，存储和传输数据的成本日益高昂。如何用最少的比特来表示相同的信息，是数据压缩技术的核心目标。本章将聚焦于数据压缩的理论基础，深入探讨无损压缩和有损压缩的基本原理。我们将学习变长编码（VLC）的概念，理解霍夫曼编码（Huffman Coding）如何根据符号出现的频率构造最优的前缀码，实现高效压缩。此外，还会介绍算术编码（Arithmetic Coding），它能够更接近理论熵值，达到更高的压缩率。对于有损压缩，我们将触及一些基本概念，例如量化和变换编码，理解它们如何通过牺牲部分信息来换取显著的压缩增益，并探讨它们在图像、音频等领域的应用。通过本章，读者将理解数据压缩的深层原理，并为理解各种压缩算法打下坚实的理论基础。 第四章：纠错的智慧——纠错编码基础 通信信道中的噪声和干扰是不可避免的，它们会导致信息在传输过程中发生错误。为了保证信息的可靠传输，纠错编码技术应运而生。本章将系统介绍纠错编码的基本概念和分类。我们将学习线性分组码（Linear Block Codes）的原理，包括码多项式、生成矩阵和校验矩阵的概念，以及如何使用它们进行编码和译码。重点将讲解汉明码（Hamming Codes）等经典线性分组码，理解它们的纠错能力和构造方法。此外，我们还会初步介绍卷积码（Convolutional Codes）的概念，了解其编码方式和基本译码算法。本章旨在让读者掌握纠错编码的基本原理，理解编码和译码的过程，并为后续章节中更复杂的编码技术做好铺垫。 第五章：现代编码的脉络——代数码 随着对纠错性能要求的不断提高，传统的线性分组码在纠错能力上有所局限。代数码的出现，极大地拓展了纠错编码的疆域。本章将深入探讨代数码的理论与实践。我们将详细讲解循环码（Cyclic Codes）的性质，以及如何利用多项式运算来设计和译码循环码。在此基础上，我们将重点介绍BCH码（Bose-Chaudhuri-Hocquenghem Codes）和里德-所罗门码（Reed-Solomon Codes），它们是应用最为广泛的两种代数码。我们将深入理解BCH码和RS码的纠错原理，学习它们的编码和译码算法，例如代数译码法。本章的讲解将侧重于理论推导和算法分析，使读者能够深入理解这些强大的纠错码的内部工作机制。 第六章：迭代译码的革命——Turbo码与LDPC码 在信息通信领域，Turbo码和LDPC码（Low-Density Parity-Check Codes）无疑是近三十年来最重大的突破之一。它们以其接近香农限的优异性能，彻底改变了通信系统的设计理念。本章将详细阐述Turbo码和LDPC码的编码结构、译码原理和性能分析。我们将深入理解Turbo码的交织（Interleaving）和迭代译码机制，揭示它如何通过多个译码阶段逐步逼近原始信息。对于LDPC码，我们将学习其稀疏校验矩阵的构造方法，以及高斯消元法和消息传递算法（Belief Propagation）等译码算法。本章的重点在于理解这两个码族为何能够取得如此卓越的纠错性能，以及它们在现代通信系统中的关键作用。 第七章：信息理论在实践中的延伸 信息论与编码的理论不仅仅是抽象的数学模型，它们在现实世界中有着广泛而深刻的应用。本章将从更宏观的视角，探讨信息论与编码在不同领域的实际应用。我们将讨论这些理论如何指导和推动了现代通信系统的发展，例如移动通信（2G、3G、4G、5G）、卫星通信、光纤通信等。我们还会涉及信息论在数据存储、密码学、机器学习、生物信息学等交叉领域的应用，展现信息论与编码作为一门基础科学的强大生命力和普适性。通过本章，读者将能够将所学的理论知识与实际应用联系起来，深刻认识信息论与编码在现代科技发展中的重要地位。 本书以严谨的数学推导为基础，辅以丰富的实例和图示，力求为读者构建一个全面、深入、系统的知识体系。从信息熵的定义到迭代译码的奥秘，从数据压缩的艺术到纠错编码的智慧，我们将一步步揭开信息世界的神秘面纱，理解信息是如何被创造、度量、加工和可靠地传递。无论你是通信工程、计算机科学，还是电子工程领域的学生，亦或是对信息科学充满好奇的探索者，本书都将是你不可或缺的指引。通过本书的学习，你将能够深刻理解现代通信系统的基本原理，掌握数据处理和信息传输的核心技术，为未来的学习和研究打下坚实的基础。

评分☆☆☆☆☆

初次翻阅时，最直观的感受是其章节结构的逻辑性极强，编排得井井有条，仿佛一条清晰的脉络引领着读者从基础概念逐步走向复杂的理论体系。作者显然在内容组织上花费了大量心血，使得即便是初次接触该领域的新手，也能相对顺畅地跟上思路的推进。每一章的开始都会有一个简明的概述，帮助读者建立宏观认识，随后深入到具体的数学推导和实际应用案例中。这种层层递进的讲解方式，极大地降低了初学者的学习门槛。特别是某些关键定理的引入，作者的处理方式非常巧妙，既保证了数学上的严谨性，又不失教学上的可理解性，让人感到学习过程是一种循序渐进的享受，而非艰涩的爬坡。

评分☆☆☆☆☆

这本书的语言风格成熟稳重，充满了老一辈学者特有的那种对知识的尊重和严谨态度。它不追求华丽的辞藻，而是用精准、凝练的数学语言来表述复杂的概念。阅读过程中，我深切体会到作者在力求用最少的文字传达最丰富的信息量。这种风格对于已经具备一定基础的读者来说，简直是福音，因为它避免了冗余的解释和过度的口语化，可以直接接触到核心的理论精髓。然而，对于完全没有背景的读者来说，可能需要投入更多的精力去消化那些密集的公式和定义。但正是这种毫不妥协的专业性，让这本书成为了一个可靠的参考工具，一旦掌握，其价值将是长久的。

评分☆☆☆☆☆

细节之处见真章，这本书在示例和习题的编排上也体现了极高的水准。不同于市面上一些只给出理论却缺乏实践支撑的教材，此书在关键章节后都附带了足够数量且类型多样的练习题。这些习题的设计非常有针对性，它们不仅仅是简单重复概念的应用，更多地是在考察读者对理论的理解深度和灵活运用能力。更值得称赞的是，它似乎还穿插了一些历史背景或者前沿研究的简要介绍，这些“花边”信息虽然不占主体篇幅，却极大地丰富了阅读体验，让原本枯燥的理论学习多了一丝探索的乐趣，仿佛在知识的海洋中发现了一些隐藏的宝藏。

评分☆☆☆☆☆

这本书的装帧设计相当朴实，封面色彩搭配略显传统，但字体的选择清晰易读，给人一种严谨的学术气息。拿到手上分量十足，厚厚的篇幅预示着内容的详实和深入。内页纸张质感不错，印刷清晰，墨迹均匀，长时间阅读下来眼睛不易疲劳。整体来看，它更像是一本教科书的典范，强调内容的实用性和知识的系统性，而非过度追求花哨的视觉效果。尽管如此，翻开书本后，那种沉甸甸的知识感和内容的专业性还是让人对其内容充满了期待。对于严肃的学习者来说，这种内敛的外观恰恰是专业深度的体现，让人感到这不仅仅是一本书，更像是一份值得信赖的学习伙伴。

评分☆☆☆☆☆

总体而言，这是一部分量扎实、内容权威的专业读物。它的气质与那些追求快速入门或速成指南的图书截然不同，它更像是一部需要沉下心来细细品读的经典。合上书本时，读者能清晰地感受到自己的知识体系得到了极大的扩充和巩固。它不是那种读完一遍就可以束之高阁的书籍，而是那种需要反复查阅、边用边学的工具书和参考典籍。对于致力于深入理解该领域底层逻辑的研究者或高年级学生而言，它无疑提供了一个坚实可靠的知识基石，其价值和深度是毋庸置疑的。