信息論與編碼(第3版)/“十二五”普通高等教育本科規劃教材 9787121277009 電 pdf epub mobi txt 電子書 下載 2025

簡體網頁||繁體網頁

☆☆☆☆☆

陳運，周亮，陳新，陳偉建 著

圖書標籤:

• 信息論
• 編碼學
• 通信原理
• 數字通信
• 信息處理
• 高等教育
• 教材
• 電子工業齣版社
• 9787121277009
• 理論基礎

店鋪： 晚鞦畫月圖書專營店

齣版社： 電子工業齣版社

ISBN：9787121277009

商品編碼：29648217029

包裝：平裝

齣版時間：2015-12-01

基本信息

書名：信息論與編碼(第3版)/“十二五”普通高等教育本科規劃教材

定價：35.90元

作者：陳運,周亮,陳新,陳偉建

齣版社：電子工業齣版社

齣版日期：2015-12-01

ISBN：9787121277009

字數：

頁碼：208

版次：3

裝幀：平裝

開本：16開

商品重量：0.4kg

編輯推薦

---

內容提要

---

本書為“十二五”普通高等教育本科規劃教材。本書係統介紹和論述瞭信息的基本概念；信息論的起源、發展及研究內容；香農信息論的三個基本概念：信源熵、信道容量和信息率失真函數，以及與這三個概念相對應的三個編碼定理；解決通信係統有效性、可靠性和安全性的三類編碼：信源編碼、信道編碼和安全編碼――密碼的基本方法，以及密碼安全性與信息論的關係等內容。為瞭便於教學和讀者自學，每章後麵都附有習題。

目錄

---

第1章 概論t（1）
1．1 信息的概念和分類t（1）
1．1．1 信息的概念t（1）
1．1．2 信息的分類t（4）
1．2 信息論的起源和發展t（4）
1．2．1 信息論創立的理論基礎和
技術條件t（4）
1．2．2 信息論的誕生和發展現狀t（5）
1．2．3 信息論的未來發展趨勢t（6）
1．3 信息論的研究內容t（7）
1．3．1 通信係統模型t（7）
1．3．2 信息論研究內容t（7）
思考題t（8）
第2章 離散信源熵t（9）
2．1 基本概念t（9）
2．2 離散信源熵的基本概念和性質t（9）
2．2．1 單符號離散信源的數學模型t（10）
2．2．2 自信息量及其性質t（10）
2．2．3 信源熵及其性質t（13）
2．3 多符號離散平穩信源熵t（19）
2．3．1 多符號離散平穩信源的
數學模型t（19）
2．3．2 離散平穩無記憶信源熵t（20）
2．3．3 離散平穩有記憶信源熵t（22）
2．3．4 馬爾可夫信源的極限熵t（25）
2．3．5 冗餘度、自然語信源及
信息變差t（29）
習題t（31）
第3章 無失真離散信源編碼t（33）
3．1 基本概念t（33）
3．2 離散無失真信源編碼定理t（33）
3．2．1 定長編碼定理t（34）
3．2．2 變長編碼定理t（35）
3．2．3 碼字可譯條件t（36）
3．3 香農編碼t（38）
3．4 費諾編碼t（39）
3．5 赫夫曼編碼t（40）
3．6 遊程組閤編碼t（44）
習題t（47）
第4章 離散信道容量t（49）
4．1 互信息量和平均互信息量t（49）
4．1．1 單符號離散信道的數學模型t（49）
4．1．2 互信息量及其性質t（49）
4．1．3 平均互信息量及其性質t（52）
4．1．4 各種熵之間的關係t（62）
4．2 單符號離散信道的信道容量t（63）
4．2．1 單符號離散信道容量定義t（63）
4．2．2 幾種特殊離散信道的信道容量t（64）
4．2．3 離散信道容量的一般計算方法t（69）
4．3 多符號離散信道的信道容量t（71）
4．3．1 多符號離散信道的數學模型t（71）
4．3．2 多符號離散信道容量定義t（72）
4．3．3 離散無記憶擴展信道的信道
容量t（73）
4．3．4 獨立並聯信道的信道容量t（75）
4．4 網絡信息論t（76）
4．4．1 多址接入信道的信道容量t（77）
4．4．2 廣播信道的信道容量t（79）
4．4．3 相關信源的邊信息和公信息t（80）
習題t（82）
第5章 糾錯編碼t（85）
5．1 糾錯編碼的基本概念t（85）
5．1．1 差錯控製係統模型及分類t（85）
5．1．2 糾錯編碼分類t（86）
5．1．3 譯碼準則t（87）
5．1．4 信道編碼定理t（88）
5．2 綫性分組碼t（88）
5．2．1 綫性分組碼的基本概念t（88）
5．2．2 綫性分組碼的編碼t（88）
5．2．3 綫性分組碼的譯碼t（89）
5．2．4 典型碼例t（92）
5．3 循環碼t（95）
5．3．1 循環碼的基本概念t（95）
5．3．2 循環碼的描述t（96）
5．3．3 循環碼的伴隨多項式與檢錯t（101）
5．3．4 BCH碼與RS碼t（102）
5．4 捲積碼t（104）
5．4．1 捲積碼的矩陣描述t（104）
5．4．2 捲積碼的多項式描述t（107）
5．4．3 捲積碼的狀態轉移圖與
柵格描述t（109）
5．4．4 維特比(Viterbi)譯碼算法t（112）
習題t（117）
第6章 連續信源熵和信道容量t（121）
6．1 連續信源熵t（121）
6．1．1 連續信源熵的定義t（121）
6．1．2 幾種特殊連續信源的信源熵t（123）
6．1．3 連續信源熵的性質和定理t（125）
6．2 熵功率t（129）
6．3 連續信道的信道容量t（131）
6．3．1 連續信道的數學模型及信道
容量定義t（131）
6．3．2 加性連續信道容量計算和
香農公式t（131）
習題t（133）
第7章 信息率失真函數t（135）
7．1 基本概念t（135）
7．1．1 失真函數與平均失真度t（136）
7．1．2 信息率失真函數的定義t（139）
7．1．3 信息率失真函數的性質t（140）
7．2 離散信源信息率失真函數t（143）
7．2．1 離散信源信息率失真函數的
參量錶達式t（144）
7．2．2 二元及等概率離散信源的信息率
失真函數t（146）
7．3 連續信源信息率失真函數t（150）
7．3．1 連續信源信息率失真函數的
參量錶達式t（150）
7．3．2 高斯信源的信息率失真函數t（151）







7．4 信息價值t（154）
7．5 信道容量與信息率失真
函數的比較t（157）
習題t（157）
第8章 限失真信源編碼t（159）
8．1 基本概念t（159）
8．2 保真度準則下的信源編碼定理t（159）
8．3 量化編碼t（160）
8．3．1 佳標量量化編碼t（160）
8．3．2 矢量量化編碼t（164）
8．4 相關信源編碼t（167）
8．4．1 預測編碼t（167）
8．4．2 差值編碼t（169）
8．5 變換編碼t（172）
8．5．1 子帶編碼t（172）
8．5．2 小波變換t（173）
習題t（175）
第9章 密碼安全性的信息論測度
方法t（177）
9．1 基本知識t（177）
9．1．1 保密通信係統模型t（177）
9．1．2 密碼基本概念t（178）
9．2 密碼算法的安全性測度t（178）
9．2．1 完善保密性t（179）
9．2．2 解距離t（180）
9．3 古典代替密碼的安全性分析t（180）
9．3．1 加法密碼的安全性分析t（181）
9．3．2 乘法密碼的安全性分析t（183）
9．3．3 仿射密碼的安全性分析t（185）
9．4 邊信息泄露的互信息分析t（186）
9．4．1 數據加密標準簡介t（186）
9．4．2 DES算法的邊信道安全性分析t（188）
習題t（191）
參考文獻

作者介紹

---

陳運，電子科技大學通信與信息工程學院教授，主要從事信息論、信息安全等方麵的教學、科研等工作，主持編寫瞭國傢十一五、十二五規劃教材

文摘

---

序言

---

信息論與編碼(第3版) 9787121277009 本書簡介 本書是“十二五”普通高等教育本科規劃教材《信息論與編碼（第3版）》的配套簡介，旨在為讀者全麵、深入地理解信息論與編碼這一核心通信工程領域提供一份詳實的導引。本簡介將從信息論的基礎概念齣發，逐步深入到編碼的原理與技術，最後拓展至其在現代通信係統中的應用，力求展現該學科的理論深度、技術廣度及其對信息時代發展的重要意義。 第一部分：信息論——量化信息，理解本質 信息論，作為一門研究信息傳輸、處理和存儲的數學理論，其核心在於如何精確地度量信息。本書的開篇將帶領讀者踏入這個引人入勝的領域，揭示信息的“量”。 信息量與熵： 我們將從最基本的“比特”（bit）概念入手，理解一個事件發生的概率與其所包含的信息量之間的關係。一個低概率事件的發生，往往攜帶更多的信息。隨後，本書將引入“熵”（Entropy）這一核心概念。熵是衡量一個隨機變量不確定性或信息量的數學期望。它告訴我們，平均而言，要完全確定一個隨機變量的取值，需要多少信息量。理解熵，就如同理解一個信息源的“信息容量”的上限，是信息傳輸和壓縮的基礎。本書將通過清晰的數學推導和生動的實例，闡釋不同概率分布下的熵值變化，以及其在數據壓縮、通信信道容量計算等方麵的關鍵作用。 信源編碼： 信息在傳輸或存儲之前，往往需要進行編碼，以提高效率並減少冗餘。信源編碼的目標是根據信息源的統計特性，用更少的比特來錶示信息，從而實現數據壓縮。本書將深入探討各種信源編碼方法： 變長編碼： 諸如霍夫曼編碼（Huffman Coding）等變長編碼技術，為齣現頻率高的符號分配短的碼字，為齣現頻率低的符號分配長的碼字，從而在整體上達到壓縮的目的。我們將詳細分析霍夫曼編碼的構造過程、最優性證明及其在實際應用中的優勢。 算術編碼： 算術編碼是一種更為先進的信源編碼技術，它將整個消息作為一個整體進行編碼，能夠更有效地利用符號之間的統計相關性，實現更高的壓縮率。本書將詳細解析算術編碼的原理，包括區間劃分、遞歸編碼等關鍵步驟，並與其他編碼方法進行對比分析。 字典編碼： Lempel-Ziv（LZ）係列算法，如LZ77、LZ78以及其後續改進算法（如LZW），是另一類重要的字典編碼方法。它們通過建立一個動態的字典來識彆和編碼重復齣現的字符串，在文本壓縮、圖像壓縮等領域取得瞭巨大成功。本書將深入剖析這些算法的實現機製和性能特點。 第二部分：編碼理論——保證信息的可靠性 在信息傳輸過程中，噪聲和乾擾是不可避免的，它們會導緻信息失真。糾錯編碼（Error Correction Coding, ECC）正是為瞭對抗這些不確定性，確保信息在接收端能夠被正確恢復而誕生的。本書將詳盡介紹糾錯編碼的基本原理和關鍵技術。 信道模型與錯誤概率： 在介紹糾錯編碼之前，本書將首先建立起信息傳輸的數學模型。我們將深入理解各種信道模型，如二元對稱信道（Binary Symmetric Channel, BSC）、高斯白噪聲信道（Additive White Gaussian Noise, AWGN）等，並學會如何計算和分析在這些信道中信息發生錯誤的概率。 綫性分組碼： 綫性分組碼是一類結構簡單、易於實現的糾錯碼。本書將詳細介紹其基本概念，包括碼字、碼重、最小碼距等。 漢明碼（Hamming Code）： 作為最基礎的綫性分組碼之一，漢明碼能夠檢測和糾正一位錯誤，其原理和構造方法將得到清晰的闡述，並探討其在存儲器和短距離通信中的應用。 循環碼（Cyclic Code）： 循環碼是綫性分組碼的一個重要子類，具有優秀的代數結構，便於高效的編碼和譯碼。本書將深入講解生成多項式、校驗多項式等概念，並介紹 BCH 碼（Bose-Chaudhuri-Hocquenghem Code）和裏德-所羅門碼（Reed-Solomon Code）等重要的循環碼族，它們在CD/DVD、衛星通信、數字電視等領域發揮著至關重要的作用。 捲積碼： 與分組碼不同，捲積碼將信息比特序列通過一個滑動窗口進行編碼，生成連續的輸齣比特流。本書將詳細介紹捲積碼的生成矩陣、編碼器結構，並重點講解其核心譯碼算法——維特比算法（Viterbi Algorithm）。維特比算法以其高效性和最佳性能，成為現代通信係統中應用最廣泛的捲積碼譯碼方法。 現代編碼理論： 在經典編碼理論的基礎上，本書還將進一步介紹現代編碼技術，它們在性能和效率上取得瞭突破性的進展： Turbo碼： Turbo碼是第一種能夠接近香農限的編碼技術，其核心思想是采用兩個或多個成分碼，通過迭代譯碼的方式相互“增強”，從而獲得極高的糾錯性能。本書將深入剖析Turbo碼的結構、迭代譯碼的原理及其在3G、4G移動通信中的重要應用。 LDPC碼（Low-Density Parity-Check Code）： LDPC碼也是一種高性能的編碼技術，其譯碼算法基於概率推理，能夠實現優異的糾錯性能。本書將介紹LDPC碼的稀疏校驗矩陣結構、以及其對應的譯碼算法（如消息傳遞算法）。LDPC碼在Wi-Fi、5G通信以及衛星通信等領域扮演著越來越重要的角色。 第三部分：信息論與編碼在通信係統中的應用 信息論和編碼技術並非僅僅是抽象的理論，它們是構建現代信息通信係統的基石。本書將引導讀者理解這些理論是如何轉化為實際應用的。 通信係統的模型： 我們將從宏觀角度審視整個通信係統，瞭解信息源、信源編碼、信道編碼、調製解調、信道以及接收端的整個信息流轉過程。信息論與編碼技術在其中的各個環節都扮演著不可或缺的角色。 信道容量： 根據香農第二定理，任何通信信道都存在一個最大傳輸速率，即信道容量（Channel Capacity）。本書將深入探討如何計算不同信道的信道容量，並理解信道容量的意義——它為信息傳輸設定瞭一個理論上的極限。在信道容量以下的速率下，理論上存在無差錯傳輸的編碼方式；而在高於信道容量的速率下，無差錯傳輸是不可能的。 香農限與實際通信： 本書將重點探討如何利用信息論和編碼技術逼近香農限，實現高效可靠的信息傳輸。我們將分析各種編碼技術在逼近香農限方麵的性能錶現，以及實際通信係統如何權衡編碼復雜度、傳輸速率和糾錯性能。 現代通信技術中的應用： 讀者將瞭解到，信息論與編碼技術已經滲透到我們日常生活中的方方麵麵，包括： 移動通信： 4G、5G等移動通信標準中，Turbo碼、LDPC碼等先進編碼技術是實現高速率、高可靠性通信的關鍵。 衛星通信： 在遠距離、低信噪比的環境下，高效的糾錯編碼是確保數據傳輸完整性的不二之選。 數據存儲： 硬盤、固態硬盤、閃存等存儲介質都采用瞭糾錯編碼技術，以應對存儲單元的老化和損壞，保證數據的長期可靠性。 互聯網與網絡傳輸： 即使在相對可靠的有綫網絡中，差錯控製和數據壓縮技術也為流暢的網絡體驗提供瞭保障。 數字媒體： 音頻、視頻的壓縮和傳輸，如MP3、H.264/H.265等，都離不開信息論中的信源編碼原理。 總結 《信息論與編碼（第3版）》是一本內容詳實、體係完整的教科書。本書的簡介旨在為讀者描繪一幅清晰的學習藍圖，從信息的基本度量、信息的有效壓縮，到對抗信道乾擾的強大編碼技術，再到這些技術在現代通信係統中的廣泛應用，力求讓讀者深刻理解信息論與編碼在塑造我們信息時代中所扮演的關鍵角色。通過學習本書，讀者將能夠掌握紮實的信息論與編碼理論知識，為從事相關領域的科研、工程設計和技術開發奠定堅實的基礎。

評分☆☆☆☆☆

說實話，我買這本書純粹是因為課程要求，最初的期望值並不高，以為又是一本枯燥乏味的理論教材。然而，翻開之後，我立刻被它對“編碼”部分的處理方式所吸引。這本書在談論綫性分組碼、捲積碼以及後來的Turbo碼和LDPC碼時，其邏輯的連貫性和例子的豐富性令人驚嘆。它沒有滿足於僅僅介紹算法步驟，而是深入到代數結構層麵，解釋瞭為什麼這些特定的矩陣和生成多項式能夠産生齣色的糾錯能力。比如，在介紹譯碼算法時，作者非常細緻地對比瞭不同算法的復雜度與性能增益，這一點對於我們進行硬件資源受限下的算法選型至關重要。我甚至發現，書中給齣的幾個小型編解碼器的手算示例，其清晰度甚至超過瞭我導師上課時做的闆書推導。這套教材的嚴謹性，使得它不僅僅是本科生的參考書，對於想係統迴顧和查漏補缺的專業人士來說，也絕對是一本不可多得的工具書。

評分☆☆☆☆☆

我是在準備一個與數據壓縮相關的項目時，纔開始係統性地使用這本《信息論與編碼》。這本書最讓我感到驚喜的是它對最新進展的收錄和整閤，特彆是關於算術編碼和LZW算法的現代應用案例。很多老版本的教材往往停留在早期的霍夫曼編碼階段，但這本書很及時地引入瞭更高效的無失真壓縮方法，並且用非常直觀的例子演示瞭它們如何在實際的圖像和文本文件中工作。此外，書中關於離散信道模型和連續信道模型在信息論處理上的異同點的探討，也讓我對信息傳輸的通用模型有瞭更統一的認識。這本書的價值在於，它不是一個知識點的簡單羅列，而是一部完整且具有生命力的知識體係的呈現。它就像一位經驗豐富、耐心細緻的導師，在你迷茫時指明方嚮，在你遇到睏難時提供清晰的路徑圖，引導你一步步穿過理論的迷霧，最終看到清晰的工程應用前景。

評分☆☆☆☆☆

這本書簡直是為我這種數學基礎還算紮實，但對信息科學的底層邏輯充滿好奇的工程小白量身定做的。我花瞭整整一個周末啃完瞭前三章，最大的感受就是作者的敘述方式非常“有溫度”。他不是那種冷冰冰地堆砌公式，而是總能在關鍵概念齣現之前，用一個生動的小故事或者一個非常貼近生活的應用場景來鋪墊。比如講到香農熵的時候，他沒有直接拋齣那個復雜的對數公式，而是先探討瞭“不確定性”到底意味著什麼，以及為什麼信息量應該和概率成反比。這種循序漸進的講解，讓我這個“公式恐懼癥患者”竟然能沉下心來理解背後的數學原理，而不是簡單地抄寫公式瞭事。尤其是對於那些涉及概率論和離散數學的章節，作者似乎深知讀者的痛點，總會在最容易混淆的地方加入“特彆提醒”或者“深入理解”的小節，這些地方真的幫我避免瞭好幾次掉進概念的陷阱裏。這本書的排版也做得相當齣色，圖錶的清晰度和代碼示例的準確性都體現瞭齣版社的專業水準，這對於需要對照學習的讀者來說，無疑是一大福音。

評分☆☆☆☆☆

我是一名剛剛進入通信行業不久的研究生，手頭上的參考書已經堆得像座小山瞭，但真正能讓我靜下心來反復閱讀的，這本書絕對名列前茅。我特彆欣賞它在“信源編碼”和“信道編碼”之間的邏輯過渡處理。很多教材會把它們割裂開來，讓讀者感覺像是學瞭兩門不相關的課程，但這本書巧妙地將信息論作為統一的理論框架，把壓縮和糾錯視為對信息這同一實體進行不同維度的優化。這種宏觀的視角，極大地提升瞭我對整個通信係統架構的理解深度。我印象最深的是關於“信道容量”的推導部分，作者沒有使用那種讓人眼花繚亂的極限過程，而是通過構建一係列簡化的模型，讓你逐步逼近那個著名的香農公式。這種“化繁為簡”的教學智慧，對於我們這些需要將理論快速應用於實際工程的設計者來說，是至關重要的。它提供的不僅是知識點，更是一種解決復雜問題的思維路徑。

評分☆☆☆☆☆

這本書的優勢在於它的廣度與深度的平衡拿捏得恰到好處。作為一本規劃教材，它必須覆蓋足夠多的基礎內容，但這本書在確保覆蓋麵的同時，並沒有犧牲對核心概念的深度挖掘。我個人對信息安全領域的內容一直很感興趣，這本書中關於“最小均方誤差”和“最大似然譯碼”的討論，雖然是基於經典信息論的框架，但其蘊含的統計決策理論基礎，對於理解現代密碼學中的隨機性檢測和現代信號處理中的估計理論非常有啓發性。作者的語言風格非常剋製和精確，很少有誇張的描述，每一個結論的提齣都有堅實的數學基礎支撐。這迫使讀者必須主動參與思考，而不是被動接受。我經常在讀完一個章節後，會閤上書本，嘗試自己復現書中的關鍵證明，而這本書的結構設計似乎也在鼓勵讀者這樣做。它培養的不是“知識的搬運工”，而是“理論的構建者”。