信道的
香农极限
（或称香农容量
）指的是在会随机发生误码的信道上进行无差错传输的最大传输速率。它的存在是香农定理在带宽有限的信道上的一个结论。有噪信道编码定理在信息论里，
有噪信道编码定理
指出，尽管噪声会干扰通信信道，但还是有可能在信息传输速率小于信道容量的前提下，以任意低的错误概率传送数据信息。这个令人惊讶的结果，有时候被称为信息原理基本定理
，也叫做香农-哈特利定理
或香农定理
，是由克劳德·艾尔伍德·香农于1948年首次提出。通信信道的信道容量或
香农限制
是指在指定的噪音标准下，信道理论上的最大传输率。根据香农1948年的陈述，本定理描述了在不同级别的噪音干扰和数据损坏情况下，错误监测和纠正可能达到的最高效率。定理没有指出 如何构造错误监测的模型，只是告诉大家 有可能达到的最佳效果。香农定理可以广泛应用在通信和数据存储领域。本定理是现代信息论的基础理论。香农只是提出了证明的大概提纲。1954年，艾米尔·范斯坦第一个提出了严密的论证。
香农定理假设一个有噪音的信道，信道容量为 C，信息以速度 R传送，如果
那么就存在一种编码技术使接收端收到的错误达到任意小的数值。这意味着理论上，有可能无错误地传送信息直到达到速度限制 C。反过来同样重要。如果
那么想达到任意小的错误率是不可能实现的。因此，在传送速度超过信道容量的时候，可靠传输信息是不能被保证的。定理并没有指出在什么特殊情况下速度和容量相等。简单的流程如"重复发送数据3遍，用一个投票系统在数据不一样的时候选择3个里面相同的那两个的值"是低效的错误纠正的方式，不能保证数据块能完全没有错误地传送。先进一些的技术如里德-所罗门码编码技术和更现代一些的Turbo码、LDPC码等编码技术更逼近香农限制，但是计算复杂度很高。
理想加白噪声情况下香农限考虑数据率、噪声以及误码率的关系。噪声的存在会破坏一个或多个比特。假如数据率增加，那么这些比特会变短，因而给定的噪声模式会影响更多个比特。于是，给定一个噪声值，数据率越高则误码率也越高。所有的这些概念可以通过香农公式清楚联系在一起，此公式由数学家
克劳德·艾尔伍德·香农
(Claude Elwood Shannon，1916-2001）推导得出的。如刚才所描绘的，数据率越高，无用的噪声会带来更严重的破坏。在噪声存在的情况下，给点一个噪声值，我们能够通过提高信号强度来提高正确接收数据的能力。在这一推导过程中涉及的主要参数是信噪比(SNR或
)，它是指在传输过程中某一点的信号功率与噪声包含功率之比。通常信噪比在接收器处测量，因为正是在这里我们试图处理信号并消除无用噪声。为了使用方便，这个比率通常用分贝表示它表示有用信号超出噪声值的量，以分贝为单位。SNR的值越高，表示信号的质量越好，所需中间转发器的数量越少。信噪比对数字数据传输十分重要，因为它限定了一个可达到的数据率上限。香农得出的结果是，用bps来表示的信道的最大容量遵从等式
C是以比特/秒为单位的信道容量，净比特率的理论上限（信息速率，有时表示为I），不包括纠错码;B是带宽的信道的在赫兹（通带中的带通信号的情况下的带宽）;
S是以瓦（或伏平方）测量的带宽上的平均接收信号功率（在载波调制通带传输的情况下，通常表示为C）;
N是噪声和带宽上的干扰的平均功率，以瓦（或伏特平方）为单位测量;
是通信信号对接收机噪声和干扰的信噪比（SNR）或载波噪声比（CNR）（表示为线性功率比，而不是对数分贝 。香农公式显示出理论上可达到的最大值。然而在实际应用中能够达到的速率要低得多。其中一个原因是该公式假定噪声为白噪声(热噪声)，既没有考虑到冲激噪声，也没有考虑衰减和时延失真。即使在理想白噪声情况下，因为编码的原因(如编码长度和复杂性等)，目前的技术仍然无法达到香农容量。
香农公式中提到的容量为无误码容量。经香农证明，假如信道上的实际信息率比无误码容量低，从理论上来说，通过适当的信息编码，信道就有可能达到无误码容量。遗憾的是，香农的理论并没有给出如何找到这种编码的方法，但提供了一个用来衡量实际通信机制性能的计算标准。
通过香农公式我们可以考虑如何将信道容量上限提高。假如噪声值给定，那么似乎通过增加信号强度或带宽就能提高数据率；但是，如果信号强度增加了，则系统的非线性程度也会提高，这就导致互调噪声的增加。还有一点需要注意，由于假定噪声是白噪声，那么带宽越宽，因此系统容纳的噪声也就越多，因此随着B的增加SNR反而降低了。
当
，或 时 。但是当
时，将趋向何值？令
，上式可以改写为：利用关系式：
上式变为：
上式表明，当给定
时，若带宽B趋于无穷大，信道容量不会趋于无限大，而只是 的1.44倍。这是因为当带宽B增大时，噪声功率也随之增大。
和带宽B的关系曲线：香农极限
上式还可以改写成如下形式：
式中
——每比特能量——每比特持续时间上式表明，为了得到给定的信道容量
，可以增大带宽B以换取 的减小；另一方面，在接收功率受 限的情况下，由于，可以增大 以减小S来保持 和 不变。香农定理与香农限香农定理概述在信息理论中，噪声信道编码定理（有时是香农定理）确定了对于通信信道的任何给定程度的噪声污染，可以将几乎无错误的离散数据（数字信息）传送到可计算的最大值通过渠道率。这个结果由克劳德·香农在1948年提出，部分原因是早期的工作和哈里·奈奎斯特（Harry Nyquist）和拉尔夫·哈特利（Ralph Hartley）的观点。
香农定理指出，给定具有信道容量C和以速率R发送的信息的噪声信道，则
存在码，其允许误差的概率，以做得任意小，在接收器处。这意味着理论上可以以低于限制速率C的速度将信息几乎无差错地发送出去。相反也是重要的。如果 R>C，任意小的错误概率是无法实现的。所有代码将具有大于某个正极小水平的误差概率，并且该水平随着速率的增加而增加。因此，不能保证通过信道容量以外的速率可靠地传输信息。定理没有解决速度和能力相等的罕见情况。
信道容量C可以根据信道的物理性质来计算;
数学概述香农极限
对于每个离散的无记忆通道，通道容量1.
对于每个离散的无记忆通道，通道容量
具有以下属性。对于任何且，对于足够大，存在的长度的代码和速率和解码算法，使得块差错的最大概率。2.如果位错误
的概率是可以接受的R()的速率，其中和
是二进制熵函数对于任何
，大于的速率是不可实现的。（MacKay（2003），第162页; cf Gallager（1968），ch.5; Cover和Thomas（1991），第198页; Shannon（1948）11页）
香农哈特利定律概述在信息论中，香农极限告诉在该信息可以通过一个特定带宽的存在特定噪声的通信信道数据被发送的最大速率。这是噪声信道编码定理在受到高斯噪声的连续时间、模拟通信信道的原型情况下的应用。该定理建立了对这种通信链路的信道香农限，限制了在存在噪声干扰的情况下可以以指定带宽发送的每个时间单位的无错误信息的最大量，假设信号功率是有界的，并且高斯噪声过程的特征在于已知功率或功率谱密度。定理以Claude Shannon和Ralph Hartley命名。
香农 - 哈特利定理陈述了通道容量C，这意味着可以使用平均接收信号功率S通过经过加性白高斯的模拟通信通道以任意低的错误率传送的数据的信息速率的理论上的最上限电源噪声N：
奈奎斯特率在1927年，奈奎斯特认为每单位时间可以通过电报通道的独立脉冲数量被限制在通道带宽的两倍。在符号中,
其中 是脉冲频率（以每秒脉冲数计）， B是带宽（赫兹）。数量2 B后来被称为奈奎斯特速率，并以每秒2个 B脉冲的限制脉冲速率以奈奎斯特率发送信号。奈奎斯特在1928年发表他的研究成果，作为他的论文“电讯传播理论中的某些话题”的一部分。哈特利定律1928年，哈特利制定了一种量化信息和线路速率（也称为数据信令速率 R比特每秒）的方法。这种方法，后来被称为哈特利定律，成为香农更加复杂的通道容量概念的重要前身。
哈特利认为，可以通过通信信道可靠地发送和接收的可区分脉冲电平的最大数量受到信号幅度的动态范围和接收机能够区分振幅电平的精度的限制。具体地说，如果发送信号的幅度被限制在
伏的范围内，并且接收机的精度为伏特，则不同脉冲M的最大数量由通过以比特/脉冲中的每个脉冲获取信息作为可以发送的不同消息M的数量的基2-对数，Hartley构建了线速率R的度量：
,其中
是脉冲速率，也称为符号速率，以符号/秒或波特率表示。然后，哈特利将上述量化与奈奎斯特的观察结合起来，可以通过带宽B 赫兹通道的独立脉冲数为每秒2B脉冲，以达到其可实现线速率的定量测量。
哈特利定律有时引述只是模拟带宽，B，以Hz为单位，和今天被称为数字带宽的R ，以比特/秒为单位之间的比例。其他时候，以这种更定量的形式引用，作为每秒可用的R比特率：
哈特利没有确切地知道数字M应如何依赖于信道的噪声统计，或者即使单个符号脉冲不能可靠地区分为M个等级，通信如何可靠地生成; 利用高斯噪声统计，系统设计人员必须选择非常保守的M值来实现低错误率。哈特利的速率结果可以被看作是一个无差错的能力中号的2个进制信道B每秒符号。有些作者将其称为容量。但是这样一个无误的信道是一个理想化的方式，如果选择M小到足以使噪声信道几乎无误，结果必然小于带宽B的噪声信道的香农容量，这是随后的香农哈特利定律结果后来。
哈特利定律与香农限的关系将信道容量与哈特利定律的信息比率进行比较，我们可以找到有效数量的可区分级别M：
平方根有效地将功率比转换回电压比，因此电平数量几乎与信号RMS幅度与噪声标准偏差之比成正比。香农限与哈特利定律之间形式的相似性不应该被解释为意味着M脉冲水平可以毫无混乱地被发送; 需要更多的级别，以允许冗余编码和纠错，但是可以用编码处理的净数据速率等同于使用哈特利定律中的M。
可替代形式频率依赖（彩色噪声）情况
在上面的简单版本中，信号和噪声完全不相关，在这种情况下，S + N是接收信号和噪声的总功率。通过对多个窄独立的高斯信道并行处理信道，获得加性噪声不是白色（或
在带宽上的频率不恒定）的情况下的上述等式的推广，C是以比特/秒为单位的信道容量 ;B是信道的带宽，单位为Hz;
S（f）是信号功率谱
N（f）是噪声功率谱
f是以Hz为单位的频率。
注意
：该定理仅适用于高斯稳定过程噪声。该公式引入频率相关噪声的方法不能描述所有的连续时间噪声过程。例如，考虑噪声过程，其包括在任何时间点加上振幅为1或-1的随机波，以及将这样的波加到源信号上的信道。这样的波的频率分量是高度依赖的。虽然这样的噪声可能具有高功率，但是如果底层噪声是每个频带中的独立噪声之和，则传输比所需要的功率少得多的连续信号是相当容易的。近似
对于大或小且恒定的信噪比，容量公式(香农公式)可以近似为：
如果
>>1，那么1.
如果
>>1，那么这里2. 同理，如果 <在这种低SNR近似中，如果噪声为白色，则光谱密度的容量与带宽无关
瓦特/赫兹，在这种情况下，总 噪声功率是
。
非静止记忆信道的信道容量假设通道是无记忆的，但是其转换概率随时间而变化，以发射机和接收机已知的方式。然后通道容量由
在每个相应通道的容量达到分配的情况下达到最大值。也就是，这里
代表第i个信道的容量。各种编码对于接近香农限的程度诸如“发送消息3次并且如果副本不同则使用最佳2投票方案”这样的简单方案是无效率的纠错方法，不能够渐近地保证一个数据块可以毫无差错地传达。诸如Reed-Solomon码的高级技术，以及最近的低密度奇偶校验（LDPC）码和turbo码更接近于达到理论香农限制，但是以高的计算复杂度为代价。使用这些高效率的代码和当今数字信号处理器的计算能力，现在可以达到非常接近香农限额。实际上，已经表明，LDPC码可以达到香农极限的0.0045dB（对于二进制AWGN信道，具有非常长的块长度）。
土耳其毕尔肯大学教授Erdal Arikan于2009年正式提出的新型编码方案——极化码（polar code），是目前唯一一个在理论上已经被证明可以到达香农限的方案。
