通道中存在的噪声会在数字通信系统的输入和输出序列之间产生不必要的错误。错误概率应该非常低，对于可靠的通信而言，几乎≤10 ^-6 。

通信系统中的信道编码，通过控制引入了冗余，从而提高了系统的可靠性。源代码编码减少了冗余，从而提高了系统效率。

通道编码由两个部分组成。

• 将输入数据序列映射到通道输入序列。

• 将通道输出序列反向映射到输出数据序列。

最终目标是使通道噪声的整体影响最小。

映射是由发射机在编码器的帮助下完成的，而逆映射是由接收机中的解码器完成的。

通道编码

让我们考虑与熵H(δ)离散无记忆信道(δ)

T _s表示每秒δ给出的符号

通道容量用C表示

频道可每T _C秒使用一次

因此，通道的最大容量为C / T _c

发送的数据= $ \ frac {H(\ delta)} {T_s} $

如果$ \ frac {H(\ delta)} {T_s} \ leq \ frac {C} {T_c} $，则表示传输良好，可以以很小的错误概率进行复制。

在此，$ \ frac {C} {T_c} $是信道容量的临界速率。

如果$ \ frac {H(\ delta)} {T_s} = \ frac {C} {T_c} $，则称系统以临界速率发信号。

相反，如果$ \ frac {H(\ delta)} {T_s}> \ frac {C} {T_c} $，则无法传输。

因此，对于可能在离散的无记忆通道上发生的可靠的无错误消息，传输的最大速率等于通道容量的临界速率。这称为信道编码定理。