アナログ通信路容量     Analog channel capacity Metric of information

無記憶アナログ情報源のエントロピーでは、振幅値が連続分布するときのエントロピーを定義しましたが、そこでは量子化にともなう不明な項が残っていました。 しかし、その不明な項は、通信路容量相互情報量においては解消され、そしてディジタル通信の最高速度と物理的意味が符合することを説明します。

まずは、量子化の要因をできるだけ残しながら通信路容量の計算をしてみましょう。 振幅の分布を とし、量子化幅を とし、量子化区間の代表値を で表すと、エントロピーは近似的に次のようになります。

この情報源に、AWGN(白色ガウス雑音:Additive White Gaussian Noise)が加わって受信される信号を で表すと、通信路容量は

で与えられます。 これを具体的に計算してみます。 ガウス雑音 の分布を 、受信信号の分布を で表します。 右辺の第1項は、

ですが、送信信号と雑音が独立として、次のようにコンボリューションで与えられます。

これを、式(3)に代入して、


 

が得られます。 一方、第2項は、 が確率ならば

ですが、量子化幅を考慮して書くと、


のようになって、式(5)と式(7)の最後の項が共通になり、式(5)−式(7)は

となり、量子化のバイアス成分が除かれました。 結局、積分表現は

のようになります。 この結果から、信号 もガウス分布に従うとき、信号と雑音の電力をそれぞれ  とすると、

が簡単に導かれます。 ディジタル通信では、信号を一様分布に従うとするケースも多いので、この場合については、上の積分を数値計算しなければなりません。 とにかく、数値計算をして、両者のグラフを描いてみましょう。 赤がガウス分布、紫が一様分布のカーブですが、大差がないことがわかります。 横軸は 、縦軸の単位は " bit/sample " を表しています。

上の図で、20dBで4ビット程度(16レベル/シンボル)を示していますが、ディジタル通信の最高速度のページで示した実際的な図を参照すると数値的に良くあっていることがわかります。 そのグラフを下に引用します。 20dBは一番下のカーブですが、B=4ビットの位置で最大になっています。