ディジタル伝送の物理層の最終評価は誤り率で決まります。　物理的なシンボル値の判定は、大変基本的なことなので、正確に把握しておく必要があります。

”シンボル”は、物理的な電圧に対応した値を指します。　たとえば、８値シンボル（３ビット）がパルス電圧値、 ボルトのどれかに対応するといったように。　この物理的なシンボルを （ は時刻）で表すことにします。　 を次々と送信すると、いろいろな伝送障害を受けて受信されますが、まずは、

この信号を等間隔にサンプルして、
サンプルごとに、
最も近いシンボル値 を判定する。
このとき、 となる頻度がシンボル誤り率を与える。

と考えてみます。　でも、実際の受信のプロセスは次のようなものです。

シンボルが次々と送信される
＝＞ そのパルス列（一定の長さのブロック）を受信する
＝＞ 一般的に、有色雑音が乗っている
＝＞ チャンネル歪もある
＝＞ 受信信号は適当な時間位相でサンプルされる
＝＞ そのサンプル値列を最適な方法で判定したい。
 

このプロセスをイメージすると、

『サンプルごとに判定する』というのは、ちょっと単純過ぎる

ことに気づきますね。　実は、

『系列として判定する』ことが常套的なのです。

では、そのような誤り確率を最小にする判定法をどうやって設計するのか？

腰を据えて、具体的に考えないとダメみたいですね。　上のプロセスで、『受信信号を適当な時間位相でサンプルした結果』が次のように表わせるとします。

ここで、送信シンボル系列 はランダム、 はチャンネルの歪み応答 をシンボルの送信周期 ()でサンプルしたもの、 は加法的白色ガウス雑音 ( Additive White Gaussian Noise:: AWGN ) としておきます。　もし、 がナイキスト条件を満たしていて、サンプリング時刻が理想的に のとき、, () なので、上の式は

となり、『シンボルごとに判定する』が正解です。　しかし、実際には、チャンネル歪みによって、ナイキスト条件は満されないので、式（１）を前提に、『系列として判定すること』を考えなければなりません。

理解を容易にするため、先ず、『シンボルごとに判定する』場合（スカラーのケース）について説明します。この結果から、ベクトルのケースへ拡張は簡単です。

送信レベルを 、 判定結果を で表します。　誤りは、 が起きることですから、誤り率は、これが起きる同時確率の総和

になります。　また、正答率は、 となる同時確率の総和

です。　いま、受信者は送信レベル を知らないので、目的は

受信信号 から、正答率（４）を最大にするように を判定すること

といえます。　判定結果 を、もっとも高い確率で に一致させることと、事後確率 を最大にする を選ぶことは同義ですから、最適判定は

を満たすレベルを選択することになります。

実際には、事後確率のテーブルを予め作っておきますが、それはベイズの公式から次の式で計算できます。　 は連続分布する受信信号ですが、適当に量子化しておきます。　条件付確率 は、予め数式で与えられるか、または多くの実験データから得られるものとします。

雑音がＡＷＧＮのときは、

で計算します。　 は雑音電力です。　実際には、受信信号  は固定されているので、式（６）あるいは（７）の分母 は不要です。　以上のような判定法を最大事後確率判定法 (Maximum Aposteriory Probability detection : MAP ) と呼んでいます。

注１：一般的に加法的”有色”ガウス雑音としたＭＡＰの原理は最大事後確率判定法を参照。

もし送信レベルが等確率ならば、 は判定に無関係なので、用意するテープルは条件付確率

だけで済みます。　これは、条件付確率の結果を固定し、原因を変数としてサーチしています。　このような関数を尤（ユウ）度関数 (liklihood function ) と呼んでいます。　そして、この判定法を最尤（ユウ）判定法 (Maximum Likelihood Detection: ML ) と呼んでいます。　さらに、式（８）の最大化は

と同じですから、テーブルを用意しないで、単に受信信号に一番近いレベルを、シンボルごとに判定すれば済むことになります。

注２：　ほとんどのディジタル通信では、スクランブラーによってレベル値はランダム化され、等確率を前提にできます。

注３：　無線通信や金属線通信などの設計ではＡＷＧＮを前提としていますが、光ファイバー通信では、雑音は光の強度に応じて変化するのでＡＷＧＮは仮定できません。

上で述べたスカラーの判定を多次元へ拡張することは（式（１）へ拡張することは）簡単です。実際の通信では、非常に長いシンボルが送信されるとして、系列推定を実行します。その長さ のシンボル系列をベクトル 、AWGN系列をベクトル で表すと、受信信号ベクトルは次のようになります。

この場合、条件付確率は

と書けますが、上で述べたように、単に

によって系列 を判定すれば済みます。　ここで、チャンネル応答 ( ) を既知としています。　ただし、この判定は 個のすべての候補について実行しなければなりません。判定器の概念図を下に示します。候補系列を整合フィルターに通した結果と受信系列の差が最小になる候補系列を選択することになります。　このような判定を、最尤系列推定 (Maximum Likelihood Sequence Estimation: MLSE ) と呼んでいます。　単純な総当たりの計算量は、レベル数を４、シンボル長を８とすれば、サーチする系列候補の総数は になります。　シンボル長が長くなるとたいまち計算量は爆発してしまいます。しかし、計算量をシンボル長に比例するようにできれば、いくらシンボル長が長くなっても平気です。これはビタビ・アルゴリズムによって実現できます。

以上は、実シンボルを対象にしていますが、複素シンボル（ＱＡＭ）への拡張は簡単なので省きます。

注４：　チャンネル応答が未知の場合はブラインド系列推定の問題になり難しくなります。　このページを参照してください。

さて、Ｍ元伝送 (M-ary transmission ) のＭＬＳＥを当たってみましょう。　Ｍ元伝送は、互いに直交するＮ個の信号に送信データを掛けて重畳して送信する方法です。特に、直交信号が±1の符号系列のときＣＤＭＡと呼ばれています。　
Ｍ元伝送の長さＮのシンボル系列

を作り、シンボル（上でいうレベル ) を掛けて送ります。 はどんな実数値をとってもかまいませんが、Ｎ次元ベクトル は最大Ｎ個しかとれません。　それらを

で表すと、送信信号（長さＮの信号）は次のようになります。

ここで、 は送信データの物理的レベルを表し、そのレベル数をすべての について とすれば、 が運ぶ情報は ビットになります。　 の長さはＮなので、１個のパルスが運ぶ情報は、結局 Ｎ ビットになり、上で述べたシンボル毎の伝送と同じであり、損得はありません。　やはりＡＷＧＮを仮定し、受信信号を

とすると、この場合のＭＬＳＥは前述と同じストーリーであり、

のように書けます。　この最小化を満たす を総当りで選ぶのは、  個の候補すべてに対して計算する必要があり、現実的ではありません。　とりあえず を連続変数と見做して式（１７）を最小にする解を求め、この近傍で最適レベルをサーチする方法が有効かと思われます。　通常、この判定は等化または ＲＡＫＥ を前提にして、相関（内積）によって実現します。　すなわち、受信信号を等化または RＡＫＥ し、それと の内積をとりレベル を引き出します。

等化では、逆行列 が非正則に近いと雑音成分（右辺第２項）を増幅する恐れがあります。　また、RＡＫＥ では、右辺第１項で正確に直交分離できないことが問題となります。　ともに、計算の簡単化と引き換えに、ＭＬＳＥよりも誤り率が劣化します。

最後に、ＯＦＤＭのＭＬＳＥを当たってみます。　ＯＦＤＭの原理は、送信シンボル列 を周波数領域で与え、これを離散フーリエ変換して時系列を作って送信します。　したがって、M-ary transmission と同様、フレーム伝送のタイプです。　受信は、このフレームを切り出し、逆離散フーリエ変換してシンボル列を判定します。　したがって、ＭＬＳＥは、逆離散フーリエ変換行列を で表し、これが正規直交行列なので、次のようになります。

これは式（１２）とまったく同じです。