を最小にする等化法を「最小自乗平均等化」と呼ぶことにします。

シンボルレート等化 と ダブルサンプリング等化 について、上の評価関数を最小にする解の性質を調べます。　この最小化問題を形式的に解くだけでは、物理的意味合いが分かりにくい恐れがあるので、次の方針で調べます。

（１）    まず、雑音なしとします。　送信シンボルを周期的とし、タップ長をこの周期に等しくした場合について、シンボルレートとダブルサンプリングの解を調べます。　このような等化を「サイクリック等化」と呼んでいます。　サイクリック等化では、離散フーリエ変換で正確な解の表現が得られるので、シンボルレートとダブルサンプリングの性質を明瞭に説明することができます。　周期を十分長くすれば、非周期でタップ数が十分多い場合の解に近似します。

（２）    上の考察に、加法的有色ガウス雑音を追加します。　そして、シンボル周期とタップ長を無限に長くしたとき、等化器が到達する解が最適受信フィルターを実現するかどうかについて検討します。　ただし、送信シンボルはランダムとします。

（３）    雑音なし、ランダム送信シンボル（非周期）、有限長等化器を仮定して解を求め、サイクリック等化とのアナロジーを理解します。

以下、この三つの方針にそって説明を進めます。

（１）雑音なし、サイクリック等化
まず、シンボルレート等化器によるサイクリック等化の解を調べてみます。　送信シンボルが長さRの系列 の繰り返しだったとします。　すると、受信信号をシンボルレートでサンプリングした系列も周期 の周期系列で、その関係は次のように表せます。

ここで、行列は巡回行列であることに注目してください。　すなわち、第１行、第２行、・・・・の順に、 が巡回置換されています。　 は周期 秒（ はシンボル間隔）ごとにパルス を繰り返したときのサンプル値です。　下図で、茶色のサンプルが左から を表しています。　これに青色のサンプルを加えたものは後述のダブルサンプリング等化のパルスです。

式（＊）は、周期的なシンボル系列と周期的なパルスとのコンボリューションを表していますが、これは離散フーリェ変換で表すと簡単になります。　すなわち、

のようになります。　さらに、これを同じ長さのシンボルレート等化器に入力したとき、離散フーリェ変換による入出力関係は次のようになります。

ここで、 は等化器のタップ係数の離散フーリェ変換です。　等化の目的は

のように導かれ、右端の等化目標に到達します。

この変換を離散フーリェ変換で表現するとどうなるでしょうか？　上の行列の構造をみると、第1行、第3行、第5行と、奇数番目の行ベクトルを選んでできるR行R列正方行列は式（＊）の行列と同じです。　一方、偶数番目の行ベクトルを選んでできるR行R列正方行列は上図のオレンジ色のサンプル系列から作られるものです。　したがって、奇数番目と偶数番目の二つに分割すると次のように表せます。

ダブルサンプリング等化はこれらを別々に等化して加算したものです。　この操作を描くと下のブロック図のようになります。

離散フーリェ変換による表現は次のようになります。

ブロック図の上と下のシンボルレート等化器から出力される信号の離散フーリェ変換は次のようです。

結局、等化目標は、

のように導かれ、もし ならば、

が等化目標となります。　ダブルサンプリング等化がサンプリング位相によらず、常に等化可能であるということは、すべての について、 と が同時にゼロになることはないという事実からきています。　実際、 のフーリェ変換を で表すと、 および は、それぞれ次のようなスペクトルを きざみでサンプルしたものです。

実信号の場合は、ちょうど、 、すなわち で、タイミング位相ずれによるスペクトルヌルが生じます。　ロールオフ率が１００％未満の場合、この周波数では、

ですが、右辺の構造をみれば、 と が同時に成り立たないことが分かります。

 

（２）加法的有色ガウス雑音、送信信号の電力スペクトルは平坦、非周期
まず有限長等化器で、最小自乗平均サイクリック等化したときの解が満たすべき式を求めます。　シンボルレート、ダブルサンプリングのそれぞれについて、評価関数 は次のようになります。

一般に、 を複素数 に関して微分すると、

のようになります。　この公式を用いて、 および を あるいは で偏微分したものをゼロと置くことによって、解が満たすべき式を下のように得ます。　偏微分をゼロとする極値が一意であることは、このページの（３）で説明します。　ここで、 _{と と} は互いに無相関であること、および を仮定します。

最適受信フィルターは基本的にはアナログフィルです。　したがって、シンボルレート等化器だけでは最適受信フィルターになることはできません。　一方、ダブルサンプリング等化器は、もし受信信号の帯域幅が2/T Hz以下（ロールオフ率が１００％以下）であれば、標本化定理を満たしているので最適受信フィルターを満たす能力があります。　実は、上の連立方程式から最適受信フィルターの条件式を次のように導くことができます。　まず、連立する二つの式を次のように書き換えてみます。

（　）内の は二つの式で共通であり、奇数サンプルのシンボルレート等化出力の離散フーリェ変換と偶数サンプルのシンボルレート等化出力の離散フーリェ変換の和を表しています。　これは、ダブルサンプリング等化してから間引きした結果の離散フーリェ変換と同じです。　また、 と （あるいは と ）は、それぞれ奇数サンプルと偶数サンプルの離散フーリェ変換ですから、T/2秒周期でサンプルした長さ２Rの系列の２R次元離散フーリェ変換と簡単な線形変換で結ばれます。　T/2秒サンプルが標本化定理を満たしているならば（ロールオフ率が１００％未満ならば）、周期を無限に大きくして周波数軸のサンプルを無限に細かくすれば、上の二つの式は最適受信フィルターの満たすべき式

と同等になることがいえます。　以上から、ダブルサンプリング等化は有色雑音に対して理論的最適を実現することがいえました。　ただし、最適を実現する有効な等化アルゴリズムがあるかどうかは別問題です。　これに関しては最急降下等化アルゴリズム、高速収束法を参照してください。

 

（３）雑音なし、非周期送信シンボル系列、有限長等化器
説明の煩雑を避けるために雑音を省きます。　雑音がある場合は、以下の議論を少し修正すれば済みます。　まず、シンボルレート等化器の解について調べます。　評価関数は

のように分解できます。　この評価関数の極値は、各タップ係数の偏微分をゼロと置いた連立一次方程式を解いて得られます。　

は の自己相関行列、 はパルス を要素とするベクトルです。　自己相関行列は対称行列であり、　対称行列の固有値は実数であり、信号が周期的でない限り固有値はすべて正になります。　また、一般的にいって自己相関行列の固有値は信号の電力スペクトル（この場合はT秒周期のサンプル系列の電力スペクトル）のサンプル値を意味しており、タップ数を大きくするとほとんど一致します。　特に、サイクリック等化の場合は、固有値は正確に電力スペクトルと一致します。　とにかく、自己相関行列は正則なので、上の連立方程式は一意解をもちます。　この解 が極小値を与えることは、

のような変形からわかります。　すなわち、 に関係するのは右辺第１項だけですが、これが最小になるのは、自己相関行列が正定値であることから、 のときだけです。　また、このとき評価関数の最小値（最適等化後の自乗平均値）は右辺第２項、

になります。　ここで は最適等化後のトータルシステムのインパルス応答の中央値です。

次に、ダブルサンプリング等化の解について調べますが、これはシンボルレートのベクトルと行列の定義を変えるだけで、上の筋道をそのまま繰り返せば済みます。　評価関数の分解は次のようです。

ベクトル の要素を に、ベクトル の要素を に、行列 の要素を にすれば、シンボルレートと同じ形式になります。

ちなみに、ダブルサンプリングの行列 は通常の自己相関行列の形をしていませんが、やはり、固有値は電力スペクトルのサンプル値と関係があります。　その関係をサイクリック等化の場合について導いておきましょう。　周期を長くすれば非周期の場合にも当てはまります。　行列の要素は

ですが、これから演繹してサイクリック等化の 相関行列 は、式（＊＊）に含まれる行列

になることが分かります。　計算過程は省きますが、上の式は離散フーリエ変換を用いて次のように変形できます。

右辺の真ん中の行列は４つのR次元対角行列のブロックからなっています。　この行列の固有値は、右上と左上のブロックがじゃまをして、対角項の電力スペクトル に一致しないようです。　それでは、固有値を具体的に計算してみましょう。　一般に、ブロック行列

の行列式は、 ならば、

のように分解できます。　この関係式を適用して固有値を求めると、

となり、固有値の半数は正確にゼロ、残りの半数はシンボルレート等化の固有値と一致することが導かれました。　非周期のケースでも、タップ数が十分多い場合は、固有値の半数がゼロになってしまい、解は一意に定まらないことがいえます。