等化出力は次のように表せます。

上の（　）内は送信パルスとチャンネル応答と等化器の３つからなる総合システムの応答であり、これを で表すと、

のように簡潔な表現を得ます。　等化の目標は、ランダムデータに対して常に を実現することですから、これは

のとき満たされます。　有限長の等化器では上の等化目標を正確に実現できませんから、目標に対してどれだけ近いかという尺度（評価関数）を導入します。　最も広く用いられる評価関数は、次の自乗平均誤差です。　このとき、送信シンボルはランダムであり、 を仮定します。

その他、次のような最悪誤差もときどき用いられます。

これは、すべての送信パターンを想定して、そのなかで最大になる誤差を選んでいます。　これを最小化する等化をミニマックス（MiniMax ）等化、あるいはその最小化原理からゼロフォーシング(Zero-Forcing )等化と呼んでいます。　１９６４年、R.W.Lucky （当時、ベル研究所）によって初めて自動等化器が提唱されましたが、そこでこの等化法が導かれました。　当時はまだ、ディジタル回路が発達していなく、ゼロフォーシング等化はアナログ素子による装置化の苦心の方法でした。

これらの基準形はパルス固有の歪みを意味するので、いろいろなシステムを数値評価するのに適しています。　ほとんどのディジタル通信の変調方式はQAMですが、QAMでは複素信号を扱うので、上の評価関数も複素信号で定義する必要があります。　等化目標は次のように表せます。　大文字は複素信号です。

評価関数は、実信号の場合を単純に拡張して、

のように得られます。　次に、以上の等化過程が周波数領域でどのように解釈されるかを調べてみましょう。　シンボルレート等化はタップが T 秒間隔で引き出されています。　タップ数を無限大としたときの周波数特性は

で与えられます。　一方、送信パルスとチャンネル応答のコンボリューション のフーリェ変換を とすると、これを等化器に入力したときの出力の特性は

となります。　等化器の出力は T 秒周期でサンプルして判定しますから、このサンプル値列の特性は次のように書けます。　 が の周期関数であることに注意して、

等化目標、 は上式が恒等的に１であることを意味するので、周波数特性の目標は、

のように表されます。　このスペクトルの重なり合いを調べてみます。　一般に は複素数ですが、簡単のため実数で説明します。

上の図のようなスペクトルの重畳を想像してみると、まず、ロールオフ領域以外でゼロでないことが必要です。　このことは多くの有線通信や無線通信（移動通信以外）では満たされるといっていいでしょう。　問題はロールオフ領域にあります。　上図を見ると、青いカーブが加算されてゼロになるケースは非常に稀であるように思われます。　しかし、サンプリング位相をずらせていくと、スペクトルヌル（スペクトルがゼロになること）が必ず起こってしまいます。　上の図の または に注目してください。　この点では右からのスペクトルと左からのスペクトルは同じ値で交叉しています。　このような点はロールオフ領域で少なくとも一箇所は存在します。　ここで、スペクトルヌルが次のように現れます。　サンプリングの位相を で表します。　すると、等化の対象となるサンプルされたインパルス応答は

です。　したがって、等化対象の周波数特性は

となります。　この特性の での値をみると、

ですが、上の図に示したように　 でした。　したがって、上式は

となります。　故に、

のときスペクトルヌルが生じます。　 が複素数のときは、

として、ロールオフ領域内の

を満たす周波数（必ず存在する）に着目すると、

となり、やはり、 の一箇所でゼロになります。

 

注：　関連ページとして、最適受信フィルター、ダブルサンプリング等化、最小自乗等化の解、ミニマックス等化の解、最急降下等化アルゴリズム、高速等化アルゴリズム、最適判定があります。　また、非線形等化としては、判定帰還型等化があります。