ARモデル    Auto-regressive model

日本語で、自己回帰モデルと呼んでいます。今日までの我が身の生き方から明日の我が身を占うという、因果律に従うモデルです。経済指標予測、気象予測、河川流量予測などの複雑な非物理系(システムの細部を厳密に記述できないシステム)のモデルとして、広く使われています。一般的に次のように書けます。

は対象とする指標であり、多くの応用ではベクトルですが、ここではスカラとします。  は現在時刻の不確定な擾乱であり、過去の擾乱は に陰に含まれています。 擾乱は過去の指標と関係なく起こるべき(もし関係があれば、関数 f に繰り込むべき)であり、ここでは、独立系列と仮定します。 特に、下図のように擾乱が加算されるARモデルは、その出力の最適予測がちょうど逆システムになり、古くから研究されています。 すなわち、モデルと予測器の非線形関数 が正確に一致すれば、最適に予測したときの誤差が擾乱(独立と仮定した)に等しくなり、予測の限界を達成できたことになります。

img7.gif

線形ARモデルの場合、その逆は線形予測モデルになります。

img8.gif

 

実際、線形ARモデル

に対して、順次 を掛けて両辺の期待値をとると、 が無相関(独立を含む)かつ の仮定のもとで、Yule-Walker の方程式

が得られ、自己相関行列が正則なので解は一意であり、最適予測は

を満たすことがいえます。 そして、このことから次がいえます。

線形予測は擾乱 を参照しないで
単に予測誤差を最小化するだけでした。
したがって
ARモデルを前提にした場合、
苦もなくブラインド等化(指標だけから逆システムを推定すること)が成功します。

このことをシミュレーションで実証してみましょう。 ARモデルを

として、最急降下法


を実行します。 期待される結果が あるいは なので、 および をプロットします。 大きさの比較のために を最初にプロットしておきます。 たしかに、これらの指標はゼロに向かって収束しています。

 

img1.gif

img2.gif

img3.gif

 

横軸は修正回数であり、10000回の修正を実行していますが、がなかなか収束しません。 その理由は、自己相関行列の固有値(ARモデルの係数に依存)に大きなバラツキがあるためです。 ちなみに、固有値の分布を一様にする高速収束アルゴリズムを用いると、下のように非常に速い収束が得られます。 横軸の長さが1000回であることに注目してください。

 

img4.gif

img5.gif

img6.gif

 

注1: ARモデルは明らかに因果的です。 そのモデルが安定ならば、逆はいつも存在します。 このような線形システム(因果的で、因果的逆が存在する場合)を最小位相推移といっています。 詳しくは、 因果律最小位相推移逆システムを参照してください。

注2:ARモデルは最小位相推移システムの特別な場合です。 最小位相推移ならばブラインド等化はいつも予測システムで簡単に実現可能です。 ブラインド問題の困難さは非最小位相推移の場合に生じます。 工学的応用では、ほとんんどのケースが非最小位相推移です。