ちょいちょいベイズの定理との関係性や カルマンゲインの導出・証明を忘れてしまうのでメモ.

仮定するシステム


\begin{align} x[k+1] &=f(x[k],u[k],k) + v
y[k] &= h(x[k]) + w \end{align} \]

ってのを仮定. ここで$x,y$はスカラーor縦ベクトルならOK.もちろんランクは加味して下さい. $k\in\mathbb{Z}^+$はステップで,自然数(or0を含む)値を取るスカラーです. $v,w$はともに正方行列で,それぞれ$x,y$と同じサイズをもちます.

ここでモデルにおける誤差$v,w$に正規性を仮定しましょう. $v,w$の平均はどちらも0,分散はそれぞれ$Q,R$で正方行列になり, 後者は一般には共分散行列と呼ばれます. ちなみに独立性を仮定するため,対角成分にしか値が入りません. 要は$Q=diag(v_1,v_2,\dots,v_n)$ですね.

とまあシステムは備忘録でもなんでもなく, いつも考えてる話なのでサラッと流すとしましょう.

カルマンゲインの導出

それぞれのの各ステップにおける平均と分散も導出できるとして, カルマンゲインの導出がいまいちわかりづらい. ってどういうことやねんと.

で,カルマン先生の原論文読んでたらまとめたくなったのでテスト.

ってなるが計算できるんじゃね?って思想らしい. 1960年ってマジかよこれ.ルーエンバーガー型オブザーバより前なんだぞこれ.

ここで独立性の仮定から,の誤差との誤差は直行するので,推定対象の推定値に対して

ここでによる相互相関行列と自己相関行列

と定義してあげると,ラストの式はとなって, がめでたく導けました.

でもちょっとまって,独立性の仮定から導けるだけじゃ, ベイズの定理とか最尤かは言えなくなーい?と思ったり.

ちなみにWikipediaに乗ってることは,カルマンの原論文内の定理3に載ってました. この頃はまだ状態変数のトレース最小化を満たすかは,わかってなかったようですが. というよりもカルマゲインを分散最小化の意味で解析解から厳密に計算しようとしたら, 一致しちゃったパターンなんだろう(適当

片山先生はリカッチ方程式で証明してるし,うーん,ここはまた別の資料に譲りましょう.

最尤であること

いや最尤なのは問題なかった.正規分布の場合,

って条件がそのまんま最尤でしたね.

ベイズの定理との関係性

そもそもベイズの定理と言えるってのは足立先生の教科書にもあるので過信することにして, ベイズの定理は,

結果的にこれが言えてますが,調べた限りではベイズの定理から を導くものは見つけられませんでした. カルマンの原論文には,白色雑音,エルゴード性や直交性に関する記述が見られたましたが, ベイズという単語は載っていなかったです.

もちろん本人は知っていたかもしれないし,後々の人が見つけた可能性もありますが・・・ どちらにせよ,最小二乗解が分散のトレース最小化となることや, そもそもの期待値とパラメータの関係性などは,ベイズの定理でも説明がつくので, 勉強が必要そうです.