![カルマンフィルタ [Kalman 1960] 4
カルマンフィルタ
観測信号 から状態変数 を推定
カルマンゲイン
II.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-4-320.jpg)
![カルマンフィルタ [Kalman 1960] 5
システム雑音の分布
観測雑音の分布
状態推定と予測の分布のパラメータ推定に帰着
推定
予測
観測信号 から状態変数 を推定
II.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-5-320.jpg)
![カルマンフィルタ｜先行研究 7
正規分布に基づくカルマンフィルタ [Kalman 1960]
スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010]
観測雑音に優ガウス性の分布を仮定
[Wang 2017]
[Piche 2012] t分布 + variational Bayes（VB）法
ラプラス分布 + majorization-minimization（MM）アルゴリズム
MM（上界最小化）アルゴリズム [Hunter 2004]
? オフラインの最適化アルゴリズム
? VB法はMMアルゴリズムの特殊形
? 評価関数の代わりに特定の条件を満たす上限を最適化
評価関数 上限
補助変数の更新
パラメータの更新
II.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-7-320.jpg)
![カルマンフィルタ｜先行研究 8
正規分布に基づくカルマンフィルタ [Kalman 1960]
スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010]
観測雑音に優ガウス性の分布を仮定
[Wang 2017]
[Piche 2012] t分布 + variational Bayes（VB）法
ラプラス分布 + majorization-minimization（MM）アルゴリズム
MM（上界最小化）アルゴリズム for カルマンフィルタ
? 観測雑音の分布の下限を導入して，事後分布の近似を計算
II.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-8-320.jpg)
![研究の位置づけ 9
正規分布に基づくカルマンフィルタ [Kalman 1960]
スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010]
観測雑音に優ガウス性の分布を仮定
[Wang 2017]
[Piche 2012]
ラプラス分布 + majorization-minimization（MM）アルゴリズム
本研究
? 双曲線正割分布 [Baten 1934] を用いて観測雑音をモデリング
? MMアルゴリズムを導入して逐次更新アルゴリズムを導出
独立成分分析（ICA）の分野で実績のある
優ガウス性の分布を利用
t分布 + variational Bayes（VB）法
III.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-9-320.jpg)
![優ガウス性の分布｜双曲線正割分布 10
対数の微分がICAにおける非線形関数 [Bell 1995] と一致
優ガウス性の信号のモデリングに利用可能
Laplace
Gauss
sech
t
t
Gauss
Laplace
t
t
sech
Fig. 確率密度関数 Fig. 確率密度関数の裾
III.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-10-320.jpg)
![提案法｜sech分布に基づくカルマンフィルタ 11
状態空間モデル
1出力系に限定
システム雑音の分布
MMアルゴリズムのアイデア
観測雑音の分布の下限を導入
で等号成立
観測雑音の分布
多変量のsech分布は未確立
証明 [Ono 2010]
III.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-11-320.jpg)
![シミュレーション｜移動物体の追尾 13
摩擦のない平面上を一定の方向に滑る物体の位置?速度の推定
状態空間モデル
サンプリング周期 物体の質量[s] [kg]
[Faragher 2012]
観測雑音の分布 自由度3のt分布（分散0.5）
システム雑音は印加しない
評価指標 正規化 mean squared error（NMSE）[Morgan 1998]
雑音の分散の見積 システム雑音
観測雑音 雑音の分散と等しくなるように調整
比較対象 ? 正規分布（Gauss-KF）
? t分布+VB（t-KF）
? ラプラス分布+MM
（Laplace-KF）
IV.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-13-320.jpg)
![シミュレーション｜移動物体の追尾 14
提案法が正確かつ比較的高速に状態変数を推定
? t-KFが良いとは限らない
? システム雑音の分布の影響
? Gauss-KFは高速だが
優ガウス性のノイズに脆弱
? Laplace-KFは低速
Fig. NMSEの推移 Fig. NMSEの箱ひげ図（50 [s] 以降）
IV.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-14-320.jpg)
![シミュレーション｜FIRフィルタの推定 15
有限インパルス応答（finite impulse response）フィルタの推定
参照信号 平均0，分散1の正規分布乱数
観測雑音の分布 自由度3のt分布（分散6，SNRで約10 [dB]）
システム雑音は印加しない
状態空間モデル
フィルタ次数
[Sayed 1994]
（既知）
FIRフィルタ
雑音の分散の見積 システム雑音
観測雑音 雑音の分散と等しくなるように調整
IV.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-15-320.jpg)
![文献 1/3 18
[Kalman 1960]
R.E. Kalman, “A new approach to linear filtering and prediction problems”,
Trans. ASME Journal of Basic Engineering, 82(1), pp.35-45.
[Gandhi 2010]
M.A. Gandhi and L. Mili, “Robust Kalman filter based on a generalized
maximum-likelihood-type estimator”, IEEE Trans. Signal Processing, 58(5),
pp.2509-2520.
[Piche 2012]
R. Piche, S. Sarkka, and J. Hartikainen, “Recursive outlier-robust filtering
and smoothing for nonlinear systems using the multivariate Student-t
distribution”, MLSP2012.
[Wang 2017]
H. Wang, H. Li, W. Zhang, and H. Wang, “Laplace l1 robust Kalman filter based
on majorization minimization”, FUSION2017.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-18-320.jpg)
![文献 2/3 19
[Hunter 2004]
D.R. Hunter and K. Lange, “A tutorial on MM algorithms”, The American
Statistician, 58(1), pp.30-37.
[Baten 1937]
W.D. Baten, “The probability law for the sum of independent variables, each
subject to the law ”, Bulletin of the American
Mathematical Society, 40(4), pp.284-290, Apr. 1937.
[Bell 1995]
A.J. Bell and T.J. Sejnowski, “An information-maximization approach to
blind separation and blind deconvolution”, Neural Computation, 7(6), pp.1129-
1159.
[Ono 2010]
N. Ono and S. Miyabe, “Auxiliary-function-based independent component
analysis for super-Gaussian sources”, pp.165-172, LVA/ICA 2010.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-19-320.jpg)
![文献 3/3 20
[Morgan 1998]
D. Morgan, J. Benesty, and M. Sondhi, “On the evaluation of estimated impulse
responses”, IEEE Signal Processing Letters, 5(7), pp.174-176.
[Faragher 2012]
R. Faragher, “Understanding the basis of the Kalman filter via a simple
and intuitive derivation”, IEEE Signal Processing Magazine, 29(5), pp.128-132.
[Sayed 1994]
A.H. Sayed and T. Kailath, “A state-space approach to adaptive RLS filtering”,
IEEE Signal Processing Magazine, 11(3), pp.18-60.](https://image.slidesharecdn.com/ieejsystemslide-180827135245/85/-20-320.jpg)
![[DL輪読会]Unsupervised Learning by Predicting Noise](https://cdn.slidesharecdn.com/ss_thumbnails/dlrinkonat-170512005324-thumbnail.jpg?width=560&fit=bounds)
![[論文紹介] DPSNet: End-to-end Deep Plane Sweep Stereo](https://cdn.slidesharecdn.com/ss_thumbnails/20190212dpsnet-190830151623-thumbnail.jpg?width=560&fit=bounds)
More Related Content
What's hot (20)
Similar to 観测雑音に双曲线正割分布を用いた上界最小化に基づくカルマンフィルタ (8)
More from Hiroki_Tanji (7)
観测雑音に双曲线正割分布を用いた上界最小化に基づくカルマンフィルタ
- 1. 観測雑音に双曲線正割分布を用いた 上界最小化に基づくカルマンフィルタ ◎丹治 寛樹，村上 隆啓，鎌田 弘之（明治大学） 電気学会システム研究会 2018/08/27 1
- 2. Agenda 2 線形状態空間モデルI. カルマンフィルタII. ? 双曲線正割分布を用いた観測雑音のモデリング ? 上界最小化アルゴリズムを導入して逐次更新アルゴリズムを導出 提案法｜優ガウス性の雑音に頑健なカルマンフィルタIII. シミュレーションIV. まとめV.
- 3. 線形状態空間モデル 3 状態変数 システム雑音 観測信号 観測雑音 音声信号処理，動画像処理，制御工学など多数の利用場面 時系列データのモデリング手法 I.
- 4. カルマンフィルタ [Kalman 1960] 4 カルマンフィルタ 観測信号 から状態変数 を推定 カルマンゲイン II.
- 5. カルマンフィルタ [Kalman 1960] 5 システム雑音の分布 観測雑音の分布 状態推定と予測の分布のパラメータ推定に帰着 推定 予測 観測信号 から状態変数 を推定 II.
- 7. カルマンフィルタ｜先行研究 7 正規分布に基づくカルマンフィルタ [Kalman 1960] スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010] 観測雑音に優ガウス性の分布を仮定 [Wang 2017] [Piche 2012] t分布 + variational Bayes（VB）法 ラプラス分布 + majorization-minimization（MM）アルゴリズム MM（上界最小化）アルゴリズム [Hunter 2004] ? オフラインの最適化アルゴリズム ? VB法はMMアルゴリズムの特殊形 ? 評価関数の代わりに特定の条件を満たす上限を最適化 評価関数 上限 補助変数の更新 パラメータの更新 II.
- 8. カルマンフィルタ｜先行研究 8 正規分布に基づくカルマンフィルタ [Kalman 1960] スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010] 観測雑音に優ガウス性の分布を仮定 [Wang 2017] [Piche 2012] t分布 + variational Bayes（VB）法 ラプラス分布 + majorization-minimization（MM）アルゴリズム MM（上界最小化）アルゴリズム for カルマンフィルタ ? 観測雑音の分布の下限を導入して，事後分布の近似を計算 II.
- 9. 研究の位置づけ 9 正規分布に基づくカルマンフィルタ [Kalman 1960] スパイクノイズなど，優ガウス性のノイズに脆弱 [Gandhi 2010] 観測雑音に優ガウス性の分布を仮定 [Wang 2017] [Piche 2012] ラプラス分布 + majorization-minimization（MM）アルゴリズム 本研究 ? 双曲線正割分布 [Baten 1934] を用いて観測雑音をモデリング ? MMアルゴリズムを導入して逐次更新アルゴリズムを導出 独立成分分析（ICA）の分野で実績のある 優ガウス性の分布を利用 t分布 + variational Bayes（VB）法 III.
- 10. 優ガウス性の分布｜双曲線正割分布 10 対数の微分がICAにおける非線形関数 [Bell 1995] と一致 優ガウス性の信号のモデリングに利用可能 Laplace Gauss sech t t Gauss Laplace t t sech Fig. 確率密度関数 Fig. 確率密度関数の裾 III.
- 11. 提案法｜sech分布に基づくカルマンフィルタ 11 状態空間モデル 1出力系に限定 システム雑音の分布 MMアルゴリズムのアイデア 観測雑音の分布の下限を導入 で等号成立 観測雑音の分布 多変量のsech分布は未確立 証明 [Ono 2010] III.
- 13. シミュレーション｜移動物体の追尾 13 摩擦のない平面上を一定の方向に滑る物体の位置?速度の推定 状態空間モデル サンプリング周期 物体の質量[s] [kg] [Faragher 2012] 観測雑音の分布 自由度3のt分布（分散0.5） システム雑音は印加しない 評価指標 正規化 mean squared error（NMSE）[Morgan 1998] 雑音の分散の見積 システム雑音 観測雑音 雑音の分散と等しくなるように調整 比較対象 ? 正規分布（Gauss-KF） ? t分布+VB（t-KF） ? ラプラス分布+MM （Laplace-KF） IV.
- 14. シミュレーション｜移動物体の追尾 14 提案法が正確かつ比較的高速に状態変数を推定 ? t-KFが良いとは限らない ? システム雑音の分布の影響 ? Gauss-KFは高速だが 優ガウス性のノイズに脆弱 ? Laplace-KFは低速 Fig. NMSEの推移 Fig. NMSEの箱ひげ図（50 [s] 以降） IV.
- 15. シミュレーション｜FIRフィルタの推定 15 有限インパルス応答（finite impulse response）フィルタの推定 参照信号 平均0，分散1の正規分布乱数 観測雑音の分布 自由度3のt分布（分散6，SNRで約10 [dB]） システム雑音は印加しない 状態空間モデル フィルタ次数 [Sayed 1994] （既知） FIRフィルタ 雑音の分散の見積 システム雑音 観測雑音 雑音の分散と等しくなるように調整 IV.
- 16. シミュレーション｜FIRフィルタの推定 16 Fig. NMSEの推移 Fig. NMSEの推移（拡大図） Laplace Gauss sech t t 提案法が正確かつ比較的高速に状態変数を推定 ? 移動物体の追尾のシミュレーション結果と同様の傾向 ? 提案法はGauss-KFと比較して外れ値に対して明らかに頑健 IV.
- 17. まとめ 17 双曲線正割分布に基づくカルマンフィルタ ? 観測雑音の優ガウス性を仮定 ? MMアルゴリズムを導入した適応アルゴリズム ? 外れ値に頑健，かつ，高速?高精度に動作 今後の課題 の近似による高速化 Laplace Gauss sech t t V.
- 18. 文献 1/3 18 [Kalman 1960] R.E. Kalman, “A new approach to linear filtering and prediction problems”, Trans. ASME Journal of Basic Engineering, 82(1), pp.35-45. [Gandhi 2010] M.A. Gandhi and L. Mili, “Robust Kalman filter based on a generalized maximum-likelihood-type estimator”, IEEE Trans. Signal Processing, 58(5), pp.2509-2520. [Piche 2012] R. Piche, S. Sarkka, and J. Hartikainen, “Recursive outlier-robust filtering and smoothing for nonlinear systems using the multivariate Student-t distribution”, MLSP2012. [Wang 2017] H. Wang, H. Li, W. Zhang, and H. Wang, “Laplace l1 robust Kalman filter based on majorization minimization”, FUSION2017.
- 19. 文献 2/3 19 [Hunter 2004] D.R. Hunter and K. Lange, “A tutorial on MM algorithms”, The American Statistician, 58(1), pp.30-37. [Baten 1937] W.D. Baten, “The probability law for the sum of independent variables, each subject to the law ”, Bulletin of the American Mathematical Society, 40(4), pp.284-290, Apr. 1937. [Bell 1995] A.J. Bell and T.J. Sejnowski, “An information-maximization approach to blind separation and blind deconvolution”, Neural Computation, 7(6), pp.1129- 1159. [Ono 2010] N. Ono and S. Miyabe, “Auxiliary-function-based independent component analysis for super-Gaussian sources”, pp.165-172, LVA/ICA 2010.
- 20. 文献 3/3 20 [Morgan 1998] D. Morgan, J. Benesty, and M. Sondhi, “On the evaluation of estimated impulse responses”, IEEE Signal Processing Letters, 5(7), pp.174-176. [Faragher 2012] R. Faragher, “Understanding the basis of the Kalman filter via a simple and intuitive derivation”, IEEE Signal Processing Magazine, 29(5), pp.128-132. [Sayed 1994] A.H. Sayed and T. Kailath, “A state-space approach to adaptive RLS filtering”, IEEE Signal Processing Magazine, 11(3), pp.18-60.