変分法的ベイズ推定による混合主成分分析

大羽成征 (9951021)


次元の呪いとは、 実世界の高次元データを扱う場合に困難のもととなる 計算量爆発の問題のことである。 ロボットなどを代表とした複雑システムの制御、 画像認識、音声認識、言語処理、 その他多くの問題において扱う対象が高次元になることが 計算論的に本質的な困難となる。 これを解決するためには、 データの主要な特徴のみを抽出してその他を捨て去る 適切な特徴空間を構成することが必要である。 混合主成分分析はデータ空間のクラスタリングと主成分分析 とを併用することによって特徴空間構成を行う特徴抽出器であり、 その確率モデルと最尤推定アルゴリズムが TippingとBishop(1999)によって提案されている。 しかし特徴抽出を確率モデルで表現するメリットは、 最尤推定ではなくベイズ推定を使用して初めて十分に亨受できる。 ベイズ推定は実行困難な積分計算が頻出するが、 近年提案された変分法的ベイズ推定(variational Bayes:VB)法によって、 現実的に使用可能になってきた。 本研究では混合主成分分析の変分法的ベイズ推定のアルゴリズムを導出し、。 また、数字画像の認識問題への適用や、 関数近似問題のベンチマークへの適用を行なった。 発表においては、混合主成分分析およびベイズ推定の意義に関して 分かりやすい解説を試みる予定である。