講演名 1997/7/24
再帰的学習によるEMアルゴリズムの加速
池田 思朗,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) EMアルゴリズムはボルツマンマシシや確率的パーセプトロンなどの学習を始め, HMMやその他隠れた構造を持つ確率分布の学習に対して広く持ちいられている. このアルゴリズムは繰り返し演算により最尤推定を求めるものであり, 計算量が少なく実現が容易だが, 一般に収束が遅い. 一方, 統計学の分野でスコアリング法と呼ばれる手法も同様のモデルに対して適用できる繰り返し演算である. これは収束は速いが計算量が多く実現が難しい. 本研究ではEMアルゴリズムを再帰的に用いてスコアリング法を近似し, EMアルゴリズムを加速できることを示す. Louis[6] や Meng and Rubin[9] も同様のアプローチを行なっているが, 本手法はそれらに比べ, 計算量が少なく実現が容易である. 計算機実験を交えて結果を示す.
抄録(英) The EM algorithm is widely used for many applications including Boltzmann machine, mixture of expert networks and HMM. This algorithm gives an iterating procedure for calculating the MLE of stochastic models which has some hidden random variables. The calculation of the algorithm is simple, but usually the convergence speed is slow. We also have another algorithm called "the scoring method" in statistics. This method can also be applied to those models and the convergence speed is faster, but the calculation is usually very complicated. We show that by using the EM algorithm in a recursive way, we can connect these two method and accelerate the EM algorithm. Also Louis[6], Meng and Rubin[9] showed they can accelerate the EM algorithm, but our algorithm is simpler and easier. We show some results of the simulations using our algorithm.
キーワード(和) EMアルゴリズム / スコアリング法 / 最尤推定 / Louis turbo
キーワード(英) EM algorithm / scoring method / maximum likelihood estimate / Louis turbo
資料番号 NC97-27
発行日

研究会情報
研究会 NC
開催期間 1997/7/24(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 再帰的学習によるEMアルゴリズムの加速
サブタイトル(和)
タイトル(英) Acceleration of the EM algorithm
サブタイトル(和)
キーワード(1)(和/英) EMアルゴリズム / EM algorithm
キーワード(2)(和/英) スコアリング法 / scoring method
キーワード(3)(和/英) 最尤推定 / maximum likelihood estimate
キーワード(4)(和/英) Louis turbo / Louis turbo
第 1 著者 氏名(和/英) 池田 思朗 / Shiro Ikeda
第 1 著者 所属(和/英) 理化学研究所国際フロンティア情報表現研究チーム
Lab. For Info. Representation, Frontier Research Program, RIKEN
発表年月日 1997/7/24
資料番号 NC97-27
巻番号(vol) vol.97
号番号(no) 201
ページ範囲 pp.-
ページ数 8
発行日