講演名 2000/3/14
オンラインベイズ学習によるモデル選択と動的環境への適応
佐藤 雅昭,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 最尤推定法による学習は過学習がおきやすく、複雑なモデル程尤度が増大するのでモデル選択が出来ないと言う欠点を持っている。ベイズ推定法は観測データに対するモデルの事後確率分布を推定する事によりモデル選択を行い過学習を防ぐ方法である。本研究では実時間で学習を行えるオンラインベイズ学習法を提案する。またその学習収束性を証明する。実験により本学習法を用いて、実時間で学習を行いながら同時にモデル選択も出来る事を示す。また時間と共に変化する環境においても本学習法は環境の変化に適応したモデル選択を可能にする。
抄録(英) The Bayesian framework provides a principled way of the model selection This framework estimates a probability distribution over an ensemble of models and the prediction is done by averaging over the ensemble of models. Accordingly, the uncertainty of the models is taken into account and complex models with more degrees of freedom are penalized. In this paper, we derive an on-line Bayesian leaning method and prove its convergence. By combining sequential model selection procedures, the on-line Bayesian method provides a fully on-line leaning method with a model selection mechanism. Experimental results show that the on-line Bayesian method can adapt the model structure to dynamic environments.
キーワード(和) ベイズ推定法 / オンライン学習法 / モデル選択 / 動的環境 / 自由エネルギー / 学習収束性
キーワード(英) Bayesian learning method / On-line learning / Model selection / Dynamic environment / Free energy / Convergence
資料番号 NC99-130
発行日

研究会情報
研究会 NC
開催期間 2000/3/14(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) オンラインベイズ学習によるモデル選択と動的環境への適応
サブタイトル(和)
タイトル(英) On-line Bayesian leaning method and model selection in dynamic environment
サブタイトル(和)
キーワード(1)(和/英) ベイズ推定法 / Bayesian learning method
キーワード(2)(和/英) オンライン学習法 / On-line learning
キーワード(3)(和/英) モデル選択 / Model selection
キーワード(4)(和/英) 動的環境 / Dynamic environment
キーワード(5)(和/英) 自由エネルギー / Free energy
キーワード(6)(和/英) 学習収束性 / Convergence
第 1 著者 氏名(和/英) 佐藤 雅昭 / Masa-aki Sato
第 1 著者 所属(和/英) ATR人間情報通信研究所:CREST, 科学技術振興事業団
ATR Human Information Processing Research Laboratories:CREST, Japan Science and Technology Corporation
発表年月日 2000/3/14
資料番号 NC99-130
巻番号(vol) vol.99
号番号(no) 685
ページ範囲 pp.-
ページ数 8
発行日