| 講演名 | 2012-11-08 解の多重性を考慮した混合分布モデルはより良い解をもたらす(第15回情報論的学習理論ワークショップ) 古川 徹生, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本研究の目的は,混合分布モデルを変分ベイズ法で解く際の確率モデルを見直すことである.K個のコンポーネントを持つ混合分布モデルには,コンポーネント置換によるK!個の等価な解が存在するが,通常の変分ベイズ法では等価解の多重性を考慮しない.そのため等価解同士が近接している場合は期待する解とは異なる解に収束する.また等価解同士が遠く離れている場合であっても,学習の初期段階に同様の現象が生じ,局所解に陥る一因となる.本研究では解の多重性まで考慮した確率モデルを用いてガウス混合モデルの解法を導出した.得られたアルゴリズムは通常の変分ベイズ法における温度定数を見かけ上小さくしたものとなり,局所解に陥りにくいのみならず,計算コストは従来法とほとんど変わらないものであった. |
| 抄録(英) | The purpose of this work is to re-examine the probabilistic model of the mixture model, and to derive the algorithm by the variational Bayesian method. In the mixture model with K components, there exist K! equivalent solutions with respect to the permutation of the components. Usually we only need to obtain one of those solutions, and the others can be ignored. However, those equivalent solutions occasionally interfere each other when we apply the variational Bayesian (VB), and it causes the local miminum problem. In this work, we derived the probabilistic model which considers the equivalent solutions. The obtained algorithm is more robust to the local optimum, while the calculation cost is as low as the conventional one. |
| キーワード(和) | 混合分布モデル / EMアルゴリズム / 変分ベイズ法 / 局所解 / 識別不可能性 / ラベル同定問題 |
| キーワード(英) | Mixture Model / EM algorithm / variational Bayesian / local optimum solution / nonidentifiability problem / label identifiability |
| 資料番号 | IBISML2012-89 |
| 発行日 |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2012/10/31(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Information-Based Induction Sciences and Machine Learning (IBISML) |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 解の多重性を考慮した混合分布モデルはより良い解をもたらす(第15回情報論的学習理論ワークショップ) |
| サブタイトル（和） | |
| タイトル（英） | Considering the multiplicity in mixture model brings better results |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 混合分布モデル / Mixture Model |
| キーワード(2)（和/英） | EMアルゴリズム / EM algorithm |
| キーワード(3)（和/英） | 変分ベイズ法 / variational Bayesian |
| キーワード(4)（和/英） | 局所解 / local optimum solution |
| キーワード(5)（和/英） | 識別不可能性 / nonidentifiability problem |
| キーワード(6)（和/英） | ラベル同定問題 / label identifiability |
| 第 1 著者 氏名（和/英） | 古川 徹生 / Tetsuo FURUKAWA |
| 第 1 著者 所属（和/英） | 九州工業大学大学院脳情報専攻 Department of Brain Science and Engineering Kyushu Institute of Technology |
| 発表年月日 | 2012-11-08 |
| 資料番号 | IBISML2012-89 |
| 巻番号（vol） | vol.112 |
| 号番号（no） | 279 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |