講演名 2020-01-09
混合多項分布のベイズ汎化誤差の漸近挙動
渡邉 匠(東工大), 渡辺 澄夫(東工大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 混合多項分布は複数の要因を持つと考えられるデータの統計的推測において広く用いられている.しかしながら, 階層的なパラメータ構造をもち,正則な統計モデルではないため,その学習の性質は十分には解明されていなかった.本論では,代数幾何学的な方法により混合多項分布の実対数閾値と多重度を数学的に解明し,ベイズ推測における自由エネルギーと汎化損失の漸近挙動を明らかにする.
抄録(英) Multinomial mixtures are widely used in the information engineering field. However, it is not subject to the conventional statistical theory of regular statistical models, because the models are not identifiable and their Fisher information matrices are is not positive definite. In the recent years, the generalization performance of singular learning machines was clarified based on resolution of singularities. In this report, we compute Real Log Canonical Thresholds in an algebraic geometric way and clarify asymptotic behaviors of generalization error and free energy.
キーワード(和) 汎化誤差 / 自由エネルギー / 混合多項分布 / 実対数閾値
キーワード(英) generalization error / free energy / multinomial mixtures / real log canonical thresholds
資料番号 IBISML2019-18
発行日 2020-01-02 (IBISML)

研究会情報
研究会 IBISML
開催期間 2020/1/9(から2日開催)
開催地(和) 統計数理研究所
開催地(英) ISM
テーマ(和) 機械学習一般
テーマ(英) Machine learning, etc.
委員長氏名(和) 鹿島 久嗣(京大)
委員長氏名(英) Hisashi Kashima(Kyoto Univ.)
副委員長氏名(和) 杉山 将(東大) / 津田 宏治(東大)
副委員長氏名(英) Masashi Sugiyama(Univ. of Tokyo) / Koji Tsuda(Univ. of Tokyo)
幹事氏名(和) 竹内 一郎(名工大) / 神嶌 敏弘(産総研)
幹事氏名(英) Ichiro Takeuchi(Nagoya Inst. of Tech.) / Toshihiro Kamishima(AIST)
幹事補佐氏名(和) 岩田 具治(NTT) / 大羽 成征(京大)
幹事補佐氏名(英) Tomoharu Iwata(NTT) / Shigeyuki Oba(Kyoto Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Infomation-Based Induction Sciences and Machine Learning
本文の言語 JPN
タイトル(和) 混合多項分布のベイズ汎化誤差の漸近挙動
サブタイトル(和)
タイトル(英) Asymptotic Behavior of Bayesian Generalization Error in Multinomial Mixtures
サブタイトル(和)
キーワード(1)(和/英) 汎化誤差 / generalization error
キーワード(2)(和/英) 自由エネルギー / free energy
キーワード(3)(和/英) 混合多項分布 / multinomial mixtures
キーワード(4)(和/英) 実対数閾値 / real log canonical thresholds
第 1 著者 氏名(和/英) 渡邉 匠 / Takumi Watanabe
第 1 著者 所属(和/英) 東京工業大学(略称:東工大)
Tokyo Institute of Technology(略称:Tokyo Tech)
第 2 著者 氏名(和/英) 渡辺 澄夫 / Sumio Watanabe
第 2 著者 所属(和/英) 東京工業大学(略称:東工大)
Tokyo Institute of Technology(略称:Tokyo Tech)
発表年月日 2020-01-09
資料番号 IBISML2019-18
巻番号(vol) vol.119
号番号(no) IBISML-360
ページ範囲 pp.1-8(IBISML),
ページ数 8
発行日 2020-01-02 (IBISML)