| 講演名 | 2018-09-21 混合型分布族のMDL学習に関する考察 宮本 耕平(九大), 竹内 純一(九大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 記述長最小原理(MDL原理)に基づいたパラメータ推定の方法として，二段階符号によって定義されるMDL推定量がある．MDL推定量の性能に関して，Barron and Coverによる符号の冗長度によってリスク上界を与える理論が知られている．冗長度の評価について，モデルが指数型分布族の場合には既に，最適なユニバーサル符号のリグレットであるミニマックスリグレットに近い値を達成する二段階符号が知られているが，指数型分布族以外のモデルに関しては未解決である．本稿では非指数型分布族として混合型分布族を対象とし，Bayes符号によりミニマックスリグレットを達成するために用いられた局所指数族バンドルに基づく手法を二段階符号の冗長度評価に応用した．結果として，混合成分数が2つの混合型分布族のMDL推定量について，指数型分布族の場合と同等なリスク上界を得た． |
| 抄録(英) | MDL estimators based on two stage codes are studied. The Barron and Cover's theory shows that redundancy ofa two stage code bounds the risk of the MDL estimatordefined by the two stage code. It is known thatcoding regret of two stage codes for exponential familiescan be close to the minimax regret, which is related to stochastic complexity, while it is not for non-exponential families. I this paper, we propose a new method of two stage codes for two componentsmixture families, whose regretcan be close to the minimax regret. The method is based on local exponential family bundles, which are used to evaluate the minimax regret for non-exponential families. Further, we obtain a tight risk bound of MDL estimators for mixture families. |
| キーワード(和) | MDL原理 / 二段階符号 / 混合型分布族 |
| キーワード(英) | MDL principle / two stage codes / mixture families |
| 資料番号 | PRMU2018-51,IBISML2018-28 |
| 発行日 | 2018-09-13 (PRMU, IBISML) |
| 研究会情報 | |
| 研究会 | PRMU / IBISML / IPSJ-CVIM |
|---|---|
| 開催期間 | 2018/9/20(から2日開催) |
| 開催地（和） | 福岡工業大学 |
| 開催地（英） | |
| テーマ（和） | 機械学習と実応用 |
| テーマ（英） | |
| 委員長氏名（和） | 佐藤 真一(NII) / 鹿島 久嗣(京大) |
| 委員長氏名（英） | Shinichi Sato(NII) / Hisashi Kashima(Kyoto Univ.) |
| 副委員長氏名（和） | 井尻 善久(オムロン) / 玉木 徹(広島大) / 杉山 将(東大) / 津田 宏治(東大) |
| 副委員長氏名（英） | Yoshihisa Ijiri(Omron) / Toru Tamaki(Hiroshima Univ.) / Masashi Sugiyama(Univ. of Tokyo) / Koji Tsuda(Univ. of Tokyo) |
| 幹事氏名（和） | 石井 雅人(NEC) / 菅野 裕介(阪大) / 竹内 一郎(名工大) / 神嶌 敏弘(産総研) |
| 幹事氏名（英） | Masato Ishii(NEC) / Yusuke Sugano(Osaka Univ.) / Ichiro Takeuchi(Nagoya Inst. of Tech.) / Toshihiro Kamishima(AIST) |
| 幹事補佐氏名（和） | 入江 豪(NTT) / 牛久 祥孝(東大) / 岩田 具治(NTT) / 大羽 成征(京大) |
| 幹事補佐氏名（英） | Go Irie(NTT) / Yoshitaka Ushiku(Univ. of Tokyo) / Tomoharu Iwata(NTT) / Shigeyuki Oba(Kyoto Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 混合型分布族のMDL学習に関する考察 |
| サブタイトル（和） | |
| タイトル（英） | A Study on MDL Learning of Mixture Families |
| サブタイトル（和） | |
| キーワード(1)（和/英） | MDL原理 / MDL principle |
| キーワード(2)（和/英） | 二段階符号 / two stage codes |
| キーワード(3)（和/英） | 混合型分布族 / mixture families |
| 第 1 著者 氏名（和/英） | 宮本 耕平 / Kohei Miyamoto |
| 第 1 著者 所属（和/英） | 九州大学(略称：九大) Kyushu University(略称：Kyushu Univ.) |
| 第 2 著者 氏名（和/英） | 竹内 純一 / Jun'ichi Takeuchi |
| 第 2 著者 所属（和/英） | 九州大学(略称：九大) Kyushu University(略称：Kyushu Univ.) |
| 発表年月日 | 2018-09-21 |
| 資料番号 | PRMU2018-51,IBISML2018-28 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | PRMU-219,IBISML-220 |
| ページ範囲 | pp.105-112(PRMU), pp.105-112(IBISML), |
| ページ数 | 8 |
| 発行日 | 2018-09-13 (PRMU, IBISML) |