| 講演名 | 2016-07-06 可変ビン幅ヒストグラム密度推定法を組み込んだ確率的トピックモデルの提案 金 秀明(NTT), 岩田 具治(NTT), 澤田 宏(NTT), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | Latent Dirichlet Allocationに代表される確率的トピックモデルは，単語など離散値のデータだけでなく，単語出現時刻や商品価格など連続値のデータにも適用され，その有効性が示されてきた．しかし連続値データを扱う確率的トピックモデルは，効率的なパラメータ推定を担保するため，クラスタ（トピック）を特徴付ける確率密度分布が単純な正規分布などに限定され，クラスタ形成に大きな制限を抱えていた．本研究では，クラスタを特徴付ける確率密度分布をヒストグラム，すなわちノンパラメトリックな区分定常分布により推定する新たな確率的トピックモデルを構築し，その制限を克服する．提案モデルにおけるパラメータ推定は，ヒストグラムのビン幅選択を含め，効率的な collapsed Gibbs sampling に基づき実行される．本稿では，ビン幅が一定および可変の両場合における推定アルゴリズムを導出した後，関連モデルとの比較実験により提案モデルの有効性を確認する． |
| 抄録(英) | Probabilistic topic models, as represented by latent Dirichlet allocation (LDA), have been widely used for analyzing not only categorical but also continuous data such as times of word appearance and price information. In the topic model for continuous data, however, the component distributions needs to be simple exponential families like normal distributions to perform the efficient parameter estimation, which limits the representative power of the model. In this paper, by incorporating the nonparametric histogram density estimator into the topic model, we construct a new probabilistic topic model to overcome the limitation. The estimation of the parameters, including the bin width selection, is performed by using efficient collapsed Gibbs sampling. We derive the estimation algorithms for the regular and variable bin width scenarios. We apply the proposed method to synthetic data, confirming that it performs well. |
| キーワード(和) | LDA / トピックモデル / ヒストグラム / ビン幅選択 |
| キーワード(英) | LDA / topic model / histogram / bin width selection |
| 資料番号 | IBISML2016-6 |
| 発行日 | 2016-06-28 (IBISML) |
| 研究会情報 | |
| 研究会 | NC / IPSJ-BIO / IBISML / IPSJ-MPS |
|---|---|
| 開催期間 | 2016/7/4(から3日開催) |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | Okinawa Institute of Science and Technology |
| テーマ（和） | 機械学習によるバイオデータマインニング、一般 |
| テーマ（英） | Machine Learning Approach to Biodata Mining, and General |
| 委員長氏名（和） | 佐藤 茂雄(東北大) / / 福水 健次(統計数理研) |
| 委員長氏名（英） | Shigeo Sato(Tohoku Univ.) / / Kenji Fukumizu(ISM) |
| 副委員長氏名（和） | 萩原 将文(慶大) / / 杉山 将(東大) / 鹿島 久嗣(京大) |
| 副委員長氏名（英） | Masafumi Hagiwara(Keio Univ.) / / Masashi Sugiyama(Univ. of Tokyo) / Hisashi Kashima(Kyoto Univ.) |
| 幹事氏名（和） | 田中 宏喜(京都産大) / 青西 亨(東工大) / / 津田 宏治(東大) / 竹内 一郎(名工大) |
| 幹事氏名（英） | Hiroki Tanaka(Kyoto Sangyo Univ.) / Toru Aonishi(Tokyo Inst. of Tech.) / / Koji Tsuda(Univ. of Tokyo) / Ichiro Takeuchi(Nagoya Inst. of Tech.) |
| 幹事補佐氏名（和） | 秋間 学尚(東北大) / 篠沢 佳久(慶大) / / 神嶌 敏弘(産総研) / 岩田 具治(NTT) |
| 幹事補佐氏名（英） | Hisanao Akima(Tohoku Univ.) / Yoshihisa Shinozawa(Keio Univ.) / / Toshihiro Kamishima(AIST) / Tomoharu Iwata(NTT) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Neurocomputing / Special Interest Group on Bioinformatics and Genomics / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Mathematical Modeling and Problem Solving |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 可変ビン幅ヒストグラム密度推定法を組み込んだ確率的トピックモデルの提案 |
| サブタイトル（和） | |
| タイトル（英） | A New Probabilistic Topic Model Based on Variable Bin Width Histogram |
| サブタイトル（和） | |
| キーワード(1)（和/英） | LDA / LDA |
| キーワード(2)（和/英） | トピックモデル / topic model |
| キーワード(3)（和/英） | ヒストグラム / histogram |
| キーワード(4)（和/英） | ビン幅選択 / bin width selection |
| 第 1 著者 氏名（和/英） | 金 秀明 / Hideaki Kim |
| 第 1 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) Nippon Telegraph and Telephone Corporation(略称：NTT) |
| 第 2 著者 氏名（和/英） | 岩田 具治 / Tomoharu Iwata |
| 第 2 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) Nippon Telegraph and Telephone Corporation(略称：NTT) |
| 第 3 著者 氏名（和/英） | 澤田 宏 / Hiroshi Sawada |
| 第 3 著者 所属（和/英） | 日本電信電話株式会社(略称：NTT) Nippon Telegraph and Telephone Corporation(略称：NTT) |
| 発表年月日 | 2016-07-06 |
| 資料番号 | IBISML2016-6 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | IBISML-121 |
| ページ範囲 | pp.217-223(IBISML), |
| ページ数 | 7 |
| 発行日 | 2016-06-28 (IBISML) |