講演名 2018-03-06
高速デシメーションアルゴリズムの開発
元木 大介(東京理科大), 渡部 昌平(東京理科大), 二国 徹郎(東京理科大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) スパースモデリングにおける逆問題の最適化アルゴリズムとして, パラメータの数を機械学習のエポック毎に逐次削減するデシメーションアルゴリズムがDecelle らによって開発された.このアルゴリズムはスパースモデリングでよく利用されるL1正則化手法のパラメータの恣意性を取り除くことができるというメリットがあるが,計算精度や計算速度の面で問題がある.これらの問題点を改善するため, 我々は学習の初期段階において最大擬尤度を使わない高速デシメーションアルゴリズムを開発した.この新しいアルゴリズムを, 受験者間の関連構造を持つ項目応答理論に応用可能な2パラメータボルツマンマシンに適用し, その有用性をROC曲線下面積(Area Under the ROC Curve, AUC)を用いて示した.
抄録(英) A decimation algorithm was developed by Decelle et al. for an inverse problem optimization method, which sequentially reduces the number of parameters for each epoch of machine learning.This algorithm has the merit that arbitrariness of parameters of L1 regularization method which is often used in sparse modeling can be removed. However, the decimation algorithm has problems in terms of calculation accuracy and speed.In order to improve the problems raised above, we developed Fast Decimation Algorithm that does not use maximum likelihood in the early epochs of learning. We applied our algorithm to a two-parameter Boltzmann Machine applicable to Item Responsive Theory with relevant structure between examinees and demonstrated its usefulness by making use of the Area Under the ROC Curve (AUC).
キーワード(和) 統計的機械学習 / スパースモデリング / ボルツマンマシン
キーワード(英) Statistical Machine Learning / Sparse Modeling / Boltzmann Machine
資料番号 IBISML2017-103
発行日 2018-02-26 (IBISML)

研究会情報
研究会 IBISML
開催期間 2018/3/5(から2日開催)
開催地(和) 九州大学 西新プラザ
開催地(英) Nishijin Plaza, Kyushu University
テーマ(和) 統計数理・機械学習・データマイニング・一般
テーマ(英) Statisitical Mathematics, Machine Learning, Data Mining, etc.
委員長氏名(和) 福水 健次(統計数理研)
委員長氏名(英) Kenji Fukumizu(ISM)
副委員長氏名(和) 杉山 将(東大) / 鹿島 久嗣(京大)
副委員長氏名(英) Masashi Sugiyama(Univ. of Tokyo) / Hisashi Kashima(Kyoto Univ.)
幹事氏名(和) 竹内 一郎(名工大) / 津田 宏治(東大)
幹事氏名(英) Ichiro Takeuchi(Nagoya Inst. of Tech.) / Koji Tsuda(Univ. of Tokyo)
幹事補佐氏名(和) 岩田 具治(NTT) / 神嶌 敏弘(産総研)
幹事補佐氏名(英) Tomoharu Iwata(NTT) / Toshihiro Kamishima(AIST)

講演論文情報詳細
申込み研究会 Technical Committee on Infomation-Based Induction Sciences and Machine Learning
本文の言語 JPN
タイトル(和) 高速デシメーションアルゴリズムの開発
サブタイトル(和) スパース2パラメータボルツマンマシンをベンチマーク関数として
タイトル(英) Applicability of Fast Decimation Algorithm
サブタイトル(和) Sparse two-parameter Boltzmann machine as a benchmark function
キーワード(1)(和/英) 統計的機械学習 / Statistical Machine Learning
キーワード(2)(和/英) スパースモデリング / Sparse Modeling
キーワード(3)(和/英) ボルツマンマシン / Boltzmann Machine
第 1 著者 氏名(和/英) 元木 大介 / Daisuke Motoki
第 1 著者 所属(和/英) 東京理科大学(略称:東京理科大)
Tokyo University of Science(略称:Tokyo Univ. of Science)
第 2 著者 氏名(和/英) 渡部 昌平 / Shohei Watabe
第 2 著者 所属(和/英) 東京理科大学(略称:東京理科大)
Tokyo University of Science(略称:Tokyo Univ. of Science)
第 3 著者 氏名(和/英) 二国 徹郎 / Tetsuro Nikuni
第 3 著者 所属(和/英) 東京理科大学(略称:東京理科大)
Tokyo University of Science(略称:Tokyo Univ. of Science)
発表年月日 2018-03-06
資料番号 IBISML2017-103
巻番号(vol) vol.117
号番号(no) IBISML-475
ページ範囲 pp.91-95(IBISML),
ページ数 5
発行日 2018-02-26 (IBISML)