お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2017-09-15 13:30
Tree-Basedモデルとガウス過程による高速で汎用的なベイズ最適化
岩永宇央東大/NTTデータ数理システム)・大澤幸生東大PRMU2017-48 IBISML2017-20
抄録 (和) 機械学習アルゴリズムのハイパーパラメータ最適化といった,多様なオプションの効率的な探索が求められるブラックボックス最適化問題において,ベイズ最適化(Bayesian Optimization)の有効性が広く知られている.ベイズ最適化では一般的に,ガウス過程により目的関数の推定を行うが,実用上の難点として,計算コストが探索数の3乗オーダーであり,連続値以外のパラメータを自然に扱いにくいことが挙げられる.離散パラメータや条件付きパラメータを含むタスクを自然に扱える手法として,ランダムフォレストに基づくベイズ最適化手法が提案されているが,未探索領域の分散の推定が貧弱になる問題がある.本研究では,決定木またはランダムフォレストとガウス過程を組み合わせたモデルをベイズ最適化に適用することで,計算コストを抑え,かつ様々なタイプのパラメータが混在するようなタスクにおいても安定した性能が出ることを示す. 
(英) Bayesian optimization is an effective method for black-box optimization problems such as hyperparameter tuning of machine learning algorithms that require efficient search of various parameters. Gaussian process (GP) is widely used to estimate objective functions in the sequence of bayesian optimization, but to use GP in practical situations, there are some difficult points as follows; computational cost per training sample is cubic and GP cannot treat non-continuous parameters naturally. To apply bayesian optimization for practical tasks that contains discrete and conditional parameters, bayesian optimization method based on random forest has been proposed, but it causes poor estimation of variance in unsearched areas. In this work, we propose a bayesian optimization method using tree-based model (decision tree or random forest) combined with Gaussian process. We show stable performance of our method for optimization tasks that contain various type of parameters, while cutting computational cost down.
キーワード (和) ベイズ最適化 / ランダムフォレスト / 決定木 / ガウス過程 / / / /  
(英) Bayesian Optimization / Random Forest / Decision Tree / Gaussian Process / / / /  
文献情報 信学技報, vol. 117, no. 211, IBISML2017-20, pp. 67-74, 2017年9月.
資料番号 IBISML2017-20 
発行日 2017-09-08 (PRMU, IBISML) 
ISSN Print edition: ISSN 0913-5685    Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード PRMU2017-48 IBISML2017-20

研究会情報
研究会 PRMU IBISML IPSJ-CVIM  
開催期間 2017-09-15 - 2017-09-16 
開催地(和) 東京大学 本郷キャンパス 
開催地(英)  
テーマ(和) パターン認識・機械学習基盤技術および深層学習によるメディア生成・変換・認識 
テーマ(英)  
講演論文情報の詳細
申込み研究会 IBISML 
会議コード 2017-09-PRMU-IBISML-CVIM 
本文の言語 日本語 
タイトル(和) Tree-Basedモデルとガウス過程による高速で汎用的なベイズ最適化 
サブタイトル(和)  
タイトル(英) Fast and General-Purpose Bayesian Optimization using Tree-Based Model with Gaussian Process 
サブタイトル(英)  
キーワード(1)(和/英) ベイズ最適化 / Bayesian Optimization  
キーワード(2)(和/英) ランダムフォレスト / Random Forest  
キーワード(3)(和/英) 決定木 / Decision Tree  
キーワード(4)(和/英) ガウス過程 / Gaussian Process  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 岩永 宇央 / Hiroo Iwanaga / イワナガ ヒロオ
第1著者 所属(和/英) 東京大学/NTTデータ数理システム (略称: 東大/NTTデータ数理システム)
The University of Tokyo/NTT DATA Mathematical Systems Inc. (略称: Univ. of Tokyo/NTT DATA MSI)
第2著者 氏名(和/英/ヨミ) 大澤 幸生 / Yukio Ohsawa / オオサワ ユキオ
第2著者 所属(和/英) 東京大学 (略称: 東大)
The University of Tokyo (略称: Univ. of Tokyo)
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2017-09-15 13:30:00 
発表時間 30分 
申込先研究会 IBISML 
資料番号 PRMU2017-48, IBISML2017-20 
巻番号(vol) vol.117 
号番号(no) no.210(PRMU), no.211(IBISML) 
ページ範囲 pp.67-74 
ページ数
発行日 2017-09-08 (PRMU, IBISML) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会