講演名 2020-03-17
深層学習のハイパパラメータ最適化におけるNelder-Mead法の初期値評価
竹長 慎太朗(近畿大), 渡邊 修平(産総研), 野村 将寛(産総研), 尾崎 嘉彦(産総研), 大西 正輝(産総研), 波部 斉(近畿大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 深層学習においてハイパパラメータは精度向上に大きな影響を与え,Nelder-Mead法は深層学習のハイパパラメータ最適化手法において高い探索性能を持つことが知られている.一般的には,Nelder-Mead法の初期シンプレックスはランダムに決定されることが多いが,探索性能は初期シンプレックスの形状に依存するため適切な初期シンプレックスを決める必要がある.これまで,Pfeffer, Nash, Han, Varadhanらは探索空間内に,シンプレックスを生成するための一つの開始点を決め,そこから初期シンプレックスを生成する手法を提案している.本研究では,これらの初期シンプレックスの生成手法が深層学習の精度向上にどのように貢献するかを明らかにする.
抄録(英)
キーワード(和) 深層学習 / ハイパパラメータ最適化 / Nelder-Mead法
キーワード(英)
資料番号 PRMU2019-90
発行日 2020-03-09 (PRMU)

研究会情報
研究会 PRMU / IPSJ-CVIM
開催期間 2020/3/16(から2日開催)
開催地(和) 京都大学
開催地(英)
テーマ(和) 安全安心、セキュリティ・防災
テーマ(英)
委員長氏名(和) 佐藤 洋一(東大)
委員長氏名(英) Yoichi Sato(Univ. of Tokyo)
副委員長氏名(和) 玉木 徹(広島大) / 木村 昭悟(NTT)
副委員長氏名(英) Toru Tamaki(Hiroshima Univ.) / Akisato Kimura(NTT)
幹事氏名(和) 入江 豪(NTT) / 牛久 祥孝(オムロンサイニックエックス)
幹事氏名(英) Go Irie(NTT) / Yoshitaka Ushiku(OMRON SINICX)
幹事補佐氏名(和) 内田 祐介(DeNA) / 山下 隆義(中部大)
幹事補佐氏名(英) Yusuke Uchida(DeNA) / Takayoshi Yamashita(Chubu Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Pattern Recognition and Media Understanding / Special Interest Group on Computer Vision and Image Media
本文の言語 JPN
タイトル(和) 深層学習のハイパパラメータ最適化におけるNelder-Mead法の初期値評価
サブタイトル(和)
タイトル(英) Evaluation of Initial Value of Nelder-Mead Method in Hyperparameter Optimization of Deep Learning
サブタイトル(和)
キーワード(1)(和/英) 深層学習
キーワード(2)(和/英) ハイパパラメータ最適化
キーワード(3)(和/英) Nelder-Mead法
第 1 著者 氏名(和/英) 竹長 慎太朗 / Shintaro Takenaga
第 1 著者 所属(和/英) 近畿大学(略称:近畿大)
Kindai University(略称:Kindai Univ)
第 2 著者 氏名(和/英) 渡邊 修平 / Shuhei Watanabe
第 2 著者 所属(和/英) 産業技術総合研究所 人工知能研究センター(略称:産総研)
Artificial Intelligence Research center, National Institute of Advanced Industrial Science and Technology(略称:AIST)
第 3 著者 氏名(和/英) 野村 将寛 / Masahiro Nomura
第 3 著者 所属(和/英) 産業技術総合研究所 人工知能研究センター(略称:産総研)
Artificial Intelligence Research center, National Institute of Advanced Industrial Science and Technology(略称:AIST)
第 4 著者 氏名(和/英) 尾崎 嘉彦 / Yoshihiko Ozaki
第 4 著者 所属(和/英) 産業技術総合研究所 人工知能研究センター(略称:産総研)
Artificial Intelligence Research center, National Institute of Advanced Industrial Science and Technology(略称:AIST)
第 5 著者 氏名(和/英) 大西 正輝 / Masaki Onishi
第 5 著者 所属(和/英) 産業技術総合研究所 人工知能研究センター(略称:産総研)
Artificial Intelligence Research center, National Institute of Advanced Industrial Science and Technology(略称:AIST)
第 6 著者 氏名(和/英) 波部 斉 / Hitoshi Habe
第 6 著者 所属(和/英) 近畿大学(略称:近畿大)
Kindai University(略称:Kindai Univ)
発表年月日 2020-03-17
資料番号 PRMU2019-90
巻番号(vol) vol.119
号番号(no) PRMU-481
ページ範囲 pp.127-132(PRMU),
ページ数 6
発行日 2020-03-09 (PRMU)