| 講演名 | 2014-11-18 関数値の一対比較によるブロック座標降下法とその並列化(情報論的学習理論ワークショップ(IBIS2014)) 松井 孝太, 熊谷 亘, 金森 敬文, |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 本論文では,制約無し最適化問題に対するブロック座標降下法を提案する.提案法では,関数値や関数の勾配といった情報は要求されず,代わりに関数値の一対比較の情報のみが用いられる.提案法は,探索方向決定ステップと直線探索ステップに分かれている.探索方向決定ステップではニュートン型の探索方向を計算し,直線探索ステップでその方向を二分探索する.探索方向ステップの計算は簡単に並列化可能なため,提案法は効率的に関数の最小化を行うことができる.これは数値実験における既存手法との比較によっても示される.また,本論文では提案法の収束レートの上界も与える. |
| 抄録(英) | This paper provides a block coordinate descent algorithm to solve unconstrained optimization problems. In our algorithm, computation of function values or gradients is not required. Instead, pairwise comparison of function values is used. Our algorithm consists of two steps; one is the direction estimate step and the other is the search step. In the direction estimate step, a Newton type search direction is estimated. In the search step, a numerical solution is updated along the estimated direction. The computation in the direction estimate step can be easily parallelized, and thus, the algorithm works efficiently to find the minimizer of the objective function. Also, we show an upper bound of the convergence rate. In numerical experiments, we show that our method efficiently finds the optimal solution compared to some existing methods based on the pairwise comparison. |
| キーワード(和) | derivative-free optimization / pairwise comparison oracle / ブロック座標降下法 / 並列計算 |
| キーワード(英) | derivative-free optimization / pairwise comparison oracle / block coordinate descent / parallel computation |
| 資料番号 | IBISML2014-67 |
| 発行日 |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2014/11/10(から1日開催) |
| 開催地（和） | |
| 開催地（英） | |
| テーマ（和） | |
| テーマ（英） | |
| 委員長氏名（和） | |
| 委員長氏名（英） | |
| 副委員長氏名（和） | |
| 副委員長氏名（英） | |
| 幹事氏名（和） | |
| 幹事氏名（英） | |
| 幹事補佐氏名（和） | |
| 幹事補佐氏名（英） | |
| 講演論文情報詳細 | |
| 申込み研究会 | Information-Based Induction Sciences and Machine Learning (IBISML) |
|---|---|
| 本文の言語 | ENG |
| タイトル（和） | 関数値の一対比較によるブロック座標降下法とその並列化(情報論的学習理論ワークショップ(IBIS2014)) |
| サブタイトル（和） | |
| タイトル（英） | Parallel Distributed Block Coordinate Descent Methods based on Pairwise Comparison Oracle |
| サブタイトル（和） | |
| キーワード(1)（和/英） | derivative-free optimization / derivative-free optimization |
| キーワード(2)（和/英） | pairwise comparison oracle / pairwise comparison oracle |
| キーワード(3)（和/英） | ブロック座標降下法 / block coordinate descent |
| キーワード(4)（和/英） | 並列計算 / parallel computation |
| 第 1 著者 氏名（和/英） | 松井 孝太 / Kota MATSUI |
| 第 1 著者 所属（和/英） | 名古屋工業大学 Nagoya Institute of Technology |
| 第 2 著者 氏名（和/英） | 熊谷 亘 / Wataru KUMAGAI |
| 第 2 著者 所属（和/英） | 神奈川大学 Kanagawa University |
| 第 3 著者 氏名（和/英） | 金森 敬文 / Takafumi KANAMORI |
| 第 3 著者 所属（和/英） | 名古屋大学 Nagoya University |
| 発表年月日 | 2014-11-18 |
| 資料番号 | IBISML2014-67 |
| 巻番号（vol） | vol.114 |
| 号番号（no） | 306 |
| ページ範囲 | pp.- |
| ページ数 | 8 |
| 発行日 | |