| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2016-08-09 11:15 パラメータサーバを用いた並列機械学習システムにおける耐故障性のシミュレーション ○黎 明曦（筑波大）・谷村勇輔・中田秀基（産総研）  CPSY2016-20 DC2016-17 |
|
| 抄録 | （和） | 大規模なデータを対象とする機械学習システムの高速化には並列化が必須である。パラメータサーバと多数のワーカ計算機を用いるデータ並列機械学習システムにおいては、一般の大規模システムと同様に耐故障性が問題になるが、並列機械学習システムにおける耐故障性の議論は進んでいない。本稿ではパラメータサーバを用いた並列機械学習システムにおける耐故障性に関して議論し、シミュレーションを用いて大規模なシステムにおける定量的な評価を行う。その結果、パラメータサーバ上の情報を用いることでチェックポイントのコストを大幅に低減することができること、さらには、収束への悪影響を許容すれば、チェックポイントからのリカバリコストも低減できることを明らかにした。 |
| （英） | Parallel computation is essential for machine learning systems to be more faster. There are two techniques to build parallel machine learning systems; namely data parallel method and model parallel method. In this paper, we only discuss data parallel where large number of parameter servers and computation servers communicate each other to perform computation. Fault tolerancy is a big problem on large scale computation system in general, however, there are not much discussions about the fault folerancy of parallel machine learning system. in this paper, we discuss the fault tolerancy of parallel machine learning systems which use parameter servers. Parameter servers gives extra redundancy to the system and could double as the checkpoint server. We also quantitatively evaluate several fault tolerance method using parallel environment simulator SimGrid. |
|
| キーワード | （和） | 耐故障性 / パラメータサーバ / 機械学習 / シミュレーション / 分散システム / / / |
| （英） | Fault Tolerancy / Parameter Server / Machine Learning / Simulations / Distributed Systems / / / | |
| 文献情報 | 信学技報, vol. 116, no. 177, CPSY2016-20, pp. 125-130, 2016年8月. | |
| 資料番号 | CPSY2016-20 | |
| 発行日 | 2016-08-01 (CPSY), 2016-08-02 (DC) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CPSY2016-20 DC2016-17 |
|
| 研究会情報 | |
| 研究会 | CPSY DC IPSJ-ARC |
| 開催期間 | 2016-08-08 - 2016-08-10 |
| 開催地（和） | キッセイ文化ホール（松本） |
| 開催地（英） | Kissei-Bunka-Hall (Matsumoto) |
| テーマ（和） | 並列／分散／協調とディペンダブルコンピューティングおよび一般 |
| テーマ（英） | Parallel, Distributed and Cooperative Processing |
| 講演論文情報の詳細 | |
| 申込み研究会 | CPSY |
| 会議コード | 2016-08-CPSY-DC-ARC |
| 本文の言語 | 日本語 |
| タイトル（和） | パラメータサーバを用いた並列機械学習システムにおける耐故障性のシミュレーション |
| サブタイトル（和） | |
| タイトル（英） | A simulation study on fault tolerancy of parallel machine learning systems with parameter servers |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 耐故障性 / Fault Tolerancy |
| キーワード(2)（和/英） | パラメータサーバ / Parameter Server |
| キーワード(3)（和/英） | 機械学習 / Machine Learning |
| キーワード(4)（和/英） | シミュレーション / Simulations |
| キーワード(5)（和/英） | 分散システム / Distributed Systems |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 黎 明曦 / Mingxi Li / レイ メイギ |
| 第1著者 所属（和/英） | 筑波大学 (略称： 筑波大) University of Tsukubay (略称： Univ. of Tsukuba) |
| 第2著者 氏名（和/英/ヨミ） | 谷村 勇輔 / Yusuke Tanimura / タニムラ ユウスケ |
| 第2著者 所属（和/英） | 産業技術総合研究所 (略称： 産総研) National Institute of Advanced Industrial Science and Technology (略称： AIST) |
| 第3著者 氏名（和/英/ヨミ） | 中田 秀基 / Hidemoto Nakada / ナカダ ヒデモト |
| 第3著者 所属（和/英） | 産業技術総合研究所 (略称： 産総研) National Institute of Advanced Industrial Science and Technology (略称： AIST) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2016-08-09 11:15:00 |
| 発表時間 | 30分 |
| 申込先研究会 | CPSY |
| 資料番号 | CPSY2016-20, DC2016-17 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | no.177(CPSY), no.178(DC) |
| ページ範囲 | pp.125-130(CPSY), pp.1-6(DC) |
| ページ数 | 6 |
| 発行日 | 2016-08-01 (CPSY), 2016-08-02 (DC) |
[研究会発表申込システムのトップページに戻る]