| 講演名 | 2017-05-23 パラメータサーバのためのFPGAおよびDPDKによる通信高効率化手法 吉敷 一将(慶大), 田村 是慶(慶大), 松谷 宏紀(慶大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 大規模なデータセットを使用した機械学習を行う際、単一マシンで十分な性能の学習を達成することは不可能であり、高性能な分散機械学習フレームワークが必須である。データ並列分散機械学習フレームワークとして、パラメータサーバが現在注目されており、既に多くの企業で様々な構成のパラメータサーバが実装されている。パラメータサーバでは、学習タスクを行う複数のワーカがマスターサーバに対して同時に通信要求を行うため、サーバ上で行われる学習結果集約の計算負荷が特に大きいなどの場合を除いて、通信によって生じるサーバの負荷がシステム全体のボトルネックとなる。通信において、送受信パケットが必ず介する Linux ネットワークプロトコルスタックの処理は負荷の割合が大きいことが既に知られている。本論文では、Netfilter、DPDK(Data Plane Development Kit)、FPGA(Field-Programmable Gate Array) の 3 つの手法を用いたサーバ実装により、プロトコルスタックを介することで生じる負荷を削減し、パラメータサーバの通信高効率化を行う。特に通信負荷の大きい学習である SGD(Stochastic Gradient Discent) の擬似的なアルゴリズムを動作させて評価し、この 3 つのサーバ実装手法がパラメータサーバに対して有効なアプローチであることを示す。性能評価の結果、単一ワーカと単一サーバを 10Gbit Ethernet で接続した環境では、すべての実装手法でサーバの通信負荷がシステムのボトルネックとなることを回避し、1.9 倍以上の性能向上を実現した。最後に、各サーバ実装手法の特徴を挙げ、パラメータサーバにおける有用性について議論を行う。 |
| 抄録(英) | |
| キーワード(和) | パラメータサーバ / Netfilter / DPDK / FPGA |
| キーワード(英) | |
| 資料番号 | RECONF2017-19 |
| 発行日 | 2017-05-15 (RECONF) |
| 研究会情報 | |
| 研究会 | RECONF / CPSY / DC / IPSJ-ARC |
|---|---|
| 開催期間 | 2017/5/22(から3日開催) |
| 開催地（和） | 登別温泉第一滝本館 |
| 開催地（英） | Noboribetsu-Onsen Dai-ichi-Takimoto-Kan |
| テーマ（和） | HotSPA2017: リコンフィギャラブルシステム・ディペンダブルコンピューティングシステムおよび一般 |
| テーマ（英） | HotSPA2017: Reconfigurable System, Dependable Computing System, and General Topics |
| 委員長氏名（和） | 渡邊 実(静岡大) / 中島 康彦(奈良先端大) / 井上 美智子(奈良先端大) |
| 委員長氏名（英） | Minoru Watanabe(Shizuoka Univ.) / Yasuhiko Nakashima(NAIST) / Michiko Inoue(NAIST) |
| 副委員長氏名（和） | 本村 真人(北大) / 柴田 裕一郎(長崎大) / 中野 浩嗣(広島大) / 入江 英嗣(東大) / 福本 聡(首都大東京) |
| 副委員長氏名（英） | Masato Motomura(Hokkaido Univ.) / Yuichiro Shibata(Nagasaki Univ.) / Koji Nakano(Hiroshima Univ.) / Hidetsugu Irie(Univ. of Tokyo) / Satoshi Fukumoto(Tokyo Metropolitan Univ.) |
| 幹事氏名（和） | 山口 佳樹(筑波大) / 谷川 一哉(広島市大) / 三吉 貴史(富士通研) / 鯉渕 道紘(NII) / 吉村 正義(京都産大) / 金子 晴彦(東工大) |
| 幹事氏名（英） | Yoshiki Yamaguchi(Univ. of Tsukuba) / Kazuya Tanigawa(Hiroshima City Univ.) / Takashi Miyoshi(Fujitsu Labs.) / Michihiro Koibuchi(NII) / Masayoshi Yoshimura(Kyoto Sangyo Univ.) / Haruhiko Kaneko(Tokyo Inst. of Tech.) |
| 幹事補佐氏名（和） | 三好 健文(イーツリーズ・ジャパン) / 小林 悠記(NEC) / 大川 猛(宇都宮大) / 高前田 伸也(北大) |
| 幹事補佐氏名（英） | Takefumi Miyoshi(e-trees.Japan) / Yuuki Kobayashi(NEC) / Takeshi Ohkawa(Utsunomiya Univ.) / Shinya Takameda(Hokkaido Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Reconfigurable Systems / Technical Committee on Computer Systems / Technical Committee on Dependable Computing / Special Interest Group on System Architecture |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | パラメータサーバのためのFPGAおよびDPDKによる通信高効率化手法 |
| サブタイトル（和） | |
| タイトル（英） | FPGA and DPDK-Based Communication Acceleration Methods for Parameter Servers |
| サブタイトル（和） | |
| キーワード(1)（和/英） | パラメータサーバ |
| キーワード(2)（和/英） | Netfilter |
| キーワード(3)（和/英） | DPDK |
| キーワード(4)（和/英） | FPGA |
| 第 1 著者 氏名（和/英） | 吉敷 一将 / Kazumasa Kishiki |
| 第 1 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 2 著者 氏名（和/英） | 田村 是慶 / Korechika Tamura |
| 第 2 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 3 著者 氏名（和/英） | 松谷 宏紀 / Hiroki Matsutani |
| 第 3 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 発表年月日 | 2017-05-23 |
| 資料番号 | RECONF2017-19 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | RECONF-46 |
| ページ範囲 | pp.99-104(RECONF), |
| ページ数 | 6 |
| 発行日 | 2017-05-15 (RECONF) |