| 講演名 | 2018-06-15 複数推論器推論サーバのためのFPGAおよびDPDKによる通信高効率化手法 奥山 果穂(慶大), 岩田 拓真(慶大), 塚田 峰登(慶大), 吉敷 一将(慶大), 松谷 宏紀(慶大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 機械学習をベースとする推論システムでは、推論サーバはクライアントからの推論リクエストをネットワーク経由で受信し、推論処理を行い、推論結果をクライアントに返却する。推論処理のために、複数の推論器を保持し、ユーザからのフィードバックに基づいて適切な推論器を選択する。このため、ユーザからのフィードバックを含めると 1 つの推論リクエストに対し 3 回の通信が発生する。通常、パケットはプロトコルスタックを介して送受信されるが、プロトコルスタックの処理が通信性能低下の要因にもなっているため、プロトコルスタックを回避することで性能向上が見込める。そこで本論文では、 DPDK (Data Plane Development Kit) および FPGA (Field-Programmable Gate Array) を用いた推論サーバを実現する。これによりプロトコルスタックを介することで生じる負荷を回避し、推論サーバの高性能化を図る。複数推論器の中から適切なものを選択するために Exp3 および Exp4 アルゴリズムを用いる。評価の結果、 Exp3 および Exp4 アルゴリズムが選択した推論器と実装した 10 個の推論器の正答率を比較し、推論器の選択が正しく動作していることを確認した。また、プロトコルスタックを介して通信を行う通常の推論サーバと比較し、 DPDK と PFGA はそれぞれで約 1.9倍、約 3.8 倍の性能向上を実現した。 |
| 抄録(英) | |
| キーワード(和) | 推論サーバ / DPDK / FPGA |
| キーワード(英) | Prediction Server / DPDK / FPGA |
| 資料番号 | CPSY2018-5,DC2018-5 |
| 発行日 | 2018-06-07 (CPSY, DC) |
| 研究会情報 | |
| 研究会 | CPSY / DC / IPSJ-ARC |
|---|---|
| 開催期間 | 2018/6/14(から2日開催) |
| 開催地（和） | たかみや瑠璃倶楽リゾート(山形市蔵王温泉) |
| 開催地（英） | Takamiya Rurikura Resort |
| テーマ（和） | HotSPA2018: ディペンダブルコンピューティングシステムおよび一般 |
| テーマ（英） | Dependable Computing Systems, etc. (HotSPA2018) |
| 委員長氏名（和） | 中野 浩嗣(広島大) / 福本 聡(首都大東京) / 五島 正裕(NII) |
| 委員長氏名（英） | Koji Nakano(Hiroshima Univ.) / Satoshi Fukumoto(Tokyo Metropolitan Univ.) / Masahiro Goshima(NII) |
| 副委員長氏名（和） | 入江 英嗣(東大) / 三吉 貴史(富士通研) / 高橋 寛(愛媛大) |
| 副委員長氏名（英） | Hidetsugu Irie(Univ. of Tokyo) / Takashi Miyoshi(Fujitsu) / Hiroshi Takahashi(Ehime Univ.) |
| 幹事氏名（和） | 大川 猛(宇都宮大) / 高前田 伸也(北大) / 金子 晴彦(東工大) / 新井 雅之(日大) / 小野 貴継(九大) / 近藤 正章(東大) / 長谷川 揚平(東芝) / 塩谷 亮太(名大) |
| 幹事氏名（英） | Takeshi Ohkawa(Utsunomiya Univ.) / Shinya Takameda(Hokkaido Univ.) / Haruhiko Kaneko(Tokyo Inst. of Tech.) / Masayuki Arai(Nihon Univ.) / Takatsugu Ono(Kyushu Univ.) / Masaaki Kondo(Univ. of Tokyo) / Yohei Hasegawa(Toshiba) / Ryota Shioya(Nagoya Univ.) |
| 幹事補佐氏名（和） | 伊藤 靖朗(広島大) / 津邑 公暁(名工大) |
| 幹事補佐氏名（英） | Yasuaki Ito(Hiroshima Univ.) / Tomoaki Tsumura(Nagoya Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Computer Systems / Technical Committee on Dependable Computing / Special Interest Group on System Architecture |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 複数推論器推論サーバのためのFPGAおよびDPDKによる通信高効率化手法 |
| サブタイトル（和） | |
| タイトル（英） | FPGA and DPDK-Based Communication Acceleration Methods for Prediction Server with Multiple Predictors |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 推論サーバ / Prediction Server |
| キーワード(2)（和/英） | DPDK / DPDK |
| キーワード(3)（和/英） | FPGA / FPGA |
| 第 1 著者 氏名（和/英） | 奥山 果穂 / Kaho Okuyama |
| 第 1 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 2 著者 氏名（和/英） | 岩田 拓真 / Takuma Iwata |
| 第 2 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 3 著者 氏名（和/英） | 塚田 峰登 / Mineto Tsukada |
| 第 3 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 4 著者 氏名（和/英） | 吉敷 一将 / Kazumasa Kishiki |
| 第 4 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 第 5 著者 氏名（和/英） | 松谷 宏紀 / Hiroki Matsutani |
| 第 5 著者 所属（和/英） | 慶應義塾大学(略称：慶大) Keio University(略称：Keio Univ.) |
| 発表年月日 | 2018-06-15 |
| 資料番号 | CPSY2018-5,DC2018-5 |
| 巻番号（vol） | vol.118 |
| 号番号（no） | CPSY-92,DC-93 |
| ページ範囲 | pp.101-106(CPSY), pp.101-106(DC), |
| ページ数 | 6 |
| 発行日 | 2018-06-07 (CPSY, DC) |