講演名 2023-03-23
GPUサーバにおける画像認識を行う深層学習の性能モデリング
松下 哲也(電通大), 三輪 忍(電通大), 八巻 隼人(電通大), 本多 弘樹(電通大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 深層学習は膨大な計算資源を必要とすることから,GPU を搭載したサーバ上で実行されることが多い.現 在の多くの深層学習フレームワークには,主に CPU で実行される訓練データの準備処理 (データ転送を含む) と GPU で実行される学習処理をオーバーラップさせる入力パイプラインが備わっている.入力パイプライン用いた際のアプ リケーションの性能は,この二つの処理のうち時間の長い処理に律速される.したがって,一定のコスト制限のもと において,入力パイプラインによる性能向上をできるだけ高くするためには,この二つの処理の時間ができるだけ同 じになるよう,GPU サーバを構成する各ハードウェアのそれぞれの要求性能を明らかにする必要がある.そこで本研 究では,各ハードウェアの要求性能を明らかにするため,GPU サーバ上で実行される深層学習を用いた画像認識アプ リケーションの実行時間を種々のアーキテクチャパラメータを用いてモデル化を目指した.2 種類の GPU サーバ上で ResNet50 を用いて ImageNet の学習を行った結果,導出したモデルは同アプリケーションの性能を平均絶対パーセン ト誤差 10.8% で予測できた.
抄録(英) Deep learning frameworks have an input pipeline that executes data transfer and processes on CPU and GPU in a pipeline manner. When using the input pipeline, the required performance of each hardware in a GPU server differs depending on the combination of hardware. In this research, we model the execution time of an image recognition application based on deep learning by using various architectural parameters on the GPU server, in order to clarify the required performance of each hardware. As a result of training ResNet50 with ImageNet on two types of GPU servers, our model can predict the execution time with a mean absolute percentage error of 10.8%.
キーワード(和) 深層学習 / GPUサーバ / 性能モデリング
キーワード(英) deep learning / GPU server / performance modeling
資料番号 CPSY2022-39,DC2022-98
発行日 2023-03-16 (CPSY, DC)

研究会情報
研究会 DC / CPSY / IPSJ-SLDM / IPSJ-EMB / IPSJ-ARC
開催期間 2023/3/23(から3日開催)
開催地(和) 天城町防災センター(徳之島)
開催地(英) Amagi Town Disaster Prevention Center (Tokunoshima)
テーマ(和) 組込み技術とネットワークに関するワークショップ ETNET2023
テーマ(英)
委員長氏名(和) 土屋 達弘(阪大) / 鯉渕 道紘(NII) / 越智 裕之(立命館大) / / 津邑 公暁(名工大)
委員長氏名(英) Tatsuhiro Tsuchiya(Osaka Univ.) / Michihiro Koibuchi(NII) / Hiroyuki Ochi(Ritsumeikan Univ.) / / Hiroshi Inoue(Nagoya Institute of Technology)
副委員長氏名(和) 細川 利典(日大) / 中島 耕太(富士通研) / 津邑 公暁(名工大)
副委員長氏名(英) Toshinori Hosokawa(Nihon Univ.) / Kota Nakajima(Fujitsu Lab.) / Tomoaki Tsumura(Nagoya Inst. of Tech.)
幹事氏名(和) 新井 雅之(日大) / 難波 一輝(千葉大) / 井口 寧(北陸先端大) / 小川 周吾(日立) / 川村 一志(東工大) / 今川 隆司(明大) / 細田 浩希(ソニーセミコンダクタソリューションズ) / 田中 勇気(日立) / / 今村 智史(富士通) / 谷本 輝夫(九大) / 新田 高庸(会津大) / 八巻 隼人(電通大)
幹事氏名(英) Masayuki Arai(Nihon Univ.) / Kazuteru Namba(Chiba Univ.) / Yasushi Inoguchi(JAIST) / Shugo Ogawa(Hitachi) / Kazushi Kawamura(Tokyo Inst. of Tech.) / Takashi Imagawa(Meiji Univ.) / Hiroki Hosoda(Sony Semiconductor Solutions) / Yuki Tanaka(HITACHI) / / Satoshi Imamura(Fujitsu) / Teruo Tanimoto(Kyushu Univ.) / Koyo Nitta(Univ. of Aizu) / Hayato Yamaki(Univ. of Electro-Communications)
幹事補佐氏名(和) / 小林 諒平(筑波大) / 宮島 敬明(明大)
幹事補佐氏名(英) / Ryohei Kobayashi(Tsukuba Univ.) / Takaaki Miyajima(Meiji Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Dependable Computing / Technical Committee on Computer Systems / Special Interest Group on System and LSI Design Methodology / Special Interest Group on Embedded Systems / Special Interest Group on System Architecture
本文の言語 JPN
タイトル(和) GPUサーバにおける画像認識を行う深層学習の性能モデリング
サブタイトル(和)
タイトル(英) Modeling performance of deep learning for image recognition on a GPU server
サブタイトル(和)
キーワード(1)(和/英) 深層学習 / deep learning
キーワード(2)(和/英) GPUサーバ / GPU server
キーワード(3)(和/英) 性能モデリング / performance modeling
第 1 著者 氏名(和/英) 松下 哲也 / Tetsuya Matsushita
第 1 著者 所属(和/英) 電気通信大学(略称:電通大)
The University of Electro-Communications(略称:UEC)
第 2 著者 氏名(和/英) 三輪 忍 / Shinobu Miwa
第 2 著者 所属(和/英) 電気通信大学(略称:電通大)
The University of Electro-Communications(略称:UEC)
第 3 著者 氏名(和/英) 八巻 隼人 / Hayato Yamaki
第 3 著者 所属(和/英) 電気通信大学(略称:電通大)
The University of Electro-Communications(略称:UEC)
第 4 著者 氏名(和/英) 本多 弘樹 / Hiroki Honda
第 4 著者 所属(和/英) 電気通信大学(略称:電通大)
The University of Electro-Communications(略称:UEC)
発表年月日 2023-03-23
資料番号 CPSY2022-39,DC2022-98
巻番号(vol) vol.122
号番号(no) CPSY-451,DC-452
ページ範囲 pp.31-36(CPSY), pp.31-36(DC),
ページ数 6
発行日 2023-03-16 (CPSY, DC)