講演名 2022-01-24
FPGAクラスタ向けCNN推論用アクセラレータの一検討
境 琳太郎(熊本大/理研R-CCS), 中原 康宏(熊本大/理研R-CCS), 佐野 健太郎(理研R-CCS), 飯田 全広(熊本大/理研R-CCS),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本研究ではFPGAクラスタ上でCNNの処理を高速化するCNNアクセラレータを提案する.FPGA毎に処理を分散,並列化することでCNNの推論処理をより高速化することを目的とする.本研究ではFPGAクラスタにおけるCNN推論性能の事前評価として,FPGA用CNNアクセラレータのアーキテクチャの単体性能評価,また複数FPGAでCNN処理を分割した場合のCNN処理性能の評価を行う.アーキテクチャは本研究室で開発された再構成性をもつAIチップReNAをもとに開発を行う.ReNAアーキテクチャをFPGAに最適化をした場合,最適化する前のものと比べてCNNの推論処理性能が64%向上した.また,複数FPGAでCNN処理を分割する方法によって,FPGAの個数が16個に増えても並列化効率を最大で90%に保てることがわかった.
抄録(英) In this study, we propose a CNN accelerator for FPGA clusters, which accelerates the CNN inference process by distributing and parallelizing it to each FPGA. As a preliminary evaluation of CNN inference performance in FPGA clusters, we evaluate the stand-alone performance of the architecture of the CNN accelerator for FPGAs, and also evaluate the performance when the CNN processing is divided among multiple FPGAs. This architecture is developed based on our previously proposed reconfigurable AI chip, ReNA. By optimizing this architecture for FPGAs, we found that the inference performance of FPGAs is improved: the CNN throughput increased by 64% compared to the pre-optimization level. By dividing CNN processing among multiple FPGAs, parallelization efficiency can be kept at a maximum of 90% even when the number of FPGAs increases to 16.
キーワード(和) FPGA / CNN
キーワード(英) FPGA / CNN
資料番号 VLD2021-60,CPSY2021-29,RECONF2021-68
発行日 2022-01-17 (VLD, CPSY, RECONF)

研究会情報
研究会 RECONF / VLD / CPSY / IPSJ-ARC / IPSJ-SLDM
開催期間 2022/1/24(から2日開催)
開催地(和) オンライン開催
開催地(英) Online
テーマ(和) FPGA 応用および一般
テーマ(英) FPGA Applications, etc.
委員長氏名(和) 佐野 健太郎(理研) / 小林 和淑(京都工繊大) / 鯉渕 道紘(NII) / 井上 弘士(九大) / 中村 祐一(NEC)
委員長氏名(英) Kentaro Sano(RIKEN) / Kazutoshi Kobayashi(Kyoto Inst. of Tech.) / Michihiro Koibuchi(NII) / Hiroshi Inoue(Kyushu Univ.) / Yuichi Nakamura(NEC)
副委員長氏名(和) 山口 佳樹(筑波大) / 泉 知論(立命館大) / 池田 奈美子(NTT) / 中島 耕太(富士通研) / 津邑 公暁(名工大)
副委員長氏名(英) Yoshiki Yamaguchi(Tsukuba Univ.) / Tomonori Izumi(Ritsumeikan Univ.) / Minako Ikeda(NTT) / Kota Nakajima(Fujitsu Lab.) / Tomoaki Tsumura(Nagoya Inst. of Tech.)
幹事氏名(和) 小林 悠記(NEC) / 中原 啓貴(東工大) / 兼本 大輔(大阪大学) / 宮村 信(NEC) / 井口 寧(北陸先端大) / 小川 周吾(日立) / 近藤 正章(東大) / 塩谷 亮太(名大) / 田中 美帆(富士通研) / 長谷川 揚平(東芝メモリ) / 瀬戸 謙修(東京都市大) / 川村 一志(東工大) / 廣本 正之(富士通) / 細田 浩希(ソニーLSIデザイン)
幹事氏名(英) Yuuki Kobayashi(NEC) / Hiroki Nakahara(Tokyo Inst. of Tech.) / Daisuke Kanemoto(Osaka Univ.) / Makoto Miyamura(NEC) / Yasushi Inoguchi(JAIST) / Shugo Ogawa(Hitachi) / Masaaki Kondo(Univ. of Tokyo) / Ryota Shioya(Nagoya Univ.) / Miho Tanaka(Fujitsu Labs.) / Yohei Hasegawa(Toshiba Memory) / Kenshu Seto(Tokyo City Univ.) / Kazushi Kawamura(Tokyo Inst. of Tech.) / Masayuki Hiromoto(Fujitsu) / Hiroki Hosoda(Sony LSI Design)
幹事補佐氏名(和) 竹村 幸尚(インテル) / 長名 保範(琉球大学) / / 小林 諒平(筑波大) / 宮島 敬明(明大)
幹事補佐氏名(英) Yukitaka Takemura(INTEL) / Yasunori Osana(Ryukyu Univ.) / / Ryohei Kobayashi(Tsukuba Univ.) / Takaaki Miyajima(Meiji Univ.)

講演論文情報詳細
申込み研究会 Technical Committee on Reconfigurable Systems / Technical Committee on VLSI Design Technologies / Technical Committee on Computer Systems / Special Interest Group on System Architecture / Special Interest Group on System and LSI Design Methodology
本文の言語 JPN
タイトル(和) FPGAクラスタ向けCNN推論用アクセラレータの一検討
サブタイトル(和)
タイトル(英) A study of an accelerator for CNN inference on FPGA clusters
サブタイトル(和)
キーワード(1)(和/英) FPGA / FPGA
キーワード(2)(和/英) CNN / CNN
第 1 著者 氏名(和/英) 境 琳太郎 / Rintaro Sakai
第 1 著者 所属(和/英) 熊本大学/理化学研究所 計算科学研究センター(略称:熊本大/理研R-CCS)
Kumamoto University/RIKEN Center for Computational Science(略称:Kumamoto Univ. /R-CSS)
第 2 著者 氏名(和/英) 中原 康宏 / Yasuhiro Nakahara
第 2 著者 所属(和/英) 熊本大学/理化学研究所 計算科学研究センター(略称:熊本大/理研R-CCS)
Kumamoto University/RIKEN Center for Computational Science(略称:Kumamoto Univ. /R-CCS)
第 3 著者 氏名(和/英) 佐野 健太郎 / Kentaro Sano
第 3 著者 所属(和/英) 理化学研究所 計算科学研究センター(略称:理研R-CCS)
RIKEN Center for Computational Science(略称:R-CCS)
第 4 著者 氏名(和/英) 飯田 全広 / Masahiro Iida
第 4 著者 所属(和/英) 熊本大学/理化学研究所 計算科学研究センター(略称:熊本大/理研R-CCS)
Kumamoto University/RIKEN Center for Computational Science(略称:Kumamoto Univ. /R-CCS)
発表年月日 2022-01-24
資料番号 VLD2021-60,CPSY2021-29,RECONF2021-68
巻番号(vol) vol.121
号番号(no) VLD-342,CPSY-343,RECONF-344
ページ範囲 pp.61-66(VLD), pp.61-66(CPSY), pp.61-66(RECONF),
ページ数 6
発行日 2022-01-17 (VLD, CPSY, RECONF)