| 講演名 | 2019-11-14 Wide-SIMDを用いたISAベースのスパースCNNのFPGA実装 神宮司 明良(東工大), 佐藤 真平(東工大), 中原 啓貴(東工大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 畳み込みニューラルネットワーク (Convolutional Neural Network : CNN) は画像認識で高い認識性能を達成することから, 自動車や防犯カメラなどの組み込みシステムにおける応用が期待されている. 組み込みシステムは安価なデバイスで実現されること, 電力性能に優れていることが求められる. 画像認識においてCNNは既存手法を大きく上回る識別精度を達成するが, CPUではリアルタイムな処理が実現できず, GPUでは消費電力が大きすぎる. FPGAによる実現は電力性能に優れるが,行列計算などの密な計算能力はGPUに劣る. CNNの高速化手法として重みスパース化がある. 重みスパース化されたCNNでは, パラメータのほとんどがゼロになり, ゼロを含む積和演算が大部分を占める. 重みスパース化されたCNNを高速に計算するためには, ゼロを含む積和演算をスキップする必要があるが, ゼロ計算をスキップするためにはメモリへのランダムアクセスが必要となる. 一般にシーケンシャルアクセスと比べランダムアクセスは遅い. 特にGPUはランダムアクセスが遅いため, ゼロスキッピングはCNNの計算においてボトルネックとなる. 本論文では, Wide-SIMDを用いたゼロスキッピングを効率的に行うCNN計算のFPGA実装手法を提案する. SIMD方式の演算アレイを提案し, オンチップメモリを広帯域なバッファとして用いることで, CNNの推論を高速に行う. Xilinx社Vivado HLSを用いて回路の設計を行い, Digilent社PYNQ-Z1に実装した. 実験の結果, VGGベースのYOLOv2で86 image/sの速度が達成された. |
| 抄録(英) | Convolutional Neural Network (CNN) achieves high recognition performance in image recognition, and is expected to be applied in embedded systems such as automobiles and security cameras. Embedded systems are required to be realized with inexpensive devices and to have excellent power performance. In image recognition, CNN achieves a discrimination accuracy much higher than that of existing methods, but the CPU cannot realize real-time processing and the GPU consumes too much power. Computational power is inferior to GPU. There is weight sparseness as a method for speeding up CNN. In weighted sparse CNN, most of the parameters are zero, and the product-sum operation including zero accounts for the majority. In order to calculate the weighted sparse CNN at high speed, it is necessary to skip the multiply-add operation including zero, but to skip zero calculation, random access to the memory is required. Random access is generally slower than sequential access. In particular, because GPUs have slow random access, zero skipping is a bottleneck in CNN calculations. In this paper, we propose an FPGA implementation method of CNN calculation that efficiently performs zero skipping using Wide-SIMD. We think that CNN inference can be performed at high speed by using a SIMD-type arithmetic array and on-chip memory as a wide-band buffer. The circuit was designed using Xilinx Vivado HLS and implemented on Digilent PYNQ-Z1. As a result of the experiment, a speed of 86 image/s was achieved with VGG-based YOLOv2. |
| キーワード(和) | CNN / FPGA |
| キーワード(英) | CNN / FPGA |
| 資料番号 | RECONF2019-37 |
| 発行日 | 2019-11-07 (RECONF) |
| 研究会情報 | |
| 研究会 | VLD / DC / CPSY / RECONF / ICD / IE / IPSJ-SLDM / IPSJ-EMB / IPSJ-ARC |
|---|---|
| 開催期間 | 2019/11/13(から3日開催) |
| 開催地（和） | 愛媛県男女共同参画センター |
| 開催地（英） | Ehime Prefecture Gender Equality Center |
| テーマ（和） | デザインガイア2019 -VLSI設計の新しい大地- |
| テーマ（英） | Design Gaia 2019 -New Field of VLSI Design- |
| 委員長氏名（和） | 戸川 望(早大) / 福本 聡(首都大東京) / 入江 英嗣(東大) / 柴田 裕一郎(長崎大) / 永田 真(神戸大) / 木全 英明(NTT) / 田宮 豊(富士通研) / / 井上 弘士(九大) |
| 委員長氏名（英） | Nozomu Togawa(Waseda Univ.) / Satoshi Fukumoto(Tokyo Metropolitan Univ.) / Hidetsugu Irie(Univ. of Tokyo) / Yuichiro Shibata(Nagasaki Univ.) / Makoto Nagata(Kobe Univ.) / Hideaki Kimata(NTT) / Yutaka Tamiya(Fujitsu Lab.) / / Hiroshi Inoue(Kyushu Univ.) |
| 副委員長氏名（和） | 福田 大輔(富士通研) / 高橋 寛(愛媛大) / 鯉渕 道紘(NII) / 中島 耕太(富士通研) / 佐野 健太郎(理研) / 山口 佳樹(筑波大) / 高橋 真史(東芝メモリ) / 児玉 和也(NII) / 高橋 桂太(名大) |
| 副委員長氏名（英） | Daisuke Fukuda(Fujitsu Labs.) / Hiroshi Takahashi(Ehime Univ.) / Michihiro Koibuchi(NII) / Kota Nakajima(Fujitsu Lab.) / Kentaro Sano(RIKEN) / Yoshiki Yamaguchi(Tsukuba Univ.) / Masafumi Takahashi(Toshiba-memory) / Kazuya Kodama(NII) / Keita Takahashi(Nagoya Univ.) |
| 幹事氏名（和） | 小平 行秀(会津大) / 桜井 祐市(日立) / 新井 雅之(日大) / 難波 一輝(千葉大) / 津邑 公暁(名工大) / 高前田 伸也(北大) / 谷川 一哉(広島市大) / 三好 健文(イーツリーズ・ジャパン) / 夏井 雅典(東北大) / 柘植 政利(ソシオネクスト) / 早瀬 和也(NTT) / 松尾 康孝(NHK) / 土谷 亮(滋賀県大) / 岩崎 裕江(NTT) / 佐々木 通(三菱電機) / / 近藤 正章(東大) / 塩谷 亮太(名大) / 田中 美帆(富士通研) / 長谷川 揚平(東芝メモリ) |
| 幹事氏名（英） | Yukihide Kohira(Univ. of Aizu) / Yuichi Sakurai(Hitachi) / Masayuki Arai(Nihon Univ.) / Kazuteru Namba(Chiba Univ.) / Tomoaki Tsumura(Nagoya Inst. of Tech.) / Shinya Takameda(Hokkaido Univ.) / Kazuya Tanigawa(Hiroshima City Univ.) / Takefumi Miyoshi(e-trees.Japan) / Masanori Natsui(Tohoku Univ.) / Masatoshi Tsuge(Socionext) / Kazuya Hayase(NTT) / Yasutaka Matsuo(NHK) / Akira Tsuchiya(Univ. Shiga Prefecture) / Hiroe Iwasaki(NTT) / Toru Sasaki(Mitsubishi Electric) / / Masaaki Kondo(Univ. of Tokyo) / Ryota Shioya(Nagoya Univ.) / Miho Tanaka(Fujitsu Labs.) / Yohei Hasegawa(Toshiba Memory) |
| 幹事補佐氏名（和） | 池田 一樹(日立) / / 有間 英志(東大) / 小川 周吾(日立) / 小林 悠記(NEC) / 中原 啓貴(東工大) / 廣瀬 哲也(阪大) / 新居 浩二(フローディア) / 久保木 猛(九大) / 海野 恭平(KDDI総合研究所) / 福嶋 慶繁(名工大) |
| 幹事補佐氏名（英） | Kazuki Ikeda(Hitachi) / / Eiji Arima(Univ. of Tokyo) / Shugo Ogawa(Hitachi) / Yuuki Kobayashi(NEC) / Hiroki Nakahara(Tokyo Inst. of Tech.) / Tetsuya Hirose(Osaka Univ.) / Koji Nii(Floadia) / Takeshi Kuboki(Kyushu Univ.) / Kyohei Unno(KDDI Research) / Norishige Fukushima(Nagoya Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on VLSI Design Technologies / Technical Committee on Dependable Computing / Technical Committee on Computer Systems / Technical Committee on Reconfigurable Systems / Technical Committee on Integrated Circuits and Devices / Technical Committee on Image Engineering / Special Interest Group on System and LSI Design Methodology / Special Interest Group on Embedded Systems / Special Interest Group on System Architecture |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | Wide-SIMDを用いたISAベースのスパースCNNのFPGA実装 |
| サブタイトル（和） | |
| タイトル（英） | FPGA implementation of ISA-based sparse CNN using Wide-SIMD |
| サブタイトル（和） | |
| キーワード(1)（和/英） | CNN / CNN |
| キーワード(2)（和/英） | FPGA / FPGA |
| 第 1 著者 氏名（和/英） | 神宮司 明良 / Akira Jinguji |
| 第 1 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Titech) |
| 第 2 著者 氏名（和/英） | 佐藤 真平 / Shimpei Sato |
| 第 2 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Titech) |
| 第 3 著者 氏名（和/英） | 中原 啓貴 / Hiroki Nakahara |
| 第 3 著者 所属（和/英） | 東京工業大学(略称：東工大) Tokyo Institute of Technology(略称：Titech) |
| 発表年月日 | 2019-11-14 |
| 資料番号 | RECONF2019-37 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | RECONF-287 |
| ページ範囲 | pp.9-14(RECONF), |
| ページ数 | 6 |
| 発行日 | 2019-11-07 (RECONF) |