| 講演名 | 2018-01-19 2のべき乗近似とプルーニングを用いたCNN向けFPGAアクセラレータ 宇都宮 誉博(熊本大), 尼崎 太樹(熊本大), 飯田 全広(熊本大), 久我 守弘(熊本大), 末吉 敏則(熊本大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 画像認識手法の一つである畳込みニューラルネットワーク（CNN: Convolutional Neural Network)は，その識別精度の高さから様々な分野で注目されている．CNNの組込み機器への実装を考えた場合，低消費電力かつ高速な処理が可能であるFPGA（Field Programmable Gate Array）は有望な選択肢となる．しかしながら，FPGAにCNNを実装する際は，内部で膨大な回数実行される積和演算回路の構成および重みを読み込む際のメモリアクセスについて工夫する必要がある．そこで本稿では，CNNの重みを2のべき乗に近似する手法を提案する．これにより，積和演算回路における乗算はシフト演算に置き換え可能となる．また，重みを近似する際はCNNに再学習を施すことで認識率の低下を抑制し，近似後は閾値以下の重みをプルーニングすることで重みの表現に必要なビット幅を削減する．提案手法によって，畳込み層のカーネルあたりのLUT使用量は約1.9倍改善され，全結合層の積和演算あたりのLUT使用量は約2.5倍改善された．また，認識精度の低下を0.3%程度に抑えた場合は畳込み層の重みを5ビット，全結合層の重みを4ビットで表現可能となり，2%程度に抑えた場合はさらに全結合層の重みを3ビットに削減して表現可能となった． |
| 抄録(英) | Convolutional Neural Network (CNN), a method of Image recognition, is utilized in various fields. Field Programmable Gate Array (FPGA) is one of the promising medium for embedded systems. For CNN implementation on FPGA, it is required to consider the resource utilization of multiply-add circuit and memory access for weight of neural network. In this paper, we propose power of 2 approximation of weight. This method enables multiply-add circuit with Shifter and Adder. Our proposed method improved LUT consumption up to 2.5 times. Furthermore, the bit width required for weight was reduced to 5 bits in Convolutional layer and to 3bits in Fully connected layer. |
| キーワード(和) | FPGA / 深層学習 / 畳込みニューラルネットワーク |
| キーワード(英) | FPGA / Deep Learning / CNN |
| 資料番号 | VLD2017-82,CPSY2017-126,RECONF2017-70 |
| 発行日 | 2018-01-11 (VLD, CPSY, RECONF) |
| 研究会情報 | |
| 研究会 | IPSJ-ARC / VLD / CPSY / RECONF / IPSJ-SLDM |
|---|---|
| 開催期間 | 2018/1/18(から2日開催) |
| 開催地（和） | 慶應義塾大学 日吉キャンパス 来往舎 |
| 開催地（英） | Raiosha, Hiyoshi Campus, Keio University |
| テーマ（和） | FPGA応用および一般 |
| テーマ（英） | FPGA Applications, etc |
| 委員長氏名（和） | 五島 正裕(NII) / 越智 裕之(立命館大) / 中野 浩嗣(広島大) / 本村 真人(北大) / 浜口 清治(島根大) |
| 委員長氏名（英） | Masahiro Goshima(NII) / Hiroyuki Ochi(Ritsumeikan Univ.) / Koji Nakano(Hiroshima Univ.) / Masato Motomura(Hokkaido Univ.) / Kiyoharu Hamaguchi(Shimane Univ.) |
| 副委員長氏名（和） | / 峯岸 孝行(三菱電機) / 入江 英嗣(東大) / 三吉 貴史(富士通研) / 柴田 裕一郎(長崎大) / 佐野 健太郎(東北大) |
| 副委員長氏名（英） | / Noriyuki Minegishi(Mitsubishi Electric) / Hidetsugu Irie(Univ. of Tokyo) / Takashi Miyoshi(Fujitsu) / Yuichiro Shibata(Nagasaki Univ.) / Kentaro Sano(Tohoku Univ.) |
| 幹事氏名（和） | 小野 貴継(九大) / 近藤 正章(東大) / 長谷川 揚平(東芝) / 塩谷 亮太(名大) / 永山 忍(広島市大) / 新田 高庸(NTTデバイスイノベーションセンタ) / 大川 猛(宇都宮大) / 高前田 伸也(北大) / 谷川 一哉(広島市大) / 三好 健文(イーツリーズ・ジャパン) / 許 浩沿(パナソニックセミコンダクタソリューションズ) / 密山 幸男(高知工科大) / 柴田 誠也(NEC) |
| 幹事氏名（英） | Takatsugu Ono(Kyushu Univ.) / Masaaki Kondo(Univ. of Tokyo) / Yohei Hasegawa(Toshiba) / Ryota Shioya(Nagoya Univ.) / Shinobu Nagayama(Hiroshima City Univ.) / Koyo Nitta(NTT) / Takeshi Ohkawa(Utsunomiya Univ.) / Shinya Takameda(Hokkaido Univ.) / Kazuya Tanigawa(Hiroshima City Univ.) / Takefumi Miyoshi(e-trees.Japan) / Ko Kyo(Panasonic) / Yukio Mitsuyama(Kochi Univ. of Tech.) / Seiya Shibata(NEC) |
| 幹事補佐氏名（和） | / / 伊藤 靖朗(広島大) / 津邑 公暁(名工大) / 小林 悠記(NEC) / 中原 啓貴(東工大) |
| 幹事補佐氏名（英） | / / Yasuaki Ito(Hiroshima Univ.) / Tomoaki Tsumura(Nagoya Inst. of Tech.) / Yuuki Kobayashi(NEC) / Hiroki Nakahara(Tokyo Inst. of Tech.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Special Interest Group on System Architecture / Technical Committee on VLSI Design Technologies / Technical Committee on Computer Systems / Technical Committee on Reconfigurable Systems / Special Interest Group on System and LSI Design Methodology |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 2のべき乗近似とプルーニングを用いたCNN向けFPGAアクセラレータ |
| サブタイトル（和） | |
| タイトル（英） | FPGA accelerator of CNN using Power of 2 Approximation and Pruning weights |
| サブタイトル（和） | |
| キーワード(1)（和/英） | FPGA / FPGA |
| キーワード(2)（和/英） | 深層学習 / Deep Learning |
| キーワード(3)（和/英） | 畳込みニューラルネットワーク / CNN |
| 第 1 著者 氏名（和/英） | 宇都宮 誉博 / Takahiro Utsunomiya |
| 第 1 著者 所属（和/英） | 熊本大学(略称：熊本大) Kumamoto University(略称：Kumamoto Univ.) |
| 第 2 著者 氏名（和/英） | 尼崎 太樹 / Motoki Amagasaki |
| 第 2 著者 所属（和/英） | 熊本大学(略称：熊本大) Kumamoto University(略称：Kumamoto Univ.) |
| 第 3 著者 氏名（和/英） | 飯田 全広 / Masahiro Iida |
| 第 3 著者 所属（和/英） | 熊本大学(略称：熊本大) Kumamoto University(略称：Kumamoto Univ.) |
| 第 4 著者 氏名（和/英） | 久我 守弘 / Morihiro Kuga |
| 第 4 著者 所属（和/英） | 熊本大学(略称：熊本大) Kumamoto University(略称：Kumamoto Univ.) |
| 第 5 著者 氏名（和/英） | 末吉 敏則 / Toshinori Sueyoshi |
| 第 5 著者 所属（和/英） | 熊本大学(略称：熊本大) Kumamoto University(略称：Kumamoto Univ.) |
| 発表年月日 | 2018-01-19 |
| 資料番号 | VLD2017-82,CPSY2017-126,RECONF2017-70 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | VLD-377,CPSY-378,RECONF-379 |
| ページ範囲 | pp.119-124(VLD), pp.119-124(CPSY), pp.119-124(RECONF), |
| ページ数 | 6 |
| 発行日 | 2018-01-11 (VLD, CPSY, RECONF) |