お知らせ 研究会の開催と会場に参加される皆様へのお願い(2020年7月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2019-11-15 10:45
[基調講演]ハードウェアとアルゴリズムの協調最適化によるCNN推論処理の高効率化
宮下大輔キオクシアVLD2019-47 ICD2019-36 IE2019-42 CPSY2019-46 DC2019-71 RECONF2019-42
抄録 (和) Deep convolutional neural network (CNN)を用いた画像分類,物体検出,画像セグメンテーションなど技術は,IoT,自動運転,ロボットなどを含む様々な応用が期待されている.分類や検出などの精度の向上のため,ネットワークはより複雑で大規模になる傾向にあるが,一方で,特にエッジでの活用を見据えると,できるだけ小規模でも精度が高いネットワーク構造の探求や,エネルギー効率に優れたハードウェアアーキテクチャの開発も,非常に重要な研究テーマである.
CNNの処理は,大きく学習と推論の2つのフェーズに分けられる.学習は,より高い精度を実現するCNNの構成やパラメータを見つけるためのフェーズであり,学習によって得られた構成やパラメータをまとめて本稿ではモデルと呼ぶ.推論は,学習が終わったモデルを用いて,分類や検出などの処理を行うフェーズである.
本稿では画像分類の推論にターゲットを絞り,推論実行時のエネルギー効率を向上するための手法について提案を行う.先に述べたとおり,これには2つの方向性が考えられる.一つは,できるだけ小規模,すなわち少ない計算量で,可能な限り高い分類精度が得られるようなモデルを作成することであり,言わばアルゴリズムの最適化である.このような方向性として,従来,パラメータの剪定(Pruning)や演算ビット精度の低減(量子化,Quantization)などが活発に研究されている.極端な例として,パラメータを90%以上削減するものや,ビット幅を1bitに限定するものも提案されている.もう一つの方向性は,CNNの推論処理を可能な限り低い消費エネルギーで実行できるような,すなわち,エネルギー効率の良いハードウェアアーキテクチャを開発することである.例えば前述のPruningや量子化に特別に対応したようなハードウェアアーキテクチャもその一例と言えるが,より一般的かつ具体的には,多数配置した演算回路を如何に効率よく利用しきることができるかが重要である.
本稿の提案手法は,こうしたアルゴリズムの最適化とハードウェアアーキテクチャの最適化を,それぞれ独立に行うのではなく,協調して最適化を行っていることが重要なポイントである.具体的には,演算回路の利用効率を上げるために,アルゴリズムの最適化には大規模並列化が可能な構造的Pruningと量子化を採用し,非構造的なPruningは用いないという制約を付けた.一方で量子化のビット幅に関しては,フィルタごとといった規則性が維持されれば,ビット幅が可変であっても大規模並列計算を維持できるようなハードウェアアーキテクチャを考案し,ビット幅の選択に関しては従来よりも柔軟に対応できるようにした.これにより,少ない計算量で従来よりも高い分類精度を実現し,なおかつ,そのモデルは提案したハードウェアアーキテクチャ上で,並列配置した多数の演算回路を効率よく利用することができた.
最後に,実際にFPGAに提案方式によるハードウェアアーキテクチャを実装し,その上で提案方式により最適化されたモデルを動かして画像分類の処理を行うことで,提案手法の妥当性を確認した. 
(英) (Available after conference date)
キーワード (和) CNN / 推論 / 量子化 / ハードウェアアーキテクチャ / / / /  
(英) CNN / inference / quantization / hardware architecture / / / /  
文献情報 信学技報, vol. 119, no. 282, VLD2019-47, pp. 173-173, 2019年11月.
資料番号 VLD2019-47 
発行日 2019-11-06 (VLD, DC), 2019-11-07 (ICD, IE, CPSY, RECONF) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード VLD2019-47 ICD2019-36 IE2019-42 CPSY2019-46 DC2019-71 RECONF2019-42

研究会情報
研究会 VLD DC CPSY RECONF ICD IE IPSJ-SLDM IPSJ-EMB 
開催期間 2019-11-13 - 2019-11-15 
開催地(和) 愛媛県男女共同参画センター 
開催地(英) Ehime Prefecture Gender Equality Center 
テーマ(和) デザインガイア2019 -VLSI設計の新しい大地- 
テーマ(英) Design Gaia 2019 -New Field of VLSI Design- 
講演論文情報の詳細
申込み研究会 VLD 
会議コード 2019-11-VLD-DC-CPSY-RECONF-ICD-IE-SLDM-EMB-ARC 
本文の言語 日本語 
タイトル(和) ハードウェアとアルゴリズムの協調最適化によるCNN推論処理の高効率化 
サブタイトル(和)  
タイトル(英) Co-optimization of hardware architecture and algorithm for energy-efficient CNN inference 
サブタイトル(英)  
キーワード(1)(和/英) CNN / CNN  
キーワード(2)(和/英) 推論 / inference  
キーワード(3)(和/英) 量子化 / quantization  
キーワード(4)(和/英) ハードウェアアーキテクチャ / hardware architecture  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 宮下 大輔 / Daisuke Miyashita / ミヤシタ ダイスケ
第1著者 所属(和/英) キオクシア株式会社 (略称: キオクシア)
Kioxia Corporation (略称: Kioxia)
第2著者 氏名(和/英/ヨミ) / /
第2著者 所属(和/英) (略称: )
(略称: )
第3著者 氏名(和/英/ヨミ) / /
第3著者 所属(和/英) (略称: )
(略称: )
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2019-11-15 10:45:00 
発表時間 60 
申込先研究会 VLD 
資料番号 IEICE-VLD2019-47,IEICE-ICD2019-36,IEICE-IE2019-42,IEICE-CPSY2019-46,IEICE-DC2019-71,IEICE-RECONF2019-42 
巻番号(vol) IEICE-119 
号番号(no) no.282(VLD), no.284(ICD), no.285(IE), no.286(CPSY), no.283(DC), no.287(RECONF) 
ページ範囲 p.173(VLD), p.41(ICD), p.41(IE), p.53(CPSY), p.173(DC), p.31(RECONF) 
ページ数 IEICE-1 
発行日 IEICE-VLD-2019-11-06,IEICE-ICD-2019-11-07,IEICE-IE-2019-11-07,IEICE-CPSY-2019-11-07,IEICE-DC-2019-11-06,IEICE-RECONF-2019-11-07 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会