お知らせ 研究会の開催と会場に参加される皆様へのお願い(2020年10月開催~)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2021-03-03 11:15
正確なハードウェアエミュレーションのための量子化DNNライブラリの開発
木山真人中原康宏尼崎太樹飯田全広熊本大VLD2020-70 HWS2020-45
抄録 (和) エッジデバイスやAIチップでDNN(Deep Neural Network)を実行する際,実行の高速化や省電力化のために量子化が行われる.
量子化の効果を調べるためのエミュレーションでは,32ビット演算精度の浮動小数点のDNNの重みをあるビット幅で量子化し,再度32ビット演算精度の浮動小数点に戻して推論を行う.
これはDNNライブラリが演算を浮動小数点で行うことを前提として実装されおり,浮動小数点数しか扱えないためである.
しかし,この方法ではエミュレーションの精度とハードウェアで実行した精度が異なる可能性がある.
積和演算時の桁あふれ検出やAIチップでの動作検証のため,DNNライブラリで量子化DNNの正確な精度を知る必要がある.
著者らはハードウェアとまったく同じ動作で量子化DNNを実行するDNNライブラリPyParchを開発しており,
本稿ではPyParchに対する新たな提案と実装について述べる.
評価の結果,YOLOv5のような規模が大きく複雑な構造を持つDNNに対して量子化を行い,任意のビット幅で量子化したDNNの精度が見積もれ,桁あふれ検出ができた.
また,エミュレーション時間の評価を行い,通常のDNNの実行と比較して量子化DNNで5.6倍,桁あふれ検出を追加した量子化DNNで42倍の速度低下となった. 
(英) Quantization is used to speed up execution time and save power when runnning Deep neural networks (DNNs) on edge devices or AI chips.
To investigate the effect of quantization, we need performing inference after quantizing the weights of DNN with 32-bit floating-point numbers by a some bit width,
and then quantizing them back to 32-bit floating-point numbers.
This is because the DNN library can only handle floating-point numbers.
However, the accuracy of the emulation does not provide accurate precision.
We need accurate precision to detect overflow in MAC operations or to verify the operation on AI chips.
We have developed PyParch, a DNN library that executes quantized DNNs (QNNs) with exactly the same behavior as hardware.
In this paper, we describe a new proposal and implementation of PyParch.
As a result of the evaluation, the accuracy of QNNs with arbitrary bit widths can be estimated for large and complex DNNs such as YOLOv5, and the overflow can be detected.
We evaluated the overhead of the emulation time and found that it was 5.6 times slower for QNN and 42 times slower for QNN with overflow detection compared to the normal DNN execution time.
キーワード (和) 深層学習 / 量子化 / / / / / /  
(英) Deep Learning / Quantization / / / / / /  
文献情報 信学技報, vol. 120, no. 400, VLD2020-70, pp. 18-23, 2021年3月.
資料番号 VLD2020-70 
発行日 2021-02-24 (VLD, HWS) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード VLD2020-70 HWS2020-45

研究会情報
研究会 HWS VLD  
開催期間 2021-03-03 - 2021-03-04 
開催地(和) オンライン開催 
開催地(英) Online 
テーマ(和) システムオンシリコンを支える設計技術, ハードウェアセキュリティ, 一般 
テーマ(英) Design Technology for System-on-Silicon, Hardware Security, etc. 
講演論文情報の詳細
申込み研究会 VLD 
会議コード 2021-03-HWS-VLD 
本文の言語 日本語 
タイトル(和) 正確なハードウェアエミュレーションのための量子化DNNライブラリの開発 
サブタイトル(和)  
タイトル(英) The Design and Development of of Quantized Neural Networks Library for Exact Hardware Emulation 
サブタイトル(英)  
キーワード(1)(和/英) 深層学習 / Deep Learning  
キーワード(2)(和/英) 量子化 / Quantization  
キーワード(3)(和/英) /  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 木山 真人 / Masato Kiyama / キヤマ マサト
第1著者 所属(和/英) 熊本大学大学院先端科学研究部 (略称: 熊本大)
Faculty of Advanced Science and Technology, Kumamoto University (略称: Kumamoto Univ.)
第2著者 氏名(和/英/ヨミ) 中原 康宏 / Yasuhiro Nakahara / ナカハラ ヤスヒロ
第2著者 所属(和/英) 熊本大学大学院自然科学教育部 (略称: 熊本大)
Graduate School of Science and Technology, Kumamoto University (略称: Kumamoto Univ.)
第3著者 氏名(和/英/ヨミ) 尼崎 太樹 / Motoki Amagasaki / アマガサキ モトキ
第3著者 所属(和/英) 熊本大学大学院先端科学研究部 (略称: 熊本大)
Faculty of Advanced Science and Technology, Kumamoto University (略称: Kumamoto Univ.)
第4著者 氏名(和/英/ヨミ) 飯田 全広 / Masahiro Iida / イイダ マサヒロ
第4著者 所属(和/英) 熊本大学大学院先端科学研究部 (略称: 熊本大)
Faculty of Advanced Science and Technology, Kumamoto University (略称: Kumamoto Univ.)
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2021-03-03 11:15:00 
発表時間 25 
申込先研究会 VLD 
資料番号 IEICE-VLD2020-70,IEICE-HWS2020-45 
巻番号(vol) IEICE-120 
号番号(no) no.400(VLD), no.401(HWS) 
ページ範囲 pp.18-23 
ページ数 IEICE-6 
発行日 IEICE-VLD-2021-02-24,IEICE-HWS-2021-02-24 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会