講演名 2017-06-29
Quantized Neural Networksにおける量子化関数に関する検討
門倉 巧(東京都市大), 中野 秀洋(東京都市大), 宮内 新(東京都市大),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) Quantized Neural Network (QNN)は重みと活性を量子化したニューラルネットワークである. QNNは量子化によって計算量と消費電力が削減できるため,組み込み機器における利用が期待される.本論文では,QNNにおける勾配の量子化を行う量子化関数について検討する.数値実験を行い,複数の量子化関数の性能を比較する.そして,量子化ビット数が少ない場合においても高い性能を維持できる量子化関数が存在することを示す.
抄録(英) Quantized Neural Network (QNN) is a kind of neural networks in which its weights and activations are quantized. Since, QNN can reduce computational quantity and energy consumption by the quantization, it is expected to be used on embedded devices. This paper investigates quantization functions used for quantizing gradients in QNN. By performing the numerical experiments, the performance of some quantization functions are compared. We then show that there exists a quantization function which can keep high performance with low quantization bit rate.
キーワード(和) Quantized Neural Networks / 量子化 / 勾配
キーワード(英) Quantized Neural Networks / quantization / gradient
資料番号 CCS2017-2
発行日 2017-06-22 (CCS)

研究会情報
研究会 CCS
開催期間 2017/6/29(から2日開催)
開催地(和) 茨城大学工学部日立キャンパス
開催地(英) Ibaraki Univ.
テーマ(和) 相互作用(インタラクション)と情報伝達(コミュニケーション)
テーマ(英) Interaction and Communication, etc.
委員長氏名(和) 若宮 直紀(阪大)
委員長氏名(英) Naoki Wakamiya(Osaka Univ.)
副委員長氏名(和) 長谷川 幹雄(東京理科大) / 成瀬 誠(NICT)
副委員長氏名(英) Mikio Hasegawa(Tokyo Univ. of Science) / Makoto Naruse(NICT)
幹事氏名(和) 寺前 順之介(阪大) / 中野 秀洋(東京都市大)
幹事氏名(英) Junnosuke Teramae(Osaka Univ.) / Hidehiro Nakano(Tokyo City Univ.)
幹事補佐氏名(和) 高野 知佐(広島市立大) / 島田 尚(東大) / 鈴木 智也(茨城大) / 高橋 亮(愛知工科大)
幹事補佐氏名(英) Chisa Takano(Hirishima City Univ.) / Takashi Shimada(Univ. of Tokyo) / Tomoya Suzuki(Ibaraki Univ.) / Ryo Takahashi(AUT)

講演論文情報詳細
申込み研究会 Technical Committee on Complex Communication Sciences
本文の言語 JPN
タイトル(和) Quantized Neural Networksにおける量子化関数に関する検討
サブタイトル(和)
タイトル(英) Consideration on Functions for Quantization in Quantized Neural Networks
サブタイトル(和)
キーワード(1)(和/英) Quantized Neural Networks / Quantized Neural Networks
キーワード(2)(和/英) 量子化 / quantization
キーワード(3)(和/英) 勾配 / gradient
第 1 著者 氏名(和/英) 門倉 巧 / Takumi Kadokura
第 1 著者 所属(和/英) 東京都市大学(略称:東京都市大)
Tokyo City University(略称:Tokyo City Univ.)
第 2 著者 氏名(和/英) 中野 秀洋 / Hidehiro Nakano
第 2 著者 所属(和/英) 東京都市大学(略称:東京都市大)
Tokyo City University(略称:Tokyo City Univ.)
第 3 著者 氏名(和/英) 宮内 新 / Arata Miyauchi
第 3 著者 所属(和/英) 東京都市大学(略称:東京都市大)
Tokyo City University(略称:Tokyo City Univ.)
発表年月日 2017-06-29
資料番号 CCS2017-2
巻番号(vol) vol.117
号番号(no) CCS-112
ページ範囲 pp.7-10(CCS),
ページ数 4
発行日 2017-06-22 (CCS)