講演抄録/キーワード |
講演名 |
2017-05-23 17:30
対数量子化による深層ニューラルネットワークのメモリ量削減 ○廣瀬一俊・植松瞭太・安藤洸太・折茂健太郎・植吉晃大・高前田伸也・池辺将之・浅井哲也・本村真人(北大) CPSY2017-8 DC2017-8 |
抄録 |
(和) |
深層ニューラルネットワーク(DNN)の学習は多くのメモリを使用する.システムで利用可能なメモリ量が学習可能なネットワークの大きさを制限するため,消費メモリ量の削減が必要である.本研究ではデータ表現形式の最適化による学習時のメモリ量の削減方式を提案する.学習時に出現する勾配は0付近の値が多いため,数値を対数表現する対数量子化と呼ばれる手法を用いてそれぞれの値を表現するのに必要なビット量を削減する.DNNフレームワークChainerを用いて識別精度およびメモリ量を評価した.対数量子化適用による認識精度に対する影響,及びメモリ量を評価した.その結果,学習時に対数量子化適用による認識精度の低下は少なく,消費メモリ量は約60%削減できることが明らかになった. |
(英) |
|
キーワード |
(和) |
ニューラルネットワーク / 対数量子化 / メモリ / / / / / |
(英) |
/ / / / / / / |
文献情報 |
信学技報, vol. 117, no. 44, CPSY2017-8, pp. 39-44, 2017年5月. |
資料番号 |
CPSY2017-8 |
発行日 |
2017-05-15 (CPSY, DC) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
CPSY2017-8 DC2017-8 |
研究会情報 |
研究会 |
RECONF CPSY DC IPSJ-ARC |
開催期間 |
2017-05-22 - 2017-05-24 |
開催地(和) |
登別温泉第一滝本館 |
開催地(英) |
Noboribetsu-Onsen Dai-ichi-Takimoto-Kan |
テーマ(和) |
HotSPA2017: リコンフィギャラブルシステム・ディペンダブルコンピューティングシステムおよび一般 |
テーマ(英) |
HotSPA2017: Reconfigurable System, Dependable Computing System, and General Topics |
講演論文情報の詳細 |
申込み研究会 |
CPSY |
会議コード |
2017-05-RECONF-CPSY-DC-ARC |
本文の言語 |
日本語(英語タイトルなし) |
タイトル(和) |
対数量子化による深層ニューラルネットワークのメモリ量削減 |
サブタイトル(和) |
|
タイトル(英) |
|
サブタイトル(英) |
|
キーワード(1)(和/英) |
ニューラルネットワーク / |
キーワード(2)(和/英) |
対数量子化 / |
キーワード(3)(和/英) |
メモリ / |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
廣瀬 一俊 / / ヒロセ カズトシ |
第1著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第2著者 氏名(和/英/ヨミ) |
植松 瞭太 / / ウエマツ リョウタ |
第2著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第3著者 氏名(和/英/ヨミ) |
安藤 洸太 / / アンドウ コウタ |
第3著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第4著者 氏名(和/英/ヨミ) |
折茂 健太郎 / / オリモ ケンタロウ |
第4著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第5著者 氏名(和/英/ヨミ) |
植吉 晃大 / / ウエヨシ コウダイ |
第5著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
高前田 伸也 / / タカマエダ シンヤ |
第6著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
池辺 将之 / / イケベ マサユキ |
第7著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
浅井 哲也 / / アサイ テツヤ |
第8著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
本村 真人 / / モトムラ マサト |
第9著者 所属(和/英) |
北海道大学 (略称: 北大)
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2017-05-23 17:30:00 |
発表時間 |
20分 |
申込先研究会 |
CPSY |
資料番号 |
CPSY2017-8, DC2017-8 |
巻番号(vol) |
vol.117 |
号番号(no) |
no.44(CPSY), no.45(DC) |
ページ範囲 |
pp.39-44 |
ページ数 |
6 |
発行日 |
2017-05-15 (CPSY, DC) |
|