お知らせ 研究会の開催と会場に参加される皆様へのお願い(2020年6月開催)
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2019-05-10 14:20
無効ニューロン予測によるDNN計算効率化手法
植吉晃大池田泰我安藤洸太廣瀬一俊浅井哲也高前田伸也北大)・本村真人東工大RECONF2019-18
抄録 (和) ニューラルネットワーク (NN: Neural Network) の発展に伴い,多様なデバイス上で高性能かつ低電力な NN 計算をすることが求められている.中でも,組み込みデバイスのような限られた物理制約の中で,十分な性能を実現するためには,大規模な NN の計算量を削減する必要がある.近年,多くの NN は,ニューロンがゼロを出 力する,スパースな演算となっている.本稿では,このゼロを出力するニューロン(無効ニューロン)を予測することで,計算量を削減する手法を提案する.これまでにも,計算途中において,無効ニューロンの計算を打ち切るという 手法が提案されてきた.しかし,これでは無効ニューロンの計算自体を消すことはできない.また,ニューロン内の計算を途中で打ち切るため,並列化が難しい.そこで我々は,無効ニューロンを予測するための専用 NN を学習済みのNN とは別に設け,独立に予測を行う手法を提案する.この予測専用 NN は,二値化された NN で構成されるため, 小さなオーバーヘッドで予測を可能とする.この NN を実装・評価し,元のネットワークの不必要な計算を,入力に 応じて動的に予測し,計算量を削減できることを示した. 
(英)
キーワード (和) 深層学習 / 畳み込みニューラルネットワーク / 二値化ニューラルネットワーク / ニューロン活性予測 / / / /  
(英) / / / / / / /  
文献情報 信学技報, vol. 119, no. 18, RECONF2019-18, pp. 97-102, 2019年5月.
資料番号 RECONF2019-18 
発行日 2019-05-02 (RECONF) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
査読に
ついて
本技術報告は査読を経ていない技術報告であり,推敲を加えられていずれかの場に発表されることがあります.
PDFダウンロード RECONF2019-18

研究会情報
研究会 RECONF  
開催期間 2019-05-09 - 2019-05-10 
開催地(和) 東工大蔵前会館 
開催地(英) Tokyo Tech Front 
テーマ(和) リコンフィギャラブルシステム,一般 
テーマ(英) Reconfigurable system, etc. 
講演論文情報の詳細
申込み研究会 RECONF 
会議コード 2019-05-RECONF 
本文の言語 日本語 
タイトル(和) 無効ニューロン予測によるDNN計算効率化手法 
サブタイトル(和)  
タイトル(英)  
サブタイトル(英)  
キーワード(1)(和/英) 深層学習 /  
キーワード(2)(和/英) 畳み込みニューラルネットワーク /  
キーワード(3)(和/英) 二値化ニューラルネットワーク /  
キーワード(4)(和/英) ニューロン活性予測 /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 植吉 晃大 / / ウエヨシ コウダイ
第1著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第2著者 氏名(和/英/ヨミ) 池田 泰我 / / イケダ タイガ
第2著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第3著者 氏名(和/英/ヨミ) 安藤 洸太 / / アンドウ コウタ
第3著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第4著者 氏名(和/英/ヨミ) 廣瀬 一俊 / / ヒロセ カズトシ
第4著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第5著者 氏名(和/英/ヨミ) 浅井 哲也 / / アサイ テツヤ
第5著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第6著者 氏名(和/英/ヨミ) 高前田 伸也 / / タカマエダ シンヤ
第6著者 所属(和/英) 北海道大学 (略称: 北大)
(略称: )
第7著者 氏名(和/英/ヨミ) 本村 真人 / / モトムラ マサト
第7著者 所属(和/英) 東京工業大学 (略称: 東工大)
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2019-05-10 14:20:00 
発表時間 25 
申込先研究会 RECONF 
資料番号 IEICE-RECONF2019-18 
巻番号(vol) IEICE-119 
号番号(no) no.18 
ページ範囲 pp.97-102 
ページ数 IEICE-6 
発行日 IEICE-RECONF-2019-05-02 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会