電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
技報オンライン
‥‥ (ESS/通ソ/エレソ/ISS)
技報アーカイブ
‥‥ (エレソ/通ソ)
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2018-11-23 14:55
ハイパーネットによる畳み込みニューラルネットワークの暗黙的事後分布推定
鵜飼健矢松原 崇上原邦昭神戸大
技報オンラインサービス実施中
抄録 (和) ニューラルネットワークは複雑な表現を学習することができ,様々なタスクで高い性能を示している.
しかし,学習に利用できるデータは限られているため,過学習を起こしやすい.
過学習を防ぐためにニューラルネットワークの学習を正則化することは,最も重要な課題の1つである.
本研究では,大規模な畳み込みニューラルネットワークを対象とし,ハイパーネットを用いて,パラメータの事後分布を暗黙的に推定することで学習を正則化する.
また,パラメータの分布が学習されることから,モデル平均化により識別精度を向上させることができる.
実験では提案手法による学習と推論について検討を行い,一定の正則化効果を持つことを示す. 
(英) Deep neural networks have a rich ability to learn complex representations and achieved remarkable results in various tasks.
However, they are prone to overfitting due to the limited number of training samples; regularizing the learning process of neural networks is critical.
In this paper, we propose a novel regularization method, which estimates parameters of a large convolutional neural network as implicit probabilistic distributions generated by a hypernetwork.
Also, we can perform model averaging to improve the network performance.
Experimental results demonstrate our regularization method outperformed the commonly-used maximum a posterior (MAP) estimation.
キーワード (和) ハイパーネット / ベイズ推定 / 畳み込みニューラルネットワーク / 画像認識 / / / /  
(英) hypernetwork / Bayesian estimation / convolutional neural network / image recognition / / / /  
文献情報 信学技報, vol. 118, no. 316, CCS2018-45, pp. 67-72, 2018年11月.
資料番号 CCS2018-45 
発行日 2018-11-15 (CCS) 
ISSN Print edition: ISSN 0913-5685  Online edition: ISSN 2432-6380

研究会情報
研究会 CCS  
開催期間 2018-11-22 - 2018-11-23 
開催地(和) 神戸大学 
開催地(英) Kobe Univ. 
テーマ(和) 相互作用と情報伝達・情報処理,一般 
テーマ(英) Interaction and Communication, etc. 
講演論文情報の詳細
申込み研究会 CCS 
会議コード 2018-11-CCS 
本文の言語 日本語 
タイトル(和) ハイパーネットによる畳み込みニューラルネットワークの暗黙的事後分布推定 
サブタイトル(和)  
タイトル(英) Hypernetwork-based Implicit Posterior Estimation of CNN 
サブタイトル(英)  
キーワード(1)(和/英) ハイパーネット / hypernetwork  
キーワード(2)(和/英) ベイズ推定 / Bayesian estimation  
キーワード(3)(和/英) 畳み込みニューラルネットワーク / convolutional neural network  
キーワード(4)(和/英) 画像認識 / image recognition  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 鵜飼 健矢 / Kenya Ukai / ウカイ ケンヤ
第1著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第2著者 氏名(和/英/ヨミ) 松原 崇 / Takashi Matsubara / マツバラ タカシ
第2著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第3著者 氏名(和/英/ヨミ) 上原 邦昭 / Kuniaki Uehara / ウエハラ クニアキ
第3著者 所属(和/英) 神戸大学 (略称: 神戸大)
Kobe University (略称: Kobe Univ.)
第4著者 氏名(和/英/ヨミ) / /
第4著者 所属(和/英) (略称: )
(略称: )
第5著者 氏名(和/英/ヨミ) / /
第5著者 所属(和/英) (略称: )
(略称: )
第6著者 氏名(和/英/ヨミ) / /
第6著者 所属(和/英) (略称: )
(略称: )
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者
発表日時 2018-11-23 14:55:00 
発表時間 25 
申込先研究会 CCS 
資料番号 IEICE-CCS2018-45 
巻番号(vol) IEICE-118 
号番号(no) no.316 
ページ範囲 pp.67-72 
ページ数 IEICE-6 
発行日 IEICE-CCS-2018-11-15 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会