| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2014-03-14 15:30 ディープラーニング事前学習の効果に関するユニット出力可視化を通した実験的考察 ○落合 翼（同志社大/NICT）・渡辺秀行（NICT）・片桐 滋・大崎美穂（同志社大）・松田繁樹・堀 智織（NICT）  PRMU2013-210 |
|
| 抄録 | （和） | 注目を集める強力な識別器，ディープニューラルネットワーク（DNN: Deep Neural Networks）の能力を 明らかにすることを目指し，その事前学習の効果に着目して実験的な分析を行った．分析は，制約付きボルツマンマ シン（RBM: Restricted Boltzmann Machine）によって事前学習されたネットワークをディープビリーフネットワー クあるいはディープオートエンコーダと見做して動作させ，それが持つ連想記憶器としての機能とネットワーク内部 における入力標本の特徴表現の能力を，人物顔画像パターンを用いたネットワーク動作の視覚化実験を通して行った． その結果，RBM に基づく事前学習が，ネットワーク内部に学習標本の情報を記憶し，かつネットワーク内の各層にお いて入力標本に関するなんらかの特徴表現を実現していることが確かめられた． |
| （英） | To clarify the capability of recent powerful classifier concept, Deep Neural Networks (DNN), we experimentally investigate effects of the pre-training used to initialize DNN. A deep neural network is first pre-trained using Restricted Boltzmann Machine (RBM), then it is run as an embodiment of Deep Belief Networks, which basically possess associative memory function, and a Deep Autoencoder, which is expected to realize feature representation for an input pattern over the inner layers of network. Analyses are conducted through the visualization of network unit outputs. Based on the experiments, we reveal that the RBM-based pre-training successfully makes networks memorize some information of training patterns and also represent pattern features inside the networks. |
|
| キーワード | （和） | ディープラーニング / 事前学習 / ディープニューラルネットワーク / / / / / |
| （英） | Deep Learning / Pre-training / Visualization of unit outputs / Deep Neural Networks / / / / | |
| 文献情報 | 信学技報, vol. 113, no. 493, PRMU2013-210, pp. 253-258, 2014年3月. | |
| 資料番号 | PRMU2013-210 | |
| 発行日 | 2014-03-06 (PRMU) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | PRMU2013-210 |
|
| 研究会情報 | |
| 研究会 | PRMU |
| 開催期間 | 2014-03-13 - 2014-03-14 |
| 開催地（和） | 早稲田大学 |
| 開催地（英） | |
| テーマ（和） | パターン認識・メディア理解における組み合わせと統合，文化の振興と教育 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | PRMU |
| 会議コード | 2014-03-PRMU |
| 本文の言語 | 日本語 |
| タイトル（和） | ディープラーニング事前学習の効果に関するユニット出力可視化を通した実験的考察 |
| サブタイトル（和） | |
| タイトル（英） | Experimental study on effect of pre-training in deep learning through visualization of unit outputs |
| サブタイトル（英） | |
| キーワード(1)（和/英） | ディープラーニング / Deep Learning |
| キーワード(2)（和/英） | 事前学習 / Pre-training |
| キーワード(3)（和/英） | ディープニューラルネットワーク / Visualization of unit outputs |
| キーワード(4)（和/英） | / Deep Neural Networks |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 落合 翼 / Tsubasa Ochiai / オチアイ ツバサ |
| 第1著者 所属（和/英） | 同志社大学/情報通信研究機構 (略称： 同志社大/NICT) Doshisha University/National Institute of Information and Communications Technology (略称： Doshisha Univ./NICT) |
| 第2著者 氏名（和/英/ヨミ） | 渡辺 秀行 / Hideyuki Watanabe / ワタナベ ヒデユキ |
| 第2著者 所属（和/英） | 情報通信研究機構 (略称： NICT) National Institute of Information and Communications Technology (略称： NICT) |
| 第3著者 氏名（和/英/ヨミ） | 片桐 滋 / Shigeru Katagiri / カタギリ シゲル |
| 第3著者 所属（和/英） | 同志社大学 (略称： 同志社大) Doshisha University (略称： Doshisha Univ.) |
| 第4著者 氏名（和/英/ヨミ） | 大崎 美穂 / Miho Ohsaki / オオサキ ミホ |
| 第4著者 所属（和/英） | 同志社大学 (略称： 同志社大) Doshisha University (略称： Doshisha Univ.) |
| 第5著者 氏名（和/英/ヨミ） | 松田 繁樹 / Shigeki Matsuda / マツダ シゲキ |
| 第5著者 所属（和/英） | 情報通信研究機構 (略称： NICT) National Institute of Information and Communications Technology (略称： NICT) |
| 第6著者 氏名（和/英/ヨミ） | 堀 智織 / Chiori Hori / |
| 第6著者 所属（和/英） | 情報通信研究機構 (略称： NICT) National Institute of Information and Communications Technology (略称： NICT) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2014-03-14 15:30:00 |
| 発表時間 | 30分 |
| 申込先研究会 | PRMU |
| 資料番号 | PRMU2013-210 |
| 巻番号（vol） | vol.113 |
| 号番号（no） | no.493 |
| ページ範囲 | pp.253-258 |
| ページ数 | 6 |
| 発行日 | 2014-03-06 (PRMU) |
[研究会発表申込システムのトップページに戻る]