| 講演名 | 2016-11-17 無限層デノイジング・オートエンコーダーの輸送理論解釈 園田 翔(早大), 村田 昇(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層ニューラルネットの中間層では，入力データの特徴量抽出が行われている。中間層の特徴量写像を解析するために，ニューラルネットを輸送写像とみなす方法を提案する。特にデノイジング・オートエンコーダー（DAE）の場合は輸送写像が陽に求まるので，無限層であっても解析できる。合成DAEや連続DAEの中では，入力データのエントロピーを減らす逆拡散現象が起きていることを示した。輸送解釈によって，これまで解釈が難しかった積層DAEも，合成DAEに帰着できることを示した。 |
| 抄録(英) | The hidden layers of a deep neural network extract feature of the input data. We propose to analyze the feature map of a neural network by regarding it as a transportation map. The transportation map of denoising autoencoders (DAEs) is derived, which can even characterize the infinitely deep architecture. It is revealed that the composition of DAEs and the continuous DAE transport data points to reduce the entropy of the input data. The stacked DAE, which is a product of a complicated heuristics, can be identified as a composition of DAEs from the view point of a transportation map. |
| キーワード(和) | 深層学習 / 無限層ニューラルネット / デノイジング・オートエンコーダー / 輸送 / 逆拡散 |
| キーワード(英) | deep learning / infinitely deep neural network / denoising autoencoder / transportation / backward heat equation |
| 資料番号 | IBISML2016-88 |
| 発行日 | 2016-11-09 (IBISML) |
| 研究会情報 | |
| 研究会 | IBISML |
|---|---|
| 開催期間 | 2016/11/16(から3日開催) |
| 開催地（和） | 京都大学 |
| 開催地（英） | Kyoto Univ. |
| テーマ（和） | 情報論的学習理論ワークショップ(IBIS2016) |
| テーマ（英） | Information-Based Induction Science Workshop (IBIS2016) |
| 委員長氏名（和） | 福水 健次(統計数理研) |
| 委員長氏名（英） | Kenji Fukumizu(ISM) |
| 副委員長氏名（和） | 杉山 将(東大) / 鹿島 久嗣(京大) |
| 副委員長氏名（英） | Masashi Sugiyama(Univ. of Tokyo) / Hisashi Kashima(Kyoto Univ.) |
| 幹事氏名（和） | 津田 宏治(東大) / 竹内 一郎(名工大) |
| 幹事氏名（英） | Koji Tsuda(Univ. of Tokyo) / Ichiro Takeuchi(Nagoya Inst. of Tech.) |
| 幹事補佐氏名（和） | 神嶌 敏弘(産総研) / 岩田 具治(NTT) |
| 幹事補佐氏名（英） | Toshihiro Kamishima(AIST) / Tomoharu Iwata(NTT) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Infomation-Based Induction Sciences and Machine Learning |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 無限層デノイジング・オートエンコーダーの輸送理論解釈 |
| サブタイトル（和） | |
| タイトル（英） | Transportation aspect of infinitely deep denoising autoencoder |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層学習 / deep learning |
| キーワード(2)（和/英） | 無限層ニューラルネット / infinitely deep neural network |
| キーワード(3)（和/英） | デノイジング・オートエンコーダー / denoising autoencoder |
| キーワード(4)（和/英） | 輸送 / transportation |
| キーワード(5)（和/英） | 逆拡散 / backward heat equation |
| 第 1 著者 氏名（和/英） | 園田 翔 / Sho Sonoda |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 第 2 著者 氏名（和/英） | 村田 昇 / Noboru Murata |
| 第 2 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 発表年月日 | 2016-11-17 |
| 資料番号 | IBISML2016-88 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | IBISML-300 |
| ページ範囲 | pp.297-304(IBISML), |
| ページ数 | 8 |
| 発行日 | 2016-11-09 (IBISML) |