| 講演名 | 2017-09-16 ［招待講演］輸送理論から見た深層ニューラルネット 園田 翔(早大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | 深層ニューラルネットの中では何が起きているのだろうか？本講演では，深層ニューラルネットを輸送写像として説明する。輸送写像とみなすことで，深層ニューラルネットはユークリッド空間やWasserstein空間上の軌道に対応付けられる。深層学習の原型であるデノイジング・オートエンコーダーの輸送写像を解析的に計算する。深層ニューラルネットは，データ分布の特徴量を減らす方向にデータ点を輸送する輸送写像であることを説明する。 |
| 抄録(英) | What is happening in deep neural networks? In this talk, we formulate them as transport maps. From the transportation viewpoint, we can identify a deep neural network with trajectories on both the Euclidean and Wasserstein spaces. We derive the transport map of denoising autoencoders (DAEs) in an analytic form. We can understand that what deep networks do is to transport mass to decrease a certain potential functional of the data distribution. |
| キーワード(和) | 深層ニューラルネット / 輸送写像 / 連続方程式 / Wasserstein勾配流 / デノイジング・オートエンコーダー |
| キーワード(英) | deep neural network / transport map / continuity equation / Wasserstein gradient flow / denoising autoencoder |
| 資料番号 | PRMU2017-60,IBISML2017-32 |
| 発行日 | 2017-09-08 (PRMU, IBISML) |
| 研究会情報 | |
| 研究会 | PRMU / IBISML / IPSJ-CVIM |
|---|---|
| 開催期間 | 2017/9/15(から2日開催) |
| 開催地（和） | 東京大学 本郷キャンパス |
| 開催地（英） | |
| テーマ（和） | パターン認識・機械学習基盤技術および深層学習によるメディア生成・変換・認識 |
| テーマ（英） | |
| 委員長氏名（和） | 佐藤 真一(NII) / 福水 健次(統計数理研) |
| 委員長氏名（英） | Shinichi Sato(NII) / Kenji Fukumizu(ISM) |
| 副委員長氏名（和） | 藤吉 弘亘(中部大) / 井尻 善久(オムロン) / 杉山 将(東大) |
| 副委員長氏名（英） | Hironobu Fujiyoshi(Chubu Univ.) / Yoshihisa Ijiri(Omron) / Masashi Sugiyama(Univ. of Tokyo) |
| 幹事氏名（和） | 大西 正輝(産総研) / 舩冨 卓哉(奈良先端大) / 鹿島 久嗣(京大) / 津田 宏治(東大) |
| 幹事氏名（英） | Masaki Oonishi(AIST) / Takuya Funatomi(NAIST) / Hisashi Kashima(Kyoto Univ.) / Koji Tsuda(Univ. of Tokyo) |
| 幹事補佐氏名（和） | 石井 雅人(NEC) / 菅野 裕介(阪大) / 竹内 一郎(名工大) / 神嶌 敏弘(産総研) |
| 幹事補佐氏名（英） | Masato Ishii(NEC) / Yusuke Sugano(Osaka Univ.) / Ichiro Takeuchi(Nagoya Inst. of Tech.) / Toshihiro Kamishima(AIST) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on Pattern Recognition and Media Understanding / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Computer Vision and Image Media |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | ［招待講演］輸送理論から見た深層ニューラルネット |
| サブタイトル（和） | |
| タイトル（英） | [Invited Talk] Transportation aspect of deep neural network |
| サブタイトル（和） | |
| キーワード(1)（和/英） | 深層ニューラルネット / deep neural network |
| キーワード(2)（和/英） | 輸送写像 / transport map |
| キーワード(3)（和/英） | 連続方程式 / continuity equation |
| キーワード(4)（和/英） | Wasserstein勾配流 / Wasserstein gradient flow |
| キーワード(5)（和/英） | デノイジング・オートエンコーダー / denoising autoencoder |
| 第 1 著者 氏名（和/英） | 園田 翔 / Sho Sonoda |
| 第 1 著者 所属（和/英） | 早稲田大学(略称：早大) Waseda University(略称：Waseda Univ.) |
| 発表年月日 | 2017-09-16 |
| 資料番号 | PRMU2017-60,IBISML2017-32 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | PRMU-210,IBISML-211 |
| ページ範囲 | pp.185-188(PRMU), pp.185-188(IBISML), |
| ページ数 | 4 |
| 発行日 | 2017-09-08 (PRMU, IBISML) |