| 講演名 | 2017-03-13 3層Auto-Encoderに対するForward-propagation学習則の適用 黒澤 忠将(豊橋技科大), 福村 直博(豊橋技科大), |
|---|---|
| PDFダウンロードページ |  PDFダウンロードページへ |
| 抄録(和) | Deep Learningの発展によって，Pre-trainingに使われる3層Auto-Encoderが注目されている．一方で生体運動制御における逆モデル学習法として， 誤差を順伝搬するForward-propagation学習則がある．この方法はシステム全体で恒等写像を学習するシステムにのみ適用でき， 従来の学習方法であるBack-propagation学習則に比べ高速に学習する一方で，発散しやすいという問題点がある．本研究では この学習方法を恒等写像を学習するAuto-Encoderに適用し，FPを使った様々なアルゴリズムで学習を試みた． またMNIST手書き文字を使用してPre-trainingへの応用を試みた． |
| 抄録(英) | By the development of Deep Learning, the concern over three-layer Auto-Encoder for Pre-training has risen. On the other hand, a Forward-propagation learning rule that propagates errors forward as an inverse model learning method in biological motion control has been proposed. This method can be applied only to a system that learns the identity mapping in the whole system and learns faster than the conventional learning method, Back-propagation learning rule. However, learning is easy to divergence. In this research, we apply this learning method to the Auto-Encoder which learns identity mapping and tried learning with various algorithms using FP. Finally, we tried to apply it Pre-training using MNIST handwritten characters. |
| キーワード(和) | オートエンコーダー / 恒等写像 / 誤差順伝搬学習則 / 前学習 |
| キーワード(英) | Auto-Encoder / Identity mapping / Forward-propagation learning rule / Pre-training |
| 資料番号 | NC2016-82 |
| 発行日 | 2017-03-06 (NC) |
| 研究会情報 | |
| 研究会 | MBE / NC |
|---|---|
| 開催期間 | 2017/3/13(から2日開催) |
| 開催地（和） | 機械振興会館 |
| 開催地（英） | Kikai-Shinko-Kaikan Bldg. |
| テーマ（和） | ME, 一般 |
| テーマ（英） | |
| 委員長氏名（和） | 福岡 豊(工学院大) / 佐藤 茂雄(東北大) |
| 委員長氏名（英） | Yutaka Fukuoka(Kogakuin Univ.) / Shigeo Sato(Tohoku Univ.) |
| 副委員長氏名（和） | 中島 一樹(富山大) / 萩原 将文(慶大) |
| 副委員長氏名（英） | Kazuki Nakajima(Univ. of Toyama) / Masafumi Hagiwara(Keio Univ.) |
| 幹事氏名（和） | 田中 久弥(工学院大) / 高野 博史(富山県立大) / 田中 宏喜(京都産大) / 青西 亨(東工大) |
| 幹事氏名（英） | Hisaya Tanaka(Kogakuin Univ.) / Hiroshi Takano(Toyama Pref. Univ.) / Hiroki Tanaka(Kyoto Sangyo Univ.) / Toru Aonishi(Tokyo Inst. of Tech.) |
| 幹事補佐氏名（和） | 堀江 亮太(芝浦工大) / 金 主賢(富山大) / 秋間 学尚(東北大) / 篠沢 佳久(慶大) |
| 幹事補佐氏名（英） | Ryota Horie(Shibaura Inst. of Tech.) / Kim Juhyon(Univ. of Toyama) / Hisanao Akima(Tohoku Univ.) / Yoshihisa Shinozawa(Keio Univ.) |
| 講演論文情報詳細 | |
| 申込み研究会 | Technical Committee on ME and Bio Cybernetics / Technical Committee on Neurocomputing |
|---|---|
| 本文の言語 | JPN |
| タイトル（和） | 3層Auto-Encoderに対するForward-propagation学習則の適用 |
| サブタイトル（和） | |
| タイトル（英） | Application of Forward-Propagation Learning Rule to Three-Layer Auto-Encoder |
| サブタイトル（和） | |
| キーワード(1)（和/英） | オートエンコーダー / Auto-Encoder |
| キーワード(2)（和/英） | 恒等写像 / Identity mapping |
| キーワード(3)（和/英） | 誤差順伝搬学習則 / Forward-propagation learning rule |
| キーワード(4)（和/英） | 前学習 / Pre-training |
| 第 1 著者 氏名（和/英） | 黒澤 忠将 / Tadamasa Kurosawa |
| 第 1 著者 所属（和/英） | 豊橋技術科学大学(略称：豊橋技科大) Toyohashi University of Technology(略称：Toyohashi Univ. of Tech) |
| 第 2 著者 氏名（和/英） | 福村 直博 / Naohiro Fukumura |
| 第 2 著者 所属（和/英） | 豊橋技術科学大学(略称：豊橋技科大) Toyohashi University of Technology(略称：Toyohashi Univ. of Tech) |
| 発表年月日 | 2017-03-13 |
| 資料番号 | NC2016-82 |
| 巻番号（vol） | vol.116 |
| 号番号（no） | NC-521 |
| ページ範囲 | pp.109-114(NC), |
| ページ数 | 6 |
| 発行日 | 2017-03-06 (NC) |