講演名 2016-07-06
局所的な競合度と順行伝播する教師信号で学習するディープニューラルネットワーク
篠崎 隆志(NICT),
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本研究では従来の誤差逆伝播学習法とは大きく異なる,順行伝播する教師信号で教師あり学習を実現する新しいディープニューラルネットワークについて報告する.自己組織化マップの組み合わせで構成されたネットワークにおいて,豊富な情報量を持つ入力信号を教師信号として用い,高い汎化性を持つヒトのような学習を実現する.学習の標的入力に先行して,すでに学習済みで正解を出力する入力を「お手本」として入力し,その残効状態のもとで標的入力を処理することでネットワークの非線形ダイナミクスのもとでの信号の関連付けを行い,ネットワークがすでに獲得している学習表現を活かした効率的な学習を行う.手書き文字認識課題による学習の検証を行ったところ高い識別率と表現学習性能を示した.
抄録(英) This study proposes a novel supervised learning method for deep neural networks that uses feedforward supervisory signal. The learning method requires sparse dynamics, and uses additional advance input as a supervisory signal to learn the target input. Before the target input, advance input, which produces the required classification label, is propagated through the entire network, and then the target input is processed with the after-effect of the advance input. We validated the efficiency of the proposed method by the visual recognition task of MNIST handwritten image dataset with a deep feedforward network.
キーワード(和) ディープニューラルネット / 深層学習 / 表現学習 / 自己組織化マップ
キーワード(英) Deep Neural Network / Deep Learning / Representation Learning / Self Organizing Map
資料番号 NC2016-15
発行日 2016-06-28 (NC)

研究会情報
研究会 NC / IPSJ-BIO / IBISML / IPSJ-MPS
開催期間 2016/7/4(から3日開催)
開催地(和) 沖縄科学技術大学院大学
開催地(英) Okinawa Institute of Science and Technology
テーマ(和) 機械学習によるバイオデータマインニング、一般
テーマ(英) Machine Learning Approach to Biodata Mining, and General
委員長氏名(和) 佐藤 茂雄(東北大) / / 福水 健次(統計数理研)
委員長氏名(英) Shigeo Sato(Tohoku Univ.) / / Kenji Fukumizu(ISM)
副委員長氏名(和) 萩原 将文(慶大) / / 杉山 将(東大) / 鹿島 久嗣(京大)
副委員長氏名(英) Masafumi Hagiwara(Keio Univ.) / / Masashi Sugiyama(Univ. of Tokyo) / Hisashi Kashima(Kyoto Univ.)
幹事氏名(和) 田中 宏喜(京都産大) / 青西 亨(東工大) / / 津田 宏治(東大) / 竹内 一郎(名工大)
幹事氏名(英) Hiroki Tanaka(Kyoto Sangyo Univ.) / Toru Aonishi(Tokyo Inst. of Tech.) / / Koji Tsuda(Univ. of Tokyo) / Ichiro Takeuchi(Nagoya Inst. of Tech.)
幹事補佐氏名(和) 秋間 学尚(東北大) / 篠沢 佳久(慶大) / / 神嶌 敏弘(産総研) / 岩田 具治(NTT)
幹事補佐氏名(英) Hisanao Akima(Tohoku Univ.) / Yoshihisa Shinozawa(Keio Univ.) / / Toshihiro Kamishima(AIST) / Tomoharu Iwata(NTT)

講演論文情報詳細
申込み研究会 Technical Committee on Neurocomputing / Special Interest Group on Bioinformatics and Genomics / Technical Committee on Infomation-Based Induction Sciences and Machine Learning / Special Interest Group on Mathematical Modeling and Problem Solving
本文の言語 JPN
タイトル(和) 局所的な競合度と順行伝播する教師信号で学習するディープニューラルネットワーク
サブタイトル(和)
タイトル(英) Feedforward supervised learning for deep neural networks with local competitiveness information
サブタイトル(和)
キーワード(1)(和/英) ディープニューラルネット / Deep Neural Network
キーワード(2)(和/英) 深層学習 / Deep Learning
キーワード(3)(和/英) 表現学習 / Representation Learning
キーワード(4)(和/英) 自己組織化マップ / Self Organizing Map
第 1 著者 氏名(和/英) 篠崎 隆志 / Takashi Shinozaki
第 1 著者 所属(和/英) 情報通信研究機構(略称:NICT)
National Institute of Information and Communications Technology(略称:NICT)
発表年月日 2016-07-06
資料番号 NC2016-15
巻番号(vol) vol.116
号番号(no) NC-120
ページ範囲 pp.229-234(NC),
ページ数 6
発行日 2016-06-28 (NC)