講演名 2000/2/3
微分不能素子をもつ階層型ニューラルネットに対する誤差逆伝搬法の提案
大堀 隆文, 鎌田 修平, 小林 靖宏, 小西 儀紀, 渡辺 一央,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 不可微分な2値出力素子を含む3層ニューラルネットワークに対する新しい誤差逆伝搬法(DBP)を提案する。従来の単純パーセプトロン学習が出力層にしか教師信号を与えないのに対して, DBP法では, 中間層にも出力誤差を減少させるような教師信号を与える。したがって, DBP法では, 上層結合係数ばかりではなく下層結合係数の修正も可能となり, 高速化やハードウェア化の可能な2値出力素子のみからなるネットワークが容易に得られる。XORなどの線形分離不能課題に対してDBP法を適用したところ, 単純パーセプトロン学習に比べ学習性能の大幅な向上, 従来型BP法とは同程度の学習能力が得られた。
抄録(英) We propose a digital version of the back propagation algorithm(DBP)for a three-layered neural network with nondifferentiable binary units. The teacher signals are given to both middle and output layers for the DBP, while they are given only to the output layer for the simple perceptron. The DBP is therefore able to improve the weights not only between the middle and output layers but also between the input and middle layers. The network obtained by the DBP learning is fast and easy for hardware implementations. Simulation results for linearly nonseparable problems such as the XOR show that the DBP outperforms the simple perceptron and is comparable to the conventional BP.
キーワード(和) 階層型ニューラルネットワーク / 誤差逆伝搬法 / 2値出力素子 / 単純パーセプトロン / 線形分離不能課題
キーワード(英) layered neural network / backpropagation learning / binary unit / simple perceptron / linearly nonseparable problem / XOR problem
資料番号 NC99-85
発行日

研究会情報
研究会 NC
開催期間 2000/2/3(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 微分不能素子をもつ階層型ニューラルネットに対する誤差逆伝搬法の提案
サブタイトル(和)
タイトル(英) A New Error Back Propagation Learning Algorithm for a Layered Neural Network with Nondifferentiable Units
サブタイトル(和)
キーワード(1)(和/英) 階層型ニューラルネットワーク / layered neural network
キーワード(2)(和/英) 誤差逆伝搬法 / backpropagation learning
キーワード(3)(和/英) 2値出力素子 / binary unit
キーワード(4)(和/英) 単純パーセプトロン / simple perceptron
キーワード(5)(和/英) 線形分離不能課題 / linearly nonseparable problem
第 1 著者 氏名(和/英) 大堀 隆文 / Takahumi OOHORI
第 1 著者 所属(和/英) 北海道工業大学工学部電気工学科
Department of Electrical Engineering, Faculty of Engineering Hokkaido Institute of Technology
第 2 著者 氏名(和/英) 鎌田 修平 / Shuhei KAMADA
第 2 著者 所属(和/英) 北海道工業大学工学部電気工学科
Department of Electrical Engineering, Faculty of Engineering Hokkaido Institute of Technology
第 3 著者 氏名(和/英) 小林 靖宏 / Yasuhiro KOBAYASHI
第 3 著者 所属(和/英) 北海道工業大学工学部電気工学科
Department of Electrical Engineering, Faculty of Engineering Hokkaido Institute of Technology
第 4 著者 氏名(和/英) 小西 儀紀 / Yoshitaka KONISHI
第 4 著者 所属(和/英) 北海道工業大学工学部電気工学科
Department of Electrical Engineering, Faculty of Engineering Hokkaido Institute of Technology
第 5 著者 氏名(和/英) 渡辺 一央 / Kazuhisa WATANABE
第 5 著者 所属(和/英) 北海道工業大学工学部電気工学科
Department of Electrical Engineering, Faculty of Engineering Hokkaido Institute of Technology
発表年月日 2000/2/3
資料番号 NC99-85
巻番号(vol) vol.99
号番号(no) 612
ページ範囲 pp.-
ページ数 8
発行日