講演名 1997/7/31
非単調ニューロンを用いたDBMの学習に関する考察
金城 光永, 佐藤 茂雄, 中島 康治,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本稿では, 学習則を持つネットワークで代表的な決定論的ボルツマンマシン(DBM)に非単調関数を適用した場合, 学習性能及び速度などに与える影響を数値シミュレーションによって調べ, その評価を行なった. 数値シミュレーションに用いたモデルは2-3-1モデルで, ひとつのバイアスニューロンを持つネットワークである. このモデルにおいて, 隠れ層のニューロンに非単調関数を適用してXOR問題を学習させ, 比較検討を行なった. なお非単調関数としては, end-cut-offタイプ, 森田タイプ及びその変形を用い, その閾値をθとした. 数値シミュレーションの結果, 非単調関数の閾値θを適当な値に設定することにより, 単調関数の場合と同等あるいはそれ以上の学習性能を示すことを確認した. また, そのネットワークの性能をハードウェア化によって検証するため, 回路設計も行った.
抄録(英) In this paper, we report learning ability of a Deterministic Boltzmann Machine (DBM) with non-monotonic neurons. The neural network is the 2-3-1 network which includes one bias neuron, and the activation function of neurons in the hidden layer is a non-monotonic function. We used two non-monotonic functions with a threshold paramater 'θ,' which are an end-cut-off-type and a Morita-type. Results from numerical simulation for learning the XOR problem showed that the use of non-monotonic neurons result in more high learning ability compared to the use of monotonic neurons. In addition, we designed an integrated circuits of this DBM network in order to verify the improved learning ability with non-monotonic neurons.
キーワード(和) ニューラルネットワーク / DBM / 非単調ニューロン / XOR問題
キーワード(英) neural network / DBM / non-monotonic neuron / XOR problem
資料番号 nlp97-70
発行日

研究会情報
研究会 NLP
開催期間 1997/7/31(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Nonlinear Problems (NLP)
本文の言語 JPN
タイトル(和) 非単調ニューロンを用いたDBMの学習に関する考察
サブタイトル(和)
タイトル(英) A study on learning ability of DBM with non-monotonic neurons
サブタイトル(和)
キーワード(1)(和/英) ニューラルネットワーク / neural network
キーワード(2)(和/英) DBM / DBM
キーワード(3)(和/英) 非単調ニューロン / non-monotonic neuron
キーワード(4)(和/英) XOR問題 / XOR problem
第 1 著者 氏名(和/英) 金城 光永 / Mitsunaga Kinjo
第 1 著者 所属(和/英) 東北大学 電気通信研究所
Research Institute of Electrical Communication, Tohoku University
第 2 著者 氏名(和/英) 佐藤 茂雄 / Shigeo Sato
第 2 著者 所属(和/英) 東北大学 電気通信研究所
Research Institute of Electrical Communication, Tohoku University
第 3 著者 氏名(和/英) 中島 康治 / Koji Nakajima
第 3 著者 所属(和/英) 東北大学 電気通信研究所
Research Institute of Electrical Communication, Tohoku University
発表年月日 1997/7/31
資料番号 nlp97-70
巻番号(vol) vol.97
号番号(no) 218
ページ範囲 pp.-
ページ数 6
発行日