講演名 2000/2/3
荷重更新における量子化判定レベルを制御したLOGic-Oriented Back Propagationアルゴリズム
神尾 武司, 田中 慎一郎, 森末 道忠,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 論理指向ニューラルネットワーク(LOGic-Oriented Neural Network:LOGO-NN)は、荷重が整数値で量子化されることと、ニューロン特性が多しきい値関数で定義され、その出力が整数値で与えられるという特徴により、通常の階層型NNよりも容易なハードウェア化が期待できるネットワークモデルである。以前、我々はLOGOニューロンに対して特殊な導関数を定義することにより、LOGO-NNに適用可能なBack Propagation法を提案した。ところが、このアルゴリズムは古典的BP法よりも高速に誤差を収束させる一方で、中間層ニューロン数が少ないほど、誤差が十分減少する前に学習を終了してしまうことも確認された。そこで本稿では、荷重更新における量子化判定レベルを制御することによりLOGO-BPアルゴリズムの性能向上を試みる。提案アルゴリズムの能力をシミュレーションによって検証し、その有効性を議論する。
抄録(英) As both weights and neuron outputs of the logic oriented neural networks(LOGO-NNs)are quantized to integer values, it is expected that LOGO-NNs can be more effectively implemented than the common neural networks. Previosly, we have proposed the back propagation algorithm with a particular derivative for the activation function to design LOGO-NNs successfully. Although this LOGO-BP can reduce the error more rapidly than the classical BP, it is also found that this algorithm dosen't always succeed in learning. In this report, we suggest to adjust the decision levels to quantize the weight changes in order to improve LOGO-BP algorithm in the successful rate for learning. Finally, it is shown by simulations that the proposed LOGO-BP algorithm has good performance for LOGO-NNs.
キーワード(和) 論理指向ニューラルネットワーク / 誤差逆伝搬法 / 量子化荷重 / 多しきい値ニューロン / 判定レベル
キーワード(英) LOGO neural network / back propagation / quantized weights / multi-level threshold neuron / decision level
資料番号 NC99-86
発行日

研究会情報
研究会 NC
開催期間 2000/2/3(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 荷重更新における量子化判定レベルを制御したLOGic-Oriented Back Propagationアルゴリズム
サブタイトル(和)
タイトル(英) LOGic-Oriented Back Propagation Algorithm Adjusting Decision Levels to Quantize Weight Canges
サブタイトル(和)
キーワード(1)(和/英) 論理指向ニューラルネットワーク / LOGO neural network
キーワード(2)(和/英) 誤差逆伝搬法 / back propagation
キーワード(3)(和/英) 量子化荷重 / quantized weights
キーワード(4)(和/英) 多しきい値ニューロン / multi-level threshold neuron
キーワード(5)(和/英) 判定レベル / decision level
第 1 著者 氏名(和/英) 神尾 武司 / Takeshi KAMIO
第 1 著者 所属(和/英) 広島市立大学情報科学部情報機械システム工学科
Department of Information Machines and Interfaces, Faculty of Information Sciences, Hiroshima City University
第 2 著者 氏名(和/英) 田中 慎一郎 / Shinichiro TANAKA
第 2 著者 所属(和/英) 広島市立大学情報科学部情報機械システム工学科
Department of Information Machines and Interfaces, Faculty of Information Sciences, Hiroshima City University
第 3 著者 氏名(和/英) 森末 道忠 / Mititada MORISUE
第 3 著者 所属(和/英) 広島市立大学情報科学部情報機械システム工学科
Department of Information Machines and Interfaces, Faculty of Information Sciences, Hiroshima City University
発表年月日 2000/2/3
資料番号 NC99-86
巻番号(vol) vol.99
号番号(no) 612
ページ範囲 pp.-
ページ数 8
発行日