講演名 1993/12/14
多価関数を近似する正則化ネットワークとその学習アルゴリズム
志沢 雅彦,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本論文では、正則化ネットワーク(Regularization Network(RN))を1対h写像、すなわち多価関数を近似する様に拡張した多価正則化ネットワーク(Multi-Valued Regularization Network(MVRN))を提案する。多価関数の近似は、例から多重、多義的な入出力関係を学習するのに有用である。MVRNは、多価標準正則化理論(Multi-Valued Standard Regularization Theory(MVSRT))に基づいて導出される。MVSRTは、代数方程式による多価関数の直接的表現法に基づいている。未知関数の置き換えにより、線形のEuler-Lagrange方程式が得られる。したがって、MVRNは、入出力サンプルデータの集合からのネットワーク結合重みパラメータの学習を連立一次方程式を解くだけで行うことができ、その際に、データのクラスタリングを行う必要がない。さらに、この連立方程式の次数は写像の多価度に依存せず、サンプルデータ数に等しくなることが示される。従来の正則化ネットワークの場合と同様に、MVRNを特殊化したり、サンプルデータ数よりも少ない基底関数で近似することによって、円形基底関数法(Radial Basis Function(RBF))、一般化円形基底関数法(Generalized RBF)、スプライン近似、HyperBFネットワークなどを多価関数の近似に拡張することができる。本稿では、予備実験として、ガウシアンRBFネットワークを導出し、そのシミュレーション結果も報告する。さらに、多価ベクトル値関数を学習するMVRNの構成法について述べる。
抄録(英) The regularization network(RN)is extended to approximate multi- valued functions so that one-to-h mapping,where h denotes multiplicity of the mapping,can be represented and learned from a finite number of inputoutput samples without clustering operations on the sample data set.Multi-valued function approximations are useful for learning ambiguous input-output relations from examples. This extension,which we call the Multi-Valued Regularization Network(MVRN),is derived from the Multi-Valued Standard Regularization Theory(MVSRT),which is an extension of standard regularization theory to multi-valued functions.MVSRT is based on a direct algebraic representation of multi-valued functions.By simple transformation of the unknown functions,we can obtain linear Euler-Lagrange equations.Therefore,the learning algorithm for MVRN is reduced to solving a linear system.It′s rather surpris ing that the dimension of the linear system is invariant to the multiplicity h.The proposed theory can be specialized and extended into Radial Basis Function(RBF)Methods,Generalized RBF(GRBF),and HyperBF networks of multi-valued functions.We also describe how the vector-valued function approximations can be extended into the multi-and vector-valued function approximations.
キーワード(和) 正則化ネットワーク / 標準正則化理論 / 多価関数 / 1対多写像 / 写像学習 / フィードフォワードネットワーク
キーワード(英) Regularization Network / Standard Regularization Theory / Multi- Valued Functions / One-to-many mapping / Computational learning / Feedforward neural network
資料番号 NC93-66
発行日

研究会情報
研究会 NC
開催期間 1993/12/14(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 多価関数を近似する正則化ネットワークとその学習アルゴリズム
サブタイトル(和)
タイトル(英) Regularization Networks and Learning Algorithms for Approximating Multi-Valued Functions
サブタイトル(和)
キーワード(1)(和/英) 正則化ネットワーク / Regularization Network
キーワード(2)(和/英) 標準正則化理論 / Standard Regularization Theory
キーワード(3)(和/英) 多価関数 / Multi- Valued Functions
キーワード(4)(和/英) 1対多写像 / One-to-many mapping
キーワード(5)(和/英) 写像学習 / Computational learning
キーワード(6)(和/英) フィードフォワードネットワーク / Feedforward neural network
第 1 著者 氏名(和/英) 志沢 雅彦 / Masahiko Shizawa
第 1 著者 所属(和/英) ATR人間情報通信研究所
ATR Human Information Processing Research Laboratories
発表年月日 1993/12/14
資料番号 NC93-66
巻番号(vol) vol.93
号番号(no) 376
ページ範囲 pp.-
ページ数 8
発行日