講演名 1998/3/20
汎化誤差最小化による正則化項の設計
吉田 一浩, 石川 眞澄, 甘利 俊一,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 汎化能力向上のため, 正則化項を用いた学習が用いられる.汎化能力は正則化パラメータに依存するのみならず, 正則化項にも大きく依存する.本稿では汎化誤差を理論的に導出し, これを用いていずれの正則化項が高い汎化能力を持つかを明らかにし, さらに汎化能力の高い新たな正則化項を見つけたい.もちろん定式化できるのは単純なケースのみであるが, 各正則化項の利害得失はある程度明らかになると考えている.
抄録(英) To improve generalization ability, a regularizer is frequently used. A novel approach proposed here is to regard the estimate of model parameters as a function of those without a regularizer. By minimizing the calcurated generalization error, the optimal function parameters and model parameters can be obtained. In this paper linear regression is adopted to carry out theoretical computation of generalization errors. It also contributes to the design of a new regularizer.
キーワード(和) 汎化誤差 / 正則化 / ニューラルネットワーク / ガウシアン正則化 / ラプラス正則化
キーワード(英) generalization error / regularization / neural network / Gaussian regularizer / Laplace regularizer
資料番号
発行日

研究会情報
研究会 NC
開催期間 1998/3/20(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 JPN
タイトル(和) 汎化誤差最小化による正則化項の設計
サブタイトル(和)
タイトル(英) Designing Regularizers by Minimizing Generalization Errors
サブタイトル(和)
キーワード(1)(和/英) 汎化誤差 / generalization error
キーワード(2)(和/英) 正則化 / regularization
キーワード(3)(和/英) ニューラルネットワーク / neural network
キーワード(4)(和/英) ガウシアン正則化 / Gaussian regularizer
キーワード(5)(和/英) ラプラス正則化 / Laplace regularizer
第 1 著者 氏名(和/英) 吉田 一浩 / Kazuhiro Yoshida
第 1 著者 所属(和/英) 九州工業大学情報工学部
Faculty of Computer Science and Systems Engineering Kyushu Institute of Technology
第 2 著者 氏名(和/英) 石川 眞澄 / Masumi Ishikawa
第 2 著者 所属(和/英) 九州工業大学情報工学部
Faculty of Computer Science and Systems Engineering Kyushu Institute of Technology
第 3 著者 氏名(和/英) 甘利 俊一 / Shun-ichi Amari
第 3 著者 所属(和/英) 理化学研究所
RIKEN
発表年月日 1998/3/20
資料番号
巻番号(vol) vol.97
号番号(no) 624
ページ範囲 pp.-
ページ数 8
発行日