講演名 1996/3/19
自己平均性とサンプル計算量
顧 漢忠, 高橋 治久,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 本論文では, Gu&Takahashiによって提案された学習を仮設検定に帰着させる近似手法を用いて, いわゆるill-disposed学習アルゴリズムの平均と最良と最悪の学習曲線の解析を行い, とくに汎化性能(汎化誤差)の分散をネットワーク上のパラメーター数以下の値を持つ係数(Regular Interpolation Dimension)によって表現する解析を行う. この学習アルゴリズムは最悪ではないが, Gibbs学習アルゴリズムよりも汎化性能において劣り, しかも最悪に学習する際には, 実用的に最悪な学習アルゴリズムの良いモデルとなる. このため汎化性能において良い上界となり, PAC学習モデルと平均的な評価を統一的に扱う子とが出来る.
抄録(英) Based on the approximation method of relating learning to hypothesis testing, we study the average generalization performance of a so-called ill-disposed learning algorithm, and illustrate how the variances of (the upper bounds on) generalization performance (errors) would decrease with the increase of a network dimension, the regular interpolation dimension, which is generally bounded by number of adjustable system weights. The advantages of using the ill-disposed algorithm are that when performing in average, it well models lower quality learning, and when performing the worst, it well models the worst-case in practice. This study leads to tight bounds on the generalization performance of concept learning, and unites in a common framework the PAC learning model and the average-case analysis.
キーワード(和) 汎化 / 概念学習 / 学習曲線 / サンプル計算量 / PAC学習モデル
キーワード(英) Generalization / Concept Learning / Learning Curves / Sample Complexity / PAC Learning
資料番号 NC95-154
発行日

研究会情報
研究会 NC
開催期間 1996/3/19(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 ENG
タイトル(和) 自己平均性とサンプル計算量
サブタイトル(和)
タイトル(英) Self-Averaging and Sample Complexity
サブタイトル(和)
キーワード(1)(和/英) 汎化 / Generalization
キーワード(2)(和/英) 概念学習 / Concept Learning
キーワード(3)(和/英) 学習曲線 / Learning Curves
キーワード(4)(和/英) サンプル計算量 / Sample Complexity
キーワード(5)(和/英) PAC学習モデル / PAC Learning
第 1 著者 氏名(和/英) 顧 漢忠 / Gu Hanzhong
第 1 著者 所属(和/英) 電気通信大学電子情報学科
Department of Communications and Systems Engineering The University of Electro-Communications
第 2 著者 氏名(和/英) 高橋 治久 / Haruhisa Takahashi
第 2 著者 所属(和/英) 電気通信大学電子情報学科
Department of Communications and Systems Engineering The University of Electro-Communications
発表年月日 1996/3/19
資料番号 NC95-154
巻番号(vol) vol.95
号番号(no) 599
ページ範囲 pp.-
ページ数 8
発行日