講演名 2000/6/16
NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
杉山 将, 小川 英光,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 教師付き学習で高い汎化能力を獲得するためには, 標本点とモデルの選び方が重要である.最適な汎化能力が獲得できるように標本点, モデルを決める問題はそれぞれ能動学習, モデル選択と呼ばれ, これまで独立に研究されてきた.もし標本点とモデルを同時に最適化することができれば, より高い汎化能力を獲得できると期待される.しかしながら, 既存の能動学習法で標本点を決めるためにはモデルを固定しなければならず, 逆に既存のモデル選択法でモデルを選ぶためには標本点を固定しなければならない.従って, 従来の能動学習とモデル選択の手法を単に組み合わせるだけでは一般に標本点とモデルを同時に最適化する事はできない.ところで, もしモデル選択の対象となる全てのモデルに対して最適な標本点が存在すれば, 既存の手法を用いて標本点とモデルを同時に最適化する事ができる.本論文では, そのような全てのモデルに対して最適な標本点が実際に存在することを示し, 標本点とモデルを同時に最適化する手法を与える。
抄録(英) In supervised learning, the selection of sample points and models is crucial for acquiring a higher level of generalization capability. So far, the problems of active learning and model selection have been independently studied. If sample points and models are simultaneously optimized, then a higher level of generalization capability is expected. We call this problem active learning with model selection. However, this problem can not be generally solved by simply combining existing active learning and model selection techniques because of the active learning / model selection dilemma: the model should be fixed for selecting sample points and conversely the sample points should be fixed for selecting models. In spite of the dilemma, the problem of active learning with model selection can be straightforwardly solved if there is a set of sample points being optimal for all models in consideration. In this paper, we show that such an optimal set of sample points actually exists, and give a procedure for active learning with model selection.
キーワード(和) 教師付き学習 / 汎化能力 / 能動学習 / モデル選択 / subspace information criterion(SIC) / 三角多項式空間
キーワード(英) Supervised learning / generalization capability / active learning / model selection / subspace information criterion(SIC) / trigonometric polynomial space
資料番号 NLP2000-32,NC2000-26
発行日

研究会情報
研究会 NC
開催期間 2000/6/16(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 ENG
タイトル(和) NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
サブタイトル(和)
タイトル(英) NLP2000-32 / NC2000-26 Simultaneous Optimization of Sample Points and Models
サブタイトル(和)
キーワード(1)(和/英) 教師付き学習 / Supervised learning
キーワード(2)(和/英) 汎化能力 / generalization capability
キーワード(3)(和/英) 能動学習 / active learning
キーワード(4)(和/英) モデル選択 / model selection
キーワード(5)(和/英) subspace information criterion(SIC) / subspace information criterion(SIC)
キーワード(6)(和/英) 三角多項式空間 / trigonometric polynomial space
第 1 著者 氏名(和/英) 杉山 将 / Masashi Sugiyama
第 1 著者 所属(和/英) 東京工業大学大学院情報理工学研究科計算工学専攻
Department of Computer Science, Tokyo Institute of Technology
第 2 著者 氏名(和/英) 小川 英光 / Hidemitsu Ogawa
第 2 著者 所属(和/英) 東京工業大学大学院情報理工学研究科計算工学専攻
Department of Computer Science, Tokyo Institute of Technology
発表年月日 2000/6/16
資料番号 NLP2000-32,NC2000-26
巻番号(vol) vol.100
号番号(no) 127
ページ範囲 pp.-
ページ数 8
発行日