講演名 2003/3/10
二値回帰問題のための新しいカーネルの提案
杉山 将, 藤野 真紀, 小川 英光,
PDFダウンロードページ PDFダウンロードページへ
抄録(和) 近年,カーネル法とよぱれる学習アルゴリズムが盛んに研究され,カーネル関数を適切に決定すれば非常に高い汎化性能が得られることが示されている.本論文では,二値回帰の問題に対してPrincipal Component(PC)カーネルという新しいカーネルのクラスを提案する.PCカーネルはKarhunen-Loeve展開の理論に基づいて設計されているため,ニ値関数を非常に良く近似することができる.PCカーネルでは,学習対象の関数に関する前提知識を有効に利用している.本論文では更に,そのような前提知識が無い場合に対して,無情報な前提知識を利用したCosineBell(CB)カーネルというPCカーネルの具体例を与える.CBカーネルによって,標準的なガウスカーネルよりも高い汎化性能が得られることをリッジ回帰を用いた計算機実験によって示す.
抄録(英) Recently, kernel machines have been extensively studied and shown to work surprisingly well on various real-world problems, given appropriate kernel functions. In this paper, we propose a new class of kernels called the principal component (PC) kernels for the binary regression problem. The PC kernel is designed based on the theory of the Karhunen-Loeve expansion, so it can approximate the binary learning target function very well. The PC kernels can effectively incorporate a prior knowledge of the learning target functions. In the absence of such a prior knowledge. we further derive a specific PC kernel called the cosine bell (CB) kernel using a non-informative prior knowledge. Computer simulations with ridge regression show that the CB kernel is comoared favorably to the conventional Gaussian kernel.
キーワード(和) カーネル法 / 二値回帰 / 二値分類 / Karhunen-Loeve展開
キーワード(英) kernel methods / binary regression / binary classification / Karhunen-Loeve expansion
資料番号 NC2002-150
発行日

研究会情報
研究会 NC
開催期間 2003/3/10(から1日開催)
開催地(和)
開催地(英)
テーマ(和)
テーマ(英)
委員長氏名(和)
委員長氏名(英)
副委員長氏名(和)
副委員長氏名(英)
幹事氏名(和)
幹事氏名(英)
幹事補佐氏名(和)
幹事補佐氏名(英)

講演論文情報詳細
申込み研究会 Neurocomputing (NC)
本文の言語 ENG
タイトル(和) 二値回帰問題のための新しいカーネルの提案
サブタイトル(和)
タイトル(英) A New Kernel for Binary Regression
サブタイトル(和)
キーワード(1)(和/英) カーネル法 / kernel methods
キーワード(2)(和/英) 二値回帰 / binary regression
キーワード(3)(和/英) 二値分類 / binary classification
キーワード(4)(和/英) Karhunen-Loeve展開 / Karhunen-Loeve expansion
第 1 著者 氏名(和/英) 杉山 将 / Masashi SUGIYAMA
第 1 著者 所属(和/英) 東京工業大学大学院情報理工学研究科
Department of Computer Science, Tokyo Institute of Technology
第 2 著者 氏名(和/英) 藤野 真紀 / Maki FUJINO
第 2 著者 所属(和/英) 東京工業大学工学部電気・電子工学科
Department of Electorical and Electronic Engineering, Tokyo Institute of Technology
第 3 著者 氏名(和/英) 小川 英光 / Hidemitsu OGAWA
第 3 著者 所属(和/英) 東京工業大学大学院情報理工学研究科
Department of Computer Science, Tokyo Institute of Technology
発表年月日 2003/3/10
資料番号 NC2002-150
巻番号(vol) vol.102
号番号(no) 729
ページ範囲 pp.-
ページ数 6
発行日